A.I崩壊は有り得るのか?


2020年初めに公開された映画「AI崩壊」

これを執筆している段階ではまだ公開中ですが、劇場ではなく小説版として書き下ろした書籍を読んで思うことをお話しします。

f:id:yoshipapa3911:20200216135229j:plain

AI崩壊の舞台は10年後の日本というリアルなお話

2030年、今から10年後の未来を描いた作品です。働ける人間は国民の50%。未来を担う子供は10%未満、残り40%は老人と生活保護者という超高齢化社会。崩壊寸前の日本において、AIは、人々の生活に欠かせないライフラインとなっています。しかしそんな「人に寄り添う」はずのAIが突如暴走し、生きる価値のある人間を選別し、殺戮を始め、国家を未曽有の大混乱に陥るというストーリーです。

結末は劇場でどうぞ・・・ですが、AIが暴走するかどうかはさておき、このまま少子高齢化問題にメスを入れなければ、確実に映画の世界が現実化するのは必至だと思います。人間がAIに管理される世界なんて有り得ないと否定したくなりますが、考えてみてください。今から10年前は車の自動運転なんて遠い未来のSFの話と思っていませんでしたか?iPhoneが2007年頃発売されましたが、日本ではガラ携の絶頂期で、ネット端末としては使い物にならない存在だったものが、今や猫も杓子もスマホタブレットです。10年後は、劇中にも頻繁に登場していますが、通信や映像を共有出来るARメガネも実用化されることでしょうね。映像をホログラム化して映し出すなど、人が考えうることは尽く現実化可能な世の中ですから、AIの管理下に置かれる生活が実現するのも時間の問題ではないでしょうか。

AIの管理下に置かれる意味

映画のターミネーターシリーズ(確か3だったと思う)で、空軍の軍事システムがウイルスに冒され、それを除去するために極秘で開発中の無人防衛システムのスカイネットを起動させるシーン。システムを起動することでウィルスは除去できるが、接続すれば軍はスカイネット支配下になり、人が介在出来なくなる恐れがあるとのこと。

上役の総参謀長の命令は支配下に置かれないようにスカイネットを管理するのは人間である」的な台詞がありました。結果はスカイネットが暴走し、人類を滅亡の道に誘うことになります。

シンギュラリティーが到来するのかどうかわかりませんが、人間がAIの管理下に置かれることが何を意味するのでしょうか?

 コンピューターは0と1(オンとオフ)の組み合わせで動いている世界です。論理的、確率的、統計的に判断して、ベストな選択を導いてくれそうな気がします。いわゆる「白黒つけて、グレーゾーンを失くす」論法です。人間がAIの管理下に置かれるということは、感情に左右される人間らしさやあやふやな部分を削除し、合理的な世の中になるということです。

人の「なんとなく」「気が進まないけど」「どっちでもいい」「まっいいか」っていう反応に対して、AIは「AなのかBなのか、どちらかを選択せよ」と命令されそうで嫌じゃないですか?

グレーゾーンが理解出来るならばAIも有りかと思いますが、現状の延長線上ではその可能性は薄そうです。

人間らしい判断をするAIって有りです

AIが自我に目覚めて、人に命令されることなく自らの判断で動くようになる世界はまだまだ先として、10年後には確実に実現してほしい技術は、

  • 人らしい対話が出来ること
  • 物事に正否を問うのではなく単に聞き役的なAI

人らしい対話が出来ること

何がしら判断したい時にAIに尋ねます。

Siriに「会社に行きたくないけどどうしたらいい?」という問いに対して、「人間も機械も充電が必要な時がありますから」という、いい答えです。次に「会社に行かなかったらどうなる?」の問いに対して、残念ながらwebでそれらしい答えのあるサイトが列記されました。正直いうとSiri自身の言葉で答えを求めたのに逃げられた気がします。元よりAIはwebのビッグデータを元に返答しているので、何も悪くはないわけですが、単に検索するなら人間でも出来るわけで、今のAIの限界はそこだと感じます。

AIに対し、Aの問いに対してBとCとDの選択肢があったとします。

Bを選んだ場合はこれこれこういうメリットとデメリットがあります。今のYさん(私)の状況(性格、年齢、キャリア、収入、家族構成、預金額等)を総合的に判断するとBという選択肢が確率的にはベストですが、CとDも◯◯なメリットがあります。統計的に判断すると短期の視点ではB、5年後10年後を見据えて、家族様の幸せを考えるならばCやDの選択で成功する確率は◯%です。

私としては以上のようなやり取りができるAIがあればと思います。何でもかんでもAI任せではなく、人の選択の余地を残しつつ、予測しにくい未来の道標になるAIならば大歓迎です。

所詮AIを成長させるのは人です

結局のところ、将来のAIをどうように発展させるかは人次第です。先の映画「AI崩壊」の予告にもあったように、AIが成長し、正しい判断が出来るようになるのは正しい考えを持つ人が介在するからです。劇中での台詞で「AIが命の選別を開始」という判断をさせるのは所詮人の悪い命令によるものなので、道徳的、倫理的、常識的な判断がまず基本になり、学習させる側の人が如何に大切かということです。

「生産性の低い人は、経済成長において足手まといになるので、経済の合理性のために犠牲になってもいい」という倫理観を植え付けられたAIでは、人の命令により「命の選別を開始」するかもしれません。逆に人の命の尊厳を理解したAIならば、「生産性の有無に関係なく、生きることに意味がある」判断の元で先の命令に従わないでしょう。

単にプログラミング技術が優れているとかPCの知識が豊富だとかは後の話で、AIを人のように育てたいのならばまず人の研究が先ではないでしょうか?心理学的見地や脳という神の領域を理解していない人が作ったAIは本当の意味においてAIではなく、単に機械仕掛けの自動人形でしかありません。

これをいうと「お前のようなAIに関して素人がエラそうにいう資格なし」と返ってくること必至です。でも・・・・政治の専門家でも国会でアホな討論ばかりじゃないですか?いわゆる専門馬鹿です。国民に受入れられてナンボという考えを持ち合わせていれば、正しい答えって自然と出てくるんじゃないですか?役に立たないAIなら無害だけど、人を落し入れるようなAIが生まれないように祈ります。