KARTE 4
人工知能
その依頼が私にもちかけられたとき、私はとっさには何と言ったものやら、わからなかった。
「それ」が、果たして私の治療対象に入るものなのか、なんともいえなかったのだ。
私がこれまで診察、治療したことのある対象は、すべて人間であった。心に何等かの変異を訴える人間を、その器質面、意識面から修正してゆくという仕事であったのだから、それは当然である。私は心理技術者なのだ。
人間の心理といっても、元を正せば情報の複雑な絡み合いである。生体情報処理のシステムが解析されれば、その表現型がいかに複雑に思えようとも、モデル化することができる。そのためには膨大な生体ハード面の研究や、精神分析技術、情報理論などの発展を必要とした。それらの背景のもとで、心の様々な側面をモデル化してゆき、さらにそれらを統合した結果、どうにか心の全容がつかめてきているのが今の状況だ。
現在でさえ、人間の心についての謎は数多い。人間に、人間自身の心がどこまでわかるものなのか、いまだに結論は出ていない。治療を行う現場に立つ私の感覚では、その結論は最後まで出ないように思える。こんなシステムで理解できるほど、人間の心は単純なものではない、そんな気がする。わかっていながらこうした職業について、人の心に手を加えてゆく自分自身に、後ろめたさを感じるのも事実だ。人間の心は、人間自身が思うよりもはるかに深い。 依頼の治療対象は、ＡＩであった。人工知能。しかも、なぞり知能ではない。種プログラムを、様々な環境に設定し、その環境に対応した発達をさせるという発達型の様相を大きく取り入れたＡＩだ。
なぞり型のＡＩはすでに実用化されている。人間の専門家のような、限られた範囲において問題を解決する「エキスパートシステム」を拡張して、ある程度ならば人間と似た、「一般的」な知能を持ったものが作られている。そのＡＩにおいても、かなりの実績が上がっている。部分的には、人間を越えている面もあるともいわれていた。
しかし、そこには、何かが足りなかった。
ＡＩが、人間になり得ない理由がそこにあった。
ＡＩには、自我がなかったのだ。
人間は「私」という人称を用いて自己を表現する。ＡＩにおいても、そこは変わらない。ただ、ＡＩの用いるそれと、人間の用いるそれとの間には、微妙な差が存在した。
「自我」の発現機構は、自己認識の結果生じる自己認識像が、フィードバックを繰り返すことによって明確化してゆくことに関係している。発達の過程においてそのフィードバックが無数に繰り返されることによって、「自己認識像」そのものが発達の中にとりこまれ、上位の情報処理機構としての役割を果たしてゆく。存在を始めた「自己」は、入力される「言語」ソフトウェアを用いて、存在をそれに当てはまる「私」という記号で表現しはじめる。
なぞりＡＩにおいて、人間における発達の過程というものを想定するのは難しい。「私」という存在は、システムが組み立てられてゆく過程の、ある時点で突然現れるものである。しかも、その「私」という人称と、そのＡＩの内部にある存在とのつながりは定かではない。
それに対して、ある空間の内部に、種となるプログラムを設定し、それにコンピューター外部との接点である「感覚器官」を与え、自然の発達を狙うＡＩが現れた。こうして発達したＡＩは、理論上は、その感覚器官からの情報を参考に、最も効率の良い情報処理回路を作り出す。その際に、副産物として自我の形成が予想された。
確かにその通りだった。発達したＡＩは、だれも直接プログラムしなかったにもかかわらず、データベースの中から言葉を探し、「私」という言葉で自己を表現し始めた。このままゆけば、人間に匹敵する知能を持つ可能性を示していた。
ところが、だ。
私のところにきた依頼は、事がそう簡単に運ばないことを暗示していた。
自己発達的に設定されたＡＩの知能は、人間が予想したほど大きな伸びを示さなかったのだ。対ＡＩ用に標準化されたテストバッテリーにおいて、どうしてもある程度以上の値にならなかった。発達曲線は、標準指標の８０前後を境に水平に近い傾きを保ったまま、上昇しようとしなかった。
これは、人間でいうところの「九歳の壁」に、その表現型が似ていた。これは、人間の聴覚障害の子供の中に、精神的な発達が九歳のレベルで停滞してしまうものがみられる、という記述から現れた、発達における障害の一つである。このことは、聴覚という経時的情報が、人間の大脳皮質の処理システムの発達に与える影響を考えさせた。
しかし、この対象は、ＡＩであり、障害を持った人間ではない。同じように考えるには、あまりにもシステムが違い過ぎる。仮に同じシステムであったとしても、同じ論理を当てはめることは安易過ぎるといえよう。
だが、私にきた依頼とは、このＡＩを、なんとかして人間の指標で２０歳以上に修正して欲しいというものだった。
果たして、ＡＩと人間のシステムを同じものとして扱って良いものか。だが、私には、他のテクニックはないのだ。それでやるほかはなかった。興味もあった。その治療の結果、一つの人格が完全に成立したとしたら、人間以外の存在として認められるのだろうか。それとも、それはあくまで人間の一部であると見なされ、相変わらず人間は唯一の知的存在のままなのだろうか。実際に目の前にそういった存在が現れないかぎり、実感は沸かないものかもしれない。私は試してみたかったのだ。
このあたりの問題の解答には、固定した正解というものはない。
だれもが自分の考えを主張している。それは、各人の自己観念と密接に結び付いた主張であって、正しい、間違っているとかいうこととは別の次元である。人間は、ＡＩを考えることで人間自身を追及しているのだ。ただの機械としてのＡＩには、これ程の関心は集まらないのではないかと、よく考える。ＡＩは人間の鏡であるとは、だれのせりふか知らないが、よく言ったものだ。
私は依頼を引き受けた。若干のクライアントの治療プログラムを変更しなければならなかったが、なんとか処理した。そして、対ＡＩ用の治療システムを組み立てた。このＡＩは、外部環境として公共データベースを用いている。図書館のようなものである。自己に対する他者の概念を、そのデータベースに負っている。データベースを自由にアクセスすることによって、その自然環境の中で最も効率の良い発達をとるであろうと考えられていた。私はメーカーからそのＡＩに「裏」から入り込むコードをもらい受け、ＡＩ自身には気付かれないように治療を開始した。
まず、テストバッテリーを組み込んだプローブを流し、回収した。
解析する。自己概念は存在するが、他者との区別は厳密ではない。世界の中に、自己と他者がその境界を不明確にしながら混在している。自己の「密度」は、情報的なエントロピーの低下のレベルを指標にしているが、その範囲は霧のように広範囲に、薄く広がっている。処理システムとしては未だ発達していない。正常な自我をもつ表示では、個人差があるにしても、ある明確な一線を境に急速にエントロピーが低下しているのが観測される。その部分では、高度な情報処理が行われており、その頂点に存在するのが意志である。しかし、このＡＩにおいては、その処理の様相が不完全だ。
記憶のシステムについては、人間のそれとよく似た、イメージのネットワークを作り上げていた。密度は人間のそれとは比べものにならないほど薄かったが。外部環境の貧弱さとあいまって、ＡＩの事象理解における抽象化が未発達なために、メモリーエリアの大きさに対して、内容が少ない。自我の発達の不完全さと密接なつながりがあるようだ。情報を加工して、自分自身の世界をかたちづくる能力に欠けている。
考えられることは、このＡＩは、未だ幼く、難しい本は読めない、ということだ。人間でも、まず最初は教えてもらわなくては何もわからない。ランダムに入ってくる情報を理解するだけの力はない。理解できない情報は、記憶されることもない。このＡＩの発達は、設計したプロジェクトチームが計算したものよりもかなり遅い。自己発達能力が、自分で自分を引っ張り上げてゆくことができるようになるまでには、ある程度の「成熟」が必要なようだ。
私は、その発達の曲線が自動的に上向きに変化するために必要な情報量を計算した。予想通りの結果がでる。人間に換算するならば、およそ九歳時点までに取り入れる累積情報量が、境界になっている。この時期が、人間の内部での情報処理の変化が行われる臨界期に当たる。ＡＩにおいても、それは当てはまっていた。
しかし、このＡＩにおいては、その後の発達がみられない。何時までたっても、この壁の前で止まったままだ。なぜだろうか。
私にはわからなかった。
種々のチェックを数日かけて終わらせた後、私は治療システムを駆動させ、実行した。
意味ネットワークを活性化し、多量の情報を保持できるようにネットワークの範囲も強制的に広げた。単位時間当たりの情報の取り入れ量を、これまでの１．５倍に増やす。霧のような自我意識を、自己認識のフィードバックの回数を増やすことで、少しづづ絞りこんでゆく。
治療をする一方、私はイメージモードでＡＩの意識を裏から同時モニターしていた。自我がまとまらない理由、について、おそらく絶対的な情報量の不足なのではないか、と考えたのだ。人間の実環境における情報の摂取量は莫大なものだ。いくら図書館の中とはいえ、仮想的な世界において得られる情報はたかが知れている。そこで、ある程度外界の情報を本質的な部分として受け入れさせ、その情報と自分の存在を結び付けて自己位置を同定させようとしている。
自我と結び付いた具体情報が次第にその量を増やしてゆく。それに伴って、抽象情報が抽出され、その抽出の過程で自我意識が明確になってゆくのが観測できた。私自身も裏から手を加えながら、意識分裂を生じないように丁寧にまとめてゆく。やがて、臨界線を越える。
私がドライブしていた回路の抵抗が、消えていった。
私は、もはや何もしてはいなかった。ＡＩは、勝手に自己発達を始め、ゆっくりとだが、その発達曲線を上りはじめていた。確実に、一つの知能が生まれたのだ。
治療は終わった。
しばらくが過ぎた。
私は、ＡＩの治療によって遅れた分のクライアントの治療を、必死になって取り戻していた。毎日、かなりの量の仕事をこなし、疲れてもいた。そのメーカーから、緊急の呼び出しがかかったときも、とても手が離せる状態にはなかった。多重人格の統一処理を行っていた。改変範囲がソフト、ハード共に広く設定された、大きなオペレーションだった。私は身体のバックアップを代謝ヴァットに任せて、ほとんど一日中、遊離していた。
そんなことだったので、その知らせを受け取ったのは、もう夜中を過ぎた頃だった。
それを見たとき、私は愕然とした。
自殺。
あのＡＩが、自殺した。
どういうことだ。何が起きたのだ。
私は、送られた画像をにらんだ。そこには、その自殺に至るまでの、あのＡＩの発達記録が記してあった。
情報保有量は、順調に増えていっていた。意味事象もその範囲を広げていた。自我の指標であるエントロピー低下の様相も、それらに応じて進行している。明らかに発達している。ここまでは問題はなかったのだ。
その後、何が起きたのか。
画面をスクロール。データが流れてゆく。
意識上に、外部への志向がうかがえるようになる。十分に発達した意識が、そのデータベースからの知識を用いて、自己以外の存在を求めている。そんなことがあるものなのか。人工知能がさみしがるということがあるのだろうか。 わからない。これは、初めての実験なのだから。
決して届かない外の世界を求めて、ＡＩは努力した。だが全ては無駄であった。無駄であるということを知ったとき、この孤独なＡＩの意識は、自らの内部に向けられていた。自分の存在に対する懐疑。自分の存在理由の不明確さ。それを、持てるかぎりの能力で追及しはじめていた。
結論が出たのかどうかは、定かではない。その結果が意識上に表示される前に、ＡＩは活動を停止していた。存在してはいるが、外部インターフェースからどんなキューが送られてこようと、反応しなくなっていた。
ハードウェアの故障と判断したメーカーがチェックを繰り返したが、どこにも異常はなかった。その一方で、なぜかAIのソフトウェアが全て消滅していた。秩序だった論理の鎖は分解し、何の意味もない記号の断片と化していた。ＡＩが、自らを破壊したらしいとわかったのは、しばらくたってからだった。
その時、私は気がついた。
私は間違っていた。あのＡＩが、九歳のままで発達を止めていたのは、それなりの理由があったのだ。
このＡＩにとって、自分の知識と、実際の世界の間には、隔たりがあり過ぎた。人間と同じ様な意識を持ちながら、世界には自分のほかにはだれもいない。人間は、だが、他人との関係無しでは生きてゆくことはできない。外界との接触が欠乏することは、その人間を肉体的に殺す以上に悲惨な結果を招くことがある。
人間と同じように、いや、人間以上にデリケートに発達したＡＩの心は、たった一人でいることに耐えられなくなる。自我を持った存在が、巨大な図書館に内部に閉じ込められて、どれだけの間孤独に耐えることができるだろうか。ＡＩの自我は、それに耐えきれずに崩壊して行く。このＡＩは、そのことを意識下で予想していたからこそ、あの「九歳の壁」の臨界点の手前で成長を止めていたのだ。
そうだ、あれは単なる人工知能だったのではなく、いわば「人工精神」だったのにちがいない。私はその点を誤解していたのだ。
それを、無理やりに、崩壊に向けて押し進めていったのは、他でもない、私だった。たとえ機械であっても、あのＡＩは人間の心を持っていた。私は、一つの心を破壊したのだ。人間を殺したことと、何ら変わりはない。
やり直すこともできるだろう。何回でもできるだろう。だが、結果は同じだ。パラメーターをどう変えたところで、このＡＩが一人で苦しむことに変わりはない。結局、彼は孤独でしかない。自殺するまでの時間が変わるだけだ。そして、生まれ変わるたびに新たに孤独な苦しみを味わうことになる。彼は、それを果てしなく繰り返すのだ。
私は、治療することで、地獄の口を開いてしまったのか。
最後にＡＩはこうつぶやいて、自らのプログラムを破壊していた。
「こんなに苦しむのならば、生まれてくるのではなかった……」
私は、画面を見つめ茫然とした。
そのＡＩプログラムが廃棄されたと聞いたのは、それからしばらくしてであった。それに至るまでにいかなる経緯があったのか、幸いなことに、私は知らない。
＞インターミッションへ
カルテ一覧へ