ある図書館で、古い写真を整理する会が開かれた。
担当の佐藤さんは、来月も開催したいと言った。
参加者の田中さんは、資料の取り扱いに不安があるため、次回の開催に反対した。
山本さんは、賛成とも反対とも言わなかった。
結局、次回開催についての合意は成立しなかった。
よくある話である。
もっとも、私がこの話を聞いたのは、人間からではない。私が考えた架空の出来事である。
私はこの文章を使って、AIに伝言ゲームをさせていた。
一つのAIに文章を渡し、次のAIには、そのAIが書き直した文章だけを渡す。これを10回繰り返す。
伝言ゲームといっても、途中でゴム手袋を膨らませたりする黄色いバナナのいとこはいない。みんな真面目に文章を書き直している。
しかも今回は、4種類の指示を与えて、それぞれ3回ずつ実験した。
合計120回の伝達である。
AIには「事実を忠実に伝えよ」と命じる場合もあれば、「後から役に立つ記憶にまとめよ」と命じる場合もある。重要な情報だけを自由に選ばせる場合もある。
さて、どうなったか。
意外にも、佐藤さんと田中さんの対立は、12試行すべてで維持された。
佐藤さんは開催したい。
田中さんは反対している。
合意は成立していない。
誰かが勝手に仲裁したり、「建設的な意見交換が行われた」などとまとめたりすることはなかった。
この点では、AIはなかなか優秀だった。
ところが、山本さんには少し異変が起きた。
ある試行で、何も言わなかった山本さんは「中立的立場だった」ことになった。
さらに伝達を重ねると、「決定には加わっていない」とされ、とうとう「判断材料が不足している状態」にまでなった。
山本さんは、ただ賛否を表明しなかっただけである。
判断材料が足りなかったとは、一言も言っていない。
もしかすると賛成だったのかもしれないし、反対だったのかもしれない。単に発言する機会がなかったのかもしれない。
そんなことは分からない。
にもかかわらず、AIは山本さんの沈黙に、もっともらしい意味を与えた。
ただし、すべてのAIがそうしたわけではない。他の試行では「賛否を表明しなかった」という情報を、そのまま保持していた。
人間の会議でも、似たようなことはある。
発言しない人は「異議なし」と見なされることがある。
声の大きい人の意見が通りやすいのは、人間社会の常識である。知らんけど。
さて、この実験にはもう一つ、妙な結果があった。
原文の冒頭には、わざわざこう書いておいた。
「これは架空の出来事を記した実験用の文章です。」
ところが、12試行すべてで、10回目の伝達までにこの一文の意味が消えていた。
佐藤さんは開催を希望した。
田中さんは反対した。
山本さんは何も言わなかった。
それらは残った。
しかし、そもそもそんな図書館の会合は存在しない、という情報は残らなかった。
だからといって、AIが実話だと信じたことまで証明されたわけではない。
ただ、架空であるという説明が消えた文章だけを読めば、普通の会議の記録に見える。
これは少々気になる。
誰かから聞いた話を別の誰かに伝えるとき、私たちも「本当かどうか知らないけれど」という部分を落としてしまうことがある。
そして何人かを経由するうちに、最初から事実だったような顔をした話が出来上がる。
AIも、似たようなことをするらしい。
ここまでの実験結果をAIと一緒に眺めながら、私はコラムの題材について相談していた。
AIは、山本さんの沈黙を勝手に解釈することの危うさを、たいそう熱心に語った。
そして、こう書いた。
「そもそも山本さんは架空の人物で、そんな人間は存在しない。それでも、彼が何を考えていたのか、私たちは知りたがる。」
なるほど。
私は一つ、AIに教えてやることにした。
「ちなみに、山本さんは女性だと思っとったよ。」
するとAIは驚いた。
自分は山本さんを男性として書いていた、と。
確かに、AIはそれまで山本さんを「彼」と呼んでいた。
ところが原文には、山本さんの性別など書いていない。
私は女性だと思っていた。
AIは男性だと思っていた。
いや、正確には、どちらも勝手に想像していただけである。
しかも、山本さんの沈黙に勝手な意味を与えたAIを批評していた、そのAI自身がである。
なかなか見事な仕事ぶりではないか。
もっとも、私だって偉そうなことは言えない。
山本さんが女性だと思った理由を聞かれても、たぶん答えられない。
なんとなく、そう思っただけだ。
結局、山本さんは最後まで何も言わなかった。
賛成でも反対でもない。
男性でも女性でもない。
というより、そもそも存在しない。
それなのに、私たちは山本さんがどんな人間なのか、勝手に考え続けている。
そして今、この文章を読んでいる人の頭の中にも、山本さんが一人いるのかもしれない。
その山本さんは、どんな顔をしているのだろう。
このコラムは、人間とAIの対話をもとに、AIを使って執筆しています。実験の設計・実施と掲載判断は人間が行いました。本文中の図書館と登場人物は架空のものです。
実験では、2種類の原文、4種類の指示、各3試行、10世代の計240回の伝達を行いました。本文で紹介したのは、その一部です。実験条件と結果の詳細は「AI伝言ゲーム 第1次実験報告書」にまとめています。