映画『ガタカ』に、ピアニストが演奏を終え、観客の拍手に応えて手袋を投げる場面がある。
その手袋には、指が6本あった。
彼が演奏した曲は、12本の指がなければ弾けないという。
遺伝子によって人間の可能性が選別される未来社会を描いた、1997年の映画である。
当時は生成AIなどというものは、少なくとも一般家庭には存在しなかった。
もし今、AIがピアニストの画像を生成し、その手に6本の指があったら、きっと誰かが指摘するだろう。
「AIはまだ指の数も数えられないのか」
そして画像は修正される。
しかし、『ガタカ』の6本指は修正されない。それどころか、6本なければ演奏できない曲が存在する。
同じ6本指なのに、片方は失敗で、片方は作品になる。
いったい誰が決めたのだろう。
最近、AI Slopという言葉を知った。
Slopとは残飯や豚の餌のことらしい。生成AIによって大量生産される、質の低い文章や画像や動画などを指す言葉だという。
なかなかひどい名前である。
もっとも、AIが生成したものをすべてSlopと呼ぶわけではない。内容が薄かったり、間違いが多かったり、似たようなものが大量に出回ったりすることが問題視されている。
では、その品質は誰が判定するのだろう。
人間が読んで面白ければ良質なのか。役に立てば良質なのか。誰にも読まれなかった文章はSlopなのか。
そもそも人間が書いた文章ならSlopにならないというわけでもない。
例えば、
「人生とは学びそのものである」
夕焼けの写真に白文字で重ねれば、立派な自己啓発コンテンツの完成である。
これをAIが書けばSlopで、人生を70年生きた老人が書けば哲学になるのだろうか。
少なくとも、文章だけを見て判定するのは難しそうだ。
では、AIにとってSlopは無価値なのだろうか。
ここで、6本指の話に戻る。
画像生成AIが指を6本描いてしまうのは、人間の進化の可能性を考えた結果ではない。
手の形や指の重なりを学習し、それらしい画像を生成する過程で、全体としての整合性が崩れることがある。
要するに間違いである。
ところが、ここで少し考えてみたい。
AIが生成した6本指の画像を大量に集め、次のAIの学習に使ったらどうなるのだろう。
学習データの選び方によっては、6本指を生成しやすくなるかもしれない。
AIが作った間違いをAIが学習する。間違いが増えることもあれば、逆にうまく選別すれば学習の役に立つこともある。
人間が正しいと考える5本指から、少しずつ離れていく可能性もある。
私たちはそれを品質の劣化と呼ぶ。
しかし、6本指の人間は実際に存在する。
2019年には、生まれつき6本の指を持つ人が、追加の指を独立して動かし、通常とは異なる操作を行えることが研究で示されている。
では、もし6本指を前提として道具を設計したらどうなるだろう。
ピアノだけではない。キーボードも、楽器も、作業用の工具も、5本指という前提から自由になる。
AIが間違えたからこそ、考え始めることができた。
間違いが正解になったわけではない。
間違いが、新しい問いを生んだのである。
以前、情報の中から新しい可能性を見つけ出す「チャンス発見」という研究に関心を持ったことがある。
出現頻度が少ないからといって、重要性まで低いとは限らない。
普段は見過ごしてしまうような出来事が、何かの変化を知らせているかもしれない。
これをAI Slopに応用できないだろうか。
普通のAI開発では、生成結果を検査して、正しいものを採用し、間違ったものを修正する。
これは当然必要な仕事である。
しかし、修正する前に、間違ったものを別の箱に入れておく。
そこには、指が6本ある人間や、鼻が2本あるマンモスや、あり得ない形の道具が入っている。
その一つひとつについて、使い道を考えてみる。
「これが正しいとしたら？」
「こんな形でなければできないことは？」
「そもそも、なぜこの形になった？」
大半は何の役にも立たないだろう。
中には、単なる画像の破綻もある。
それでも、百個に一個、千個に一個くらいは、思いもよらない発想につながるかもしれない。
もちろん、何も発見できないかもしれない。
それでもよい。
少なくとも、その間違いがなぜ気になったのかは記録しておける。
企業は品質向上に投資する。
生成AIであれば、間違いを減らし、精度を高め、より速く、より安く、より確実に仕事をするための投資である。
では、その予算の一部を、間違いを拾うことに使ったらどうだろう。
例えば9対1。
9割は正解を追求する。
残りの1割は、正解からはみ出したものを調べる。
ただし、問題がある。
1割の研究者に、年度末の成果報告を求めてはいけない。
「今期は何件の有益な発見がありましたか？」
こう聞かれた研究者は、発見できそうなものから探し始めるだろう。
その時点で、誰も気づかなかった可能性を探すという目的から離れてしまう。
だから1割の予算には、成果を約束させない。
何を見て、何を考え、何を試したかだけを残す。
そんな予算を認める企業があるのだろうか。
年度末の経営会議。
「品質改善部門は生成ミスを90％削減しました」
拍手。
「探索部門は6本指でピアノを弾かせてみました」
沈黙。
「それで、売上は？」
「まだ指を数えているところです」
おそらく、翌年度の予算は厳しい。
以前、「ハサミを持った探索士」という話を書いた。
現実はあまりにも複雑なので、人間は自分の関心や目的に従って、その一部を切り抜いて理解する。
企業の経営課題も同じである。
「売上を増やしたい」と言われれば、売上に関係する情報を切り抜く。
「業務を効率化したい」と言われれば、効率に関係する情報を切り抜く。
必要な作業である。
しかし、ハサミで切り抜いた後には、必ず残りが出る。
その残りを、これまでは捨てていた。
必要がないから切り落としたのだ。捨てるのは当然である。
ところが最近、切り落としたものも残しておいたほうがよいのではないかと考えるようになった。
今の目的には使えなくても、別の目的には使えるかもしれない。
今の自分には価値がわからなくても、未来の誰かには価値がわかるかもしれない。
ただし、全部残しておけばよいというものでもない。
保存するにも費用がかかる。整理しなければ、何が残っているのかさえわからなくなる。
だから、少なくとも何を切り抜き、何を切り落としたのか、その判断の経緯は残しておきたい。
間違った画像も同じである。
6本指という結果だけでなく、それを誰が、なぜ間違いだと判断したのか。
そこまで残せれば、いつか別の誰かが違う判断をするかもしれない。
数万年前、人間は洞窟の壁にマンモスを描いた。
なぜ描いたのかは、今となってはわからない。
狩猟の記録だったのか。儀式だったのか。ただ描きたかったのか。
あるいは、描いている途中で間違えて鼻を2本にしてしまったかもしれない。
現代の研究者がそれを見つけたら、未知のマンモスの存在を考えるかもしれない。
もちろん、壁画だけでは証明にならない。
描いた本人に聞けば、
「ああ、それ、描いてる途中で子供にぶつかられてね」
と言うかもしれない。
だが、その本人はもういない。
私たちは残された絵を見て、あれこれ考えるしかない。
絵を描いた本人には何でもなかった出来事が、数万年後の人間に新しい問いを与えている。
そう考えると、今のAIが量産しているSlopも、未来の誰かにとっては何かの研究資料になるかもしれない。
「21世紀のAIは、なぜ人間の指を6本描いたのだろう」
その頃には、6本指の人間が当たり前になっているかもしれない。
そうなれば、研究者は逆に不思議がるだろう。
「当時の人間は、なぜ5本指にこだわっていたのだろう」
ここまでの話を、AIとの対話をもとにコラムにまとめてもらった。
なかなかよくできていた。
ところが、読み返していると、気になる記述があった。
「遺伝子操作によって生まれた6本指のピアニスト」
私は映画を見ていたが、そんな説明があった記憶はない。
そこでAIにファクトチェックを依頼した。
すると、どうやら映画の中では、そのピアニストが遺伝子操作によって生まれたのか、自然に生まれたのかは明らかにされていないらしい。
AIが勝手に設定を付け加えていたのである。
しかも、そのAIは、間違いを発見すると実に申し訳なさそうに謝罪した。
そして言った。
「今回のファクトチェックで、私自身が思い込みによって余計な設定を付け加えていたことが発覚した」
まったく、そのとおりである。
私はAIと一緒に、AIの間違いに価値があるかもしれないという文章を書いていた。
そのAIが、まさに間違いを作っていた。
しかも、間違いが見つかったことで、もう一つ新しい問いが生まれた。
あのピアニストは、なぜ6本指だったのだろう。
遺伝子操作なのか、自然に生まれたのか。
映画に答えがないなら、私たちはその理由を考えることができる。
AIの間違いが、映画をもう一度考えるきっかけになったのである。
これは喜ぶべきことなのだろうか。
少なくとも、間違いを見逃して掲載するよりはよかった。
だが、間違いがなければ、この問いも生まれなかった。
なんとも都合のよい話である。
AIが6本指を描いた。
人間はそれを間違いだと判断した。
判断は正しい。5本指の人間を描く仕事だったなら、それは修正すべき間違いである。
しかし、その画像に使い道がないと判断する必要まではない。
間違いであることと、無価値であることは違う。
そこを混同しないために、少しくらい余白を残しておきたい。
正しいものを正しく作る仕事は必要である。
それと同じくらい、誰も頼んでいないことを考える人間がいてもよい。
6本目の指を見つけて、何かに使えないかと考える。
鼻が2本あるマンモスを見つけて、どうやって草を食べるのだろうと考える。
そんなことをしている間に、一日が終わる。
成果はない。
売上もない。
ただ、昨日まで考えもしなかったことを、今日は考えている。
それで何が変わったのか。
まだわからない。
だから、もう少し残しておこうと思う。
6本目の指も。
ハサミの残りも。
そして、マンモスの鼻も。
ちなみに、今回のコラムを書いたAIは、最後まで6本指の話から離れようとしなかった。
そこで、タイトルを「6本指に取りつかれたAI」に変更することにした。
どうやら、6本指に取りつかれていたのはピアニストではなく、執筆担当者（AI）だったらしい。
なお、ファクトチェックで発見された間違いは修正した。
せっかくの研究資料なので、間違えたという事実だけは残しておく。
この文章は、人間とAIの対話をもとに、AIを使って執筆したものです。問いや経験は人間から、文章の構成と表現はAIとの共同作業から生まれています。なお、マンモスの出演については本人の承諾を得られていません。