KL system象のいない部屋
by 唐草 [2024/02/10]
先日、画像生成AIに関する興味深い話題を目にした。どんな無茶振りなお題でも画像を出力してくれる画像生成AIにも描けない絵があるという話題だ。それが「象のいない部屋」。
プロンプトに「象のいない部屋」と入力すると「室内に象がいる」画像が出力される。指示とはまったく逆の絵が生成されてしまうのである。
人間がこのお題を見たら何もいない部屋を描くだろう。ちょっとひねくれていると「象はいないけどキリンはいます」と言いながら馬のいる部屋を描くかもしれない。
もちろんプロンプトを工夫すれば期待通りの空っぽの部屋を出力させることはできるだろう。だが、テクニックを使わずに正面からお題を投げかけると象の出現が避けられないそうだ。
期待外れの結果に陥る原因は言葉の認識にあるようだ。「象」というレアな言葉に引っ張られて象がいる部屋を出力してしまうのだろう。これは、ここ数年主流となっている言語解析AIの弱点を突いたと言える。
一般的な言語解析AIは単語１つ１つの意味や役割を人間と同じように理解しているとは言えない。今のAIの技術では、ある単語に続く次の単語の出現頻度を計算して確率的に文を解釈している。文脈外のことなど一切考えない。それを考えだしたらフレーム問題にハマって処理ができなくなる。文章だけを見つめて、通常の言葉の並びとは異なる言葉がやってきたら、それを特異点として優先的に処理をするのだと推測できる。
そういう処理の中では「象」という単語は、出現頻度の低いレアな言葉。ぼくらだって日常会話の中で象を用いることは少ない。当然AIが学習に用いた例文にも「象」は少ないだろう。だからレアな「象」から離れられなくなる。
この結果からAIが、意味の否定や反転に弱いことが明らかになった。「大きい」の反対は「小さい」というような単純な関係は処理できても、「動物」という大きな母集団から「象」だけを抜くという上位概念を用いた処理は苦手なようだ。
無いものを見つけられない。
これが今のAIの弱点。そしてAIを使う人の盲点でもある。シンギュラリティは無いものを見つけたときかもしれない。