デジタルは人を幸せにしない: フレーム問題は解決していない

キノコの写真をAIに見せて「シイタケかヒラタケ」といわれて、
「ほんなら食えるか」と食って、
似た毒キノコだったので死にそうになった問題の続き。

つまりAIのフレーム問題はいまだに解決していない。
「今扱っている話は、どの範囲か」を判断する問題だ。


人間同士の会話を考えよう。

「山からとってきたデッカいキノコだ。これなに？」
「わかんない」
「わかんねえから図鑑で調べようと思って」
「毒キノコかもよ。シイタケかヒラタケに見えるけど、
違うかもしれない」
「じゃあ食えるべ」
「似てる毒キノコあるか調べた？」←ここ
「そんなのあんの？」

人間同士ならば、

・毒キノコを食べたら死ぬ
・食べれそうなのに擬態してるやつもある
・そもそもお前は食べるつもりだな←これ

という周辺知識がアクティブになる。

だがAIだと、
「このキノコはなに？」
という問いに対して、
「この人はこれを食べるつもりならば警告するべきだ」
という枠組みが抜けているわけ。

「その質問をするということは、
○○の問題について考えていますね？」
（この場合「このキノコは食えるのか」というフレーム）
という判断ができないということだ。

そもそもLLMにフレーム設定する機構などない。
質問に対してありえそうな答えを合成しているだけだ。
What is this?に対して、It is A or B, maybe.
と返しているにすぎない。

「これなに？」
「食べるつもりならばちゃんと調べてね」
「だから調べて」
「写真からはシイタケかヒラタケに見えますが、
裏の写真と中を割った写真を見せてください。
よく似た毒キノコの○○かどうかを確認したいです」

が理想の会話だ。

こうできない理由は、
「この質問はこれを食べようとしていての質問であり、
毒キノコの判定法がなにより最優先」
という枠組み（フレーム）を、
彼らは与えられない限り判断できないからだ。

「私はこのキノコが食べられるのかどうか知りたい。
写真を見て判定法を教えて」
という聞き方をして、
質問の意図とフレームを明示すれば、
あるいは答えてくれるかも知れないが、
知らなかったらアウトだ。
そして「私は知らない」とAIはいわずに、
知ったかぶり（ハルシネーション）をする。

出来の悪い外人のサービスだ。
「これなに？」「シイタケかヒラタケです」
しか言ってない。
残りのサービス
（私にはそう見えますが毒キノコかどうかは、
私は判定できません）は、してくれないのだ。
なぜなら「察する」は、
日本人の文化であり、
英語圏の会話文化になく、
従ってトレーニングされていないからだ。

こういった外人の言葉を信じて食って死んでも、
「毒キノコかどうかは聞かれなかった」というだろう。
察しろよそんくらい、である。


外人なら「わからない」と正直に答えてくれるかもしれない。
だがAIは、今のところ「質問に対してネットでよくある回答を、
それらしく合成する」しかないので、
「このキノコは何？」
「これはシイタケかヒラタケに見えるけど、毒キノコかも」
という会話が広く行われてない限り、
学習対象に入ってない。
そしてそんな安全講習文章が、
そのへんのネットに普通の会話以上に転がってはいない。

つまり、
「それはネットによくある文章か？」
を想像する力がないと、
AIを使えないわけ。

前記事で車田正美の例をあげたが、
彼の描く漫画は決して熱血ではないが、
熱血漫画のカテゴリに誤って入れられることが多い。
これは表向きの理由の人気であり、
真の理由、BL人気をごまかすためのものである。
ここまで立ち入って車田を議論するべきだが、
それはネットでは隠蔽されているため、
正しくAIは学習していない。

そもそも車田は「泥臭い暑苦しい熱血」に対して、
クールや繊細な美を持ち込んだ嚆矢だ。
その歴史的経緯を認識していないのは、
その歴史がネット時代以前のものだからだ。

こうした、AIの外の枠組みを知らないと、
AIは使えない。


AIはフレームを判断できない。
これを知性と呼ぶのは、子供を知的と呼ぶのと同じである。
今どういう文脈か、日本語でわかってないわけだからね。

たとえば、
「このキノコなに？」
「シイタケかヒラタケです」
「なんで俺がこれを聞こうと思ったと思う？」
「あなたはこれが何か知りたいと思ったからです」
「なんでこれが何か知りたいと思ったと思った？」
に対して、
「あなたが食べようとしていて、毒キノコかどうか知りたいからでしょう？」
とは答えられないよ。

今何文脈かを読み取れないのだ。


また、被害者が高齢者のため、
日本語入力がおぼつかなかった可能性も指摘しておきたい。
彼はこれくらいの分量をフリックないしローマ字で打てるだろうか？
ぽちぽち打ちならば、
限られた言葉しか発せられず、
質問の回数も限られるのでは？

普段しゃべるより豊かに質問しなければ、
AIに文脈を指定することはできない。
AI弱者の前に、日本語入力弱者がいる問題があり、
それが毒キノコを食わせることになるわけだ。

スカイネットが現れなくても、
AIは弱者を淘汰できる。
なんという時代だ。