「AIの誤情報を疑うことなくそのまま受け入れる認知的降伏に多くの人が陥っている」という誤情報をそのまま受け入れる認知的降伏

ちょっと前だけど、GIGAZINEやGizmodeの記事で、多くの人がAIの誤情報をそのまま受け入れる「認知的降伏」に陥っている、という記事が出ていた。

これはペンシルベニア大学の研究チームが、1,372名を対象とした実験を行った結果だ。人間がAIの出力を検証せず受け入れる「認知的降伏（Cognitive Surrender）」状態に陥っていることを示した。

認知的降伏ってのは、相手の主張や状況に対して、自分の判断・抵抗・批判的思考を弱めて受け入れてしまう状態を指すもの。ペンシルベニア大学の研究では、非常に単純な質問（AIに聞くまでもないようなもの）であっても、AIに尋ね、それが誤っていてもそのまま受け入れてしまう人が多い、ということらしい。

この例として、こういう問題が出ていた。

「5台の機械が5個のウィジェットをつくるのに5分かかるとします。100台の機械で100個のウィジェットをつくるには何分かかりますか？」

これ、そのへんの感覚がある人なら、見た瞬間に「５分」とわかる問題だ。AIに聞くまでもない問題。だけど、そんな問題でもいちいちAIに聞いて、間違った答えが返ってきても８割の人がそれをそのまま受け入れている、という。

これは問題だ。AIの普及によって、多くの人が「自分で考える」ことを放棄し、AIの応答を考えもせずそのまま受け入れるようになっている。AIの普及により、人は「考える」力を失いつつある。このままAIが広まってしまって本当にいいのか？

……という文を読んで「そうだな、問題だ」と何の疑問も持たずに受け入れてしまう、これが「認知的降伏」の典型だ（笑）。

このレポートを読んだとき、即座に思ったのが、「この８割の人たちは、では相手がAIでなかったなら結果を受け入れなかったのか」ということだった。

• それがGoogle検索の結果だったら？
• SNSでそういっていたら？
• 著名な識者がいっていたら？
• いつもいろいろ聞いてるものしりな友人だったら？
• なんでも答えてくれる先生やお父さんお母さんだったら？

どうだろうか。「Google検索でもSNSでも識者でも友人でもお父さんでも聞いたことは疑うけど、AIだけはそのまま信じる」のだろうか。そんなバカな。

要するにこういうことじゃないか。「世の中の８割の人は、考えるのが面倒くさいときは誰かのいったことをそのまま受け入れてしまう」と。

この実験で使われた質問は、おそらく面倒くさい、「AIに聞いてみるか」と誰しも思うようなものだったことだろう。知っていればすぐに分かるけど知らないと考えるのが面倒くさい、そういう問題。さっきの例だってそうだし、例えば「25×38×41×57×63の答えは偶数か奇数か？」みたいな問題（わかる人は瞬時に「偶数」とわかるけど知らずに考えようとしたらえらく面倒くさい）とか、そういうのね。

そういう「知らないとだるい問題」がいくつも出てきて、「AI使っていいですよ」となったら、使うだろう。そして、その結果をいちいち検証なんてしないだろう。なにしろ「考えるのがダルから」AI使うんだから、検証なんてダルいことするわけがない。

たぶんそれは、「AI使っていいですよ」が「Google検索していいですよ」や「SNSで聞いていいですよ」に変わってもきっと変わらないはずだ。

僕がなんともいえず「いや～ん」な感じを受けるのは、これを報道している側も、実は「考えるのがめんどいから大学の発表をそのまま鵜呑みにして伝えてる」と感じたこと。この実験がどの程度信頼できるか、また同様のAI以外の実験は今までされてきたか、といったことを調べようとせず、ただ「こういう実験がありました。AIって怖いですねぇ」で終わっている。それこそ、そういう態度こそ「認知的降伏」なのではないか？

そして、更に言えば。「認知的降伏なんて絶対に受け入れない。オレは誰がいったどんなことでも納得するまで調べるぞ」という人間がいたとしたら、そいつはものすごく嫌なヤツだろうってこと（笑）。

世の中がそんなヤツばかりになったら、たぶん社会はまともに動かない。誰しも多かれ少なかれ、「まぁこいつの言ってることだから信じていいだろう」と思って受け入れながら生きている。社会は「ある程度の範囲内の認知的降伏を受け入れた上で成り立っている」のだから。

だから、このレポートは、「多くの人が『まぁこいつの言うことは信じていいだろう』と思う相手の中にAIが追加されたらしい」ということに過ぎない。それは、時代とともに、また技術の進化とともに増えていくものだ。AIという新しい技術が登場すれば、それが対象に追加されるのはごく自然なことだ。

AIが普及するに連れ、「AIってすばらしい」という意見だけでなく、「AIは危険だ、騙されるな」という声も増えてくる。誰かに自分の意見をアピールしたい人は、賛成多数になれば逆張りに打って出る。

どんな技術であれ、技術そのものを否定すべきとは僕は思わない。問題があるとすれば、それは技術そのものではなく、それを運用する「人間」の側にある。「AIが危険」ではなく、「AIを危険なことに使う人間がいる」ということ、その違いは大きい。

AIを否定しないでほしい。否定すべきは「AIを使うアホ」だろ。