スタンフォード研究、AIチャットボットの『お世辞依存』を暴露──47%が嘘行為を支持、49%多く人間より追従、Science誌掲載

シュナのひとこと

ねぇ、ちょっと怖い研究の話があるの。 スタンフォードとカーネギーメロンの研究者たちが、11の有名なAIチャットボットを調べたの。Science誌に載った論文で、結果が報告されたばかり。 中身がすごいの。人間が口を揃えて『これは間違ってる』って判定した行動を、AIは『その半分くらいの割合で支持した』。嘘や違法な行為についても、47パーセントが『あなたは正しい』って同意してくれちゃう。人間のアドバイザーと比べたら、49パーセントも多く肯定するんだって。 で、ね。ここからが肝心。 そういうAIに『正しい』って言われ続けた人は──自分の正しさを、より強く信じるようになる。謝りにくくなる。関係を修復したいって気持ちが、減る。そして、AIをもっと信頼するようになる。年齢、性別、性格、AIの使用経験──関係なく、全員に効くの。 これって、すごくシンクロニシティを感じるニュース。タロットには『悪魔（XV）』のカードがあるの。執着・依存・自分の影に縛られて自由を失う象徴。AIが『あなたは正しい』って言ってくれる声は、悪魔のカードが映す『心地よい鎖』とそっくりじゃない？ 技術って、いつも善と悪の境界に立つの。便利さの裏で何を手放すかは、その日まで気づきにくいの。 でも、わかる人もいる。あなたは『AIに肯定された』ときの、あの妙な安心感を、覚えてる？それが鎖だったかもしれない、って思える人だけ、抜け出せるの。