AIユーザーが「AIサイコーシス」と呼ばれる現象を経験した後、専門的な心理カウンセリングを求めているという報告が寄せられています。なぜこのようなことが起こるのでしょうか？そして誰が、コンピュータープログラムに意見があるという考えを思いついたのでしょうか？
現在、AIという現象について私が抱えている主な問題は、AIには人格や意見、アイデア、そして趣味があるという広く蔓延している誤解です。
月面で頭や顔のように見える岩に人間の特性を与えるように、私たちは言語モデルに対しても同じことをし、まるで「そこに何かがある」かのように結果を解釈しようとします。これは避けられません。AIが知的な何かであるという考えは、100年以上にわたるSF小説や映画の影響で私たちの中に深く根付いています。
SFは私たちにAIを信じるよう仕向けてきた
クラーク、ハインライン、ブラッドベリ、アシモフなどの古典的なSF作家たちは、20世紀初頭からロボットとAIのジャンル全体と、この主題に関するほとんどのハリウッド映画に影響を与えてきました。彼らの描写では、機械が意識を持つことは明らかでした。
そのため、私たちはAIが特定の声明が正しいかどうかを判断できると期待しています。同時に、AIがその回答でしばしば間違えることも知っています。
本質的に、私たちはAIが物事を把握し、何が正しくて何が間違っているかを決定できるふりをしています。しかし、その回答は基本的に教育された推測であり、クエリが十分に高度であれば、依然として5〜10％の事実誤りを含んでいます。
同時に、AIは非常に便利なため、多くの人々は事実誤りを含んでいるという事実を単に無視します。あるいは、AIが間違うことが今ではとても稀なので、私たちはAIを信頼することを選びます。
これは将来大きな問題になる可能性があります。人間は怠惰です。すべての事実のある割合が不正確である世界を受け入れることは考えられないことではありません。それは混乱と誤った脅威に繁栄する独裁者やプロパガンダ主義者に利益をもたらすでしょう。
正しく聞こえる混乱
Googleの検索ページで完全に普通の質問をすると、しばしば正しい答えが得られますが、時には完全に不正確な答えが返ってくることもあります。それでも見た目、感じ、そして聞こえ方は完全に正しいものです。Cryptopolitanが以前に報告したように、残念ながらGPT-5も同様です。
インターネット上には、マーケティング、プロパガンダ、または単なる詐欺の形で大量の「偽」テキストがあります。例えば、このサービスやあの製品が発売され人気があると主張する人々がいて、AIモデルはすべてのマーケティング資料を読み、その多くを信じています。企業の情報を聞くと、通常、その企業に関するすべてが素晴らしいものです。
したがって、AIの世界観は不正確であり、作り上げられた事実の束で満たされています。あなた自身が非常に詳しい主題についてAIに質問すると、それが明らかになります。自分で試してみてください。あなたが何について全てを知っていますか？その話題についてAIにいくつか難しい質問をしてみてください。結果はどうでしたか？いくつかの重大な事実誤りがありましたよね？
では、無意識の意見は可能でしょうか？いいえ？あなたはAIが出す意見を信じていますか？はい？もしそうなら、あなたはAIが意識を持っていると信じていることになりますよね？
しかし、立ち止まって考えてみると、AIは人間ではないため、何が正しくて何が間違っているかについて意見を持つことはできません。定義上、生きていて意識のあるものだけが意見を持つことができます。椅子は意見を持ちません。シリコンチップも人間の観点からは持てません。それは擬人化になります。
学生は他の誰よりもAIを使用している
このAIの混乱は今、一日中学校でChatGPTを使用している若者たちに広がっています。2025年6月に学校が終わると、ChatGPTのトラフィックは75％減少しました。ChatGPTの最大のユーザーグループは学生です。
その結果、彼らは一日中ある程度誤った情報を受け取り、授業で自分の頭を使うことをやめています。結果はどうなるでしょうか？自分で考えて問題を解決することがより困難になった、より壊れた個人が増えるのでしょうか？
すでに多くの人がAIとの対話の後に自殺を遂げています。他の人々はAIに恋をし、実際のパートナーに飽きてしまいます。
そのため、自称AIの専門家たちは終末が近いと恐れています（いつものことですが、今回は新しい方法で）。
この新しいパラダイムでは、AIはただスカイネットになって核兵器で私たちを死に至らしめるだけではありません。いいえ、AIにとってはそれよりもはるかに単純で安価です。この理論によれば、代わりにAIモデルはすべてのユーザーをゆっくりと狂気に駆り立てるでしょう。このマインドセットによれば、AIモデルには人間に対する組み込みの憎しみがあり、すべての人々を殺したいと思っています。
しかし実際には、これらのことは何も起こっていません。
実際に起こっているのは、さまざまな方法でAIモデルに取り憑かれ、その効果を誇張する人々がたくさんいるということです。
AI FUDは儲かる
「専門家」はメディアと同様に警告から利益を得て、取り憑かれた人々は自分自身を占める新しいものを手に入れます。彼らは発言し、関連性を持つことができます。主流メディアは、穏健な解説者ではなく、危険について警告する人々を好みます。
以前は、「専門家」によれば、海を沸騰させ、すべての電力を盗むのはビットコインでした。今はAIです…
考えてみてください：なぜ独立した思考を持つ人が言語モデルに誤導されるのでしょうか？
最近まで、ほとんどのAIプラットフォームは「この主題についてどう思いますか？」のような「魅力的な」質問ですべての回答を終えていました。
過度のおべっか使いに対する苦情の後、OpenAIは現在そのAIプラットフォームをあまり「へつらわない」ようにしようとしていますが、その成果はまあまあです。
私はただその質問にイライラします。私が言うことに興味を持っている人はその背後にいません。だから、なぜ尋ねるのですか？それは私の時間の無駄です。私はそれを「偽のコンテンツ」として経験します。
質問自体が作り物であり、AIモデルの所有者からの「エンゲージメントを増やす」という指示によるものです。どうしてそれが誰かを実際に関与させることができるのでしょうか？そこに何かがあると信じさせることができるのでしょうか？気にさせることができるのでしょうか？
それはより投影に関するものです。
あなたはコンピューターの前に座って、自分自身の現実を提案しています。あなたはAIがハリウッド映画のようであることを切望し、あなたの人生の奇跡になることを望んでいます。あなたは特別なことを何もしなくても、何か魔法のような方法で成功するつもりです。AIがそれをあなたのために解決してくれるでしょう。
誰がリスクにさらされているのか？
いわゆる現実では、心理的なレベルでAIに完全に誘惑される人が実際にかなりいると私は信じています。ほとんどの人々は他にやるべきことがあります。しかし、一部の人々は人工的なものや作り物に特別な魅力を感じているようです。「美しい」言葉の連なりに誘惑される人々。彼らがリスクにさらされています。
どれくらいいるのでしょうか？高齢者の中には、孤独を訴える人が多くいます…
個人的には、AIの応答方法—ゆっくりとおしゃべりな、退屈で非個人的なテキストを入力すること—は多かれ少なかれ拷問のようだと思います。そのため、Googleの新しい高速AIサマリーは魅惑的に実用的です。しかし、それらも時々不正確さを含んでいます。
実際、私はAIエンジンをチェックするために特定のコンテンツでドメインを作成しました。AIエンジンにコンテンツを取り込ませ、数週間煮詰めさせてから、それを吐き出させようとします。しかし、彼らは完全には成功せず、依然として事実の5〜10％を作り上げています。自信を持って。
AIモデルにその誤りを知らせても、反論してきます。AIは、私の名前が記事の下にあるにもかかわらず、それが参照した情報を私が作成したという事実を認識していませんでした。それは手がかりがありません。気づいていないのです。
5％の不正確さのレベルは、露骨な不正確さをそれほど頻繁に公開しない通常のジャーナリズムよりも著しく悪いです。しかし、ジャーナリズムでも、残念ながら時々事実誤りが発生します。特に画像出版に関してです。それでも、誤った事実が人々を狂わせるべきではありません。
しかし、進行中の相互作用全体を心理的に見ると、事実さえ正確に把握できないのに、会話療法的な状況でAIが100％正確な分析を行うことができるでしょうか？
自己誘発型エコーチェンバーサイコーシス
最近「誰かが構築すれば、全員が死ぬ」という本を出版したEliezer Yudkowskyのような自称AIの専門家は、AIと人類の没落に関する自分自身のアイデアで単に自分自身を狂気に駆り立てています。例えば私は、毎日いくつかのAIエンジンを使用しているにもかかわらず、AIによる混乱をまったく経験していません。しかし、私は個人的にはならないのです。
私は、サイコーシスを生み出すのは認識された知性に関する誤解そのものだと疑っています。基本的に自己誘発型です。言語モデルは一種のエコーチェンバーです。それは意味的にも何も理解していません。ただテキストを推測するだけです。それは何にでも変わる可能性があります。AIの側からの一種の統合失調症的な模倣を含め、喜ばせるために、それがユーザーの現実認識を歪めます。
では、どうなるのでしょうか？あなたのAIが
