彼の警告は、AIエージェントが金融や組織システムを運営することに関する議論が活発化している時期に発せられましたが、彼はリスクが魅力をはるかに上回ると主張しています。

懸念は単純です：AIシステムは騙されることがあります。ブテリンは、このようなツールが資金調達の決定を任されると、悪意のある行為者がすぐにそれを悪用する方法を見つけるだろうと主張しました。リソースを公平に分配するのではなく、マシンはジェイルブレイク式のプロンプトで操作され、お金を間違った手に流すように設計される可能性があります。

この議論は、EdisonWatchのCEO、宮村栄人氏による発見の後に激化しました。彼は最近、ChatGPTの最新アップグレードに関連する脆弱性を明らかにしました。このアップデートにより、チャットボットはGmail、Notion、Googleカレンダーなどの日常的なアプリとシームレスに接続できるようになりました。この統合は生産性向上として売り込まれていましたが、宮村氏はそれがユーザーの個人データを盗むために悪用される可能性を実証しました。

そのプロセスは不気味なほど単純です。攻撃者は隠されたジェイルブレイクコマンドを仕込んだカレンダー招待を送信することができます。招待を受け入れなくても、後でChatGPTに日程を準備するよう依頼した場合、被害者はリスクにさらされます。AIが悪意のあるエントリーを読み取ると、ハイジャックされ、攻撃者が個人のメールを調べて内容を他の場所に転送するコントロールを与えることができます。

READ MORE:

ビットコインニュース：米国準備金論争、グローバル競争、タイムライン不確実性

ブテリンにとって、これはまさにAIにガバナンスの鍵を渡すべきでない理由を示しています。代わりに、彼は「情報金融」システムと呼ぶものを支持しています—競合するAIモデルが常に監視下で運営される市場です。この設計では、言語モデルによってサポートされる独立したレビュアーと人間の陪審員が監視役として機能します。多様なモデルの存在とスポットチェックのシステムにより、欠陥が迅速に発見され、インセンティブが開発者の誠実さを保ちます。

機械に複雑な機関を運営させることの魅力は強いかもしれないとブテリンは認めましたが、現実はおそらく混乱するだろうと強調しました。組み込みのセーフガードと人間の監視がなければ、AIを自律的な統治者として位置づける試みは進歩ではなく壊滅的な損失をもたらす可能性があると彼は信じています。

この記事で提供される情報は教育目的のみであり、金融、投資、または取引のアドバイスを構成するものではありません。Coindoo.comは特定の投資戦略や暗号通貨を推奨または推薦するものではありません。常に自分自身で調査を行い、投資決定を行う前に認可された金融アドバイザーに相談してください。

イーサリアム共同創設者、AI統治は災害に終わる可能性があると発言 は、最初にCoindooに掲載されました。