意識的あるAIを設計するために必要な生物学的原則

リンク一覧

概要と1. はじめに

1. 背景と歴史
2. 意識を持つ人工物への道筋
3. 隠れた宝石
4. 最終的な考察、謝辞、および参考文献

3 意識を持つ人工物への道筋

表1は図1の私のメモから再入力したものです。ジェラルド・エーデルマンとの会議に参加する幸運に恵まれた人なら誰でも、彼の考えが聞き手に矢継ぎ早に浴びせられることを知っているでしょう。あるいは、彼が言うように「消火ホースから飲むようなもの」でした。メモや他の書面による手がかりなしに、エーデルマンは意識を持つ人工物に向けた10の重要なステップを矢継ぎ早に述べました。私はできる限りついていこうとしました。これらのステップは、意識を持つ人工物を構築するためにどのように進めるかという順序でおおよそ提示されました。最初の4つのステップは、チームがある程度進展を遂げていた領域でした。残りのステップはさらなる調査が必要な領域でした。現在までに、列挙されたステップのどれも十分に対処されていないと言えるでしょう。しかし、この論文の目的は現在の最先端技術を検討することではなく、これらのステップを私ができる限り説明することです。

\ 3.1 再入力アーキテクチャ

\ エーデルマンのニューラル・ダーウィニズムとニューロン群選択理論（TNGS）の主要な構成要素は再入力シグナリングでした[1]。フィードバック信号とは異なるため、再入力と呼ばれます。ニューロン群はシナプス結合によって双方向にリンクされていました。特定の特徴を持つ異なるグループがこれらの接続を通じて情報を共有することができました。経験依存の可塑性がこれらのグループ間の関連性を選択しました。これらのグローバルマッピング（図1の余白を参照）は最終的に知覚カテゴリーと行動計画を生み出しました。

\ NSIで働いていた理論神経科学者たちは、これらのアイデアをテストするためのモデルを多数作成し、シミュレーションと物理的なロボットプラットフォームの両方で実装しました[2, 3]。これらのモデルを使用して、特徴マッピング、同期による結合、記憶の想起、およびその他の脳の特性を示すことができました。これらは私のメモに記されているように、カラフルに「ヌードリング」と呼ばれていました。

\ 3.2 視床-皮質系

\ 一連の著書の中で、エーデルマンはTNGSに基づいた彼の意識理論を説明しました[4, 5]。この理論の鍵は、彼の後の出版物のいくつかで列挙されているように、ダイナミック・コアの概念でした[6]。ダイナミック・コアは本質的に視床と新皮質の間の再入力シグナリングでした。ダイナミック・コアのダイナミクスは、意識的思考や高次の意識を生み出すために必要でした。

\ 会議の時点で、NSIの研究者たちは視床と新皮質の非常に詳細な計算モデルを開発していました。これらのモデルは睡眠覚醒サイクルや、意識的思考中に観察されるその他の脳のリズムを示しました[7, 8]。そのようなモデルの1つで、ユージン・イジケヴィッチとジェラルド・エーデルマンは、可塑性とダイナミックなニューロン活動によるニューロン群の形成を示すことができました[9]。

\ 3.3 価値システム

\ 価値システムは、環境的手がかりの顕著性または価値に基づいて生物が行動を修正するために必要な神経構造です。脳ベースのデバイスにおける価値システムは、活性化されると相的反応を示し、その出力が複数の経路にわたって拡散的に作用してシナプス変化を促進するという点で、神経調節システムに類似しています。

\ 価値システムは、研究所がニューヨーク市のロックフェラー大学キャンパスにあった時代に、カール・フリストンがNSIで行った理論的研究で初めて探求されました[10]。すべての脳ベースのデバイスには、行動を形成し、予測された価値と観察された価値の間の関連性を構築するための価値システムが装備されていました[11]。エーデルマンは、価値が空腹、恐怖、報酬など、行動するエージェントにとって顕著な他の信号の中でも特に重要であると指摘しました。

\ 3.4 表現型

\ NSIで作成されたロボットプラットフォームの場合、表現型は特定のデバイスの物理的設計で構成されていました。特に、それはロボットの形状や形態、およびオンボードセンサーのレイアウトとタイプでした。ダーウィンシリーズの自動機械は基本的な形状を持っていました。特に、すべてが車輪付きロボットでした。しかし、比較的シンプルな外部設計にもかかわらず、聴覚、視覚、味覚、触覚のための幅広いセンサーを備えていました。ダーウィン自動機械の後期バージョンには、全方向車輪や関節式の腕や脚が含まれていました。

\ 興味深いことに、エーデルマンは表現型が柔軟であり、必然的に固有受容感覚を含む必要があると指摘しました。柔らかい材料と弾力性による柔軟性は生物学的システムの重要な特性です。固有受容感覚は、エーデルマンが信じていたように、自己と身体意識の概念につながるでしょう。これらの表現型は当時の私たちの設計の一部ではなく、追加のロボットプラットフォームへの組み込みを通じてさらに調査する必要がありました。また、エーデルマンが会議の終わりに触覚の重要性に立ち返ったことも注目に値します。図1と表1の最後の行を見ると、彼が「どんなセンサーでも構わないが、触覚フィードバックが必要だ」と言ったことを引用しています。

\ 3.5 運動制御

\ エーデルマンの意識理論は行動と意図された行動に非常に密接に結びついていました。したがって、彼の考えでは（そしておそらく会議に出席した人々の考えでも）、運動制御は意識を持つ人工物の創造に向けた重要なステップでした。特に、エーデルマンは遠心性コピーと身体感覚について言及しました。すべての行動の後、運動指令のコピーが神経系にフィードバックされます。これは「運動遠心性コピー」と呼ばれます。脳は運動遠心性コピーを使用して、生成された行動が期待される感覚刺激と期待される身体位置をもたらすかどうかを確認します。このようにして、エージェントは身体感覚を生み出す可能性があります。

\ また、エーデルマンが基底核（私のメモではBG）を運動制御の重要な側面および意識の重要な機能的解剖学的特徴として取り上げたことも注目に値します。したがって、意識を持つ人工物を達成するための重要なステップは、基底核機能を組み込むことです。基底核は行動を選択し、推定される運動シーケンスを生成します。私のメモには「原始構文」と書きました。エーデルマンは、行動選択と行動の順序が言語への最初のステップであると考えていました。彼は言語が行動と運動制御に根ざしているという考えの強力な支持者でした。

\ 3.6 学習と記憶における一般化

\ この頃、NSIの研究者たちは海馬と長期記憶の洗練されたモデルを構築していました[12, 13]。しかし、これらのモデルは脆弱でした。それらは、あるタスクから別のタスクへの情報転送ができないこと、および一般化能力の欠如に悩まされていました。今日に至るまで、転移学習と一般化がAIシステムを制限し続けていることは興味深いと思います。さらに、一生の経験を通じて学習する能力は、現在の人工システムの手の届かないところにあります。

\ 3.7 コミュニケーション

\ 意識を持つ人工物を実証するために非常に重要なのは、何らかの形の正確な報告です。言語の前に、報告は脳ベースのデバイス間のコミュニケーション（図1のBBD <–> BBD）によって実現できます。エージェントが自分の意図と状態を別のエージェントに報告することで、そのエージェントは自己認識の程度を示しています。また、意識、特に自己認識（または高次の意識）は、単一のエージェントでは観察できない可能性があると推測することも興味深いです。むしろ、それは社会的相互作用を必要とするかもしれません。

\ 3.8 思考

\ 残念ながら、このステップについて追加することはあまりありません。ここでエーデルマンが精神的シミュレーションと想像力を暗示していたと推測するしかありません。これはダイナミック・コア理論の予測であり、視床-皮質セクションで簡単に説明され、エーデルマンの著作でより詳細に説明されています。

\ 3.9 言語

\ 再び、報告は意識を持つ人工物を作成するための重要なステップとして取り上げられています。しかし、エーデルマンは、コミュニケーションステップで説明されているように、言語がコミュニケーションよりも明らかに洗練されていることを明確にしています。言語は感情、思考、意図、行動に満ちているため、微妙なニュアンスがあります。エーデルマンが考えていた言語は、意識を持つ人工物に具現化されたものとして、自然言語処理やチューリングテストに合格するだけのはるか先のものであると言っても安全でしょう。言語による正確な報告は、エージェントが身体感覚と自己に密接に結びついた高次の意識の形態を持っていることを示す必要があります。

\ 3.10 幼稚園

\ チューリングの理論と発達ロボット工学の分野と同様に、エーデルマンは上記のすべてを達成するために、意識を持つ人工物は一種のカリキュラムに従う必要があると提案しました。特定のシミュレーションの初期化時にこれらの特性をすべて読み込むのは多すぎました。そしてより重要なことに、意識は個人の経験に結びついています。ここで経験からの学習と記憶が非常に重要になります。さらに、コミュニケーションと言語は、教師や世話人と対話するために必要であり、自分の意図と状態を報告することも言うまでもありません。

\ 3.11 その他のメモ

\ 会議の終わりに向けて、いくつかの実用的な問題が提起されました。当時の制限要因の1つは計算能力であり、これは今日も制約として残っています。私のノートに引用した「必要な最小ニューロン数」が何を意味するのかわかりません。それは計算能力と同等と見なすことができます。あるいは、疎性とエネルギーに関連している可能性もあります。生物学によって課される代謝的制約は、NSIでの内部会議中にエーデルマンがしばしば再訪したトピックでした。

\

:::info 著者：

Jeffrey L. Krichmar、認知科学部、コンピュータ