バンガロールの国際情報技術工科大（International Institute of Information Technology Bangalore、IIITB）による新たな研究で、研究者らが自律エージェント（autonomous agent、人工知能の高度な形式）が責任を持ってタスクを実行する上で役立つ、計算超越（Computational Transcendence）と呼ばれるモデルを考案した。

Researchers at IIIT-Bangalore develop model to teach drones and robots to be more responsible

自律エージェントとは、人間の介入なしにタスクを実行し、独立して動作できるドローン、ロボット、車両などのシステムまたは主体であり、その用途は医療、農業、モビリティなど、さまざまな分野で期待される。
たとえば、適応型交通信号機（adaptive traffic lights）が互いに通信を開始して交通をより適切に規制したり、サプライチェーンマネージャーに注文品を出荷するのに最適な時期を指示したりする場面で活躍が期待されている。

研究者らは、自律エージェントの行動がシステム内の人間や他のエージェントに直接影響を与える広範な適用性を考慮すると、それ自体の行動が他主体に与える影響を理解し、責任を持って行動する必要があると考えた。

「Computational Transcendence: A Model for Emergent Responsible Agency in Multi-Agent Systems（計算的超越性: マルチエージェントシステムにおける創発的責任エージェントモデル）」と題された研究論文は、IIITBの研究開発学部教授兼学部長であるSrinath Srinivasa氏と、2022年まで2年間、IIITBの研究員として在籍したJayati Deshmukh氏によって執筆され、今年8月に「AI and Ethics」誌に掲載された。

「自律エージェントの意思決定は成熟しているが、相互にやり取りする必要がある場合、依然として問題に直面している。たとえばサンフランシスコでは、多くの自律走行車が同時に駐車しようとして衝突や渋滞が発生するという事件があった。エージェントは通常、外部強化としてモデル化されるため、責任ある行動をエージェントにハードコードすることは困難とされている」Srinivasa教授は述べている。

その上でSrinivasa教授は、次のようにまとめている。
「人間の生来の責任とは、自分よりも力を持つものと自分自身を同一視する柔軟なアイデンティティの結果である。エージェントを使用してさまざまなアプローチを試したが、独自の超越的アプローチ（transcendental approach）が最も効果的だった。このモデルではエージェントに柔軟な自己意識を与え、システムの他の外部エンティティ（他のエージェントや抽象概念など）と識別できるようにする。エージェントはそれらを、自身の存在を超越した自己意識の一部と見なし、責任を持って行動する。
では、こうしたこエージェントが責任を持って行動すると何が起こるか。バンガロールはじめ多くの都市で見られる適応型信号機を考えてみると、信号機には同期感覚（sense of synchronisation）があり、設置されている交差点では効果的に機能する。一方で、都市内のすべての信号機を同期させるような大規模な運用では、それほど効果的ではない。そこに少しでも超越感覚（sense of transcendence）があれば、信号機は近隣の信号機と通信し、調整効率がより向上する。また、サプライチェーンの例で説明すると、注文を受けるとサプライヤーは通常、コストを削減するために一括で処理しようとする。つまり、他の注文がある程度まで積み重なるまで、顧客を待たせるか、すぐに出荷して利益を犠牲にするかというジレンマに直面する。超越性を備えた自律エージェントは、サプライヤーと顧客の両者にとって有利な状況を生み出す方法を決定できるよう支援する。」

著者らは、このモデルが、制約や義務の充足のためではなく、自己より大きなアイデンティティに基づいて責任を持って行動する、本質的に責任のある自律エージェントの設計と構築に役立つ有望な研究の方向性を提供すると考えている。

本日最も読まれている記事
1. 日本人と顔立ちがよく似た「セブン・シスターズ」北東部の女性、人種差別に立ち上がる Posted on 18 Mar 2017
2. 購入後半年で故障したフォッシルのスマートウォッチを巡る、意外な顛末 Posted on 16 Sep 2019
3. インドで人気の日本アニメは、このタイトル Posted on 15 Jun 2023
4. インディラ・ガーンディー国際空港ターミナル3の様子、機内食、その他あれこれ：写真編 Posted on 13 Oct 2018
5. インド中華に迷いそうになったら、ハッカヌードル食べ比べはいかが Posted on 26 Oct 2017

本日の練習