EUが人工知能の「キルスイッチ」導入へガイドライン…WEFもAI暴走へ対策を本格化

EUが人工知能の「キルスイッチ」導入へガイドライン…WEFもAI暴走へ対策を本格化


Posted date:2017.01.14


eu_ロボット_キルスイッチ

photo by European Parliament


 人工知能(AI)が、人類の生存を脅かす可能性があるという論議がまた高まっている。欧州連合(以下、EU)では、必要なときにロボットの機能を停止する「キルスイッチ(kill switch)」が必要という決議案が採択された。一方、世界経済フォーラム(以下、WEF)は、年次グローバルリスク報告書を発行。人工知能とロボティクスが、人間のコントロールできない範囲に達する危険性があると指摘した。

 まずEUは、ロボットを設計する際に、緊急時に動作を停止するためのスイッチを設置する必要があるという内容を含む決議案を採択した。決議案はまた、「キルスイッチ」とロボットのソフトウェアが設計どおりに動作しない場合、再プログラムすることができるようにすべきだとも付け加えている。

 Googleディープマインドとオックスフォード大学の科学者たちも、AIに対するキルスイッチを開発している。昨年の論文で「人間のオペレータが、大きな赤いボタンを押して、ロボットが有害な行動をしないようにすることが必要だと」と指摘している。

 EU議会司法委員会で可決されたその決議案は、ロボットに対するEUという枠組みでのガイドラインづくりを促すものと見られている。決議案は、ロボットの設計、製造、運用面でアイザック・アシモフが小説で書いた3つの「ロボットの原則」にならうとした。

 EU議会ではまた、洗練された自律ロボットの法的地位を「電子人間」(electronic persons)として定めるべきとも指摘。一方で、ロボットと人工知能関連の技術、倫理などの専門知識を持つ機構を新設することを提案した。本会議における同決議案の投票は、来月2月に行われる予定だ。

1 2

参照
wired
bbc.com
European Parliament
ft.com
WEF