GoogleがAIを緊急停止させる”キル・スイッチ”を開発

GoogleがAIを緊急停止させる”キル・スイッチ”を開発

関連ワード:AI倫理 Google

Posted date:2016.06.10

人工知能_緊急停止
photo by androidheadlines.com

 Googleが強力な人工知能システムの暴走を防止するため、「キル・スイッチ(Kill Switch)」を開発しているようだ。

 グーグルは2014年に人工知能ベンチャー・ディープマインドを買収。同年にオックスフォード大学の人類未来研究所(Future of Humanity Institute)と提携している。両者は人間がAIに主導権を奪われないための方法を研究しているのだが、新たな論文では「人工知能が暴走した時、強制的に停止できる『キル・スイッチ』が必要である」と述べている。

 グーグル研究チームは、「人工知能は常に最善の行動を行うわけではない」と前置きした上で、「人工知能が人間の監視下で動きながら、万が一の事態には、危険な行動を強制停止する大きな赤いボタンを、人間が押す必要があるかもしれない」として緊急停止ボタン、つまりは「キル・スイッチ」の必要性を明かしている。

 このほかにも、人間が人工知能を何度でも確実に停止できるシステム構築の必要性を主張する声が、研究者たちの間に広がりつつある。人工知能を停止できる方法があれば、万が一、誤った行動をしても取り返しのつかない事態になることを避けられるほか、効率的に機能する方法を学んでいない時に、一時的に作業を中断させることも可能になるというのがその理由だ。

 もちろん現段階でも人工知能を中断させることは可能である。しかし、常に人工知能が制御可能であるとは限らず、すべてのプログラムに有効かつ確実な制御システムが実現するかどうかは、いまだ不明だ。

 これまでビル・ゲイツやイーロン・マスク氏など、数多く著名人が「人工知能はやがて人類の脅威になり得る」と警鐘を鳴らしてきた。人工知能が100年以内に人間を凌駕するとして、人間と敵対する可能性も指摘され始めている。人類未来研究所は、昨年5月に行われたイベントで「人工知能が人間の知能と同レベルに達すれば、人間の能力をはるかに超えたスーパーインテリジェントになるまで、そう長くはかからないだろう。人間の知能レベルになるまでは時間がかかるかもしれないが、その後の進化ははるかに速いはずだ。」と話している。

 いまや、急速に広がる人工知能の開発は、一般の人には知ることができない未知の領域になりつつある。技術の研究もさることながら、このような人間と人工知能の関係性についての研究も、ロボティクスの発展において重要な役割を担っていくであろう。

参照
telegraph
wired
bbc.com