EUが人工知能の「キルスイッチ」導入へガイドライン…WEFもAI暴走へ対策を本格化

ロボティア編集部
ロボティア編集部

 一方、WEFの報告書では「AIシステムの意思決定の方法について完全に理解できないまま、システムに完全に依存することの危険性」が警告されている。特に軍事用ロボットの開発競争が起きていると指摘したのに続き「超知能(superintelligence)が、人類の生存を脅かす可能性がある」と憂慮を示した。

 マイクロソフトのビル・ゲイツ氏も昨年、「私も超知能については懸念を抱く方だ」と話したことがある。彼は「機械は私たちの仕事を多くの代わりを担っており、(現段階では)超知能ではないだろう(中略)私たちがよく制御する場合には肯定的(に作用するだろう)。しかし、数十年が経過すれば人工知能は心配するのに十分値する」とした。

 WEFの報告書は、AIが多くの分野で生産性と意思決定を向上させる可能性があるとしながらも、十分な制御が行われないケースには懸念を指摘した。

 レポートの著者の一人である、グローバルリスク&スペシャリティーズ(Marsh Global Risk & Specialties)の社長ジョン・ドジック(John Drzik)氏は、「人工知能はどのようにしても決定を下す。プログラムされる代わりに、パターン認識で学習することができる」と述べている。

 マシンラーニングの危険性は、昨年、マイクロソフトの「チャットボットがオンライン環境で学習し、人種差別的発言をしたことで注目された。ディープラーニングなどの技術は、人工知能がなぜそのような判断をしたか人間が理解することができない「ブラックボックス化」の問題が焦点となっている。

 一方、SNS・リンクドインの共同設立者リード・ギャレット・ホフマン氏、電子商取引企業・eBayの創業者ピエール・オミダイア氏らは、AIから社会を保護するファンドに合計2万ドルを寄付したとも報じられた。ホフマン氏は、「AIを社会に役立て、(一方で)被害を最小限に減らすことが必要」と寄付の理由を明らかにした。