AIのブラックボックスの解明…日本でも議論進む「説明可能な人工知能」

AIのブラックボックスの解明…日本でも議論進む「説明可能な人工知能」

Written by 河鐘基

Posted date:2017.12.21

加えてチェ教授は、「製造業の工場では多くのAI技術が活用されているが、いくらAIロボットが強化学習を通じて人の動きをコピーできたとしても、なぜそのように動くのか説明できなければ、重要なタスクを任せるのは難しい(中略)第4次産業革命の時代をリードできるよう人工知能をうまく利用するには、何よりも『説明可能な人工知能』が必要だ」と強調した。
日本の学界でも最近、「説明可能な人工知能=可読性のある人工知能」の重要性を説く識者は増える傾向にあるようだ。

「医療における診断にしろ、自動運転にしろ、産業用ロボットへの応用にしろ、ディープラーニングが高い成果を発揮するのは明らかだと思います。ただし、その力が認められ、広く利用されていくには人間の理解が必須となる。AIを盲目的に信じる世の中が来るが、人間が理解できるAIが生まれるのが先か。現在、その岐路にあるのではないでしょうか」(AI研究関係者)

人間には到底読み込めない膨大なデータを学習し、丁寧かつ親切に説明してくれる「優しい人工知能」は登場するのだろうか!? 研究の将来が気になってくる。

1 2 3