5月10日、英・ダラム（Durham）市警察が、容疑者の拘束が必要か否かを決定するために「犯罪リスク評価AI」を導入することが、各メディアによって伝えられた。
このたび導入されるのは、「ハート（Hart）」と呼ばれるAIシステムで、一種のリスク評価ツール（Harm Assessment Risk Tool）となる。容疑者および個人の犯罪の可能性を「低」、「中間」、「高」の三段階に分類する。警察は数ヶ月内にシステムを実戦配置し、その性能をテストする予定だとしている。
ハートは「拘束するか否か」という判断の他にも、様々な決定を下すことができる。例えば、容疑者の適正な拘禁期間はどのくらいか、長期的な拘禁が必要な人物なのか、適正な保釈金はいくらなのかなどだ。なお、ダラム警察は2008年から2013年の間に収集した犯罪記録などのデータに基づき、ハートを使って犯罪の重大性や容疑者の危険性を分析してきた。2013年に行われた最初のテストでは、低危険度な容疑者を予測する精度は98％、高危険度のそれは88％となった。
ハートは警察の業務効率を向上させるシステムとして注目される反面、データエラーなどにより、冤罪など人権侵害を招くことも懸念されている。昨年、非営利メディア・プロパブリカ（ProPublica）が発刊した調査報告書によると、ハートのようなリスク評価ツールには、重大な欠陥があることが明らかにされている。
例えば、現在、欧米諸国を中心に普及し始めているリスク評価ツールは、黒人を「将来の犯罪者」として判断する傾向が高い。一方、白人は低リスク、もしくは再犯リスクが低いと評価する傾向がある。つまりAIが、人種主義的な判断をする余地が残っているという指摘だ。フェイスブックやグーグルなど、大手IT企業のアルゴリズムも同様の問題に直面していることがある。
このような懸念に対し、ダラム警察は「テスト期間中のハートの決定は、ただアドバイザーの役割にとどまるだろう。他の数千の事例をともに分析し、最終的な結論に到達することになるだろう」と説明している。ハートが最終的な結論を下すにいたるまでの判断過程を追跡する「対ＡＩ監査システム」も構築される計画だ。
■関連記事
精度85％以上…人工知能が顔相から「犯罪予備軍」見分ける
Facebookより優秀な「顔認証技術」中国・メグビー…双子も見破り公安も活用
ポータブルで多目的「アシスタントドローン」Amazonが販売を計画!?
米ハッカーがテロ防止用の人口知能アプリ「iAWACS」を開発
photo by DAVID HOLT(via flickr)
