米国では、性転換手術を行い、性的アイデンティティを変えた（もしくは一致させた）人々が、人工知能（顔認識AI）に困惑させられるケースが増加。その詳細がメディアによって報告されている。
例えば、グーグルやフェイスブックなど大手IT企業が提供する写真関連のサービスは、顔認識AIを使ってタグ付けを“奨励”してくる。その作業は、性転換手術を受けた人々にとって非常にセンシティブなものとなる。というのも、顔認識AIは絶えず「写真は本人ですか」と、性的アイデンティティに対する質問を投げ続けるからだ。
性転換を行った人々は、手術以前の写真に対して「私ではない」というタグを付けたり、もしくは新しい名前をつける作業を強いられているという。性的アイデンティティを変化させた体験と同時に過去の記憶を持つ人々にとって、AIアルゴリズムはいささか気の利かないショップ定員のようだ。いちいち気に障るのだ。実際、一部のトランスジェンダーたちは性転換手術以前の写真を削除するなど対処することで、腹立たしい質問が止まない状況を避けているという。
問題は、人工知能が複雑かつ多様な人間の主体性を理解するという前提でつくられていないことだ。現在の人工知能は、「0」と「1」というデジタル的要素に則り、世の中をなるべく効率的に分類すること使命としている。またそのAIの普及スピードは加速している。そうなると、人工知能など技術を前にして、自身を説明し尽くすことができない人々が今後も増えることが確実だ。性転換手術を受けた人々だけにとどまらない、人間は基本的に多用かつ複合的な要素で成り立っているからだ。
人間の内面の多様性を理解し、より気の利いたアプローチを取れるAIは登場するのか。効率化とは対極にあるような、新たな設計思想や開発モチベーションが問われている。
Photo by Isi Parente on Unsplash
