世界各地でレイシズムが横行するなか、インド情報技術大学ハイデラバード校（IIIT-H）の研究チームは、Twitter上のヘイトスピーチを取り締まるシステムを開発した。
1950年、インド憲法の制定に伴い、カースト制度由来の差別が禁止された。ところが、半世紀以上経った今でも人々の心の中にはカースト制度が生きており、特に農村では不可触民や低地位の人々への差別や偏見が残っている。また、女性や黒人を蔑視する傾向にあり、女性へのレイプ事件が日常的に発生しているほか、最近ではナイジェリアの学生を襲撃する事件が起こった。インドの政治家らは依然としてこの現状に目をつぶっており、一向に対応策を講じようとしない。
そこで、この問題を対処すべく立ち上がったのが、同大学のヴァスデヴァ・ヴァルマ（Vasudeva Varma）教授および学生らだ。約1年間の月日をかけて、Twitter上に蔓延るヘイトスピーチに対応したディープラーニングの開発に取り組んだ。
教師付き学習（supervised learning）と呼ばれる機械学習の手法に準拠し、Twitter上の憎悪的なテキストを発見→学習の繰り返しを通じてアルゴリズムを構築。ツイート内容のみで特定の人種や女性を卑下するレイシストであるかどうかが判別され、攻撃的な内容を呟いた人に対して警告が出されるようになっている。問題のツイートをブロックするだけでなく、レイシズムの根本的原因でもある一般の感情を分析するのにも有用なツールであるという。
ヴァルマ教授は「アルゴリズムは人間の脳構造を模しており、人間による学習手法を真似ようとする仕組みとなっている」と、AIシステムについて説明している。
Photo by Taymaz Valley
