AI技術を利用し、既存のポルノ映像を有名セレブや女性芸能人の姿と入れ替える「ディープフェイクポルノ」が急増するなか、米・英女優、韓国の女性芸能人が被害者となる割合が多いという統計が発表された。
オランダのサイバーセキュリティ企業・ディープトレースによれば、2018年12月、約7964個と集計されていたディープフェイクビデオが、2019年現在、84％増の1万4678個にまで増えたという。映像のうち96％はポルノとして消費されており、被害者としては、米・英の女優（46％）、次いで韓国芸能人やK-POP女性歌手（25％）が多かった。なお、ディープトレースの研究者たちは二次被害を防ぐために、被害者の名前は明らかにしない方針だ。
ディープトレースの調査分析部門で責任者を務めるHenry Ajder氏は、BBCの取材に対し「ディープフェイクに対する議論は大きく的を外れた（中略）同技術が登場した時、人々は政治的問題や詐欺犯罪が増加すると懸念したが、実際に問題となったのはポルノだった」と指摘している。
ディープトレースによれば、韓国芸能人やK-POPスターの顔を合成したディープフェイク動画のほとんどは、韓国ではなく中国で作られていることが分かった。実際、フェイクポルノを売買する闇市場が、AI先進国・中国で広がりをみせているとの報道もある。フェイクポルノの生成を請け負う業者は、オンラインで顧客を集客。WeChatやAlipayなどを通じて決済を受けた後、クラウドストレージなどのURLを送って商品を提供。700本の動画がセットになった商品が約158元（約2470円）で販売されていた事例もあったという。一方、顧客が選んだ芸能人や一般人の写真・動画を素材にし、カスタマイズされた動画を提供する業者も現れていて、とある業者の価格設定では1分あたり40元（約630円）ということが報じられている。
ディープトレース側も、女性の顔をさまざまな角度から写した写真が250枚あれば、二日以内にディープフェイクポルノを「カスタムメイド」することができると技術的背景を解説している。
ほとんどの国では、ディープフェイクの技術発展スピードに規制が追いつけていない状況だが、米国では厳罰化の流れも生まれつつある。バージニア州は、7月に米国で初めてディープフェイクポルノの拡散・共有を禁止した。性的写真や動画を、被害者の同意なしに流布するリベンジポルノを犯罪と規定し、その流布禁止対象を「操作された写真や映像」まで拡大。実質的にディープフェイクを犯罪対象に含めた。カリフォルニア州は、同意なしにつくられたディープフェイクポルノを製作・流通した者に、最大15万ドル（約1600万円）の損害賠償を請求できるよう最近になって法律を改正している。
Photo by DANNY G on Unsplash
