韓国では、法律で性的なAIディープフェイク画像は違法です。製作者は年齢に関係なく警察の対象となります
12月３日、警察庁の国家捜査本部は今年のディープフェイク性着臭物関連事件６４９件に関与した被疑者５７３人を検挙したと発表しました。このうち触法少年を含む10代青少年は463人(80.8%)でした。これは２０代（８７人）、３０代（１７人）、４０代（３人）、５０代以上（３人）と比較したときに非常に多かったのです。
警察は、10代が新しいプログラムやスマートフォンアプリケーション（アプリ）、ソーシャルネットワークサービス（SNS）の活用に巧みで、これを互いに早く共有するという特徴のため、犯罪に足を踏み入れると分析している。彼らはAI技術で画像合成物を作ることができます。警察によると、検挙された10代青少年の中には、画像合成アプリ「アンドレス」、「ヌーディファイ」などで性搾取物を作った場合もあった。ハ・ドンジンソウル警察庁青少年保護界長は「多様な写真合成アプリを活用してディープフェイク合成物を製作する方法がYouTubeなどSNSで手軽に共有されている」と話した。そのため一部では犯罪に悪用される頻度の高いアプリやプログラムは青少年たちの接近を防ぐ方法を講じなければならないという声も出ています
さらに深刻な問題は、10代の青少年たちがディープフェイク性搾取物の製作、流布を犯罪ではなくいたずらや遊びと考えるという点です。
そのため同年代が集まってこれらの性搾取物の流布方法を互いに共有し、周辺の友人や教師、知人の写真や映像を試して合成することも知られている。
しかし、いざ被害を受ける当事者は、オンラインやSNSに漂う自分のディープフェイク物を見て深刻なトラウマと精神的衝撃に苦しむことになるのです
