アメリカでは、イーロン・マスク氏のAI企業であるxAI社の画像生成AI・Grokが、各地で訴訟をおこされています
特に被害を受けているのは、10代の少女たちです
楽しく懐かしい卒業写真を悪用して、xAI社の画像生成AI・Grokを使って性的なディープフェイク画像を作るだけではなく、被害者達の氏名、住所などの個人情報も公開しているのです。
ディープフェイク画像は、Discordで拡散されてしまい、ディープフェイク画像被害者の個人が特定されてしまったのです
xAI社の画像生成AI・Grokは、サービス開始から短期間で、約300万枚の性的画像を生成したと推定され、そのうち2万3000枚は子供を描いたものといわれています
イーロン・マスク氏やFaceBookのザッカーバーグ氏達のテック富豪たちは、AIが人類を変革し、超人的な力を発揮し、ひいては癌を治す可能性さえあると自慢げに語りますが、性的虐待コンテンツの氾濫には無力です
多くの批評家は、大手テック企業が発表するAIに対する規制は性的虐待の問題を解決するものではなく、単に会社がPR上の悪夢から利益を得ることを許し、状況に一時しのぎの対策を講じただけだといいます。
ニューメキシコ州の司法長官は、ソーシャルメディア企業が構築したアルゴリズムを特定しました。これらのアルゴリズムは、ユーザーが個別に投稿する内容とは別個のものでした。
テネシー州の訴訟では、画像生成AI・Grokはディープフェイク画像の共同制作者であると主張しています。なぜなら「このツールがなければ画像は存在しなかったから」と主張します
ニューメキシコ州の陪審は、Metaが安全対策についてユーザーを誤解させ、児童性犯罪者から若いユーザーを守らなかったとして、約600億円の賠償責任を負わせました
