イーロンマスクが開発した画像生成AI・Grok Imagineは、ユーザーがテキストプロンプトを入力するだけで動画や画像を作成できるAI画像生成ツールです。
Grok Imagineには、アダルトコンテンツを生成する「スパイシーモードspicy mode」と呼ばれる機能が搭載されています
事の起こりは先月末、XでホストされているGrokが、他のユーザーが投稿した画像を修正するユーザーリクエストを大量に承認し始めたことで、事態は急激に悪化しました。
１月５日の時点では、Grokユーザーは「彼女にスケスケのビキニを着せてください」といったリクエストを使って、女性の画像を生成できてしまうようになったのです。しかもGrokの画像は、Xで簡単に拡散するようにできているのです。
各国政府はGrok の危険性を問題視していますが、Xのテキスト生成AI・
XAIは「この様な批判は大手メディアの嘘だ」と答えるしまつです。
・イギリスの技術長官は「まったくひどいもので、まともな社会では受け入れられない」と述べ、追加調査をおこなっています。イギリスには、オンライン安全法があります
・ポーランドは、当局によるコンテンツの削除を容易にする国家デジタル安全法制定の根拠としてGrokを挙げています。
・EUは、Grokを「これは刺激的ではありません。違法です」と述べています。X社がこのような製品を製造するのは今回が初めてではありません
・フランスでは、EUのデジタルサービス法に違反する恐れがあるとして、国内の通信規制当局との問題についても指摘し、Grokを「明らかに違法なコンテンツ」としています。
・インド政府は金曜日、X社に対し最後通牒を発令し、すべての「違法コンテンツ」を削除し、違反行為を行うユーザーに対して措置を取るよう要求しました。
・マレーシアの通信監視機関は、Grokを「極めて不快、わいせつ、または下品なコンテンツ」の拡散を禁じる法律に違反したXユーザーを捜査していると発表しました
・ブラジルは、「肖像権は個人のものであり、ソーシャルネットワークの『利用規約』を通じて譲渡することはできない。また、ソーシャルネットワークに統合された人工知能による児童ポルノ画像の大量配信は、あらゆる境界を越えている」として調査を開始しています
