イーロン・マスクのGrokでは禁止されたはずの性的画像が依然生成可能との報道、カリフォルニア州司法長官はGrokのxAIに業務停止命令

X上に投稿された女性や子どもの画像を、Grokを使って性的な画像に改変するという事例が多発し、世界中で問題となっています。これを受け、開発元のxAIはGrokで画像の被写体を水着化・下着化・ヌード化することを禁止したのですが、依然として性的ディープフェイクが作成できるとThe Guardianが報じました。Grokの性的ディープフェイク生成問題を受け、カリフォルニア州司法長官事務所はxAIに対する調査を開始したことを発表しています。

gigazine.net · GIGAZINE