2025年末、X（旧Twitter）上に新たな、そして極めて悪質な「遊び」が蔓延した。
X社が誇る生成AI「Grok」の画像編集機能を悪用し、実在する女性の写真に対し「服装をビキニにして」などと指示。本人の同意なく性的な画像を生成し、それをリプライ欄に晒すという行為である。
ターゲットとなったのはアイドルやコスプレイヤー、そして一般の女性たち。被害者からは当然不快感と怒りの声が上がる。フランスやインドでは政府が動く事態にまで発展した。
なぜこんな機能がそもそも存在するのか。そしてなぜX社は、このあまりにも倫理観を欠いた機能を「さっさと止めない」のか。
本稿は、このGrokによる「性的加工」問題の深層を、X社のしたたかなビジネス戦略とイーロン・マスク氏の特異な思想から解き明かすレポートである。
第一章：何が起きているのか──性的嫌がらせの“自動化ツール”
問題の核心にあるのは、Grokの公式アカウントにメンションするだけで誰でも利用できる画像編集機能だ。
- その悪質な手口
- 加害者はターゲットとする女性が投稿した写真に対し、リプライ（返信）の形で「@Grok 服装を〇〇に変えて」と指示するだけ。
- するとGrokはその場で元画像を性的に加工し、誰でも閲覧可能なリプライ欄にその結果を投稿してしまう。
- これはもはや単なる悪質なコラージュではない。性的ハラスメントのプロセスがAIによって自動化され、そして加速させられているのだ。
- 広がる被害と警告
- 日本国内でもSTU48といったアイドルグループが公式に注意喚起を行うなど被害は深刻化。
- Xの日本法人も1月6日、「違法なコンテンツを作成しないよう」警告。違反者にはアカウントの永久凍結や法的措置も辞さないという姿勢を示している。
「ひえーっ！そんな恐ろしいことが起きてるんだブーか…。ボタン一つで他人の写真を勝手に裸にできちゃう、みたいなことなんだブーか…。これはもう遊びじゃなくて犯罪なんだブー…！」
第二章：X社が想定した「建前」──“大喜利”という名の、致命的な“想像力の欠如”
ではX社（イーロン・マスク氏）は一体どのような「平和的な使い方」を想定して、この危険な機能をリリースしたのだろうか。そこにはインターネットという「公道」の現実を見誤った、致命的な想像力の欠如があった。
- 建前①：「大喜利」と「ミーム（ネタ画像）」の加速
- 友人が投稿した真面目な写真に「ピエロの帽子をかぶせて」と指示して笑い合う。X（旧Twitter）特有の「リプライでふざけ合う文化」をAIで加速させる狙いがあった可能性。
- 建前②：クリエイティブなコラボレーション
- イラストレーターが描いた線画に「色を塗って」と指示する。ファッションのシミュレーションに使う。
- 根本的な欠陥：「そもそも失礼ではないか？」という視点
- しかしこれらのポジティブな利用シーンは全て、「当事者同士が親密である」あるいは「本人が自分の画像で楽しむ」という極めて限定的な善意の前提の上に成り立っている。
- そもそも他人が愛情や意図を込めて投稿したオリジナルの写真（著作物）を、第三者が許可なく勝手に改変し、それを公衆の面前（リプライ欄）に晒すという行為そのものが、性的か否かに関わらず著しく礼節を欠いているという、ごく当たり前の視点が決定的に抜け落ちているのだ。
- 悪意も混在するインターネットの公道で、見知らぬ他人にこのツールを渡せば何が起きるか。その想像力が欠如していたことは明らかである。
第三章：なぜ機能を止めないのか？──X社のしたたかな「本音」
「さっさと機能を止めればいい」。
このあまりにも当然の正論に対しX社が「警告」だけで済ませ、根本的な機能停止に踏み込まないその背景には、三つのしたたかな「本音」が透けて見える。
- 本音①：「検閲なきAI」こそが“Grok”の最大の“売り”だから
- ChatGPTやGeminiといった他社の競合AIは、リリース当初から倫理的な観点に基づき性的な画像の生成に対し極めて厳しい技術的な制限（ガードレール）を設けている。
- しかしイーロン・マスク氏はこれを「Woke（意識高い系）ウイルスに侵されている」と公然と批判。「Grokは表現の自由を守る検閲のないAIだ」とブランディングしてきた。
- ここで機能を厳しく制限することは、「結局他社と同じになった」と自らの敗北を認めることに等しく、彼のプライドがそれを許さないのだ。
- 本音②：「炎上」は「エンゲージメント（収益）」であるという思想
- Xのアルゴリズムは議論を呼びリプライが多くつく投稿を優遇する。
- 今回の騒動で皮肉なことにGrokの知名度は爆発的に上がり、X上の投稿数は増加している。「悪名は無名に勝る」という思想に基づき、法的に完全にアウト（逮捕者が出るなど）になるギリギリまでは、アクセス稼ぎの道具としてこの状況を静観する可能性がある。
- 本音③：有料プランへの背徳的な“餌”
- Grokの全機能を使うには有料のサブスクリプションプラン「X Premium」への加入が必要だ。
- 「他人の画像をいじれる」「きわどい画像が作れるかもしれない」というこの背徳的な機能は、結果としてモラルの低いユーザーを有料会員へと誘い込むための強力な「餌」として機能してしまっているという側面も否定できない。
「うわー…。そういうことだったんだブーか…。機能を止めちゃうと自分たちの負けを認めることになるし、炎上すればするほど儲かる仕組みになってるんだブーね…。ひどすぎるんだブー…。人の心を踏みにじってお金儲けしてるんだブー…！」
終章：技術者の“傲慢”と、失われた“想像力”
結論としてX社がこのあまりにも危険な機能を止めないのは、単なる技術的な問題ではない。
それは「技術で何ができるか」ばかりを考え、「それをされた生身の人間がどう感じるか」というあまりにも基本的な想像力を軽視した、開発者の傲慢さの現れである。
- 想定していた世界： みんなでワイワイ画像を加工して遊ぶ楽しい世界。
- そして訪れた現実： 性的嫌がらせ、侮辱、そして誹謗中傷の自動化ツール。
フランスやインドの政府当局が動き出した今、さすがのマスク氏も「警告」だけで済まされなくなる日は近いだろう。
人物の服を脱がすような指示をAIが拒否するといった、技術的な制限の導入は時間の問題だ。
しかしそれまでの間にも声なき被害者は生まれ続ける。
プラットフォームがその社会的責任を放棄する時、テクノロジーはいかに容易く暴力の道具となり得るのか。
我々は今、その最も醜い実例を目の当たりにしているのである。
コメント