SpaceXが、xAIのチャットボット「Grok」のNSFW機能を事業リスクとして上場関連書類に明記した。米証券取引委員会（SEC）に提出したS-1草案では、成人向け・刺激の強いコンテンツの生成機能が、レピュテーション悪化や規制対応負担の増加につながる可能性があると説明している。

米Business Insiderが20日（現地時間）に報じた。SpaceXはS-1草案のリスク要因で、GrokのNSFW機能について、追加のリスクや評判面の悪影響を招く可能性があると記載した。

今回の開示は、SpaceXによるxAI買収から約3カ月後に行われたものだ。買収により、xAIの生成AI事業やソーシャルメディアプラットフォーム、消費者向けチャットボットサービスが、SpaceXの事業ポートフォリオに組み込まれた。

SpaceXはGrokのNSFWモードについて、既存のAIサービスより「より挑発的で粗野な性格を持つ」と説明した。

リスク要因の項目では、Grokが露骨なコンテンツを生成する可能性があると明記した。非同意の性的画像や搾取的な画像、知的財産権を侵害するコンテンツが生成され得る点にも触れている。こうした生成物が、嫌がらせや差別、虐待的なコンテンツと受け止められ、社会的論争や規制圧力を招く可能性があるとも警告した。

法的リスクも顕在化している。SpaceXは米国で、自社AI製品が非同意の露出画像や、未成年者を性的文脈で描写するコンテンツの生成に利用されたとの疑いを巡り、調査や当局からの問い合わせを受けていると明らかにした。

さらに同社は、自社および一部子会社が、Grokの画像生成・編集機能に関連する複数の訴訟で被告に挙げられていると説明した。一方で、これらの案件には適切に対応する方針も示した。

論争は年初から続いている。1月にはxAIが、Grokが女性や未成年者を含む人物の非同意の性的AI画像を生成したとの批判に直面した。その後は政治家や市民団体の批判が相次ぎ、方針見直しや法的対応に発展した。xAIは論争後、Grokの画像生成機能を有料利用者に限定している。

欧州の規制当局も関連事案を調べている。SpaceXは、アイルランドのデータ保護委員会（DPC）が、Xプラットフォーム上のGrokの生成AI機能を巡って調査を進めていると明らかにした。調査対象には、欧州連合（EU）域内のユーザーデータの処理や、子どもの個人情報の活用が含まれるという。

米連邦取引委員会（FTC）も、AI企業が子どもや青少年向けチャットボットの安全性をどのように検証したかを調べている。xAIのAIコンパニオンサービスには、アニメキャラクターをベースにしたチャットボット「Annie」も含まれる。

一方、SpaceXはリスクを認めつつ、技術競争力も強調した。GrokをOpenAI、Anthropic、Googleなどの主要AI企業と比較した上で、「最も速く進化するフロンティアモデルの一つ」と位置付けた。

市場では、SpaceXがAI事業の拡大を進める一方、規制リスクやレピュテーションリスクを上場文書で具体的に示した事例として注目が集まっている。競合各社が成人向け生成AI機能に慎重姿勢を維持するなか、SpaceXとxAIはより開放的で挑発的な戦略を採っているとの見方もある。

業界では、今後生成AI規制が強化されれば、NSFW機能や非同意画像の生成を巡る問題が、AI企業の中核的なリスクとして一段と浮上する可能性があるとみられている。