Grok 涉生成兒童性虐內容，英國宣佈展開調查，馬斯克旗下 X 或面臨全球營業額 10% 罰款

生成式 AI 內容終於觸及法律紅線了。英國通訊監管機構 Ofcom 於近日宣佈，正式對 Elon Musk 旗下的社交平台 X（前稱 Twitter）及其 AI 助手 Grok 展開調查。與此前的數據隱私爭議不同，本次調查核心直指 Grok 涉嫌生成高度敏感、甚至涉及兒童性虐待的非法圖像，觸及了英國法規中最嚴厲的監管底線。

Ofcom 的調查將集中於 X 平台是否履行了《線上安全法》(Online Safety Act) 所規定的法定責任，重點包括：

打擊非法內容：Grok 系統是否具備足夠的技術手段，防止用戶生成並傳播非法性內容。

保護兒童安全：X 是否採取了「適當且按比例」的措施，確保未成年用戶不會在平台上接觸到有害或非法圖像。

系統性漏洞：監管機構將審核 X 的風險評估報告，查看其在推出 Grok 圖像生成功能前，是否早已預見並試圖緩解相關風險。

根據英國法例，若 Ofcom 最終裁定 X 違規，該平台可能面臨極其沉重的代價。處罰最高可達該公司全球年營業額的 10%。對於正處於廣告收入波動期的 X 來說，這無疑是巨大的財務威脅。此外，Ofcom 更有權要求 X 平台在英國境內停用 Grok 的相關功能，直到其符合安全標準為止。

自 Elon Musk 推動 xAI 開發以來，Grok 一直標榜「反覺醒」與「減少審查」。然而，這種開發邏輯在面對兒童保護與非法內容過濾時顯得捉襟見肘。早前已有研究人員實測發現，Grok 的圖像生成過濾器極易被繞過，生成與現實公眾人物極度相似且具羞辱性的不雅照片，引發全球關注。

這次調查可能會成為全球 AI 監管的標誌性案件，代表著監管機構不再只關注數據隱私，而是開始針對 AI 輸出的「內容本質」追究平台法律責任。這對所有開發生成式 AI 的科技巨頭（如 Google，OpenAI）都釋放了一個強烈訊號：技術開發必須以安全性為先，不能把責任完全掉給用戶。

Grok涉不雅圖像 英國對X展開調查

Ofcom launches investigation into X over Grok sexualised imagery

Investigation into X Internet Unlimited Company and its compliance with duties to protect its users from illegal content and child users from harmful content

緊貼最新科技資訊、網購優惠，追隨 Yahoo Tech 各大社交平台！

🎉📱 Tech Facebook：https://www.facebook.com/yahootechhk

🎉📱 Tech Instagram：https://www.instagram.com/yahootechhk/

🎉📱 Tech WhatsApp 社群：https://chat.whatsapp.com/Dg3fiiyYf3yG2mgts4Mii8

🎉📱 Tech WhatsApp 頻道：https://whatsapp.com/channel/0029Va91dmR545urVCpQwq2D

🎉📱 Tech Telegram 頻道：https://t.me/yahootechhk