Grok遭印尼、馬來西亞封鎖 防AI生成色情影像 全球率先開鍘禁用

聊天機器人Grok先前因為其人工智慧（AI）圖片生成功能，允許用戶透過簡單指令便能將女性及兒童照片色情化，引發全球譴責。印尼政府10日暫時封鎖Grok，馬來西亞在隔天跟進，成為全球率先開鍘禁用的國家。兩國監管當局指出，Grok被用來生成色情露骨且未經同意的影像內容。

Grok因深偽性影像在全球引發反彈，雖然在上周已限制影像生成與編輯功能，僅供付費用戶使用，但外界批評，相關措施仍不足以徹底解決問題。

印尼通訊與數位部長穆迪雅（Meutya Hafid）10日發表聲明指出：「政府認定未經同意生成的深偽（deepfake）性影像嚴重侵犯人權、尊嚴及公民數位空間安全。」

馬來西亞通訊及多媒體委員會（MCMC）則表示，Grok屢遭濫用，被用來生成猥褻、色情露骨及未經同意的變造影像，包括涉及女性與未成年者的內容。

歐洲聯盟（EU）、英國、印度與法國在東南亞國家對Grok採取限制措施的同時，也正加強對Grok的審查。