全球首富馬斯克麾下的人工智慧初創公司近幾天惹出新一輪禍事：聊天機器人「格羅克(Grok)」正因涉嫌生成非法色情內容遭遇全球調查。
據新華網介紹，近日，X平台出現部分用戶利用「格羅克」編輯圖片和視頻的現象，部分生成的內容可以假亂真。一些用戶藉此生成真實人物的虛假性暴露內容，並在X平台上散播。受害者包括數百名女性和未成年人。
法國巴黎檢方上周五確認，將擴大對X平台的既有調查，並納入新的指控：生成和傳播兒童色情製品。
當地時間周一，歐盟委員會發言人托馬斯·雷尼耶在新聞發布會上表示，歐委會正在「非常認真地調查此事」。
雷尼耶表示：「歐盟委員會非常清楚地意識到，X或『格羅克』目前正在提供一種所謂的『辣味模式』（Spicy
Mode），其中展示了露骨的性內容，而且部分輸出還生成了帶有兒童特徵的圖像。」
他也進一步炮轟稱：「這不是『辣味』，這是違法的。這是令人震驚、令人作嘔的。這就是我們的看法，這樣的內容在歐洲沒有任何立足之地。」
最新捅出的簍子，意味著X很有可能會面臨新一輪重罰。上個月，歐盟委員會以違反《數字服務法》為由，對X處以1.2億歐元的罰款。處罰涵蓋多項違規：其廣告資料庫在透明度和可訪問性方面均不合規，未按規定向符合條件的研究人員開放平台公共數據訪問許可權，以及將用來驗證用戶身份的「藍標」改成付費即可獲取。
對於最新事態，X和馬斯克的應對策略是強調「犯錯的是使用工具的人，而不是工具本身」。
X表示，平台會對非法內容採取行動，包括刪除資料、封號，並在必要時與執法機構展開合作。馬斯克也在周末的一條帖子中強調，任何使用「格羅克」製作非法內容的人，將面臨與上傳非法內容同樣的法律後果。
但毫無疑問，AI圖像生成工具未能對違法、犯罪行為實施有效攔截，本身就是重大失誤。在美國、英國、歐盟等國家和地區，未經同意發布AI生成的深度偽造私密影像是違法的，AI服務供應商也需要在AI工具的安全系統中劃定並嵌入法律的界限。
這一漏洞勢將面臨全球監管的仔細審視。
英國社交媒體監管機構通訊管理局（Ofcom）周一表示，已注意到有關「格羅克」功能的「嚴重關切」，並已與X和xAI進行「緊急溝通」，以了解它們為履行在英國保護用戶的法定義務已經採取了哪些措施。
與此同時，印度信息技術部要求對「格羅克」的安全防護功能進行全面審查；馬來西亞當局則表示，在收到有關「格羅克」輸出內容「下流」的投訴後，已就此展開調查。