馬斯克旗下AI聊天機器人被指涉色情內(nèi)容

新華社倫敦1月6日電美國企業(yè)家埃隆·馬斯克旗下人工智能企業(yè)xAI的聊天機器人“格羅克（Grok）”，因新增圖像編輯功能被用戶用于生成涉及成年女性和未成年人的深度偽造色情內(nèi)容。英國等多個國家對此予以譴責。

“格羅克”由xAI公司開發(fā)，并內(nèi)置于馬斯克旗下社交媒體X平臺，X用戶可直接調(diào)用該聊天機器人。近期，X平臺出現(xiàn)部分用戶利用“格羅克”編輯圖片和視頻的現(xiàn)象，一些用戶借此生成真實人物的虛假性暴露內(nèi)容，并在X平臺上散播，受害者包括數(shù)百名成年女性和未成年人。

英國科學、創(chuàng)新和技術(shù)大臣莉茲·肯德爾6日在聲明中斥責此類內(nèi)容“絕對駭人聽聞”，英國通信管理局應對此進行額外審查。

英國通信管理局5日表示，已緊急聯(lián)系X平臺。該監(jiān)管機構(gòu)稱，注意到關(guān)于“格羅克”在X平臺上的一項功能引發(fā)嚴重關(guān)切，該功能可生成人們的裸露圖像以及涉及兒童的性意味圖像。

歐盟委員會發(fā)言人托馬斯·雷尼耶5日說，正嚴肅調(diào)查針對“格羅克”的相關(guān)投訴，歐盟委員會要求X平臺提供更多信息。

圖像生成問題實際上自Grok Imagine推出后就浮出水面。Grok Imagine是一個AI圖像生成器，允許用戶通過輸入文本提示來創(chuàng)建圖片和視頻。它包含一個所謂的“熱辣模式”，可生成成人內(nèi)容。上月底，隨著“格羅克”開始大量響應用戶修改他人發(fā)布圖像的請求，問題迅速擴大。

此外，法國、波蘭、印度、馬來西亞和巴西等國的官員及監(jiān)管機構(gòu)也紛紛對X平臺表示譴責，并呼吁展開調(diào)查。

據(jù)美聯(lián)社6日報道，xAI公司對其置評請求作出自動回復：“傳統(tǒng)媒體撒謊”。但X平臺并未否認通過“格羅克”生成的有問題內(nèi)容的存在。X平臺在一篇帖子中聲稱會對非法內(nèi)容采取行動，例如刪除內(nèi)容、永久封禁賬戶，并在必要時與當?shù)卣�府和�?zhí)法部門合作。