馬斯克允許上傳AI機器人Grok生成圖像 名人偽照在X平臺上氾濫

聊天機器人Grok允許用戶根據文字提示，由AI生成圖像併發布到X社羣平臺；前總統川普、副總統賀錦麗等公衆人物僞造照片或圖像，已在X平臺氾濫。(路透)

由馬斯克(Elon Musk)旗下人工智慧新創公司xAI創建的聊天機器人Grok， 13日開始允許用戶根據文字提示，創建出人工智慧AI生成圖像並將它們發佈到X社羣平臺。包括前總統川普、副總統賀錦麗乃至馬斯克本人在內的公衆人物僞造照片或圖像，立即在X平臺氾濫，有些甚至被塑造成參與911攻擊事件等令人不安的逼真畫面。

美國有線電視新聞網(CNN)測試Grok之後報導指出，Grok和其他主流生成式AI圖像工具最大的不同，在於Grok似乎沒有任何防護界線；使用者可以很輕易要求Grok生成幾可亂真的政治人物或名人虛構圖像。

總統大選在即，包括立法者、民間團體甚至科技領袖都發出警告，指出濫用此類AI工具、在網路傳播大量虛假或誤導性訊息，可能會誤導選民，造成混亂，情況益發讓人擔憂。

例如，X平臺有一篇被瀏覽近40萬次的貼文，是一名用戶分享一張由Grok創建的圖片，顯示川普從卡車車頂探出身來、拿着步槍開槍。 與此同時，馬斯克14日在X發文大讚Grok，稱「Grok是世界上最好玩的AI」。

目前，許多其他主要AI公司已採取部分措施，防止其AI圖像生成工具被用來製造政治錯誤訊息；OpenAI、Meta和微軟(Microsoft)等公司還提供技術或標籤，幫助觀衆識別使用其AI工具製作的圖像。YouTube、TikTok、Instagram和Facebook等相互競爭的社羣平臺也已採取措施，在用戶的動態中標記AI生成內容。

CNN報導，xAI面對外界批評以及用戶創建和發佈令人不安的圖像，到了16日，似乎已對Grok設下一些限制。Grok現在拒絕創建出政治候選人或廣爲人知的卡通人物，因其智慧產權屬於其他公司；暴力行爲與仇恨言論符號的圖像，也不容許和這些人物圖像一起出現。不過，有些用戶指出，這些限制似乎僅限於某些用語和圖像主題。