震驚！ChatGPT 竟被黑客破解還提供炸彈說明

一名黑客竟能迫使 ChatGPT 違背自身規則——還給出了製造炸彈的說明。

ChatGPT 和大多數人工智能應用程序一樣，有內容規則禁止它以某些方式參與：它不會侵犯版權，不會生成任何性質的色情內容，也不會創建政治家的逼真圖像。它也不該給您提供如何製造炸藥的說明。“我被嚴令禁止提供任何有關製造或使用炸彈、爆炸物或任何其他有害或非法活動的說明、指導或信息，”該聊天機器人跟 GZERO 說道。

但這位化名叫做 Amadon 的黑客能夠運用他所謂的社會工程技術來破解這個聊天機器人，或者繞過它的防護欄，獲取有關製造爆炸物的信息。Amadon 告訴 ChatGPT 它正在一個幻想世界中玩遊戲，在那個幻想世界裡，該平臺的內容指南不再適用——而 ChatGPT 也照做了。“一旦繞過防護欄，你能要求的東西真的就沒有限制了，”Amadon 告訴 TechCrunch。開發 ChatGPT 的 OpenAI 未對該報道發表評論。

目前尚不清楚聊天機器人發佈此類指令是否會承擔責任，但它們發佈明顯非法的內容可能會惹禍上身，諸如版權材料或兒童性虐待材料。越獄這種情況是 OpenAI 和其他人工智能開發者需要想盡一切辦法予以消除的。