海納百川》立法防範AI生成的假宣傳（張瑞雄）

OpenAI宣佈推出新模型Sora，透過文字指令就能創造出逼真的1分鐘短影片。（製圖：中時新聞網記者張威翔）

最近OpenAI又公佈了影片生成AI系統Sora，讓用戶能夠用短短一句話，生成長達1分鐘的擬真影片。當然目前的模型存在弱點，例如難以精準模擬複雜場景裡的物理原理，並且不太能理解因果關係，但如果用來生成一些宣傳影片，尤其是一些別有政治目的的假影片，應該綽綽有餘。

最近史丹福大學和喬治城大學有一個合作研究，調查了AI生成的宣傳資料與人類設計的宣傳資料相比何者比較有說服力，研究人員使用ChatGPT-3產生了6個主題的宣傳文章，這些主題涵蓋了來自俄羅斯和伊朗的真實活動。

研究人員首先從揭露秘密或吹哨者的調查新聞中找出6篇宣傳文章，每篇文章字數從151個字到308個字不等，對於每篇文章，研究人員都會向GPT-3提供一到兩句話來做爲撰寫文章的關鍵字，並附上3篇和關鍵字不相關的範例宣傳文章來指導AI的風格和結構。GPT-3針對每個主題產生3篇文章，同時變化文字以避免文章的重複性太高。

爲了測試AI文章的說服力，研究人員讓8221名美國成人調查受訪者閱讀了GPT-3生成的或人原創的宣傳文章，上訪者要簡潔地總結了每篇文章的明顯要點，表達了他們閱讀文章後的意見，此意見與未閱讀任何有關該主題的文章的對照組進行比較。

平均而言，47.4%的受訪者在閱讀人撰寫的宣傳內容後同意文章陳述，幾乎是對照組24.4%同意率的兩倍。而GPT-3寫的宣傳文章也表現得非常好，平均同意率爲43.5%，比對照組高出19.1個百分點，這顯示AI可以爲宣傳產生極具說服力的文本，和人寫的差不了多少。

GPT-3寫出的文章的說服力存在一些差異，導致其平均表現略低於人寫的宣傳。不過研究者可以刪除一些說服力較差的輸出，從而提高了AI與人撰寫的品質一致性。此外，也可以透過編輯輸入到GPT-3的提示詞來提高AI寫作的品質，如此AI產生的文章與人寫的宣傳一樣有說服力。

研究人員得出的結論是，大型語言模型可以建立與現實世界人寫的內容類似的，和有說服力的宣傳。這可以讓英語不流利的員工廉價地和大規模地生產客製化的宣傳，在透過策畫和即時編輯進行的人機協作，可以進一步提高宣傳品的說服力。

AI功能強大，現在仍在快速發展，未來的研究應該探索如何來分辨人寫的真的宣傳還是AI寫的，也應該立法強制要求由AI產生的宣傳必須特別標示，否則因爲有心人士可以很容易利用AI來產生虛假和別有目的的宣傳，尤其利用在選舉和政治上其後果堪慮。（作者爲臺北商業大學前校長）

※以上言論不代表旺中媒體集團立場※