海納百川》建立防線 防止AI干預選舉（張瑞雄）

美國新罕布夏州將於23日舉行總統提名初選，不明人士以人工智慧技術假冒拜登語音，打電話呼籲當地選民不要參與投票，白宮已於22日證實該電話語音並非來自拜登本人。（摘自美國總統拜登社羣X）

近日，新罕布什爾州民主黨初選期間發生一起藉助AI技術進行的政治和選舉干預事件，引發了人們對此類技術被錯誤運用的擔憂。

事件中，選民收到了一個冒充拜登總統聲音的自動撥號電話，內容勸說民主黨人不要在初選中投票，要「把選票留到11月的大選中使用」。調查顯示，這個電話顯然是利用AI語音合成技術，模擬並生成了拜登的聲音。新罕布什爾州檢察長辦公室發表聲明說，這似乎是一次非法的、試圖干預選舉和壓制選民的行爲，他們將對此展開調查。

這一行爲也引起了國會議員的高度關注，他們認爲隨着生成式AI技術的發展，利用數位生成的聲音和影片進行政治宣傳和選舉干預的行爲將會增加，這將對美國2024年總統大選和世界的其他選舉產生重大影響。因此議員們已經提出了多項法案，要求政治廣告中使用AI生成內容需要進行標記，或者直接禁止在某些場景應用，不過這些法案都需要聯邦選舉委員會來推動實施，委員會主席最近表示，希望在今年夏天之前解決這些問題。

新罕布什爾州事件並非AI應用干預選舉的首次，前陣子共和黨全國委員會就利用AI技術，生成了模擬拜登聲音的廣告，遭到民主黨的譴責。此外也有其他候選人也利用AI生成的聊天機器人在網路上進行宣傳，若不加管理未來恐怕如雨後春筍。

目前美國在缺乏聯邦層面規範的情況下，已經有數十個州提出了地方法律，以應對AI可能給選舉帶來的風險，但這顯然還不夠，很多公民利益集團都在遊說聯邦政府要趕快制定相應法規。

除了選舉舞弊，AI生成的內容也正在助長新的詐騙形式，例如利用語音合成技術冒充受害者向其家人索取贖金等。更嚴重的是，這種技術也可用於模擬企業老闆的聲音，讓財務人員被騙進行非法轉賬。

爲應對AI的負面影響，科技公司正在嘗試透過嵌入數位浮水印等方式標記AI生成內容，但最新研究表明，這些措施很容易被破解。Getty Images（一家世界性的圖片供應商）公司總裁認爲，我們需要建立一個加密標準，在可信任的數據庫中保存圖片的加密資料，從而建立圖像的可靠來源證明，但這也許還是有缺陷，所以需要更好的技術解決方案。

AI尤其是生成式AI等技術正在推動我們進入一個「不真實的新時代」，它帶來的負面影響，如政治宣傳和選舉干預、詐騙等，已經初步顯現。我們急需建立科技和法規雙重防線，推動這項技術向更有益的方向發展，才能讓AI爲人類創造價值，而不是造成一個虛虛實實、真真假假，真假虛實無法分辨的社會。（作者爲臺北商業大學前校長、叡揚資訊顧問）

※以上言論不代表旺中媒體集團立場※