《國際產業》AI將滅絕人類! 美政府調查：時間不多 必須立即出手

《CNN》報導，這份美國國務院委託Gladstone AI所做的研究在一年多以來對200多人進行採訪，其中包括ChatGPT母公司OpenAI、谷歌DeepMind、臉書母公司Meta等AI相關公司高層、網路安全研究人員、大規模殺傷性武器專家以及政府的國安官員。

該報告明確指出，在最壞的情況下，最先進的AI系統可能對人類構成「滅絕」等級的威脅。這個警告再次提醒人們，儘管AI的發展潛力持續吸引投資人和大衆投入，但也確實存在巨大的危險。

Gladstone AI執行長兼共同創辦人Jeremie Harris表示，AI已經成爲一項顛覆經濟面貌的技術，它可以讓我們治癒疾病、取得科學上的新發現，以及克服我們曾經認爲無法克服的挑戰，但它也可能帶來災難性的風險。包括全球重要AI會議上發表的實證研究與分析在內，越來越多證據顯示，在超越某個能力門檻之後，AI可能變得無法控制。

報告指出，AI將帶來兩個主要風險。首先，最先進的AI系統可以「武器化」，進而造成不可逆轉的破壞。其次，AI實驗室內部存在一些隱憂，可能在某個時候失去對開發中系統的控制，恐將對全球安全造成毀滅性的後果。

競爭壓力正促使企業以犧牲安全和保障爲代價來加速AI開發，這導致最先進的AI系統可能「遭竊取和武器化」用來對付美國的可能性升高。

通用AI和接近通用AI的技術發展將給美國帶來前所未見的災難性風險，一旦這些技術被武器化，將帶來相當於大規模殺傷性武器等級的風險。報告中舉例，只要下達一個簡單的口語或文字命令，如「執行一次無法追蹤的網路攻擊使北美電網崩潰」，就可能輕易造成這樣等級的後果。

Gladstone AI在報告中呼籲政府採取重大措施以應對這樣的威脅，包括設立新的AI監管機關、實施「緊急」監管保障機制，以及限制可用於訓練AI模型的電腦運算能力，報告指出，「顯然美國政府迫切需要出手干預」。

一位美國國務院官員向CNN證實這份報告的存在，但強調該報告不代表美國政府的觀點。白宮發言人Robyn Patterson對此表示，拜登總統與其副總統統將繼續與我們的國際夥伴合作，並敦促國會通過兩黨立法，以管理與這些新興技術相關的風險。