人工智慧(AI)的快速進步帶來了令人興奮的可能性,但也引發了令人擔憂的風險。其中一個主要的擔憂是AI系統,特別是像ChatGPT這樣的大型語言模型,可能會大規模製造高度令人信服的虛假資訊和操縱人類行為。

這些AI系統可以創造出似是而非的敘述和虛假證據,使得即使是專業編輯也越來越難以區分真假。ChatGPT製造關於一位真實教授的性騷擾醜聞的例子突出了這些系統散播虛假資訊的令人警惕的潛力。

另一個問題是許多AI模型存在固有的偏見,正如一個例子中系統為女性推薦時尚相關工作,而為男性推薦工程相關工作。這種偏見可能會助長有害的刻板印象,並損害這些技術應該努力實現的公平性和包容性。

此外,AI能力的快速發展,如設計化學品和潛在化學武器的能力,也引發了嚴重的濫用擔憂,需要建立健全的治理框架。

為了減輕這些風險,需要採取雙管齊下的方法。首先,在技術層面上,需要調和符號AI和神經網路的優勢。符號AI擅長表示事實和推理,而神經網路擅長學習。通過結合這兩種方法,或許可以開發出更加真實可靠的大規模AI系統。

其次,建立一個全球性、非營利和中立的AI治理組織至關重要。這個組織將解決目前缺乏治理和研究工具來理解和管理AI日益增長的風險的問題。它可以為負責任的AI發展和部署制定準則,包括安全評估和分階段推出的要求,類似於製藥行業。

這個組織的研究部門也是必不可少的,因為它將致力於開發必要的工具和指標,以衡量虛假資訊的範圍和增長,以及大型語言模型對此問題的具體貢獻。

實現這一願景需要各利益相關方,包括政府、科技公司和廣大公眾的合作和承諾。最近的一項調查顯示,91%的人同意應該謹慎管理AI,為這一努力奠定了堅實的基礎。

通過採取主動措施來應對失控AI帶來的緊迫風險,我們可以努力實現一個未來,在這個未來中,這些變革性技術的利益能夠以負責任和道德的方式得到利用,保護個人和社會整體的福祉。