人工智能(AI)的快速发展带来了令人兴奋的可能性,但同时也带来了令人担忧的风险。其中一个主要担忧是AI系统,特别是像ChatGPT这样的大型语言模型,可能会大规模生成高度令人信服的虚假信息并操纵人类行为。

这些AI系统可以创造出似是而非的叙述和虚假证据,使得即使是专业编辑也越来越难以区分真伪。ChatGPT制造关于一位真实教授的性骚扰丑闻的例子突出了这些系统传播虚假信息的令人担忧的潜力。

另一个问题是许多AI模型存在固有偏见,正如一个例子所示,该系统为一名女性推荐了与时尚相关的工作,而为一名男性推荐了工程相关的工作。这种偏见可能会助长有害的stereotypes,并损害这些技术应该努力实现的公平性和包容性。

此外,AI能力的快速发展,如设计化学品和潜在化学武器的能力,也引发了严重的滥用担忧,需要建立健全的治理框架。

为了缓解这些风险,需要采取双管齐下的方法。首先,在技术层面上,需要调和符号AI和神经网络的优势。通过结合这两种方法,可能能够开发出更加真实可靠的大规模AI系统。

其次,建立一个全球性的、非营利性的、中立的AI治理组织至关重要。这个组织将解决目前缺乏治理和研究工具来理解和管理AI日益增长的风险的问题。它可以为负责任的AI发展和部署制定准则,包括安全评估和分阶段推出的要求,类似于制药行业。

这个组织的研究部门也将是至关重要的,因为它将致力于开发必要的工具和指标,以衡量虚假信息的范围和增长,以及大型语言模型对此问题的具体贡献。

实现这一愿景将需要各利益相关方,包括政府、科技公司和广大公众的合作和承诺。最近的一项调查显示,91%的人同意应该谨慎管理AI,为这一努力奠定了坚实的基础。

通过采取主动措施来应对失控AI带来的紧迫风险,我们可以努力实现一个未来,在这个未来,这些变革性技术的利益将以负责任和道德的方式得到利用,保护个人和社会整体的福祉。