根据OpenAI前董事会成员Helen Toner的说法,董事会在2022年11月ChatGPT发布前并未得到提前通知。由6名成员组成的董事会,包括CEO Sam Altman、总裁Greg Brockman和首席工程师Ilya Sutskever,是通过Twitter了解到ChatGPT的发布,而不是由公司领导层告知。

这一揭露引发了人们对OpenAI领导层内部透明度和沟通的质疑。尽管ChatGPT的底层技术GPT-3已被Jasper等多家公司使用,但半数董事会成员不知道发布时间,这表明公司内部缺乏协调和信息共享。

尽管有人认为ChatGPT是作为研究预览而推出,OpenAI并未预料到会引发如此大的公众反响,但董事会成员作为公司运营的监督者却被排除在外,这引发了人们对OpenAI决策过程和安全性重视程度的担忧。

这一事件,加上Yan Lecun离职以及有关不得贬低协议的曝光,进一步加剧了人们对OpenAI做法和优先事项的不安和不信任。

OpenAI最近的事态引发了人们对该公司开放性和透明度的重大担忧。几个关键点突出了这些问题:

1. 董事会缺乏意识: 根据前董事会成员Helen Toner的说法,董事会在ChatGPT发布前未得到提前通知。这表明领导层与监督董事会之间存在令人担忧的沟通和透明度缺失。

2. 股权回收条款: 泄露的文件显示,OpenAI制定了严格的股权回收条款,要求离职员工签署不得贬低协议。这种做法被批评为可能不道德和非法。

3. 解散对齐团队: Yan(OpenAI前对齐负责人)离职以及随后对齐团队的解散,引发了人们对公司致力于安全和负责任AI发展的质疑。

4. 安全委员会存在利益冲突: 成立新的安全和安全委员会,其中包括CEO Sam Altman,这被批评存在潜在的利益冲突,因为决策者可能从他们负责评估的技术中获利。

5. 数据来源的模糊性: OpenAI对用于训练其模型(如Sora和GPT-4)的数据来源保持回避,这种缺乏透明度引发了关于隐私和道德问题的担忧。

6. 斯嘉丽·约翰逊事件: 在GPT-4演示中使用类似斯嘉丽·约翰逊声音的争议,进一步突出了OpenAI需要更大透明度和问责制的必要性。

这些问题总体上描绘了一家可能将快速技术进步置于负责任和透明发展之上的公司的令人担忧的画面。随着AI格局的不断发展,像OpenAI这样的公司必须保持最高标准的开放性和道德实践,以维护公众信任,确保这些强大技术的安全部署。

在OpenAI对齐负责人Yan辞去职务,并表示与公司优先事项存在分歧后,OpenAI解散了对齐团队。这进一步引发了人们对公司致力于安全和负责任AI系统发展的担忧。

作为回应,OpenAI成立了一个新的安全和安全委员会,由董事Brett Taylor、Adam D'Angelo、Nicole Seigman和CEO Sam Altman领导。这个委员会的任务是就所有OpenAI项目和运营的关键安全和安全决策向全体董事会提出建议。

然而,这个委员会的构成引起了人们的关注,因为它包括CEO Sam Altman,他也负责公司的财务决策和产品发布。这引发了潜在的利益冲突,因为同一个人现在同时监管OpenAI技术的发展和安全。

解散对齐团队以及成立新的安全和安全委员会(包括Altman)的决定,进一步加剧了人们对OpenAI致力于安全和透明度的担忧。缺乏独立的外部监督这些关键问题,引发了人们对该公司应对开发先进AI系统固有危险的能力的质疑。

OpenAI的数据做法受到了审查,有报告称该公司使用了大量YouTube数据来训练其语言模型,包括GPT-4。首席技术官Mira Murati无法提供关于训练Sora模型所用数据的明确细节,这引发了人们对透明度的担忧。

此外,该公司还面临与女演员斯嘉丽·约翰逊的法律纠纷,她认为OpenAI未经许可使用了她的声音来创造GPT-4的Sky语音模型。虽然OpenAI声称该声音并非模仿约翰逊,但证据表明并非如此,CEO Sam Altman的推文还提到了电影《她》,该电影中使用了约翰逊的声音。

这些事件,加上像Yan这样的前员工提出的关于公司将"闪亮的产品"置于安全和对齐之上的担忧,进一步侵蚀了公众对OpenAI做法和决策过程的信任。由Altman和其他内部成员领导的新安全和安全委员会也因潜在的利益冲突而受到批评,因为该委员会的建议可能会受到公司财务利益的影响。

总的来说,这些事态发展引发了人们对OpenAI的透明度、数据使用和负责任AI发展的承诺的重大质疑,这很可能继续成为AI界讨论和审视的话题。

OpenAI最近的事态引发了人们对该公司的透明度、安全做法和领导力的重大担忧。关于董事会对ChatGPT发布缺乏意识、与前员工签订的不得贬低协议,以及新成立的安全和安全委员会存在潜在利益冲突等揭露,都加剧了人们的不安。

尽管OpenAI无疑取得了令人印象深刻的技术进步,但日益增多的证据表明,该公司可能将产品开发置于负责任的治理和安全措施之上。Yan(对齐负责人)的离职进一步突出了组织内部的紧张局势和分歧的优先事项。

随着AI格局的快速发展,像OpenAI这样的公司必须保持对透明度、道德实践和技术安全的坚定承诺。公众应该对这些强大AI系统背后的数据、流程和决策有一个明确和坦诚的了解。

未来,OpenAI需要正面应对这些担忧,实施强有力的外部监督,并展现出对负责任发展变革性AI技术的真诚奉献。只有这样,公众对该公司的信任才能得到完全恢复。