根據前OpenAI董事會成員Helen Toner的說法,董事會在2022年11月ChatGPT推出前並未被提前通知。由6名成員組成的董事會,包括CEO Sam Altman、總裁Greg Brockman和首席工程師Ilya Sutskever,是在Twitter上了解到ChatGPT的推出,而不是由公司領導層通知。

這一揭露引發了人們對OpenAI領導層內部透明度和溝通的質疑。雖然ChatGPT背後的技術GPT-3已被Jasper等多家公司使用,但半數董事會成員不知道推出時間,這表明公司內部缺乏協調和信息共享。

論點是ChatGPT本意是作為研究預覽,OpenAI並未預料到會引發如此大的公眾反響,這提供了一些背景。然而,負責監督公司運營的董事會成員被排除在外,引發了人們對決策過程和OpenAI內部安全性優先性的擔憂。

這一事件,加上Yan Lecun離職以及有關不得貶低協議的爆料等其他最近事件,加深了人們對OpenAI做法和優先事項的不安和不信任感。

OpenAI最近的事件引發了人們對該公司開放性和透明度的重大擔憂。幾個關鍵點突出了這些問題:

1. 董事會缺乏意識: 根據前董事會成員Helen Toner的說法,董事會在ChatGPT推出前並未得到提前通知。這表明領導層與監督董事會之間存在令人擔憂的溝通和透明度缺失。

2. 股權回收條款: 洩露的文件顯示,OpenAI制定了激進的股權回收條款,要求離職員工簽署不得貶低協議。這一做法被批評為可能不道德和非法。

3. 解散對齊團隊: Yan(前OpenAI對齊主管)的離職以及隨後對齊團隊的解散,引發了人們對公司致力於安全和負責任AI發展的質疑。

4. 安全委員會存在利益衝突: 成立新的安全和安全委員會,其中包括CEO Sam Altman,這被批評存在潛在的利益衝突,因為決策者可能從他們被要求評估的技術中獲利。

5. 數據來源的模糊性: OpenAI對用於訓練其模型(如Sora和GPT-4)的數據來源保持神秘,這引發了人們對隱私和道德問題的擔憂。

6. Scarlett Johansson事件: 在GPT-4演示中使用類似Scarlett Johansson聲音的爭議,進一步突出了OpenAI需要更大透明度和問責制的必要性。

這些問題總體上描繪了一家可能將快速技術進步置於負責任和透明發展之上的公司的令人擔憂的畫面。隨著AI格局的不斷發展,像OpenAI這樣的公司必須保持最高標準的開放性和道德實踐,以維護公眾信任,確保這些強大技術的安全部署。

在Yan(OpenAI對齊主管)因與公司優先事項存在分歧而離職後,OpenAI解散了對齊團隊。這進一步引發了人們對公司致力於AI系統安全和負責任發展的擔憂。

作為回應,OpenAI成立了一個新的安全和安全委員會,由董事Brett Taylor、Adam D'Angelo、Nicole Seigman和CEO Sam Altman領導。這個委員會的任務是就所有OpenAI項目和運營的關鍵安全和安全決策向全體董事會提出建議。

然而,這個委員會的組成引起了人們的注意,因為它包括CEO Sam Altman,他也負責公司的財務決策和產品發布。這引發了潛在的利益衝突,因為同一個人現在同時監督OpenAI技術的發展和安全。

解散對齊團隊的決定以及成立新的安全和安全委員會(包括Altman),進一步加劇了人們對OpenAI致力於安全和透明度的擔憂。缺乏獨立的外部監督,使人們質疑公司在開發先進AI系統時應對固有危險的能力。

OpenAI的數據做法受到了審查,有報告指出該公司使用了大量的YouTube數據來訓練其語言模型,包括GPT-4。首席技術官Mira Murati無法提供有關訓練Sora模型所用數據的明確詳情,引發了人們對透明度的擔憂。

此外,該公司還面臨了與女演員Scarlett Johansson的法律問題,Johansson認為OpenAI未經許可使用了她的聲音來創造GPT-4的Sky語音模型。雖然OpenAI聲稱該聲音並非模仿Johansson,但證據表明並非如此,CEO Sam Altman的推文提到了電影《她》,該電影中使用了Johansson的聲音。

這些事件,加上像Yan這樣的前員工提出的公司將「閃亮產品」置於安全和對齊之上的擔憂,進一步侵蝕了公眾對OpenAI做法和決策過程的信任。由Altman和其他內部成員領導的新安全和安全委員會也因潛在的利益衝突而受到批評,因為委員會的建議可能受到公司財務利益的影響。

總的來說,這些事態發展引發了人們對OpenAI的透明度、數據使用和負責任AI發展的承諾的重大質疑,這很可能繼續成為AI界討論和審視的話題。

OpenAI最近的事件引發了人們對該公司的透明度、安全做法和領導力的重大擔憂。有關董事會對ChatGPT推出缺乏意識、與前員工簽訂的不得貶低協議,以及新成立的安全和安全委員會存在潛在利益衝突等揭露,都加深了人們的不安。

儘管OpenAI無疑取得了令人印象深刻的技術進步,但日益增多的證據表明,該公司可能將產品開發置於負責任的治理和安全措施之上。Yan(對齊主管)的離職進一步突出了組織內部的緊張局勢和分歧的優先事項。

隨著AI格局的快速發展,像OpenAI這樣的公司必須保持對透明度、道德實踐和技術安全的堅定承諾。公眾應該對這些強大AI系統背後的數據、流程和決策有一個明確和坦誠的了解。

展望未來,OpenAI需要正面應對這些擔憂,實施強大的外部監督,並展現出對負責任發展變革性AI技術的真誠奉獻。只有這樣,公眾對該公司的信任才能得到完全恢復。