看起來谷歌最新的人工智慧努力一直受到一些重大問題的困擾,這從他們的人工智慧在直接通過谷歌搜索進行查詢時提供的許多令人擔憂的回應中可以看出。

人工智慧提供的一些有問題的建議包括:

• 建議在披薩醬中添加無毒膠水,使起司粘附得更好。
• 聲稱1919年是20年前。
• 建議孕婦每天吸2-3支香煙。
• 聲稱將狗留在炎熱的汽車裡是安全的。
• 編造關於海綿寶寶虛構角色死亡的細節。
• 提供一個複雜的多步驟過程來確定一個人有幾個姐妹。

這些人工智慧生成的回應不僅不準確,而且在許多情況下如果被採納可能會造成積極的危害。看來谷歌的人工智慧在直接查詢時難以提供可靠、真實的信息,這引發了人們對將這種技術整合到核心搜索功能的安全性和可靠性的嚴重擔憂。

雖然谷歌聲稱他們最近GPT-4演示中使用的聲音不是斯嘉麗·約翰遜的,但相似性引發了爭議和對他們做法的質疑。該公司與新聞集團的合作也引發了人們對潛在偏見的擔憂,儘管谷歌表示現有的訓練數據是主要問題,而不是新的內容訪問。

總的來說,這些事件突出了隨著人工智慧系統被更深入地整合到日常服務中,需要進行嚴格的測試、監督和透明度的關鍵需求。谷歌將需要迅速解決這些問題,以維護用戶的信任並確保其人工智慧驅動產品的安全性。

人工智慧公司OpenAI的超級對齊負責人楊洛已經離開了公司。在推特上的一個帖子中,楊洛表達了對OpenAI優先事項的擔憂,稱他「很長一段時間一直在與OpenAI領導層就公司的核心優先事項存在分歧」。

楊洛認為,OpenAI應該將更多精力投入到「為下一代模型的安全監控、準備、安全性、對抗性強健性、超級對齊、保密性、社會影響等相關主題做好準備」上。他擔心這些關鍵的研究領域已經被「閃亮的產品」所取代。

楊洛的離職發生在OpenAI首席科學家Ilya Sutskever不久前離職之後。雖然Sutskever是在良好的條件下離開的,但楊洛的離職似乎更具爭議性,暗示批評公司的OpenAI員工可能會面臨後果,如喪失已歸屬的股權。

OpenAI的CEO Sam Altman承認了楊洛的擔憂,並表示公司致力於解決這些問題。然而,這種情況突出了人工智慧社區內部關於創新和安全平衡的持續辯論。

隨著先進人工智慧系統的發展,優先考慮安全性和與人類價值觀的一致性變得越來越關鍵。楊洛從OpenAI的離職突出了人工智慧公司需要保持對這些關鍵問題的強烈關注。

據報導,OpenAI最近展示的GPT-4演示中使用了一種非常類似電影「她」中女演員斯嘉麗·約翰遜的聲音。顯然,OpenAI曾經聯繫過約翰遜,想使用她的聲音,但她拒絕了。然而,OpenAI聲稱他們聘請了一位聲音與約翰遜很相似的配音員,這從未是他們的本意。

這引發了爭議,許多人認為OpenAI只是找到了一種方式使用一位聲音類似約翰遜的配音員,儘管他們被拒絕使用她的實際聲音。雖然OpenAI堅稱他們沒有複製約翰遜的聲音,但公眾似乎更站在這位女演員一邊,認為這是一個灰色地帶。

關鍵要點如下:

• OpenAI曾聯繫過斯嘉麗·約翰遜,想使用她的聲音,但她拒絕了。
• OpenAI聲稱他們聘請了一位聲音恰好很相似的配音員,並非有意複製約翰遜的聲音。
• 許多人認為OpenAI找到了一種方式使用一位聲音相似的配音員,儘管他們被拒絕使用約翰遜的實際聲音。
• 這是一個有爭議的灰色地帶,公眾更多地站在約翰遜一邊。

總的來說,這一事件引發了人們對人工智慧聲音生成的倫理和透明度的質疑,特別是在未經同意使用與真人聲音高度相似的情況下。

OpenAI最近宣布與新聞集團建立合作關係,為他們提供主要新聞和信息出版物的內容。這引發了人們對OpenAI的語言模型,特別是ChatGPT,可能會引入偏見的擔憂。

然而,事實是,來自新聞集團的內容很可能已經被納入ChatGPT的訓練中,而這種合作只是提供了一種更加合乎道德和透明的方式來獲取這些數據。現有訓練數據中的偏見不太可能會被這項新協議大幅改變。

儘管新聞集團以其更極端的政治傾向而聞名,特別是通過其福克斯新聞部門,但這對ChatGPT的輸出的影響預計不會太大。該語言模型已經被訓練了大量的在線數據,很可能包括來自各種新聞來源的內容,包括左翼和右翼。

與新聞集團的合作只是為OpenAI提供了合法使用這些內容進行未來訓練的許可,而不是依賴可能存在偏見或不完整的數據來源。這種向透明和合乎道德的數據獲取方式的轉變是一個積極的步驟,即使對ChatGPT輸出的實際影響可能有限。

總的來說,雖然與新聞集團的合作引發了關於潛在偏見的合理擔憂,但事實是ChatGPT的輸出很可能已經受到各種新聞來源的影響,包括政治傾向和質量。這種合作更多是關於正式化和合法化所使用的數據來源,而不是在語言模型中引入重大的新偏見。

這更多屬於謠言範疇,但這是一個值得討論的說法。根據Mac Daily News網站的報導,有一個關於蘋果將與OpenAI合作的傳聞,並將在WWDC上宣布。

Bloomberg也報導了這一消息,但目前尚未得到蘋果或OpenAI的確認。目前的傳聞是,下一代iPhone上的新版Siri可能會由OpenAI最新的GPT模型驅動。

我們也聽說蘋果一直在與谷歌就將Gemini,另一個大型語言模型,整合到他們的產品中進行談判。但是,我們要等到WWDC活動才能確定最終結果。

如果這一傳聞是真的,而蘋果最終將OpenAI的模型整合到Siri中,這可能會顯著提升Siri的功能。OpenAI的語言模型,如GPT-4,在各種任務中都表現出了令人印象深刻的性能。將這些模型整合進來可能有助於使Siri更具對話性、知識性,並能更好地理解和回應自然語言查詢。

同時,也可能會出現由OpenAI模型引入的潛在偏見或局限性的擔憂。蘋果將需要仔細評估並解決任何此類問題,以確保Siri保持可靠和值得信賴的助手地位。

總的來說,蘋果與OpenAI合作用於Siri的傳聞是一個引人入勝的消息,我們將拭目以待是否會在即將到來的WWDC活動上得到證實。與任何傳聞一樣,在得到官方確認之前,最好還是保持謹慎態度。

在西雅圖舉行的Microsoft Build活動上,這家科技巨頭推出了幾項令人興奮的新功能和更新:

1. Co-Pilot PCs: Microsoft推出了「Co-Pilot PCs」- 配備專用神經處理單元(NPU)以在本地運行AI推理的電腦,使用戶能夠與AI助手互動而無需依賴雲端。

2. 回憶功能: 推出了一項名為「回憶」的新功能,允許用戶查看整個電腦使用歷史,包括瀏覽、應用程式等。然而,這一功能引發了隱私問題,因為如果設備丟失或被盜,可能會暴露敏感數據。

3. Microsoft Paint升級: Microsoft Paint獲得了AI驅動的增強功能,包括生成圖像、改善草圖和重塑現有圖像的能力。

4. Edge瀏覽器改進: Microsoft Edge瀏覽器獲得了新的翻譯和轉錄功能,能夠在視頻通話和會議期間提供實時語言翻譯和轉錄。

5. Teams的Co-Pilot: Microsoft推出了一個可集成到Microsoft Teams的AI「團隊成員」,可以協助完成諸如創建清單和會議摘要等任務。

6. F3語言模型: Microsoft宣布了一個名為「F3」的新多模態小型語言模型,這可能會被專家與其他大型語言模型進行比較。

7. GitHub Co-Pilot擴展: Microsoft擴展了GitHub Co-Pilot的功能,增加了與各種開發工具的集成,以及創建自定義私有擴展的能力。

總的來說,Microsoft的Build活動展示了該公司繼續將AI技術整合到其產品和服務中的持續重點,旨在提高生產力和用戶體驗。

人工智慧領域最近的發展相當引人注目。從谷歌的AI失誤到OpenAI關鍵人物的離職,這個行業一直充滿著新聞和爭議。

谷歌的AI搜索結果引發了人們對AI系統可靠性和安全性的擔憂,該公司建議了像在披薩醬中添加膠水這樣的可疑解決方案。這突出了需要進行嚴格的測試和監督,以確保AI系統提供準確和安全的信息。

OpenAI超級對齊負責人楊洛的離職也引發了人們對該公司優先事項的討論。楊洛對OpenAI過度關注「閃亮的產品」而非安全和安全性的擔憂,是開發先進AI系統面臨挑戰的一個沉重提醒。

Microsoft在Build活動上的公告,包括推出Co-Pilot Plus PC和新的回憶功能,引發了興奮和隱私問題。雖然AI驅動的功能充滿希望,但回憶功能相關的潛在安全風險需要得到解決。

在AI藝術領域,Leonardo AI和Midjourney等平台不斷發展,引入了新的功能和協作工具。Adobe Firefly整合到Lightroom中也展示了AI驅動工具日益融入創意工作流程。

總的來說,AI格局保持動態和快速發展,既有進步也有挑戰。隨著技術的不斷發展,公司、研究人員和公眾將需要保持平衡和負責任的方法,確保AI系統的安全和道德發展。