据报道,谷歌最新的人工智能努力遭遇了一些重大问题,这从谷歌搜索直接查询时人工智能提供的众多令人担忧的回应中可见一斑。

人工智能提供的一些有问题的建议包括:

• 建议在披萨酱中添加无毒胶水,以使奶酪粘附得更好。
• 声称1919年是20年前。
• 建议孕妇每天吸2-3支香烟。
• 声称将狗留在热车里是安全的。
• 编造关于海绵宝宝虚构角色死亡的细节。
• 提供一个复杂的多步骤过程来确定一个人有几个姐妹。

这些人工智能生成的回应不仅不准确,而且在许多情况下如果被采纳可能会造成积极的伤害。看来谷歌的人工智能在直接查询时难以提供可靠、事实性的信息,这引发了人们对将这种技术纳入核心搜索功能的安全性和可靠性的严重担忧。

虽然谷歌声称他们最近GPT-4演示中使用的声音不是斯嘉丽·约翰逊的,但相似性引发了争议和对他们做法的质疑。该公司与新闻集团的合作也引发了人们对潜在偏见的担忧,尽管谷歌表示现有的训练数据是主要问题,而不是新的内容访问。

总的来说,这些事件突出了随着人工智能系统被更深入地集成到日常服务中,需要进行严格的测试、监管和透明度的关键需求。谷歌需要迅速解决这些问题,以维护用户的信任并确保其人工智能驱动产品的安全性。

OpenAI的超级对齐负责人Yan Luo已经离开了该公司。在Twitter上的一个帖子中,Luo表达了对OpenAI优先事项的担忧,称他"很长一段时间一直在与OpenAI领导层就公司的核心优先事项存在分歧"。

Luo认为,OpenAI应该将更多精力投入到"为下一代模型在安全监控、准备、安全性、对抗性鲁棒性、超级对齐、保密性、社会影响等相关主题上做好准备"。他担心这些关键的研究领域已经让位于"炫目的产品"。

Luo的离职发生在OpenAI首席科学家Ilya Sutskever离职之后不久。虽然Sutskever是在良好的条件下离职,但Luo的离职似乎更具争议性,暗示批评公司的OpenAI员工可能会面临后果,如丧失已获得的股权。

OpenAI的CEO Sam Altman承认了Luo的担忧,并表示公司致力于解决这些问题。然而,这种情况突出了人工智能界在创新和安全之间平衡的持续辩论。

随着先进人工智能系统的发展,优先考虑安全性和与人类价值观的一致性变得越来越关键。Luo从OpenAI的离职突出了人工智能公司需要保持对这些关键问题的强烈关注。

据报道,OpenAI最近展示的GPT-4演示中使用的声音与电影《她》中女演员斯嘉丽·约翰逊的声音非常相似。显然,OpenAI曾经联系过约翰逊,想使用她的声音,但她拒绝了。然而,OpenAI声称他们雇佣了一位声音恰好与约翰逊相似的配音员,从未打算复制约翰逊的声音。

这引发了争议,许多人认为OpenAI只是找到了一种使用听起来像约翰逊的配音员的方法,尽管他们被拒绝使用她的实际声音。虽然OpenAI坚称他们没有复制约翰逊的声音,但公众似乎更站在这位女演员一边,认为这是一个灰色地带。

关键点如下:

• OpenAI曾联系斯嘉丽·约翰逊使用她的声音,但她拒绝了。
• OpenAI声称他们雇佣了一位声音恰好相似的配音员,并非有意复制约翰逊的声音。
• 许多人认为OpenAI找到了使用听起来像约翰逊的配音员的方法,尽管他们被拒绝使用她的实际声音。
• 这是一个有争议的灰色地带,公众更倾向于支持约翰逊。

总的来说,这一事件引发了人们对人工智能语音生成的伦理和透明度的质疑,特别是在未经同意使用与真人声音高度相似的声音时。

OpenAI最近宣布与新闻集团建立合作伙伴关系,为他们提供来自主要新闻和信息出版物的内容。这引发了人们对OpenAI的语言模型(特别是ChatGPT)可能引入偏见的担忧。

然而,事实是来自新闻集团的内容很可能已经被训练进入ChatGPT,而这种合作关系只是提供了一种更加合乎道德和透明的方式来获取这些数据。现有训练数据中的偏见不太可能因这一新协议而发生重大变化。

虽然新闻集团以其更极端的政治倾向而闻名,特别是通过其福克斯新闻频道,但这对ChatGPT输出的影响预计不会太大。该语言模型已经接受了大量的在线数据训练,很可能包括来自各种政治倾向的新闻源,包括左翼和右翼。

与新闻集团的合作只是为OpenAI提供了使用这些内容进行未来训练的合法许可,而不是依赖可能存在偏见或不完整的数据源。这种向透明和合乎道德的数据获取方式的转变是一个积极的步骤,即使对ChatGPT输出的实际影响可能有限。

总的来说,虽然与新闻集团的合作引发了关于潜在偏见的合理担忧,但事实是ChatGPT的输出很可能已经受到各种新闻来源(包括政治倾向和质量)的影响。这种合作更多是关于正式化和合法化所使用的数据源,而不是在语言模型中引入重大新的偏见。

这更多属于谣言范畴,但这个说法值得讨论。根据Mac Daily News网站的报道,有一个关于苹果将与OpenAI合作的传言,并且这将在WWDC上宣布。

Bloomberg也报道了这一消息,但苹果和OpenAI都尚未确认。目前的传言是,下一代iPhone上的新版Siri可能会由OpenAI最新的GPT模型驱动。

我们还听说苹果一直在与谷歌就将另一个大型语言模型Gemini集成到他们的产品中进行谈判。但是,我们要等到WWDC活动才能确定最终结果。

如果这一传言属实,苹果最终将OpenAI的模型集成到Siri中,这可能会显著提升Siri的功能。OpenAI的语言模型,如GPT-4,在各种任务中都展现了出色的性能。将这些模型集成进来可能会使Siri更加自然对话、知识丰富,并能更好地理解和响应自然语言查询。

同时,也可能会出现由OpenAI模型引入的潜在偏见或局限性方面的担忧。苹果需要仔细评估并解决任何此类问题,以确保Siri保持可靠和值得信赖的助手地位。

总的来说,苹果与OpenAI合作用于Siri的传闻是一个引人入胜的消息,我们将拭目以待是否会在即将到来的WWDC活动上得到证实。与任何传闻一样,最好等待官方确认后再下定论。

在西雅图举行的微软Build大会上,这家科技巨头推出了几项令人兴奋的新功能和更新:

1. Co-Pilot PCs: 微软推出了"Co-Pilot PCs" - 配备专用神经处理单元(NPU)用于在本地运行AI推理的计算机,允许用户与AI助手交互而无需依赖云端。

2. 回忆功能: 推出了一项名为"回忆"的新功能,允许用户查看整个计算机使用历史,包括浏览、应用程序等。然而,这一功能由于可能会泄露敏感数据(如果设备丢失或被盗)而引发了隐私问题。

3. 微软画图升级: 微软画图获得了AI驱动的增强功能,包括生成图像、改善草图和重塑现有图像的能力。

4. Edge浏览器改进: Microsoft Edge浏览器获得了新的翻译和转录功能,能够在视频通话和会议期间提供实时语言翻译和转录。

5. Teams的Co-Pilot: 微软推出了一个可集成到Microsoft Teams的AI"团队成员",可帮助创建清单和会议纪要等任务。

6. F3语言模型: 微软宣布了一个名为"F3"的新多模态小型语言模型,这可能会被专家与其他大型语言模型进行比较。

7. GitHub Co-Pilot扩展: 微软扩展了GitHub Co-Pilot的功能,增加了与各种开发工具的集成,以及创建定制私有扩展的能力。

总的来说,微软的Build大会展示了该公司继续专注于将AI技术集成到其产品和服务中,旨在提高生产力和用户体验。

最近人工智能领域的发展可谓是风云变幻。从谷歌的人工智能失误到OpenAI关键人物的离职,这个行业一直充满着新闻和争议。

谷歌的人工智能搜索结果引发了人们对人工智能系统可靠性和安全性的担忧,该公司甚至建议将胶水添加到披萨中。这突出了需要进行严格的测试和监管,以确保人工智能系统提供准确和安全的信息。

OpenAI超级对齐负责人Yan Lecun的离职也引发了人们对该公司优先事项的讨论。Lecun对OpenAI过于关注"炫目的产品"而非安全和安全性的担忧,是一个令人沮丧的提醒,即在开发先进人工智能系统时面临着重重挑战。

微软在Build大会上的公告,包括推出Copilot Plus PCs和新的回忆功能,既引发了兴奋,也引发了隐私问题。虽然AI驱动的功能充满希望,但需要解决回忆功能带来的潜在安全风险。

在人工智能艺术领域,Leonardo AI和Midjourney等平台不断发展,推出了新的功能和协作工具。Adobe Firefly集成到Lightroom中也展示了AI驱动工具日益融入创意工作流程。

总的来说,人工智能格局保持动态和快速发展,既有进步也有挑战。随着技术的不断发展,公司、研究人员和公众将需要保持平衡和负责任的方法,确保人工智能系统的安全和道德发展。