구글의 최신 AI 노력은 구글 검색을 통해 직접 질문했을 때 나온 우려스러운 응답들에서 알 수 있듯이 여러 가지 주요 문제에 시달리고 있는 것 같습니다.

AI의 문제가 있는 추천 사례들은 다음과 같습니다:

• 치즈가 더 잘 붙도록 하기 위해 피자 소스에 무독성 풀을 넣으라고 제안함.
• 1919년이 20년 전이라고 주장함.
• 임신부에게 하루 2-3개의 담배를 피우라고 권장함.
• 강아지를 뜨거운 차 안에 두는 것이 항상 안전하다고 말함.
• SpongeBob 캐릭터의 가상 사망에 대한 세부 사항을 만들어냄.
• 한 사람의 자매 수를 결정하는 복잡한 다단계 과정을 제공함.

이러한 AI 생성 응답은 단순히 부정확할 뿐만 아니라 많은 경우 따르면 실제로 해로울 수 있습니다. 구글 AI가 직접 질문에 대해 신뢰할 수 있고 사실적인 정보를 제공하는 데 어려움을 겪고 있는 것 같아, 이러한 기술을 핵심 검색 기능에 통합하는 것에 대해 심각한 우려가 제기되고 있습니다.

구글은 최근 GPT-4 데모에서 사용된 음성이 스칼렛 요한슨의 것이 아니라고 주장했지만, 그 유사성으로 인해 논란과 의문이 일고 있습니다. 또한 구글의 뉴스 Corp와의 파트너십은 잠재적인 편향성에 대한 우려를 불러일으키고 있습니다. 하지만 구글은 새로운 콘텐츠 액세스가 아니라 기존 교육 데이터가 주요 문제라고 주장합니다.

전반적으로 이러한 사건들은 AI 시스템이 일상 서비스에 더 깊이 통합됨에 따라 엄격한 테스트, 감독 및 투명성의 중요성을 강조하고 있습니다. 구글은 사용자 신뢰를 유지하고 AI 기반 제품의 안전성을 보장하기 위해 이러한 문제를 신속하게 해결해야 합니다.

OpenAI의 수퍼 얼라인먼트 책임자인 Yan Luo가 회사를 떠났습니다. 트위터에 올린 글에서 Luo는 OpenAI의 우선순위에 대해 우려를 표명했으며, 회사의 핵심 우선순위에 대해 "상당 기간 동안 의견 차이가 있었다"고 밝혔습니다.

Luo는 OpenAI가 "다음 세대 모델의 보안 모니터링, 준비, 안전, 적대적 강건성, 수퍼 얼라인먼트, 기밀성, 사회적 영향 및 관련 주제"에 더 많은 노력을 기울여야 한다고 믿고 있습니다. 그는 이러한 중요한 연구 분야가 "화려한 제품"에 밀려났다는 점에 우려를 표했습니다.

Luo의 퇴사는 OpenAI의 최고 과학자인 Ilya Sutskever의 퇴사 직후에 이루어졌습니다. Sutskever는 좋은 조건으로 떠났지만, Luo의 퇴사는 더 논란의 여지가 있는 것으로 보이며, OpenAI 직원들이 회사를 비판하면 주식 상실과 같은 결과를 겪을 수 있다는 암시가 있습니다.

OpenAI의 CEO인 Sam Altman은 Luo의 우려를 인정하고 이를 해결하기 위해 노력하고 있다고 밝혔습니다. 그러나 이 상황은 AI 커뮤니티 내에서 혁신과 안전의 균형에 대한 논의가 계속되고 있음을 보여줍니다.

첨단 AI 시스템 개발이 계속됨에 따라 안전과 인간 가치 정렬에 중점을 두는 것이 점점 더 중요해지고 있습니다. Luo의 OpenAI 퇴사는 AI 기업들이 이러한 중요한 문제에 강력한 초점을 맞출 필요가 있음을 강조하고 있습니다.

보고에 따르면, OpenAI의 최근 GPT-4 데모에서 영화 "Her"의 배우 스칼렛 요한슨과 매우 유사한 목소리가 사용되었습니다. apparently, OpenAI는 요한슨에게 그녀의 목소리를 사용하도록 요청했지만 거절당했습니다. 그러나 OpenAI는 유사한 목소리를 가진 성우를 고용했으며, 요한슨의 목소리를 복제할 의도는 없었다고 주장했습니다.

이로 인해 논란이 일었고, 많은 사람들이 OpenAI가 요한슨의 허락을 받지 않고도 유사한 목소리 배우를 찾아 사용했다고 믿고 있습니다. OpenAI는 요한슨의 목소리를 복사하지 않았다고 주장하지만, 대중은 이 문제에서 배우 요한슨 편을 들고 있습니다.

주요 내용은 다음과 같습니다:

• OpenAI는 스칼렛 요한슨에게 그녀의 목소리 사용을 요청했지만 거절당했습니다.
• OpenAI는 유사한 목소리를 가진 성우를 고용했으며, 요한슨의 목소리를 복제할 의도는 없었다고 주장했습니다.
• 많은 사람들은 OpenAI가 요한슨의 실제 목소리 사용을 거부당했음에도 불구하고 유사한 목소리 배우를 찾아 사용했다고 믿고 있습니다.
• 이는 논란의 여지가 있는 회색 지대이며, 대중은 이 문제에서 요한슨 편을 들고 있습니다.

전반적으로 이 사건은 실제 사람의 동의 없이 유사한 목소리를 사용하는 AI 음성 생성의 윤리성과 투명성에 대한 문제를 제기했습니다.

OpenAI는 최근 뉴스 Corp와 파트너십을 체결하여 주요 뉴스 및 정보 출판물의 콘텐츠에 대한 접근권을 제공받았습니다. 이는 OpenAI의 언어 모델, 특히 ChatGPT에 잠재적인 편향성이 도입될 수 있다는 우려를 불러일으켰습니다.

그러나 실제로는 뉴스 Corp의 콘텐츠가 이미 ChatGPT에 학습되어 있었고, 이번 파트너십은 이 데이터에 대한 보다 윤리적이고 투명한 접근 방식을 제공하는 것입니다. 따라서 교육 데이터에 존재하는 기존 편향성은 이번 새로운 계약으로 인해 크게 변경되지 않을 것으로 예상됩니다.

뉴스 Corp은 특히 Fox News 부문을 통해 더 극단적인 정치적 성향으로 알려져 있지만, 이것이 ChatGPT의 출력에 미치는 영향은 크지 않을 것으로 보입니다. 언어 모델은 이미 광범위한 온라인 데이터로 교육되었으며, 이는 좌파와 우파 모두의 뉴스 소스를 포함하고 있습니다.

OpenAI와의 뉴스 Corp 파트너십은 잠재적으로 편향된 또는 불완전한 데이터 소스에 의존하는 대신 이 콘텐츠를 합법적으로 사용할 수 있게 해줍니다. 이는 투명성과 윤리적인 데이터 수집을 향한 긍정적인 조치이며, ChatGPT의 출력에 미치는 실질적인 영향은 제한적일 것으로 보입니다.

결국 뉴스 Corp과의 파트너십이 잠재적인 편향성에 대한 우려를 불러일으키지만, ChatGPT의 출력은 이미 다양한 뉴스 소스의 영향을 받고 있습니다. 이번 파트너십은 데이터 소스를 공식화하고 합법화하는 것이지, 언어 모델에 새로운 편향성을 도입하는 것은 아닙니다.

이것은 더 소문 영역에 속하지만 논의할 만한 주장입니다. Mac Daily News 웹사이트에 따르면 Apple이 OpenAI와 협력할 것이라는 소문이 있으며, 이것이 WWDC에서 발표될 것이라고 합니다.

Bloomberg에서도 이 내용을 보도했지만, 아직 Apple이나 OpenAI에 의해 확인되지는 않았습니다. 현재 소문에 따르면 다음 Apple iPhone의 새로운 Siri 버전이 OpenAI의 최신 GPT 모델로 구동될 수 있다고 합니다.

우리는 또한 Apple이 Google과 Gemini라는 다른 대규모 언어 모델을 통합하는 것에 대해 논의하고 있다는 소문도 들었습니다. 그러나 WWDC 행사가 있기 전까지는 그 결과를 확실히 알 수 없습니다.

이 소문이 사실이고 Apple이 OpenAI의 모델을 Siri에 통합한다면, Siri의 기능이 크게 향상될 수 있습니다. OpenAI의 언어 모델, 특히 GPT-4는 다양한 작업에서 인상적인 성능을 보여왔습니다. 이러한 모델을 통합하면 Siri가 더 대화형이 되고 지식이 풍부해지며 자연어 쿼리를 이해하고 응답할 수 있게 될 것입니다.

동시에 OpenAI 모델로 인해 잠재적인 편향성이나 한계가 도입될 수 있다는 우려도 있습니다. Apple은 이러한 문제를 신중히 평가하고 해결하여 Siri가 신뢰할 수 있고 믿을 수 있는 보조 도구로 남을 수 있도록 해야 할 것입니다.

전반적으로 Apple이 OpenAI와 협력하여 Siri를 개선한다는 소문은 흥미로운 것이며, 다가오는 WWDC 행사에서 이것이 실현될지 지켜볼 만합니다. 모든 소문과 마찬가지로, 공식 확인을 기다리는 것이 가장 좋습니다.

시애틀에서 열린 Microsoft Build 행사에서 이 기업은 여러 가지 새로운 기능과 업데이트를 발표했습니다:

1. Co-Pilot PCs: Microsoft는 "Co-Pilot PCs"를 소개했는데, 이는 AI 추론을 로컬에서 실행할 수 있는 전용 신경 처리 장치(NPU)가 탑재된 컴퓨터입니다. 이를 통해 사용자는 클라우드에 의존하지 않고 AI 어시스턴트와 상호 작용할 수 있습니다.

2. Recall 기능: "Recall" 이라는 새로운 기능이 발표되었는데, 이를 통해 사용자는 브라우징, 애플리케이션 사용 등 전체 컴퓨터 사용 기록을 볼 수 있습니다. 그러나 이 기능은 기기가 분실되거나 손상되는 경우 민감한 데이터가 노출될 수 있어 프라이버시 우려를 불러일으켰습니다.

3. **Microsoft Paint 업그레이