OpenAI는 인공 일반 지능(AGI)에 이르는 경로에서 다음 단계의 역량을 가져올 것으로 예상되는 차세대 모델 훈련을 시작했다고 발표했습니다. 회사는 역량과 안전성 면에서 업계 최고 수준의 모델을 구축하고 출시하는 것에 자부심을 가지고 있지만, 이 중요한 시점에서 활발한 토론을 환영하고 있습니다.

OpenAI가 이 차세대 모델 훈련을 최근 시작했다고 밝힌 것은 GPT-4와 같이 우리가 예상하지 못했던 시스템일 가능성이 있음을 시사합니다. 이는 회사에서 더 공개적으로 논의된 GPT-5 개발과는 크게 다릅니다.

이 새로운 모델이 어떤 역량을 가질지는 불분명하지만, OpenAI의 표현에 따르면 상당한 진전을 가져올 수 있습니다. 회사는 신중한 언어 사용으로 알려져 있어, 이 발표는 영향력 있는 새로운 시스템이 개발 중임을 시사할 것입니다. 이것이 더 발전된 언어 모델, 대리 시스템, 아니면 완전히 다른 무언가일지는 지켜봐야 할 것입니다.

그럼에도 불구하고, OpenAI가 초지능 시스템이 아닌 AGI 구축에 초점을 맞추고 있다는 점은 회사의 전략적 방향성을 보여줍니다. 다른 기관들이 초지능 시스템의 정렬 문제를 해결하는 동안, OpenAI는 실용적인 응용 프로그램에 활용할 수 있는 능력 있는 AGI 시스템 개발에 주력하고 있는 것으로 보입니다.

최근 논문은 대규모 언어 모델(LLM)이 전문 인간 분석가와 유사한 방식으로 재무제표 분석을 성공적으로 수행할 수 있는지 조사했습니다. 연구진은 GPT-4에 표준화되고 익명의 재무제표를 제공하고, 모델에게 산업별 정보나 내러티브 없이도 미래 수익 방향을 분석하도록 지시했습니다.

연구의 주요 결과는 다음과 같습니다:

• LLM은 수익 변화 예측 능력에서 금융 분석가를 능가합니다.
• LLM은 분석가가 어려움을 겪는 상황에서 상대적 우위를 보입니다.
• LLM의 예측 정확도는 좁게 훈련된 최신 기계 학습 모델의 성능과 맞먹습니다.
• LLM의 예측은 훈련 메모리에서 비롯되는 것이 아니라 회사의 미래 성과에 대한 유용한 내러티브 통찰을 생성합니다.
• LLM 예측에 기반한 거래 전략은 다른 모델 기반 전략보다 더 높은 샤프 비율과 알파를 보입니다.

연구진은 LLM이 향후 금융 의사 결정에 중심적인 역할을 할 수 있다고 결론 내렸습니다. 이 연구는 사용자가 LLM의 재무 분석 기능을 직접 경험할 수 있는 공개 데모를 제공합니다.

Google은 최근 Gemini 1.5 Pro API를 업데이트하고 모델을 재훈련하여 역량을 향상시켰습니다. 이 업데이트로 인해 Gemini 1.5 Pro API가 Arena ELO 랭킹에서 Claude 3 Opus를 제치고 1위에 올랐지만, 아직 GPT-4를 넘어서지는 못했습니다.

재훈련 과정에서는 모델의 초기 훈련 이후 미묘한 변화를 가하여 신뢰성, 반응성, 전반적인 성능을 크게 향상시킬 수 있습니다. OpenAI가 GPT-4에 적용해 온 기법과 유사한 접근법입니다.

Google이 Gemini 1.5 Pro API에서 이와 유사한 방식을 채택한 것은 대규모 언어 모델을 개선하고 급변하는 AI 환경에서 경쟁력을 유지하려는 노력을 보여줍니다. 상위 모델들 간 Arena ELO 차이가 작지만, 이는 기술 기업들이 이러한 시스템의 한계를 끊임없이 확장하려 노력하고 있음을 보여줍니다.

이러한 모델들의 수렴점이 좁아짐에 따라, 향후 1년 내 이 분야의 발전 양상을 지켜보는 것이 매우 흥미로울 것입니다. AI 기술의 급속한 발전은 매우 매력적이며, 차세대 언어 모델과 그 잠재적 영향력을 목격하는 것이 기대됩니다.

Google의 새로운 검색 생성 경험(SGE) 기능은 일부 논란을 불러일으켰는데, AI 생성 답변에 부정확하거나 위험한 정보가 포함되어 있기 때문입니다.

논의에서 강조된 몇 가지 사례는 다음과 같습니다:

• 임신부에게 하루 2-3개의 담배를 피우라고 권장하는 등 명백히 안전하지 않은 의료 조언.
• 치즈를 더 잘 붙게 하기 위해 피자에 무독성 접착제를 넣으라고 제안하는 등 위험할 수 있는 조언.
• 하루에 작은 돌 하나 이상을 먹으라고 조언하는 등 극도로 위험하고 절대 해서는 안 되는 조언.

Google이 이 새로운 검색 기능을 서두르게 구현하면서 답변 생성에 사용된 데이터 소스를 적절히 검증하지 않은 것으로 보입니다. 이로 인해 농담 답변과 신뢰할 수 없는 정보가 사실로 제시되고 있습니다.

사용자들은 SGE 답변을 맹신하지 말고 신중해야 합니다. 정확성과 안전성을 확인하기 위해 신뢰할 수 있는 출처의 정보와 교차 확인하는 것이 중요합니다. Google은 SGE 기능의 신뢰성을 보장하기 위해 콘텐츠 큐레이션과 사실 확인 프로세스를 개선해야 할 것 같습니다.

트랜스크립트의 주요 내용은 다음과 같습니다:

1. OpenAI는 프로젝트에 대한 중요한 결정을 내리기 위해 안전 및 보안 위원회를 구성했습니다.
2. OpenAI는 'Next Frontier Model'이라는 새로운 AI 시스템 훈련을 시작했습니다.
3. 새로운 모델은 상당한 새로운 기능을 가져올 것으로 예상되지만, 구체적인 사항은 불분명합니다.
4. OpenAI가 순수 연구보다는 제품 개발에 더 초점을 맞추고 있다는 징조가 있습니다.
5. Microsoft의 새로운 'Recall' 기능은 프라이버시 우려를 불러일으키고 조사 중입니다.
6. 새로운 연구 논문에 따르면 대규모 언어 모델이 인간 금융 분석가보다 수익 변화 예측에 우수한 성과를 보입니다.
7. Google은 Gemini 1.5 Pro API를 업데이트하여 GPT-4, Claude 3 Opus 등 다른 최상위 모델들과 비교해 성능이 향상되었습니다.
8. Google의 새로운 검색 생성 경험 기능은 부정확하거나 부적절한 답변을 제공하는 문제가 있었습니다.