OpenAI объявила, что они начали обучение своей следующей модели на передовом рубеже, которая, как они ожидают, выведет их на новый уровень возможностей на пути к Искусственному Общему Интеллекту (AGI). Хотя компания гордится созданием и выпуском ведущих в отрасли моделей как по возможностям, так и по безопасности, они приветствуют серьезную дискуссию в этот важный момент.

Тот факт, что OpenAI заявила, что недавно начала обучение этой следующей модели на передовом рубеже, предполагает, что предстоящая модель, вероятно, будет системой, которую мы не предвидели, так же, как GPT-4 не был полностью предсказан. Это кардинально отличается от разработки GPT-5, которая более открыто обсуждалась компанией.

Не ясно, какими именно возможностями будет обладать эта новая модель, но формулировки OpenAI подразумевают, что она может принести значительные улучшения. Компания известна своей осторожной формулировкой, поэтому это объявление, вероятно, сигнализирует о создании нового влиятельного системы. Будет ли это более продвинутая языковая модель, агентная система или что-то еще, предстоит увидеть.

Тем не менее, акцент OpenAI на создании AGI, а не на достижении сверхинтеллекта, дает представление о стратегическом направлении компании. Похоже, они делают ставку на то, что другие организации решат проблему согласованности для сверхинтеллектуальных систем, в то время как OpenAI сосредоточится на разработке способных систем AGI, которые можно использовать для практических приложений.

В недавней статье исследуется, могут ли крупные языковые модели (LLM) успешно проводить анализ финансовой отчетности аналогично профессиональным человеческим аналитикам. Исследователи предоставили стандартизированные и анонимные финансовые отчеты GPT-4 и попросили модель проанализировать их, чтобы определить направление будущих доходов, даже без какой-либо повествовательной или отраслевой-специфической информации.

Основные выводы исследования:

• LLM превосходит финансовых аналитиков в своей способности прогнозировать изменения доходов.
• LLM демонстрирует относительное преимущество над человеческими аналитиками в ситуациях, когда аналитик, как правило, испытывает трудности.
• Точность прогнозирования LLM сопоставима с производительностью узкоспециализированной передовой модели машинного обучения.
• Прогноз LLM не основан на его тренировочной памяти, а скорее он генерирует полезные повествовательные идеи о будущей производительности компании.
• Торговые стратегии, основанные на прогнозах LLM, дают более высокий коэффициент Шарпа и Альфа, чем стратегии, основанные на других моделях.

Исследователи делают вывод, что LLM могут занять центральную роль в принятии финансовых решений в будущем. Исследование предоставляет общедоступную демонстрацию, которая позволяет пользователям напрямую оценить аналитические возможности LLM в финансовой сфере.

Google недавно обновил свое API Gemini 1.5 Pro, дообучив модель для улучшения ее возможностей. Это обновление привело к тому, что Gemini 1.5 Pro API свергнул Claude 3 Opus в рейтинге Arena ELO, хотя пока еще не превзошел GPT-4.

Процесс дообучения включает в себя внесение небольших изменений в модель после ее первоначального обучения, что может значительно повысить ее надежность, отзывчивость и общую производительность. Это техника, которую OpenAI использует с GPT-4, постоянно обновляя и совершенствуя модель, чтобы сохранять свое преимущество.

Решение Google применить аналогичный подход к API Gemini 1.5 Pro демонстрирует непрекращающуюся гонку за улучшение крупных языковых моделей и сохранение конкурентоспособности на быстро развивающемся ландшафте ИИ. Хотя различия в рейтинге Arena ELO между ведущими моделями относительно невелики, это подчеркивает постоянные усилия технологических гигантов по расширению возможностей этих систем.

По мере сближения точек сходимости этих моделей будет интересно наблюдать, как будет развиваться ландшафт в ближайший год. Стремительное развитие в области ИИ действительно захватывающе, и будет увлекательно наблюдать за следующим поколением этих мощных языковых моделей и их потенциальным влиянием на различные отрасли и приложения.

Новая функция Google Search Generative Experience (SGE) вызвала некоторую полемику, поскольку предоставляемые ею ответы, сгенерированные ИИ, содержат неточную или даже опасную информацию.

Некоторые примеры, выделенные в обсуждении, включают:

• Рекомендация беременным женщинам курить 2-3 сигареты в день, что явно является небезопасным медицинским советом.
• Предложение добавлять нетоксичный клей в пиццу, чтобы сыр лучше прилипал, что может быть вредным, если следовать этому.
• Совет съедать как минимум один небольшой камень в день, что чрезвычайно опасно и не должно делаться.

Кажется, что Google поспешил внедрить эту новую поисковую функцию и не провел должной проверки источников данных, используемых для генерации ответов. Это привело к включению шуточных ответов и другой ненадежной информации, представленной как фактическая.

Пользователям рекомендуется проявлять осторожность при полагании на ответы SGE, так как они могут быть не всегда точными или безопасными. Важно перепроверять информацию из надежных источников, а не слепо принимать ответы, сгенерированные ИИ. Google, вероятно, должен будет улучшить процессы курирования контента и проверки фактов, чтобы обеспечить надежность функции SGE в будущем.

Основные моменты из стенограммы:

1. OpenAI сформировала новый Комитет по безопасности и безопасности, чтобы давать рекомендации по критическим решениям для своих проектов.
2. OpenAI начала обучение своей «следующей модели на передовом рубеже», которая, вероятно, является новой системой ИИ, выходящей за рамки GPT-5.
3. Ожидается, что новая модель принесет значительные новые возможности, хотя конкретика неясна.
4. Есть признаки того, что OpenAI смещает свое внимание больше на создание продуктов, а не на чистые исследования в области сверхинтеллекта.
5. Новая функция Microsoft «Recall», которая отслеживает использование ПК, вызывает озабоченность по поводу конфиденциальности и находится под расследованием.
6. Новое исследование показывает, что крупные языковые модели могут превосходить человеческих финансовых аналитиков в прогнозировании изменений доходов.
7. Google обновил свое API Gemini 1.5 Pro, улучшив его производительность по сравнению с другими ведущими моделями, такими как GPT-4 и Claude 3 Opus.
8. Новая функция Google Search Generative Experience столкнулась с некоторыми проблемами, связанными с предоставлением неточных или неуместных ответов.