OpenAI ha anunciado que han comenzado a entrenar su próximo modelo de frontera, que anticipan que los llevará al siguiente nivel de capacidades en su camino hacia la Inteligencia General Artificial (AGI). Si bien la compañía se enorgullece de construir y lanzar modelos líderes en la industria en términos de capacidades y seguridad, dan la bienvenida a un debate sólido en este momento importante.

El hecho de que OpenAI haya declarado que recientemente han comenzado a entrenar este próximo modelo de frontera sugiere que el próximo modelo probablemente será un sistema que no hemos anticipado, similar a cómo GPT-4 no se anticipó por completo. Esto es muy diferente del desarrollo de GPT-5, que fue discutido de manera más abierta por la compañía.

No está claro exactamente qué capacidades tendrá este nuevo modelo, pero la redacción de OpenAI implica que podría traer avances significativos. La compañía es conocida por su lenguaje cuidadoso, por lo que este anuncio probablemente señale un nuevo sistema impactante en desarrollo. Ya sea que será un modelo de lenguaje más avanzado, un sistema agéntico o algo completamente diferente, queda por verse.

No obstante, el enfoque de OpenAI en la construcción de AGI, en lugar de perseguir la superinteligencia, brinda información sobre la dirección estratégica de la compañía. Parecen estar apostando a que otras organizaciones resolverán el problema de alineación para los sistemas superinteligentes, mientras que OpenAI se enfoca en desarrollar sistemas AGI capaces que puedan aprovecharse para aplicaciones prácticas.

El documento reciente investiga si los modelos de lenguaje a gran escala (LLM) pueden realizar con éxito el análisis de estados financieros de una manera similar a los analistas humanos profesionales. Los investigadores proporcionaron estados financieros estandarizados y anónimos a GPT-4 e instruyeron al modelo para que los analizara y determinara la dirección de los ingresos futuros, incluso sin ninguna información narrativa o específica de la industria.

Los hallazgos clave del estudio son:

• El LLM supera a los analistas financieros en su capacidad para predecir los cambios en los ingresos.
• El LLM exhibe una ventaja relativa sobre los analistas humanos en situaciones en las que el analista tiende a tener dificultades.
• La precisión de predicción del LLM está a la par con el rendimiento de un modelo de aprendizaje automático de vanguardia entrenado de manera estrecha.
• La predicción del LLM no se deriva de su memoria de entrenamiento, sino que genera insights narrativos útiles sobre el desempeño futuro de una empresa.
• Las estrategias de negociación basadas en las predicciones del LLM generan una mayor relación de Sharpe y Alphas que las estrategias basadas en otros modelos.

Los investigadores concluyen que los LLM pueden desempeñar un papel central en la toma de decisiones financieras en el futuro. El estudio proporciona una demostración pública que permite a los usuarios experimentar las capacidades de análisis financiero del LLM de primera mano.

Google ha actualizado recientemente su API Gemini 1.5 Pro, entrenando nuevamente el modelo para mejorar sus capacidades. Esta actualización ha resultado en que la API Gemini 1.5 Pro destrone a Claude 3 Opus en los rankings de ELO de Arena, aunque aún no ha superado a GPT-4.

El proceso de entrenamiento posterior implica realizar sutiles cambios en el modelo después de su entrenamiento inicial, lo que puede mejorar significativamente su confiabilidad, capacidad de respuesta y rendimiento general. Esta es una técnica que OpenAI ha estado utilizando con GPT-4, actualizando y refinando constantemente el modelo para mantener su ventaja.

La decisión de Google de adoptar un enfoque similar con la API Gemini 1.5 Pro demuestra la carrera constante por mejorar los modelos de lenguaje a gran escala y mantenerse competitivos en el rápidamente cambiante panorama de la IA. Si bien las diferencias en ELO de Arena entre los modelos líderes son relativamente pequeñas, resalta los esfuerzos constantes de los gigantes tecnológicos por ampliar los límites de lo que pueden lograr estos sistemas.

A medida que el punto de convergencia de estos modelos continúa estrechándose, será fascinante ver cómo evoluciona el panorama en el próximo año. Los rápidos avances en el campo de la IA son realmente cautivadores, y será emocionante presenciar la próxima generación de estos poderosos modelos de lenguaje y su potencial impacto en diversas industrias y aplicaciones.

La nueva función de Experiencia Generativa de Búsqueda (SGE) de Google ha sido objeto de cierta controversia, ya que se ha encontrado que las respuestas generadas por IA contienen información inexacta o incluso peligrosa.

Algunos ejemplos destacados en la discusión incluyen:

• Recomendar que las mujeres embarazadas deben fumar de 2 a 3 cigarrillos por día, lo cual es claramente un consejo médico inseguro.
• Sugerir agregar pegamento no tóxico a la pizza para que el queso se pegue mejor, lo cual podría ser dañino si se sigue.
• Aconsejar comer al menos una piedra pequeña por día, lo cual es extremadamente peligroso y no se debe hacer.

Parece que Google se ha apresurado a implementar esta nueva función de búsqueda y no ha verificado adecuadamente las fuentes de datos utilizadas para generar las respuestas. Esto ha llevado a la inclusión de respuestas en broma y otra información poco confiable que se presenta como factual.

Se aconseja a los usuarios que tengan cuidado al confiar en las respuestas de SGE, ya que es posible que no siempre sean precisas o seguras. Es importante cruzar la información con fuentes confiables en lugar de aceptar ciegamente las respuestas generadas por IA. Google probablemente necesite mejorar sus procesos de curación de contenido y verificación de hechos para garantizar la confiabilidad de la función SGE en el futuro.

Los puntos clave de la transcripción son:

1. OpenAI ha formado un nuevo Comité de Seguridad y Protección para hacer recomendaciones sobre decisiones críticas para sus proyectos.
2. OpenAI ha comenzado a entrenar su "próximo Modelo Frontera", que probablemente sea un nuevo sistema de IA más allá de GPT-5.
3. Se espera que el nuevo modelo traiga nuevas capacidades significativas, aunque los detalles específicos no están claros.
4. Hay indicios de que OpenAI está enfocando más su atención en la construcción de productos que en la investigación pura sobre la superinteligencia.
5. La nueva función "Recall" de Microsoft que rastrea el uso de la PC está generando preocupaciones sobre la privacidad y está bajo investigación.
6. Un nuevo documento de investigación muestra que los modelos de lenguaje a gran escala pueden superar a los analistas financieros humanos en la predicción de cambios en los ingresos.
7. Google ha actualizado su API Gemini 1.5 Pro, mejorando su rendimiento en comparación con otros modelos líderes como GPT-4 y Claude 3 Opus.
8. La nueva función de Experiencia Generativa de Búsqueda de Google ha enfrentado algunos problemas con la provisión de respuestas inexactas o inapropiadas.