Según Helen Toner, ex miembro de la junta directiva de OpenAI, la junta no fue informada con anticipación sobre el lanzamiento de ChatGPT en noviembre de 2022. La junta, que estaba compuesta por seis miembros, incluido el CEO Sam Altman, el presidente Greg Brockman y el ingeniero principal Ilya Sutskever, se enteró del lanzamiento de ChatGPT a través de Twitter, en lugar de ser informada por la dirección de la empresa.

Esta revelación plantea preguntas sobre la transparencia y la comunicación dentro del liderazgo de OpenAI. Si bien la tecnología subyacente a ChatGPT, GPT-3, ya se utilizaba en varias empresas, incluida Jasper, el hecho de que la mitad de la junta desconociera el momento del lanzamiento sugiere una falta de coordinación y de intercambio de información.

El argumento de que ChatGPT se pretendía como una vista previa de investigación y que OpenAI no esperaba la enorme respuesta pública, proporciona cierto contexto. Sin embargo, el hecho de que los miembros de la junta responsables de supervisar las operaciones de la empresa se hayan quedado fuera del bucle plantea preocupaciones sobre los procesos de toma de decisiones y la priorización de la seguridad dentro de OpenAI.

Este incidente, junto con otros eventos recientes, como la partida del responsable de alineación, Yan Lecun, y las revelaciones sobre los acuerdos de no divulgación, han contribuido a una creciente sensación de inquietud y desconfianza en torno a las prácticas y prioridades de OpenAI.

Los eventos recientes en torno a OpenAI han planteado importantes preocupaciones sobre la apertura y la transparencia de la empresa. Varios puntos clave destacan estos problemas:

1. Falta de conciencia de la junta: Según la ex miembro de la junta Helen Toner, la junta no fue informada con anticipación sobre el lanzamiento de ChatGPT. Esto sugiere una preocupante falta de comunicación y transparencia entre el liderazgo y la junta de supervisión.

2. Disposiciones de recuperación de acciones: Los documentos filtrados revelan que OpenAI tenía disposiciones agresivas de recuperación de acciones, que requerían que los empleados que se iban firmaran acuerdos de no divulgación. Esta práctica ha sido criticada como potencialmente poco ética y posiblemente ilegal.

3. Disolución del equipo de alineación: La partida de Yan, el ex responsable de alineación de OpenAI, y la posterior disolución del equipo de alineación, plantean preguntas sobre el compromiso de la empresa con la seguridad y el desarrollo responsable de la IA.

4. Conflictos de intereses en el comité de seguridad: La formación de un nuevo comité de seguridad y protección, que incluye al CEO Sam Altman, ha sido criticada como un posible conflicto de intereses, ya que los responsables de la toma de decisiones pueden beneficiarse de la tecnología que se les encarga de evaluar.

5. Ambigüedad en torno a las fuentes de datos: OpenAI ha sido evasiva sobre las fuentes de datos utilizadas para entrenar sus modelos, como Sora y GPT-4. Esta falta de transparencia plantea preocupaciones sobre posibles problemas de privacidad y ética.

6. Incidente de Scarlett Johansson: La controversia en torno al uso de una voz que se asemeja a la de Scarlett Johansson en la demostración de GPT-4 también destaca la necesidad de una mayor transparencia y rendición de cuentas en las prácticas de OpenAI.

Después de que Yan, el responsable de alineación de OpenAI, renunciara a su cargo citando desacuerdos con las prioridades de la empresa, OpenAI disolvió el equipo de alineación. Esto planteó más preocupaciones sobre el compromiso de la empresa con la seguridad y el desarrollo responsable de los sistemas de IA.

En respuesta, OpenAI formó un nuevo comité de seguridad y protección, dirigido por los directores Brett Taylor, Adam D'Angelo, Nicole Seigman y el CEO Sam Altman. Este comité tiene la tarea de hacer recomendaciones a la junta completa sobre decisiones críticas de seguridad y protección para todos los proyectos y operaciones de OpenAI.

Sin embargo, la composición de este comité ha levantado cejas, ya que incluye al CEO, Sam Altman, quien también es responsable de las decisiones financieras y los lanzamientos de productos de la empresa. Esto plantea posibles conflictos de intereses, ya que el mismo individuo ahora supervisa tanto el desarrollo como la seguridad de las tecnologías de OpenAI.

La decisión de disolver el equipo de alineación y la formación del nuevo comité de seguridad y protección, con Altman como miembro, han alimentado aún más las preocupaciones sobre el compromiso de OpenAI con la seguridad y la transparencia. La falta de supervisión externa e independiente sobre estos asuntos críticos ha llevado a cuestionar la capacidad de la empresa para navegar los peligros inherentes al desarrollo de sistemas de IA avanzados.

Las prácticas de datos de OpenAI han sido objeto de escrutinio, con informes que indican que la empresa ha utilizado una cantidad significativa de datos de YouTube para entrenar sus modelos de lenguaje, incluido GPT-4. La directora de tecnología, Mira Murati, no pudo proporcionar detalles claros sobre los datos utilizados para entrenar el modelo Sora, lo que genera preocupaciones sobre la transparencia.

Además, la empresa se enfrentó a un problema legal con la actriz Scarlett Johansson, quien creía que OpenAI había utilizado su voz sin permiso para crear el modelo de voz Sky para GPT-4. Si bien OpenAI afirmó que la voz no pretendía parecerse a la de Johansson, la evidencia sugiere lo contrario, con el tuit del CEO Sam Altman haciendo referencia a la película "Her", que contaba con la voz de Johansson.

Estos incidentes, combinados con las preocupaciones planteadas por ex empleados como Yan sobre la priorización de la empresa de "productos brillantes" sobre la seguridad y la alineación, han erosionado aún más la confianza pública en las prácticas y los procesos de toma de decisiones de OpenAI. La formación de un nuevo comité de seguridad y protección, dirigido por Altman y otros miembros internos, también ha sido criticada por posibles conflictos de intereses, ya que las recomendaciones del comité pueden verse influenciadas por los intereses financieros de la empresa.

En general, estos acontecimientos han planteado importantes preguntas sobre la transparencia, el uso de datos y el compromiso de OpenAI con el desarrollo responsable de la IA, que probablemente seguirán siendo un tema de discusión y escrutinio en la comunidad de la IA.

Los eventos recientes en torno a OpenAI han planteado importantes preocupaciones sobre la transparencia, las prácticas de seguridad y el liderazgo de la empresa. Las revelaciones sobre la falta de conocimiento de la junta sobre el lanzamiento de ChatGPT, los acuerdos de no divulgación con ex empleados y los posibles conflictos de intereses en el recién formado comité de seguridad y protección han contribuido a una creciente sensación de inquietud.

Si bien OpenAI ha producido indudablemente avances tecnológicos impresionantes, la evidencia creciente sugiere un patrón preocupante de priorizar el desarrollo de productos sobre la gobernanza responsable y las medidas de seguridad. La partida de figuras clave como Yan, el responsable de alineación, subraya aún más las tensiones internas y las prioridades divergentes dentro de la organización.

A medida que el panorama de la IA sigue evolucionando rápidamente, es crucial que empresas como OpenAI mantengan un fuerte compromiso con la transparencia, las prácticas éticas y la seguridad de sus tecnologías. El público merece una comprensión clara y sincera de los datos, los procesos y la toma de decisiones detrás de estos poderosos sistemas de IA.

En el futuro, será importante que OpenAI aborde estas preocupaciones de frente, implemente una sólida supervisión externa y demuestre un compromiso genuino con el desarrollo responsable de tecnologías de IA transformadoras. Solo entonces podrá restaurarse plenamente la confianza del público en la empresa.