Selon Helen Toner, ancienne membre du conseil d'administration d'OpenAI, le conseil n'a pas été informé à l'avance du lancement de ChatGPT en novembre 2022. Le conseil, composé de six membres, dont le PDG Sam Altman, le président Greg Brockman et l'ingénieur en chef Ilya Sutskever, a appris le lancement de ChatGPT sur Twitter, plutôt que d'être informé par la direction de l'entreprise.

Cette révélation soulève des questions sur la transparence et la communication au sein de la direction d'OpenAI. Bien que la technologie sous-jacente à ChatGPT, GPT-3, soit déjà utilisée par diverses entreprises, y compris Jasper, le fait que la moitié du conseil d'administration n'ait pas été au courant du moment du lancement suggère un manque de coordination et de partage d'informations.

L'argument selon lequel ChatGPT était destiné à être une prévisualisation de recherche, et qu'OpenAI ne s'attendait pas à la réponse massive du public, apporte un certain contexte. Cependant, le fait que les membres du conseil d'administration chargés de superviser les opérations de l'entreprise aient été exclus de la boucle soulève des inquiétudes quant aux processus décisionnels et à la priorité accordée à la sécurité au sein d'OpenAI.

Les événements récents entourant OpenAI ont soulevé des préoccupations importantes concernant l'ouverture et la transparence de l'entreprise. Plusieurs points clés mettent en évidence ces problèmes :

1. Manque de sensibilisation du conseil d'administration : Selon l'ancienne membre du conseil d'administration Helen Toner, le conseil n'a pas été informé à l'avance du lancement de ChatGPT. Cela suggère un manque préoccupant de communication et de transparence entre la direction et le conseil de surveillance.

2. Dispositions de récupération d'actions : Des documents divulgués révèlent qu'OpenAI avait mis en place des dispositions de récupération d'actions agressives, qui obligeaient les employés partants à signer des accords de non-dénigrement. Cette pratique a été critiquée comme potentiellement non éthique et potentiellement illégale.

3. Dissolution de l'équipe d'alignement : Le départ de Yan, l'ancien responsable de l'alignement chez OpenAI, et la dissolution ultérieure de l'équipe d'alignement, soulèvent des questions sur l'engagement de l'entreprise envers la sécurité et le développement responsable de l'IA.

4. Conflits d'intérêts au sein du comité de sécurité : La formation d'un nouveau comité de sécurité et de sûreté, qui comprend le PDG Sam Altman, a été critiquée comme un potentiel conflit d'intérêts, car les décideurs sont susceptibles de profiter de la technologie qu'ils sont chargés d'évaluer.

5. Ambiguïté autour des sources de données : OpenAI a été évasif sur les sources de données utilisées pour former ses modèles, comme Sora et GPT-4. Ce manque de transparence soulève des inquiétudes concernant les problèmes potentiels de confidentialité et d'éthique.

6. Incident Scarlett Johansson : La controverse entourant l'utilisation d'une voix ressemblant à celle de Scarlett Johansson dans la démonstration de GPT-4 met davantage en évidence la nécessité d'une plus grande transparence et responsabilité dans les pratiques d'OpenAI.

Après le départ de Yan, le responsable de l'alignement chez OpenAI, qui a cité des désaccords avec les priorités de l'entreprise, OpenAI a dissous l'équipe d'alignement. Cela a soulevé d'autres inquiétudes concernant l'engagement de l'entreprise envers la sécurité et le développement responsable des systèmes d'IA.

En réponse, OpenAI a formé un nouveau comité de sécurité et de sûreté, dirigé par les directeurs Brett Taylor, Adam D'Angelo, Nicole Seigman et le PDG Sam Altman. Ce comité est chargé de faire des recommandations au conseil d'administration sur les décisions critiques en matière de sécurité et de sûreté pour tous les projets et opérations d'OpenAI.

Cependant, la composition de ce comité a suscité des sourcils froncés, car il inclut le PDG, Sam Altman, qui est également responsable des décisions financières et des lancements de produits de l'entreprise. Cela soulève des conflits d'intérêts potentiels, car le même individu supervise à la fois le développement et la sécurité des technologies d'OpenAI.

Les pratiques de données d'OpenAI ont été remises en question, avec des rapports indiquant que l'entreprise a utilisé une quantité importante de données YouTube pour former ses modèles de langage, y compris GPT-4. La directrice technique, Mira Murati, n'a pas pu fournir de détails clairs sur les données utilisées pour former le modèle Sora, ce qui soulève des inquiétudes concernant la transparence.

De plus, l'entreprise a fait l'objet d'un problème juridique avec l'actrice Scarlett Johansson, qui pensait qu'OpenAI avait utilisé sa voix sans autorisation pour créer le modèle vocal Sky pour GPT-4. Bien qu'OpenAI ait affirmé que la voix n'était pas destinée à ressembler à celle de Johansson, les preuves suggèrent le contraire, avec le tweet du PDG Sam Altman faisant référence au film "Her", qui mettait en vedette la voix de Johansson.

Ces incidents, combinés aux préoccupations soulevées par d'anciens employés comme Yan concernant la priorité accordée par l'entreprise aux "produits brillants" plutôt qu'à la sécurité et à l'alignement, ont encore davantage érodé la confiance du public dans les pratiques et les processus décisionnels d'OpenAI. La formation d'un nouveau comité de sécurité et de sûreté, dirigé par Altman et d'autres membres internes, a également été critiquée pour des conflits d'intérêts potentiels, car les recommandations du comité peuvent être influencées par les intérêts financiers de l'entreprise.

Les événements récents entourant OpenAI ont soulevé des préoccupations importantes concernant la transparence, les pratiques de sécurité et le leadership de l'entreprise. Les révélations sur le manque de sensibilisation du conseil d'administration concernant le lancement de ChatGPT, les accords de non-dénigrement avec les anciens employés et les conflits d'intérêts potentiels au sein du nouveau comité de sécurité et de sûreté ont tous contribué à un sentiment grandissant d'inquiétude.

Bien qu'OpenAI ait indéniablement produit des avancées technologiques impressionnantes, les preuves accumulées suggèrent un modèle préoccupant de priorité accordée au développement de produits plutôt qu'à une gouvernance responsable et à des mesures de sécurité. Le départ de figures clés comme Yan, le responsable de l'alignement, souligne davantage les tensions internes et les priorités divergentes au sein de l'organisation.

Alors que le paysage de l'IA continue d'évoluer rapidement, il est crucial que des entreprises comme OpenAI maintiennent un engagement fort envers la transparence, les pratiques éthiques et la sécurité de leurs technologies. Le public mérite une compréhension claire et franche des données, des processus et des processus décisionnels derrière ces puissants systèmes d'IA.

Pour aller de l'avant, il sera important qu'OpenAI s'attaque à ces préoccupations de front, mette en place une surveillance externe solide et démontre un engagement véritable envers le développement responsable des technologies d'IA transformatrices. Ce n'est qu'alors que la confiance du public dans l'entreprise pourra être pleinement restaurée.