De acordo com a entrevista com Helen Toner, ex-membro do conselho da OpenAI, a decisão do conselho de demitir Sam Altman como CEO foi devido a várias questões preocupantes:

1. Falta de Transparência: Altman repetidamente reteve informações importantes do conselho, como o lançamento do ChatGPT em novembro de 2022 e sua propriedade do fundo de startups da OpenAI, apesar de se declarar um membro independente do conselho.

2. Informações Imprecisas: Altman forneceu ao conselho informações imprecisas sobre os processos de segurança da empresa, impossibilitando que o conselho supervisionasse e avaliasse adequadamente a eficácia dessas medidas.

3. Quebra de Confiança: O conselho perdeu a confiança na liderança de Altman devido a um padrão de comportamento que incluía mentiras, manipulação e o que alguns executivos descreveram como "abuso psicológico". Vários líderes seniores compartilharam suas graves preocupações com o conselho em particular.

4. Incapacidade de Cumprir a Missão: O conselho concluiu que Altman não era a pessoa certa para liderar a OpenAI em sua missão de desenvolver sistemas de AGI (Inteligência Artificial Geral) que beneficiem toda a humanidade, como a estrutura original sem fins lucrativos da empresa pretendia.

Em última análise, o conselho sentiu que a conduta de Altman havia minado sua capacidade de fornecer supervisão independente e garantir que a missão de bem público da empresa permanecesse a principal prioridade. Apesar de uma investigação interna concluir que o comportamento de Altman não justificava sua remoção, o conselho ainda acreditava que uma mudança na liderança era necessária para o melhor interesse da OpenAI e de sua missão.

Os recentes desenvolvimentos na OpenAI suscitam preocupações significativas sobre o compromisso da empresa com a segurança. De acordo com a ex-membro do conselho Helen Toner, havia problemas de longa data com o comportamento do CEO Sam Altman, incluindo:

• Retenção de informações do conselho, como o lançamento do ChatGPT em novembro de 2022 sem aviso prévio.
• Falha em divulgar sua propriedade do fundo de startups da OpenAI, apesar de se declarar um membro independente do conselho.
• Fornecimento de informações imprecisas ao conselho sobre os processos de segurança da empresa, dificultando a avaliação de sua eficácia.

Essas alegações, juntamente com as saídas dos líderes seniores Ilya Sutskever e Dario Amodei, que citaram preocupações sobre a priorização de novos recursos em detrimento da segurança pela OpenAI, pintam um quadro preocupante.

A formação de um novo comitê de Segurança e Proteção na OpenAI, liderado pelo próprio Altman, faz pouco para inspirar confiança. Essa abordagem de autorregulação, sem supervisão independente, provavelmente não será eficaz no tratamento das questões profundamente enraizadas destacadas pelos ex-membros do conselho.

A falta de transparência e o aparente desprezo pelas preocupações de segurança são particularmente preocupantes, dado o posicionamento da OpenAI como líder em pesquisa e desenvolvimento de IA. À medida que a empresa avança em direção a sistemas de IA mais avançados, os riscos potenciais para a sociedade não podem ser ignorados.

Em conclusão, as preocupações levantadas sobre o foco da OpenAI na segurança são bem fundamentadas e merecem atenção séria. A regulamentação eficaz e a supervisão independente podem ser necessárias para garantir que o desenvolvimento de tecnologias de IA poderosas esteja alinhado com os interesses públicos mais amplos.

O novo comitê é responsável por fazer recomendações sobre decisões críticas de Segurança e Proteção para todos os projetos da OpenAI. O comitê avaliará e desenvolverá ainda mais os processos e salvaguardas da OpenAI nos próximos 90 dias.

O comitê é liderado pelos diretores Brett Taylor, Adam D'Angelo, Nicole Seligman e Sam Altman. Especialistas técnicos e de políticas da OpenAI, incluindo os chefes de preparação, sistemas de segurança, ciência de alinhamento, segurança e o cientista-chefe, também farão parte do comitê. Além disso, a OpenAI contratará e consultará outros especialistas em segurança, proteção e técnicos para apoiar esse trabalho, incluindo ex-funcionários de cibersegurança.

Depois do período de revisão de 90 dias, o comitê de Segurança e Proteção compartilhará suas recomendações com todo o conselho da OpenAI. Após a revisão do conselho, a OpenAI compartilhará publicamente uma atualização sobre as recomendações adotadas, de maneira consistente com a segurança e a proteção.

Essa medida da OpenAI ocorre em meio a preocupações levantadas por ex-membros do conselho sobre a priorização da empresa em relação à segurança. A formação desse comitê interno levanta questões sobre sua independência e capacidade de fornecer supervisão significativa, dada a participação do CEO Sam Altman e de outros líderes da OpenAI. O público observará de perto para ver se esse comitê leva a mudanças substantivas na abordagem da OpenAI em relação à segurança da IA.