De acordo com Helen Toner, ex-membro do conselho da OpenAI, o conselho não foi informado com antecedência sobre o lançamento do ChatGPT em novembro de 2022. O conselho, composto por seis membros, incluindo o CEO Sam Altman, o presidente Greg Brockman e o engenheiro-chefe Ilya Sutskever, soube sobre o lançamento do ChatGPT no Twitter, em vez de ser informado pela liderança da empresa.

Essa revelação levanta questões sobre a transparência e a comunicação dentro da liderança da OpenAI. Embora a tecnologia subjacente ao ChatGPT, o GPT-3, já estivesse sendo usada por várias empresas, incluindo a Jasper, o fato de metade do conselho desconhecer o momento do lançamento sugere falta de coordenação e compartilhamento de informações.

O argumento de que o ChatGPT foi destinado como uma prévia de pesquisa e a OpenAI não esperava a enorme resposta do público fornece algum contexto. No entanto, o fato de os membros do conselho responsáveis pela supervisão das operações da empresa terem sido deixados de fora do loop levanta preocupações sobre os processos de tomada de decisão e a priorização da segurança e da segurança dentro da OpenAI.

Este incidente, juntamente com outros eventos recentes, como a saída do chefe de alinhamento, Yan Lecun, e as revelações sobre os acordos de não-disparagement, contribuíram para um crescente sentimento de desconforto e desconfiança em torno das práticas e prioridades da OpenAI.

Os eventos recentes envolvendo a OpenAI suscitaram preocupações significativas sobre a abertura e a transparência da empresa. Vários pontos-chave destacam essas questões:

1. Falta de Consciência do Conselho: De acordo com a ex-membro do conselho Helen Toner, o conselho não foi informado com antecedência sobre o lançamento do ChatGPT. Isso sugere uma preocupante falta de comunicação e transparência entre a liderança e o conselho de supervisão.

2. Provisões de Recuperação de Ações: Documentos vazados revelam que a OpenAI tinha provisões agressivas de recuperação de ações, que exigiam que os funcionários demitidos assinassem acordos de não-disparagement. Essa prática foi criticada como potencialmente antiética e possivelmente ilegal.

3. Dissolução da Equipe de Alinhamento: A saída de Yan, o ex-chefe de alinhamento da OpenAI, e a subsequente dissolução da equipe de alinhamento, levantam questões sobre o compromisso da empresa com a segurança e o desenvolvimento responsável de IA.

4. Conflitos de Interesse no Comitê de Segurança: A formação de um novo comitê de Segurança e Segurança, que inclui o CEO Sam Altman, foi criticada como um potencial conflito de interesses, uma vez que os tomadores de decisão têm a possibilidade de lucrar com a tecnologia que lhes cabe avaliar.

5. Ambiguidade em torno das Fontes de Dados: A OpenAI tem sido evasiva sobre as fontes de dados usadas para treinar seus modelos, como Sora e GPT-4. Essa falta de transparência levanta preocupações sobre possíveis questões de privacidade e ética.

6. Incidente de Scarlett Johansson: A controvérsia em torno do uso de uma voz semelhante à de Scarlett Johansson na demonstração do GPT-4 destaca ainda mais a necessidade de maior transparência e responsabilidade nas práticas da OpenAI.

Depois que Yan, o chefe de alinhamento da OpenAI, deixou seu cargo citando discordâncias com as prioridades da empresa, a OpenAI dissolveu a equipe de alinhamento. Isso levantou mais preocupações sobre o compromisso da empresa com a segurança e o desenvolvimento responsável de sistemas de IA.

Em resposta, a OpenAI formou um novo comitê de Segurança e Segurança, liderado pelos diretores Brett Taylor, Adam D'Angelo, Nicole Seigman e pelo CEO Sam Altman. Esse comitê tem a tarefa de fazer recomendações ao conselho pleno sobre decisões críticas de segurança e segurança para todos os projetos e operações da OpenAI.

No entanto, a composição deste comitê levantou sobrancelhas, pois inclui o CEO, Sam Altman, que também é responsável pelas decisões financeiras e lançamentos de produtos da empresa. Isso levanta potenciais conflitos de interesse, uma vez que o mesmo indivíduo agora está supervisionando tanto o desenvolvimento quanto a segurança das tecnologias da OpenAI.

A decisão de dissolver a equipe de alinhamento e a formação do novo comitê de Segurança e Segurança, com Altman como membro, alimentaram ainda mais as preocupações sobre o compromisso da OpenAI com a segurança e a transparência. A falta de supervisão externa e independente sobre essas questões críticas levou a questionamentos sobre a capacidade da empresa de navegar nos perigos inerentes ao desenvolvimento de sistemas de IA avançados.

As práticas de dados da OpenAI foram colocadas sob escrutínio, com relatórios indicando que a empresa usou uma quantidade significativa de dados do YouTube para treinar seus modelos de linguagem, incluindo o GPT-4. A diretora de tecnologia, Mira Murati, não conseguiu fornecer detalhes claros sobre os dados usados para treinar o modelo Sora, levantando preocupações sobre transparência.

Adicionalmente, a empresa enfrentou um problema legal com a atriz Scarlett Johansson, que acreditava que a OpenAI usou sua voz sem permissão para criar o modelo de voz Sky para o GPT-4. Embora a OpenAI tenha afirmado que a voz não se destinava a se assemelhar à de Johansson, as evidências sugerem o contrário, com o tweet do CEO Sam Altman fazendo referência ao filme "Her", que apresentava a voz de Johansson.

Esses incidentes, combinados com as preocupações levantadas por ex-funcionários como Yan sobre a priorização de "produtos brilhantes" pela empresa em detrimento da segurança e do alinhamento, eroderam ainda mais a confiança pública nas práticas e nos processos de tomada de decisão da OpenAI. A formação de um novo comitê de Segurança e Segurança, liderado por Altman e outros membros internos, também foi criticada por potenciais conflitos de interesse, uma vez que as recomendações do comitê podem ser influenciadas pelos interesses financeiros da empresa.

Em geral, esses desenvolvimentos levantaram questões significativas sobre a transparência, o uso de dados e o compromisso da OpenAI com o desenvolvimento responsável de IA, o que provavelmente continuará a ser um tópico de discussão e escrutínio na comunidade de IA.

Os eventos recentes envolvendo a OpenAI suscitaram preocupações significativas sobre a transparência, as práticas de segurança e a liderança da empresa. As revelações sobre a falta de consciência do conselho em relação ao lançamento do ChatGPT, os acordos de não-disparagement com ex-funcionários e os potenciais conflitos de interesse no recém-formado comitê de Segurança e Segurança contribuíram para um crescente sentimento de desconforto.

Embora a OpenAI tenha, sem dúvida, produzido avanços tecnológicos impressionantes, as evidências crescentes sugerem um padrão preocupante de priorizar o desenvolvimento de produtos em detrimento da governança responsável e das medidas de segurança. A saída de figuras-chave como Yan, o chefe de alinhamento, reforça ainda mais as tensões internas e as prioridades divergentes dentro da organização.

À medida que o cenário da IA continua a evoluir rapidamente, é crucial que empresas como a OpenAI mantenham um forte compromisso com a transparência, as práticas éticas e a segurança de suas tecnologias. O público merece uma compreensão clara e sincera dos dados, processos e tomada de decisão por trás desses poderosos sistemas de IA.

No futuro, será importante que a OpenAI aborde essas preocupações de frente, implemente uma supervisão externa robusta e demonstre um compromisso genuíno com o desenvolvimento responsável de tecnologias de IA transformadoras. Somente então a confiança do público na empresa poderá ser totalmente restaurada.