Um ex-membro do conselho da OpenAI explicou por que os diretores tomaram a agora infame decisão de demitir o CEO Sam Altman em novembro passado. Falando em entrevista no O programa TED AI podcast, a pesquisadora de IA Helen Toner acusou Altman de mentir e obstruir o conselho da OpenAI, retaliando aqueles que o criticaram e criando uma “atmosfera tóxica”.
“O [OpenAI] O conselho é um conselho sem fins lucrativos que foi criado explicitamente com o propósito de garantir que a missão de bem público da empresa fosse primária – estivesse em primeiro lugar sobre os lucros, os interesses dos investidores e outras coisas”, disse Toner ao O programa TED AI anfitrião Bilawal Sidhu. “Mas durante anos, Sam tornou muito difícil para o conselho realmente fazer esse trabalho, você sabe, retendo informações, deturpando coisas que estavam acontecendo na empresa e, em alguns casos, mentindo abertamente para o conselho.”
Tweet pode ter sido excluído
A OpenAI demitiu Altman em 17 de novembro do ano passado, uma medida chocante que pegou muitos dentro e fora da empresa de surpresa. Segundo Toner, a decisão não foi tomada de ânimo leve, envolvendo semanas de intensa discussão. O sigilo em torno disso também foi intencional, disse ela.
“Ficou muito claro para todos nós que assim que Sam tivesse qualquer suspeita de que poderíamos fazer algo que fosse contra ele, ele faria todos os esforços, faria tudo ao seu alcance para minar o conselho, para nos impedir de, você sabe, chegando ao ponto de poder demiti-lo”, disse Toner. “Portanto, fomos muito cuidadosos e deliberados sobre a quem contamos, que basicamente era quase ninguém antecipadamente, exceto, obviamente, nossa equipe jurídica.”
Infelizmente para Toner e o restante do conselho da OpenAI, seu planejamento cuidadoso não produziu o resultado desejado. Embora Altman tenha sido inicialmente demitido, a OpenAI rapidamente o recontratou como CEO após dias de protestos, acusações e incertezas. A empresa também criou um conselho quase inteiramente novo, removendo aqueles que tentaram depor Altman.
Por que o conselho da OpenAI demitiu o CEO Sam Altman?
Toner não discutiu especificamente as consequências daquele período tumultuado no podcast. No entanto, ela explicou exatamente por que o conselho da OpenAI chegou à conclusão de que Alman precisava sair.
No início desta semana, Toner e sua ex-membro do conselho Tasha McCauley publicaram um artigo de opinião em O economista afirmando que decidiram expulsar Altman devido a “padrões de comportamento de longa data”. Toner agora forneceu exemplos desse comportamento em sua conversa com Sidhu – incluindo a alegação de que o próprio conselho da OpenAI não foi informado quando o ChatGPT foi lançado, apenas descobrindo através da mídia social.
“Quando o ChatGPT foi lançado [in] Novembro de 2022, a diretoria não foi informada antecipadamente sobre isso. Aprendemos sobre a GPT no Twitter”, alegou Toner. “Sam não informou ao conselho que era dono do fundo inicial OpenAI, embora afirmasse constantemente ser um membro independente do conselho, sem nenhum interesse financeiro na empresa. Em diversas ocasiões, ele nos deu informações imprecisas sobre o pequeno número de processos formais de segurança que a empresa tinha em vigor, o que significa que era basicamente impossível para o conselho saber até que ponto esses processos de segurança estavam funcionando ou o que poderia precisar ser mudado.”
OpenAI lança nova equipe de segurança interna com Sam Altman no controle
Toner também acusou Altman de atacá-la deliberadamente depois de se opor a um artigo de pesquisa de sua autoria. Intitulado “Intenções de decodificação: inteligência artificial e sinais caros,” o artigo discutiu os perigos da IA e incluiu uma análise das medidas de segurança da OpenAI e da concorrente Anthropic.
No entanto, Altman supostamente considerou o artigo acadêmico muito crítico em relação à OpenAI e elogioso em relação ao seu rival. Toner disse O programa TED AI que depois de o artigo ter sido publicado em Outubro do ano passado, Altman começou a espalhar mentiras aos outros membros do conselho, num esforço para a destituir. Este suposto incidente apenas prejudicou ainda mais a confiança que o conselho depositava nele, disse ela, já que naquela época eles já estavam discutindo seriamente a demissão de Altman.
Velocidade da luz mashável
“[F]ou qualquer caso individual, Sam sempre poderia apresentar algum tipo de explicação aparentemente inócua de por que não era grande coisa ou mal interpretado ou algo assim”, disse Toner. “Mas o efeito final foi que, depois de anos desse tipo de coisa , todos nós quatro que o demitimos [OpenAI board members Toner, McCauley, Adam D’Angelo, and Ilya Sutskever] chegamos à conclusão de que simplesmente não podíamos acreditar nas coisas que Sam nos contava.
“E esse é um lugar completamente impraticável para um conselho, especialmente um conselho que deveria fornecer supervisão independente sobre a empresa, e não apenas, você sabe, ajudar o CEO a arrecadar mais dinheiro. CEO, que é o seu principal canal para a empresa, sua principal fonte de informações sobre a empresa, é totalmente, totalmente impossível.”
Toner afirmou que o conselho da OpenAI fez tentativas para resolver estas questões, instituindo novas políticas e processos. No entanto, outros executivos começaram a contar ao conselho suas próprias experiências negativas com Altman e a “atmosfera tóxica que ele estava criando”. Isso incluiu alegações de mentira e manipulação, backup de capturas de tela de conversas e outras documentações.
“Eles usaram a expressão ‘abuso psicológico’, dizendo-nos que não achavam que ele era a pessoa certa para liderar a empresa. [artificial general intelligence]dizendo-nos que não acreditavam que ele pudesse ou iria mudar, não fazia sentido dar-lhe feedback, não fazia sentido tentar resolver estas questões”, disse Toner.
CEO da OpenAI acusado de retaliação contra críticos
Toner abordou ainda o clamor dos funcionários da OpenAI contra a demissão de Altman. Muitos fizeram publicações nas redes sociais em apoio ao CEO deposto, enquanto mais de 500 dos 700 funcionários da empresa declararam que se demitiriam se ele não fosse reintegrado. De acordo com Toner, a equipe foi levada a acreditar na falsa dicotomia de que se Altman não retornasse “imediatamente, sem responsabilidade [and a] conselho totalmente novo de sua escolha”, o OpenAI seria destruído.
“Eu entendo por que não querer que a empresa fosse destruída fez com que muitas pessoas entrassem na linha, seja porque, em alguns casos, estavam prestes a ganhar muito dinheiro com esta próxima oferta pública, ou apenas porque amam sua equipe, eles não queriam perder o emprego, eles se preocupavam com o trabalho que estavam fazendo”, disse Toner. “E, claro, muitas pessoas não queriam que a empresa desmoronasse, inclusive nós.”
Ela também afirmou que o medo de retaliação por se opor a Altman pode ter contribuído para o apoio que ele recebeu da equipe da OpenAI.
“Eles o experimentaram retaliar contra pessoas, retaliar contra elas por casos passados de críticas”, disse Toner. “Eles tinham muito medo do que poderia acontecer com eles. Então, quando alguns funcionários começaram a dizer: ‘espere, não quero que a empresa desmorone, tipo, vamos trazer o Sam de volta’, foi muito difícil para aquelas pessoas que tiveram experiências terríveis para realmente dizer isso por medo de que, se Sam permanecesse no poder como fez, isso tornaria suas vidas miseráveis.
Finalmente, Toner observou a turbulenta história de trabalho de Altman, que surgiu inicialmente após sua demissão fracassada da OpenAI. Apontando para relatos que Altman foi demitido de seu cargo anterior na Y Combinator devido ao seu suposto comportamento egoísta, Toner afirmou que a OpenAI estava longe de ser a única empresa a ter os mesmos problemas com ele.
“E então, em seu trabalho anterior – que era seu único outro trabalho no Vale do Silício, sua startup Loopt – aparentemente a equipe de gestão foi ao conselho duas vezes e pediu ao conselho que o demitisse pelo que eles chamaram de ‘comportamento enganoso e caótico’, ‘” Toner continuou.
“Se você realmente olhar para o histórico dele, ele não tem exatamente um rastro brilhante de referências. Este não era um problema específico das personalidades no conselho, por mais que ele adorasse retratá-lo dessa forma. “
Toner e McCauley estão longe de ser os únicos ex-alunos da OpenAI que expressaram dúvidas sobre a liderança de Altman. O principal pesquisador de segurança, Jan Leike, renunciou no início deste mês, citando divergências com as prioridades da administração e argumentando que a OpenAI deveria estar mais focada em questões como segurança, proteção e impacto social. (O cientista-chefe e ex-membro do conselho Sutskever também renunciou, embora tenha citado seu desejo de trabalhar em um projeto pessoal.)
Em resposta, Altman e o presidente Greg Brockman defenderam a abordagem da OpenAI em relação à segurança. A empresa também anunciou esta semana que Altman lideraria a nova equipe de segurança e proteção da OpenAI. Enquanto isso, Leike se juntou à Anthropic.
