O comitê de segurança interna da OpenAI está se tornando um órgão de supervisão independentejá que o CEO Sam Altman deixa o cargo de liderança do grupo.
O anúncio foi feito como parte dos resultados de uma avaliação de 90 dias feita pelo atual Comitê de Segurança, presidido por Altman, sobre as salvaguardas e governança de IA da empresa.
A nova liderança do comitê inclui Zico Kolter (Universidade Carnegie Mellon), assim como os membros existentes Adam D’Angelo (Quora) e Nicole Seligman (antiga Sony). “O Comitê de Segurança e Proteção será informado pela liderança da empresa sobre avaliações de segurança para lançamentos de modelos importantes e, junto com todo o conselho, exercerá supervisão sobre lançamentos de modelos, incluindo ter autoridade para atrasar um lançamento até que as preocupações com segurança sejam abordadas”, diz o anúncio.
Velocidade da luz Mashable
As grandes empresas de tecnologia estão emitindo muito, muito mais gases de efeito estufa do que o relatado
Em maio, a empresa de IA lançou uma equipe de segurança e proteção renovada com Altman no assento superior, após a dissolução de seu antigo corpo de segurança e a perda de mais da metade de seus funcionários relevantes. Vários ex-funcionários levantaram preocupações sobre a liderança de Altman e os protocolos de segurança da OpenAI.
Na semana passada, Altman disse aos funcionários da OpenAI que a empresa planeja reformular sua estrutura corporativa sem fins lucrativos em favor de um impulso com fins lucrativos. A empresa, disse o CEO, havia “superado” sua existência como uma LLC com fins lucrativos supervisionada por um conselho sem fins lucrativos, mas a mudança também foi supostamente um elemento essencial para a avaliação antecipada de US$ 150 bilhões da startup de IA.
Tópicos
Inteligência Artificial OpenAI
