OpenAI anuncia novo conselho de segurança após revolta de funcionários
Altos executivos deixaram a companhia recentemente denunciando falta de compromisso com segurança
A OpenAI disse na terça-feira (28) que estabeleceu um novo comitê para fazer recomendações ao conselho da empresa sobre segurança e proteção, semanas após dissolver uma equipe focada na segurança de inteligência artificial.
Em nota, a OpenAI disse que o novo comitê seria liderado pelo CEO Sam Altman, bem como por Bret Taylor, presidente do conselho da empresa, e pela membro do conselho Nicole Seligman.
O anúncio segue a saída de um executivo da OpenAI focado em segurança, Jan Leike.
Leike deixou seu posto na OpenAI fazendo denúncias de que a empresa havia investido pouco no trabalho de segurança de IA e que as tensões com a liderança da OpenAI haviam “chegado ao ponto de ruptura”.
A mudança ocorre também após a saída de Ilya Sutskever, outro líder da chamada equipe de “superalinhamento” da OpenAI, focada em garantir que o desenvolvimento da IA atenda às necessidades e prioridades humanas.
Sutskever desempenhou um papel fundamental na novela da demissão de Altman do cargo de CEO no ano passado, apenas para reverter o curso e mais tarde dar o seu apoio ao regresso de Altman.
No início deste mês, um porta-voz da OpenAI disse à CNN Internacional que desmantelar a equipe de superalinhamento e realocar os funcionários em toda a empresa a ajudaria a atingir melhor seus objetivos de superalinhamento.
Na nota desta terça-feira, a OpenAI também disse que começou a treinar um novo modelo de IA para suceder aquele que atualmente alimenta o ChatGPT.
A empresa disse que o novo modelo de IA que sucederá ao GPT-4 seria mais um passo no caminho para a inteligência artificial geral.
“Embora estejamos orgulhosos de construir e lançar modelos que são líderes do setor em termos de capacidades e segurança, acolhemos com satisfação um debate robusto neste momento importante”, disse a empresa.
“A primeira tarefa do Comitê de Segurança e Proteção será avaliar e desenvolver ainda mais os processos e salvaguardas da OpenAI nos próximos 90 dias”, acrescentou a nota.
“Ao final dos 90 dias, o Comitê de Segurança e Proteção compartilhará suas recomendações com todo o Conselho. Após a revisão completa do Conselho, a OpenAI compartilhará publicamente uma atualização sobre as recomendações adotadas de uma maneira que seja consistente com a segurança e proteção.”
