Carta aberta de funcionários de IA mostra clima pesado nos bastidores

Um grupo de treze funcionários e ex-profissionais da OpenAI e do Google Deep Mind publicou uma carta aberta em que pedem garantias para poder compartilhar preocupações com o público sem sofrer retaliações jurídicas ou em suas carreiras. O comunicado alerta: “contratos amplos de confidencialidade nos bloqueiam de fazer valer nossa voz nessas questões, exceto para as próprias empresas que estão falhando em lidar com essas questões”. A carta aberta pede por uma supervisão governamental efetiva sobre as corporações e acusa as empresas de ter fortes interesses financeiros para evitar essa supervisão, mas nenhuma obrigação de compartilhar os riscos verdadeiros do desenvolvimento de IAs.

Daniel Kokotajlo é um dos signatários do documento e revelou: “eu estou assustado. Eu seria louco, se não estivesse”. Kokotajlo saiu da OpenAI em abril desse ano. Um porta-voz da OpenAI respondeu à imprensa sobre a carta aberta, alegando que a startup tem um histórico de oferecer sistemas de IA seguros e tem confiança em sua abordagem científica para evitar riscos. Recentemente, a OpenAI desmontou sua equipe interna de avaliação ética e substituiu seus integrantes por membros do nível administrativo, liderados pelo próprio CEO Sam Altman. A respeito da carta aberta, o Google Deep Mind preferiu não se manifestar. A íntegra do documento A Right to Warn about Advanced Artificial Intelligence está disponível online.