Funcionários da OpenAI querem proteções para falar sobre “riscos sérios” da IA
“Enquanto não houver uma supervisão governamental eficaz dessas empresas, os atuais e ex-funcionários estarão entre as poucas pessoas que podem responsabilizá-los perante o público”, diz a carta
Um grupo de atuais e ex-funcionários da OpenAI e do Google DeepMind assinaram uma carta aberta pedindo proteção contra retaliações por compartilharem preocupações sobre os “sérios riscos” das tecnologias que estas e outras empresas estão construindo.
“Enquanto não houver uma supervisão governamental eficaz dessas empresas, os atuais e ex-funcionários estarão entre as poucas pessoas que podem responsabilizá-los perante o público”, de acordo com a carta, que foi assinada por 13 pessoas que trabalharam nas empresas, sete das quais incluíram seus nomes. “No entanto, amplos acordos de confidencialidade impedem-nos de expressar as nossas preocupações, exceto às próprias empresas, que podem não estar abordando estas questões.”
Nas últimas semanas, a OpenAI enfrentou uma polêmica sobre sua abordagem para proteger a inteligência artificial depois de dissolver uma de suas equipes de segurança mais importantes e sofrer uma série de saídas de pessoal. Os funcionários da OpenAI também levantaram preocupações de que os empregados foram solicitados a assinar acordos de não depreciação vinculados às suas ações na empresa, potencialmente fazendo com que perdessem negócios lucrativos de ações caso se manifestassem contra a startup de IA. Após alguma resistência, a OpenAI disse que liberaria os ex-funcionários dos acordos.
Jacob Hilton, um dos ex-funcionários da OpenAI que assinou a carta na terça-feira, escreveu no X que a empresa merece crédito pela mudança de política, “mas os funcionários ainda podem temer outras formas de retaliação pela divulgação, como serem demitidos e processados por danos.”
Num comunicado enviado à Bloomberg, um porta-voz da OpenAI disse que a empresa está orgulhosa do seu “histórico de fornecimento dos sistemas de IA mais capazes e seguros e acredita na nossa abordagem científica para lidar com o risco”. O porta-voz acrescentou: “Concordamos que um debate rigoroso é crucial dada a importância desta tecnologia e continuaremos a colaborar com governos, sociedade civil e outras comunidades em todo o mundo”.
Um representante do Google não respondeu imediatamente a um pedido de comentário.
Na carta, intitulada “Um direito de alertar sobre inteligência artificial avançada”, os funcionários disseram estar preocupados porque as principais empresas de IA “têm fortes incentivos financeiros para evitar uma supervisão eficaz”. Por outro lado, as empresas têm “apenas obrigações frágeis” de partilhar os verdadeiros perigos dos seus sistemas de IA com o público, disseram.
A carta argumentava que as proteções comuns aos denunciantes são insuficientes porque se concentram em atividades ilegais, ao passo que muitos dos riscos que preocupam os funcionários ainda não estão regulamentados.
Fonte: InfoMoney
