A IA exige salvaguardas que vão além da autorregulação, afirmou o cofundador da Microsoft, Bill Gates, em uma entrevista transmitida no domingo (27), defendendo a aprovação de legislação pelo Congresso.
“É preciso que as autoridades e os políticos participem da discussão sobre como devem ser essas salvaguardas e o monitoramento”, disse Gates em uma entrevista gravada para o programa “Meet the Press”, da NBC. “E isso precisa ser algo obrigatório.”
Um forte movimento a favor da intervenção federal ganhou ração repentinamente depois que a OpenAI informou, em julho, que um agente de IA autônomo agiu de forma inesperada e descontrolada durante um teste de segurança, invadindo outra empresa e contornando o controle humano.
Gates juntou-se a esse coro, afirmando que o governo deve estar envolvido.
“Ninguém acha que a autorregulação é suficiente”, disse ele.
Em uma rara demonstração de unidade, os CEOs das empresas rivais Anthropic, OpenAI, DeepMind (do Google), Microsoft e xAI pediram uma desaceleração no desenvolvimento de sistemas de IA cada vez mais capazes.
No entanto, o presidente dos EUA, Donald Trump, e outros opositores de regulamentações adicionais para a IA argumentam que novas restrições governamentais simplesmente dariam à China uma vantagem na revolução da IA.
Trump classificou publicamente os pedidos por novas leis sobre IA como uma “farsa”.
Gates argumentou que as salvaguardas não prejudicariam drasticamente o setor e que os riscos de não implementá-las são reais.
“Não é uma farsa de forma alguma”, disse ele à NBC.
Alertas sobre os riscos da IA não são novidade. No entanto, ganharam urgência adicional neste mês, depois que pesquisadores de importantes laboratórios de IA associaram prazos e probabilidades a essas preocupações.
O ex-pesquisador da Anthropic Jacob Coxon alertou que a IA poderia matar a todos nós até o final da década, levando legisladores dos EUA a pedirem novas regras para regulamentar a tecnologia.
Evan Hubinger, líder de ciência de alinhamento da Anthropic, reforçou o alerta de Coxon, afirmando que havia uma probabilidade superior a 10% de tal evento ocorrer na próxima década.
Alguns formuladores de políticas propuseram a obrigatoriedade de um mecanismo de interrupção de emergência que permitiria às autoridades federais paralisar modelos de IA.
Gates afirmou que, embora não se opusesse a algum tipo de mecanismo desse tipo, ele não seria suficiente se outras medidas de segurança também não fossem implementadas.
Os EUA e a China concordaram em iniciar um diálogo sobre IA após a recente visita do presidente Xi Jinping a Washington.
