A iniciativa de autorregulação voluntária da Inteligência Artificial (IA) anunciada pelo governo dos Estados Unidos em conjunto com grandes empresas de tecnologia (bigtechs) tem sido criticada por especialistas. Segundo o sociólogo Sérgio Amadeu, professor da Universidade Federal do ABC, a medida representa uma concessão irresponsável de controle democrático para a própria indústria, abrindo caminho para potenciais riscos à saúde pública e aos sistemas democráticos.
O acordo, firmado na Casa Branca com empresas como OpenAI, Meta, Anthropic, Google, Nvidia e X (antigo Twitter), prevê a implementação de “controles internos” para monitorar os modelos de IA e evitar acessos não intencionais a sistemas. No entanto, Amadeu contesta a eficácia dessas medidas, argumentando que o monitoramento robusto já é inerente ao processo de treinamento de IA.
“O que o Trump fez foi entregar completamente e de modo irresponsável o controle democrático do desenvolvimento da IA para a própria corporação que a desenvolve. Isso é um risco gigantesco”, avaliou Amadeu. Ele questiona, ainda, a validade de auditorias externas propostas, uma vez que seriam pagas pelas próprias empresas auditadas, levantando dúvidas sobre a independência e a crítica que tais relatórios poderiam conter.
Os riscos associados à IA, segundo Amadeu, vão além do controle do desenvolvimento. A tecnologia apresenta preocupações ambientais devido ao alto consumo de recursos energéticos e hídricos, além de ameaças à privacidade por sua capacidade de vigilância em massa. Especialmente preocupante é o potencial impacto na saúde pública, com o uso de IA em pesquisas farmacêuticas e diagnósticos que poderiam levar a automedicação ou erros médicos, se não houver regulação estatal democrática.
A falta de regulamentação estatal é um ponto sensível, especialmente diante de pesquisas de opinião que indicam preocupação generalizada da população americana. Uma pesquisa da Ipsos e Reuters mostrou que 73% dos americanos acreditam que as empresas de IA não tomam medidas suficientes para mitigar os danos da tecnologia, e 39% percebem um impacto negativo da IA na sociedade.
O especialista alerta também para o uso da IA na manipulação da informação em redes sociais, com potencial para influenciar a opinião pública, e para o risco de desenvolvimento de armas biológicas e químicas, conforme apontado em relatórios internacionais. A ausência de controle governamental efetivo sobre o desenvolvimento e aplicação da IA, segundo Amadeu, abre um precedente perigoso para a sociedade e a democracia.
