 "Imagem ilustrativa")
O anúncio do governo Trump e das principais big techs da Inteligência Artificial (IA) para criar uma autorregulação voluntária da tecnologia, com controles de segurança, representa uma preocupante “carta branca” para a indústria. Essa iniciativa, realizada na Casa Branca, acarreta riscos significativos para a saúde pública e a democracia, conforme análise do sociólogo Sérgio Amadeu, professor da Universidade Federal do ABC.
Essa é a avaliação contundente de Sérgio Amadeu, autor de obras sobre tecnologias digitais. “O que o Trump fez foi entregar completamente e de modo irresponsável o controle democrático do desenvolvimento da IA para a própria corporação que a desenvolve. Isso é um risco gigantesco”, avaliou o sociólogo.
Como funciona a autorregulação da IA?
Dentre as medidas anunciadas no acordo firmado na terça-feira, 29, na Casa Branca, com a OpenAI, Meta, Anthropic, Google, Nvidia e X (antigo Twitter), está a implementação de “controles internos” para monitorar os modelos de IA. O objetivo seria “garantir que seus modelos não invadam ou acessem sistemas técnicos de maneiras não intencionais”.
“Isso já é feito. Todo o processo de treinamento de IA requer um controle robusto. O monitoramento interno já é feito. Tudo isso não agrega nada de importante para regulamentar e controlar usos e desenvolvimentos indevidos do aprendizado de máquina e do aprendizado profundo”, completou Amadeu.
Sobre a previsão de auditoria externa independente das empresas de IA, o professor da UFABC contesta que essa auditoria será paga pela própria empresa. “Até que ponto esse auditor externo pago pela própria empresa vai fazer críticas e sugestões que vão criar descontentamento do conselho de acionistas das empresas?”, questionou Sérgio Amadeu.
Quais os riscos da IA para a saúde pública?
Sérgio Amadeu destaca que a IA traz riscos ambientais, devido ao alto consumo de energia e água, e de violação de privacidade, pela capacidade de vigilância em massa de populações. Contudo, os riscos à democracia e à saúde pública são particularmente preocupantes.
Ele explica que várias pesquisas realizadas na indústria farmacêutica, em parceria com big techs por meio de modelos de IA, podem envolver riscos para a saúde da população. Por isso, a necessidade de regulação do Estado é crucial. “Sabemos que quando o uso de IA fica sob controle apenas de investidores, isso traz um risco gigantesco para experimentos e ações que coloquem em risco a saúde pública”, comentou.
Entre os riscos, o especialista cita a possibilidade do uso de IA levar as pessoas a tomar medicamentos por conta própria ou mesmo fazer diagnósticos com uso da máquina. “Quando nós estamos tratando de fenômenos ligados à chamada saúde pública e que incluam a parceria de grandes big techs com indústrias químicas e de fármacos, é um risco muito grande e, portanto, precisa de uma regulamentação estatal democrática”, concluiu Amadeu.
A IA ameaça a democracia e a sociedade?
O governo Trump tem rejeitado impor limites ao desenvolvimento da IA, mesmo diante de pedidos da própria indústria e pressão social interna. Pesquisa de opinião realizada pela Ipsos e Reuters revelou que 73% da população dos EUA acreditam que as empresas de IA não tomam medidas suficientes para impedir os danos da tecnologia para a sociedade. Além disso, 39% creem que a IA já tem um impacto negativo.
Um dos riscos apontados é que os sistemas banalizem ataques cibernéticos por meio da invasão de sistemas de outras empresas e instituições. Outros riscos associados à IA são os impactos sobre o mercado de trabalho ou o uso “malicioso” da tecnologia por criminosos para aplicar golpes cibernéticos.
A Inteligência Artificial ainda pode ser usada para influenciar a opinião pública por meio da manipulação da informação que circula nas redes sociais, segundo descreve o relatório Internacional IA Safety Report 2026, elaborado por 100 especialistas de mais de 30 países. “Diversos estudos laboratoriais demonstraram que a interação com sistemas de IA pode levar a mudanças mensuráveis nas crenças das pessoas”, aponta o relatório.
Outro risco apontado é em relação ao desenvolvimento de armas químicas e biológicas. “Sistemas de IA de uso geral podem fornecer informações sobre o desenvolvimento de armas biológicas e químicas, incluindo detalhes sobre patógenos e instruções de laboratório de nível especializado”, diz o relatório internacional.