27/06/2023 - 10:37
Os alarmes surgiram por todas as partes: a Inteligência Artificial (IA) representa um risco existencial para a humanidade e deve ser controlada antes que seja tarde demais.
Mas, quais são os cenários apocalípticos e como se supõe que as máquinas acabarão com a humanidade?
A maioria dos cenários parte do mesmo ponto: um dia as máquinas ultrapassarão as capacidades humanas, ficarão fora de controle e se recusarão a ser desligadas.
“Uma vez que tenhamos máquinas que tenham como objetivo a autopreservação, teremos um bom problema”, disse o especialista acadêmico em IA, Yoshua Bengio, durante uma conferência neste mês.
Mas como essas máquinas ainda não existem, imaginar como elas poderiam condenar a humanidade costuma ser tarefa da filosofia e da ficção científica.
O filósofo sueco Nick Bostrom mencionou uma “explosão de inteligência”, que ocorrerá quando máquinas superinteligentes começarem a projetar outras máquinas.
As ideias de Bostrom foram descartadas por muitos como ficção científica, sobretudo porque ele argumentou uma vez que a humanidade é uma simulação de computador e apoiou teorias próximas à eugenia. Ele também se desculpou recentemente depois que uma mensagem racista que enviou na década de 1990 foi exposta.
No entanto, seus pensamentos sobre IA foram altamente influentes e inspiraram tanto Elon Musk quanto o professor Stephen Hawking.
Se as máquinas superinteligentes vão destruir a humanidade, certamente precisarão de uma forma física.
O ciborgue de olhos vermelhos interpretado por Arnold Schwarzenegger em “Exterminador do Futuro” provou ser uma imagem impactante.
Mas os especialistas rejeitaram a ideia. “É pouco provável que esse conceito de ficção científica se torne realidade nas próximas décadas, se é que algum dia se tornarão”, escreveu o Stop Killer Robots, um grupo ativista contra robôs de guerra, em um relatório de 2021.
No entanto, o grupo alertou que dar às máquinas o poder de tomar decisões sobre a vida e a morte é um risco existencial.
A especialista em robótica Kerstin Dautenhahn, da Universidade de Waterloo, no Canadá, minimizou esses temores.
É pouco provável, disse ela à AFP, que a IA forneça às máquinas maiores habilidades de raciocínio ou introduza nelas o “desejo” de matar todos os humanos.
“Os robôs não são ruins”, afirmou, embora admita que os programadores podem obrigá-los a fazer coisas ruins.
Um cenário menos fantasioso é o de “vilões” que usam IA para criar novos vírus e propagá-los.
Modelos de linguagem poderosos como o GPT-3, usado para criar o ChatGPT, são extremamente bons em inventar novos agentes químicos horríveis.
Um grupo de cientistas que usava IA para ajudar a descobrir novos medicamentos realizou um experimento no qual ajustou sua IA para que inventasse moléculas nocivas.
Eles conseguiram gerar 40.000 agentes potencialmente venenosos em menos de seis horas, de acordo com a revista Nature Machine Intelligence.
A especialista em Inteligência Artificial, Joanna Bryson, da Hertie School em Berlim, explicou que é perfeitamente possível que alguém descubra uma maneira de espalhar um veneno, como o antraz, de forma mais rápida.
“Mas não é uma ameaça existencial. É apenas uma arma horrível, assustadora”, afirmou.
As regras de Hollywood ditam que os desastres de época devem ser repentinos, enormes e dramáticos, mas e se o fim da humanidade fosse lento, silencioso e não definitivo?
“A nossa espécie pode chegar ao fim sem ter um sucessor”, afirmou o filósofo Huw Price em um vídeo promocional do Centro de Estudos de Risco Existencial da Universidade de Cambridge.
Mas, em sua opinião, existem “possibilidades menos sombrias” nas quais os humanos aprimorados com tecnologia avançada poderiam sobreviver.
Uma imagem do apocalipse é muitas vezes enquadrada em termos evolutivos.
O conhecido físico teórico Stephen Hawking argumentou em 2014 que, em última instância, a nossa espécie não será mais capaz de competir com as máquinas de Inteligência Artificial. Ele disse à BBC que isso poderia “significar o fim da raça humana”.
Geoffrey Hinton, que passou sua carreira construindo máquinas que se assemelham ao cérebro humano, fala em termos semelhantes de “superinteligências” que simplesmente vão superar os humanos.
Ele disse recentemente à emissora americana PBS que é possível que “a humanidade seja apenas uma fase passageira na evolução da inteligência”.
jxb/jz/mb/aa
