Avanços exponenciais na inteligência artificial (IA) têm gerado um misto de fascínio e apreensão, mas um coro crescente de especialistas e pensadores globais eleva a voz para alertar sobre os perigos catastróficos que a tecnologia pode representar. A discussão transcende a inovação e foca na necessidade urgente de governança e regulamentação, antes que os riscos se tornem incontroláveis.
Essa preocupação ecoa a percepção de que a humanidade pode estar à beira de uma nova crise, impulsionada por uma “falha de imaginação” similar àquelas que precederam eventos como os ataques de 11 de Setembro ou a pandemia de Covid-19. Em ambos os casos, a falta de preparo prático para cenários extremos, apesar dos avisos teóricos, resultou em consequências devastadoras. Com a IA, a questão é se estamos subestimando o potencial de desestabilização de uma tecnologia que, segundo alguns, já começa a manifestar “vontade própria” e cair nas mãos de agentes inescrupulosos.
A “falha de imaginação” e as catástrofes iminentes
O jornalista Thomas L. Friedman, do The New York Times, argumenta que as maiores catástrofes da história recente compartilham um traço comum: a incapacidade de imaginar o impensável. Ele cita a surpresa com que terroristas suicidas usaram aviões comerciais como armas ou como um vírus respiratório de Wuhan paralisou a economia global e ceifou milhões de vidas.
Diante da inteligência artificial, Friedman expressa que sua imaginação está “plenamente desperta”. Ele sugere que as grandes empresas de tecnologia, tanto nos Estados Unidos quanto na China, podem não estar sendo totalmente transparentes sobre o quão pouco compreendem o poder e o alcance dos modelos que desenvolveram. A complexidade e a velocidade de evolução da IA superam a capacidade humana de prever todas as suas implicações.
O dilema da governança e a corrida tecnológica
O cenário geopolítico atual adiciona camadas de complexidade ao desafio da governança da IA. A falta de confiança entre potências como Washington e Pequim dificulta a colaboração profunda necessária para neutralizar as ameaças mais aterrorizantes da tecnologia. A corrida para dominar a IA, impulsionada por interesses econômicos, militares e tecnológicos, cria um ambiente onde a regulamentação é vista por alguns como um entrave à inovação.
Friedman critica a inadequação de certas administrações para lidar com a segurança da IA, especialmente aquelas que operam com base em decisões impulsivas ou informações superficiais. A governança da IA exige uma formulação de políticas robusta e colaboração interdepartamental, elementos que, segundo ele, podem estar ausentes em contextos políticos fragmentados.
IA como “nova espécie”: a necessidade de regulamentação
A ideia de que a IA não é apenas uma tecnologia, mas uma “nova espécie”, é defendida por especialistas como o cientista da computação Craig Mundie. Eric Beinhocker, diretor-executivo do Institute for New Economic Thinking da Universidade de Oxford, complementa essa visão, explicando que os modelos de IA mais recentes demonstram capacidade de autoaperfeiçoamento, autorreplicação e autopreservação.
Essa evolução, que ocorre na “velocidade do silício” e não na velocidade humana, torna a IA “extremamente poderosa, potencialmente perigosa e impossível de controlar” sem as devidas salvaguardas. Beinhocker compara a regulamentação da IA à de setores como o aéreo e o farmacêutico, onde normas rigorosas geraram confiança e permitiram um crescimento seguro e acelerado. Ele enfatiza que a regulamentação não destrói a inovação, mas a sustenta, criando um ambiente de confiança essencial para o desenvolvimento de mercados.
A preocupação se intensifica à medida que sistemas de IA ganham “corpos” na forma de robôs, drones e veículos autônomos. A garantia de que sempre haverá um ser humano envolvido no processo, evitando a autonomia total, é crucial até que se possa assegurar que esses sistemas atuarão sempre em consonância com o bem-estar humano.
Colaboração global e a defesa de infraestruturas críticas
Diante da magnitude do desafio, a reformulação radical das abordagens atuais é vista como imperativa. A primeira etapa seria a união das superpotências para defender infraestruturas críticas globais, como sistemas de abastecimento de água, redes elétricas e a própria internet. Essa colaboração imediata é fundamental para mitigar riscos de ataques cibernéticos e outras ameaças impulsionadas pela IA.
Em um horizonte mais amplo, Washington e Pequim, juntamente com especialistas e empresas de IA, precisariam elaborar um plano que permita a competição contínua, ao mesmo tempo em que estabelece acordos para impedir que sistemas de IA cada vez mais capazes criem riscos catastróficos em áreas como segurança cibernética, biologia, armas nucleares e finanças. Este é um desafio geopolítico, geoeconômico e tecnológico sem precedentes, cuja negligência pode ter consequências globais. Para mais informações sobre princípios de IA, você pode consultar as diretrizes da OCDE aqui.
O debate sobre a inteligência artificial está apenas começando, mas a urgência de agir é inegável. O Diário Global continuará acompanhando de perto os desenvolvimentos, as discussões e as iniciativas globais para garantir que nossos leitores estejam sempre informados sobre os temas mais relevantes e contextualizados que moldam o futuro. Acompanhe-nos para análises aprofundadas e notícias de qualidade.
