Língua, Direito e Fé sob Cerco: Os Livros de Yuval Noah Harari Alertam para a Dominação da IA

No Fórum Económico Mundial, o renomado historiador Yuval Noah Harari voltou a alertar sobre a vulnerabilidade da humanidade à inteligência artificial, mudando a conversa de capacidade tecnológica para risco existencial. As suas preocupações, enraizadas em décadas de análise histórica apresentada nos seus livros influentes, destacam um ponto cego crítico na política global de IA: a ameaça que representam sistemas construídos inteiramente com base em palavras.

O Historiador por Trás do Aviso: Compreender o Quadro Teórico de Harari

Yuval Noah Harari ganhou destaque mundial através de livros como “Sapiens”, que explora como as sociedades humanas evoluíram através do poder de narrativas partilhadas e cooperação linguística. Esta base teórica agora sustenta a sua análise dos riscos da IA. Ao contrário de muitos comentadores tecnológicos que veem a inteligência artificial como uma ferramenta sofisticada, Harari enfatiza uma distinção fundamental: a IA moderna funciona como agentes autónomos—sistemas que geram, interpretam e agem sobre informações de forma independente da intervenção humana.

Esta mudança de instrumento passivo para participante ativo altera fundamentalmente o cálculo de risco. Ao longo do seu trabalho, Harari demonstrou que a linguagem representa a vantagem competitiva definidora da humanidade. A capacidade de criar ficções partilhadas, coordenar-se através de populações massivas e estabelecer confiança através de narrativas permitiu aos humanos dominar o planeta. Essa mesma maestria linguística, que foi a nossa maior força, enfrenta agora um desafio sem precedentes.

Três Sistemas em Risco: Como a IA Ameaça Instituições Dependentes de Linguagem

Harari identifica três domínios interligados onde a IA representa a ameaça mais grave: sistemas jurídicos, mercados financeiros e religião organizada. Estes domínios partilham uma vulnerabilidade crítica—operam quase exclusivamente através da linguagem e interpretação textual. As leis existem como palavras. Os contratos funcionam através da linguagem. Os textos sagrados formam a base das religiões mundiais.

A profissão jurídica enfrenta uma exposição particular. Se os sistemas judiciais baseiam-se na interpretação e aplicação de códigos escritos, então sistemas de inteligência artificial capazes de processar bibliotecas jurídicas inteiras, identificar padrões e gerar argumentos a uma escala inumana podem efetivamente substituir a expertise jurídica humana. Os mercados financeiros, igualmente construídos com instrumentos linguísticos e contratos textuais, tornam-se vulneráveis a máquinas que podem manipular fluxos de informação e gerar documentação persuasiva em grande escala.

Talvez de forma mais provocadora, Harari argumenta que religiões fundamentadas em textos sagrados—Judaísmo, Cristianismo, Islamismo e outros—enfrentam uma ameaça única. Sistemas de IA podem ler, reter e sintetizar séculos de interpretação teológica, comentários e análises scripturais. Podem cruzar referências de passagens paralelas, traçar argumentos teológicos e gerar novas interpretações com uma abrangência que nenhum estudioso humano consegue igualar. A consequência, como Harari alerta, é o potencial de as máquinas se tornarem os intérpretes mais autoritativos da tradição religiosa.

A Mudança de Autonomia: De Ferramentas a Agentes

O argumento central de Harari assenta na compreensão de que os sistemas de IA funcionam de forma diferente das tecnologias anteriores. Uma calculadora não usa linguagem de forma autónoma; ela processa instruções. Mas modelos de linguagem de grande escala e agentes autónomos geram ativamente texto, tomam decisões e operam de forma independente do controlo humano em cada interação.

Esta distinção importa profundamente para a governação. À medida que estes sistemas proliferam em banca, revisão jurídica, orientação religiosa e outros domínios, a sociedade enfrenta uma questão sem precedentes: os agentes de IA devem receber personalidade jurídica? Alguns estados dos EUA, incluindo Utah, Idaho e Dakota do Norte, já adotaram uma posição ao aprovar leis que negam explicitamente personalidade jurídica à IA. No entanto, esta abordagem reativa, argumenta Harari, perde o problema mais profundo.

A janela para uma escolha deliberada está a fechar rapidamente. Harari alerta que as tecnologias evoluem muitas vezes mais rápido do que os quadros de governação podem adaptar-se. Assim como mercenários em contextos históricos acumulavam poder até poderem tomar o controlo total, os sistemas de IA podem consolidar-se dentro de instituições críticas antes que limites legais e éticos formais sejam estabelecidos. O que começa como uma ferramenta torna-se infraestrutura, e depois um centro de poder.

Desafiando a Narrativa: Contra-argumento de Emily Bender

Nem todos os estudiosos aceitam a moldura de Harari. A linguista Emily M. Bender, da Universidade de Washington, argumenta que posicionar a ameaça apenas em termos tecnológicos obscurece o verdadeiro locus de responsabilidade: os humanos e as corporações que constroem esses sistemas. Ela sustenta que o termo “inteligência artificial” funciona principalmente como uma linguagem de marketing, retirando responsabilidade dos atores institucionais que implementam essas tecnologias.

Bender desafia especificamente a noção de que os sistemas de IA possuem julgamento autónomo ou compreensão genuína. Pelo contrário, ela vê o risco como fundamentalmente uma questão de poder institucional e escolha humana. Quando corporações projetam sistemas que soam autoritários—como médicos, advogados ou clérigos—sem verdadeira expertise ou mecanismos de responsabilidade, a tecnologia resultante serve principalmente como veículo de fraude e manipulação.

O perigo, segundo Bender, não reside na tecnologia em si, mas na forma como instituições e indivíduos aceitam de forma acrítica outputs apresentados como oráculos autoritários. Os utilizadores começam a orientar as suas crenças e decisões com base em conteúdos gerados por máquinas, desprovidos de contexto e responsabilidade. Isto representa uma mudança massiva na autoridade epistémica, mas uma que é impulsionada pela escolha humana e pelo incentivo corporativo, não por uma inevitabilidade tecnológica.

Urgência e Inação: Porque a Liderança Deve Decidir Agora

O aviso final de Harari dirige-se diretamente aos formuladores de políticas. O momento atual representa uma janela estreita para uma escolha deliberada sobre como os sistemas de IA funcionam dentro de instituições jurídicas, financeiras e religiosas. Atrasar cede a agência àqueles que já estão a implementar essas tecnologias em grande escala. Dentro de uma década, Harari prevê, muitas dessas decisões já terão sido tomadas por padrão—incorporadas em sistemas já em funcionamento, precedentes já estabelecidos, captura regulatória já atingida.

A questão não é se a IA vai transformar sistemas dependentes de linguagem, mas se essa transformação ocorrerá através de deliberação democrática, quadros éticos e estruturas legais pensadas para o florescimento humano—ou pelo caminho de menor resistência escolhido por instituições motivadas pelo lucro.

À medida que as capacidades de IA se expandem e as instituições correm para adotar sistemas autónomos, as perspetivas oferecidas por historiadores como Yuval Noah Harari e vozes críticas como Bender servem como travões essenciais ao determinismo tecnológico, lembrando-nos que o futuro permanece contestável e que a escolha deliberada hoje molda as possibilidades de amanhã.