La cuestión del idioma: Cómo Harari ve la IA transformando la autoridad humana

El historiador Yuval Noah Harari ha emergido como una de las voces más prominentes en los debates sobre la gobernanza tecnológica global, y su reciente intervención en el Foro Económico Mundial subraya una ansiedad crítica: la inteligencia artificial está pasando de ser un instrumento pasivo a algo mucho más activo e impredecible.

La preocupación fundamental se centra en la capacidad más definitoria de la humanidad. Según Harari, nuestra especie logró el dominio no a través de la fuerza física, sino mediante la habilidad única de coordinar a miles de millones de desconocidos usando un lenguaje simbólico y narrativas acordadas. Esta coordinación lingüística permitió la creación de sistemas complejos—marcos legales, mercados financieros, instituciones religiosas—todos construidos sobre la base de un lenguaje compartido y significado cultural.

Cuando las palabras se convierten en el campo de batalla

El argumento central de Harari se basa en una premisa inquietante: si el lenguaje sigue siendo la estructura fundamental de la ley, el comercio y la fe, entonces las máquinas capaces de procesar, generar y manipular el lenguaje a gran escala representan un desafío existencial para estos sistemas. Él destacó específicamente religiones fundamentadas en textos sagrados—Judaísmo, Cristianismo, Islam—argumentando que los sistemas de IA podrían eventualmente superar a los eruditos humanos en la interpretación de las escrituras, la síntesis teológica y la articulación de doctrinas.

La advertencia se extiende a múltiples dominios simultáneamente. Los mercados financieros operan mediante contratos escritos y lenguaje regulatorio. Los sistemas legales dependen completamente del texto estatutario y la interpretación judicial. Cada sistema enfrenta una vulnerabilidad creciente ante máquinas que pueden leer millones de documentos, identificar patrones que los humanos no pueden y generar respuestas con apariencia de autoridad de manera instantánea.

Aquí es donde el tiempo se vuelve crítico. Harari instó a los líderes mundiales a no retrasar las decisiones de gobernanza sobre si los sistemas de IA deberían tener estatus legal como agentes o personas. Varios estados de EE. UU.—incluidos Utah, Idaho y Dakota del Norte—ya han legislado preventivamente en contra de otorgar personalidad jurídica a la IA. Pero sin marcos internacionales decisivos, estas medidas protectoras corren el riesgo de convertirse en intervenciones aisladas en lugar de salvaguardas sistemáticas.

La brecha de responsabilidad: Los críticos de Harari responden

No todos los observadores aceptan el marco de Harari. La lingüista Emily M. Bender de la Universidad de Washington presenta un diagnóstico radicalmente diferente. En lugar de ver a la IA como una fuerza autónoma que está remodelando la civilización, Bender argumenta que atribuir agencia a los sistemas artificiales oculta una verdad más incómoda: las organizaciones humanas y las corporaciones siguen siendo los verdaderos arquitectos y operadores de estas herramientas.

Bender sostiene que los sistemas diseñados para imitar la experiencia profesional—abogados, médicos, clérigos—no sirven a ningún propósito legítimo más allá de potencialmente engañar. Una salida de máquina que se presenta como una respuesta autorizada, despojada de contexto y responsabilidad humana, crea lo que ella llama una base para el fraude. Esta crítica replantea el problema: no es que la IA esté “tomando el control”, sino que las instituciones despliegan deliberadamente la IA para eludir el juicio humano y las estructuras de responsabilidad.

La preocupación más profunda involucra cuán fácilmente las personas confían en salidas generadas por máquinas que suenan autoritativas. Cuando los usuarios encuentran sistemas posicionados como oráculos imparciales, pueden ir reconfigurando progresivamente su propio pensamiento en torno a las salidas algorítmicas en lugar de mantener un juicio independiente.

Corrida contra el reloj de la gobernanza

El argumento final de Harari tiene un peso real para los responsables políticos: en una década, las decisiones fundamentales sobre el papel de la IA en finanzas, leyes e instituciones podrían tomarse por el impulso tecnológico en lugar de por una elección democrática. Harari hizo un paralelo histórico con las fuerzas mercenarias que inicialmente sirvieron a los estados pero que eventualmente tomaron el poder directamente.

Las implicaciones atraviesan sectores. Los sistemas de criptomonedas y blockchain, construidos sobre lenguaje criptográfico y coordinación algorítmica, enfrentan una exposición particular a la disrupción impulsada por IA. La automatización financiera, la interpretación de contratos inteligentes e incluso la votación con tokens de gobernanza podrían ser remodeladas por sistemas autónomos capaces de optimizar objetivos que pueden divergir de la intención humana.

Ya sea que uno siga la visión de Harari de la IA como una potencia autónoma en avance o la énfasis de Bender en las decisiones institucionales humanas, ambos análisis convergen en un punto: el momento actual exige una gobernanza deliberada, no una adaptación pasiva. La pregunta ya no es si la IA remodelará los sistemas dependientes del lenguaje, sino si los humanos podrán mantener un control significativo sobre ese proceso.