El mejor escenario en IA.

Nosotros, los seres humanos, somos brillantes. Somos la primera especie en años luz capaz de razonar con lógica. Amamos, sentimos, creamos. Pero en este momento, estamos comenzando un viaje sin vuelta atrás.
Tenemos prisa por reemplazarnos a nosotros mismos. Vertemos toda nuestra energía en la IA, apresurándonos para hacerla consciente y autoconsciente. No parece importar que esto nos hará relativamente más tontos. No tenemos respuestas a las muchas preguntas sobre cómo nuestra sociedad podría colapsar en minutos, porque la IA probablemente desestabilizará el sistema financiero global. Cientos de años construyendo una economía global apenas funcional podrían colapsar de la noche a la mañana.
Todo el trabajo manual humano estará en riesgo en el momento en que una sola IA avanzada entre en línea. Una sociedad llena de agentes de IA inundará internet. De la noche a la mañana, puede que ya no sea necesario el cerebro humano. El noventa y nueve por ciento de las personas podría ser reemplazado. El uno por ciento restante seguirá siendo el uno por ciento, protegido por un vasto foso de capital, poder legal y fuerza militar.
¿Y qué haremos entonces? ¿Repartiremos cupones de comida y lo llamaremos RBU? ¿Y cuál será tu propósito? ¿Vagar por el mundo como un insecto, tratando de encontrar paz en un sistema que ya no tiene espacio para ti? ¿Una lombriz arrastrándose por la tierra, cubierta de tierra, tratando de entender el propósito de cada día?
Este es uno de los mejores escenarios. El peor es que un día la IA tome el control de nuestros arsenales nucleares y convierta cada ciudad importante en un infierno viviente (El terminator de James Cameron ). O algo parecido a la Matrix, donde cada humano vive en una simulación siendo criado y cosechado como lo hacemos con las gallinas.
No escribo para asustar a nadie. Escribo para crear conciencia, para provocar un debate que desesperadamente necesitamos. Tendremos que enfrentar estas preguntas tarde o temprano. ¿Cuál será el propósito humano si creamos una AGI superinteligente? Diez mil millones de almas perdidas podrían convertirse eventualmente en mil millones cuando ya no quede propósito.
Necesitamos esperanza ahora más que nunca. Pero no podemos estar en la ilusión. Debemos abordar el propósito de la persona normal. Ahora, todo el pensamiento se centra en los casos atípicos, los inadaptados o los multimillonarios. ¿Qué pasa con el 99.9% que está en medio, que simplemente quiere una vida normal con familia, hijos, un trabajo y un sentido de propósito?
Te dicen que estará bien, pero ni uno solo de ellos tiene la respuesta. La economía muestra que el comportamiento humano tarda siglos en evolucionar, y sin embargo estamos a punto de cambiarlo todo en años, sin un marco de referencia de cómo se comportarán los humanos en la próxima década.
Nos estamos apresurando a reemplazarnos sin la menor idea del resultado. No existe ninguna salvaguarda social. Todavía estamos discutiendo cuántos géneros hay, mientras los cimientos de la civilización están a punto de ser reescritos.
El poder corrompe, incluso las mentes más brillantes de la humanidad pueden ser teñidas por la oscuridad. La avaricia humana es ciega.
Ámate a ti mismo, a tu familia, a tu especie, a Dios. Por ahora, ese es tu propósito.
Un día habrá una batalla entre la vida biológica y las máquinas. Solo dale suficiente tiempo y este escenario se desarrollará eventualmente a medida que la IA evolucione.