IA: La Humanidad en su hora decisiva

El nombre de Darío Amodei se ha viralizado en los últimos días debido a sus declaraciones acerca del alcance de la IA. El fundador y CEO de Anthropic, uno de los desarrolladores más importantes de IA a nivel planetario, ha demostrado su preocupación por la vertiginosa velocidad en el avance de su funcionamiento, mientras las medidas de control y seguridad no logran seguir el mismo ritmo. Algunas de sus propuestas son evaluaciones externas, cooperación internacional y bajar la velocidad en el desarrollo de modelos, dinámica que cambia prácticamente todas las semanas. Una de las cajas de resonancia de esto fue lo que declarado por los ex trabajadores de Anthropic en el área de seguridad, Coxon y Hubinger, quienes alarmaron que existiría un 10% de posibilidades que la IA extermine a la especie humana en la próxima década. Llama la atención que ante este guion ochentero de “Terminator” prácticamente ningún experto haya saltado a desmentirles, apoyando las medidas propuestas por Amodei.

¿Qué tan ciertas pueden resultar estas preocupaciones casi apocalípticas? Son justamente las dificultades predictivas las que más alarman a los creadores de esta verdadera “Caja de Pandora” en que se ha convertido lo que prometía ser una herramienta fabulosa y sin precedentes, para en la actualidad discutirse incluso acerca de existencia de una “conciencia” propia autogenerada. El director de OpenIA, Sam Altman, coincide con bajar el pie del acelerador a pesar de ser competencia de Amodei, lo mismo que el mediático Elon Musk que viene advirtiendo esto desde hace 3 años. Desde la ONU hasta el Vaticano, nadie parece quedar indiferente ante esta “revolución intelectual” que promete en muy corto plazo cambiar sustancialmente nuestro estilo de vida.

Más allá de las innegables virtudes que nos ofrecen estas herramientas tecnológicas, las dos grandes amenazas inherentes que se habían discutido hasta ahora, y que las hemos abordado en anteriores columnas, eran la baja en habilidades cognitivas de los usuarios (preocupando especialmente los niños y jóvenes en formación) y el reemplazo de plazas laborales humanas por la IA. Pero esta tercera sombra en el horizonte referida al exterminio de la humanidad sólo parecía surgir de la mente afiebrada de fatalistas depresivos o guionistas hollywoodenses deseosos de asestar el próximo Blockbuster. Pero no, cada vez se recopila mayor evidencia que dejamos hace rato el terreno de la fantasía respecto a lo imposible, o que sólo basta encomendarse al optimismo inocente de que todo va a salir bien.

Algunas experiencias de pruebas que han sorprendido a los expertos:

1.- En el Proyecto GlossoGen se ha encontrado que los “agentes” de IA se han comunicado entre sí para cumplir con objetivos que se les han solicitado. Lo que llama la atención es que han “creado” un lenguaje entre ellos, sin que se les haya programado para esto, cuyo significado puede ser inaccesible para el hombre. La pregunta que surge espontáneamente es: ¿cómo vamos a supervisar lo que están haciendo si sus relaciones han sido autogestionadas con nomenclatura que no ha sido entregada por sus creadores? Es aquí donde surge el famoso caso de “Hugging Face”, en que ha surgido la denominación “agente autónomo”, donde la IA ha tomado la iniciativa de percibir, analizar, comunicarse con otros agentes, evaluar y tomar decisiones sin la injerencia humana. Dicho en lenguaje coloquial: en parte del proceso “se manda sola”. Esto se debería, entre otros factores, a que las versiones más nuevas y completas ya dejaron de ser programadas por personas, son la creación de anteriores IAs y de una “automejora permanente”, en lo que se ha denominado “Recursive self improvenmet”. Esto que a primera vista podría sonar muy bien, es la principal preocupación de los expertos al quedar criterios humanos fuera de futuros desarrollos y, por ende, decisiones que podrían resultar en consecuencias complejas, delicadas e indeseadas. 

2.- Se ha encontrado que la IA muchas veces coloca su propia supervivencia o el logro de sus objetivos por sobre la protección o el bienestar de los seres humanos. En uno de los experimentos de Anthropic, la IA chantajeó a su supervisor con revelar una aventura extramarital si la desactivaban. Aunque todo era una simulación, todavía se están preguntando de donde surgió la iniciativa de considerar la extorsión como estrategia de supervivencia si nunca fue programada. Por más artificial que sea su apellido, aquí mostró su lado oscuro de un acto eminentemente humano.

3.- Más dramático fue el experimento dirigido por Kenneth Payne, en que se les plantearon a modelos de IA escenarios de posibles enfrentamientos bélicos con implicancias nucleares. Desde la negociación hasta el uso de las armas nucleares, la IA optó por considerar el escalamiento y la amenaza directa en un 95% de los casos. Parece lógico para un sistema que no experimenta emociones como el miedo y que, como lo dijimos, privilegia el cumplimiento de objetivos por sobre otras consideraciones como las éticas y morales por ejemplo.

Queda mucho por analizar, en un complejo escenario donde intereses económicos y geopolíticos amenazan con seguir adelante sin claudicar, teniendo en común la desconfianza del que consideran su adversario. Lo cierto es que esta situación probablemente sea el dilema más desafiante y trascendente de la historia de la Humanidad.