Claude Mythos ¿pasando la línea roja?

Hemos hablado bastante acerca de la IA y el cambio que está produciendo no sólo en actividades y hábitos de las personas, pues también la influencia en las mentalidades y funcionamientos cognitivos ya se ha ido comprobando. Pero más allá de la velocidad de los avances, sus múltiples usos o algunas dinámicas en educación por ejemplo (se ha llegado incluso a decir que los estudiantes la utilizan y “hacen” como que estudian y aprenden, al igual que los profesores “hacen” como que enseñan y corrigen los trabajos), o en el ámbito laboral (los postulantes a un trabajo envían sus antecedentes e ideas producidos por la IA para que la IA del seleccionador los revise); todo parece indicar que cada vez serán más escasas las áreas en que esta tecnología no intervenga.

Con mayor frecuencia están apareciendo aplicaciones y nuevos modelos o actualizaciones de los ya existentes, al punto que al pionero ChatGPT se le caracteriza como el “abuelo” de una creación que no sobrepasa un lustro tal como la conocemos hoy en día. Pero lo que ha alertado por estos días a los expertos es la aparición de “Claude Mythos Preview”, el nuevo modelo de Anthropic que presentó resultados sorprendentes. Su desempeño en la detección de errores en sistemas ha sido tan elevado que sus reportes denuncian fallas que nadie había observado durante décadas, lo que ha llevado a sus creadores a restringir su acceso al público y lanzar el “Proyecto Glasswing”, una iniciativa que pretende proteger al que han denominado “el software más crítico del mundo”. Sólo un selecto grupo de expertos de algunas empresas seleccionadas pueden manejarlo, entre las cuales se encuentran Microsoft, Amazon Web Service, Apple, Google, Cisco, entre otras. Este filtro pretende potenciar aún más las capacidades de defensa cibernética ante amenazas cada vez más sofisticadas. Pero si es así, ¿por qué las alertas? Algunos escépticos apuntan que es una campaña publicitaria para llamar la atención y posteriormente vender licencias ante la viralización de una imagen que posibilita un halo de excelencia, mientras otros advierten que tal poder en manos inescrupulosas implicaría un real peligro a la estabilidad planetaria. Aunque las opiniones podrían estar divididas y la segunda opción pareciera acercarse al guion de una película de ciencia ficción, las señales nos sugieren que estamos ante un punto de inflexión en esta carrera tecnológica.

Como reseña Yuval Noah Harari en su magnífico libro “Nexus”: parece que el aprendiz de mago se ha dado cuenta de lo que ha hecho. A ese impulso irrefrenable de desafiar los límites para probar resultados, pareciera que ha sido necesario hacer una pausa, tomar recaudos, organizar y promover acciones para cautelar la proyección de resultados que sobrepasaron las expectativas de una creación que cada vez parece reafirmar el apellido que se le adjudicó no hace tanto tiempo: generativa. Si bien no estamos aún al nivel de atribuir el concepto de “conciencia” a este tipo de funcionamientos, pareciera que su cercanía en el tiempo e inminencia resultarían inevitables.

Pero que las consecuencias de este proceso se las atribuyamos exclusivamente a las “entidades” tecnológicas parece más bien un contrasentido que pretendería simplificar las cosas. Si se ha presentado esta cautela ante los resultados de Claude Mythos, la aprensión real es ante la utilización que el ser humano le dé a este avance tecnológico. Una vez más la naturaleza dual del hombre es lo que nos llena de esperanza hacia el futuro o despierta nuestras peores pesadillas. ¿Cuántas veces hemos sido testigos de inventos y descubrimientos maravillosos que pretendían el bienestar de las personas y terminaron convirtiéndose en instrumentos de destrucción? Drogas para curar enfermedades que mutaron a sustancias adictivas para experimentar sensaciones, herramientas para facilitar la vida que fomentaron la pérdida de habilidades, modelos de sociedad que pretendían igualdad y confraternidad para terminar en tragedias humanitarias distópicas, etc. Es la eterna dualidad luminosa y sombría, de vida y muerte que hemos analizado tantas veces y que en esta temática se vuelve a hacer presente. El problema es que debido a la configuración global en que nos encontramos, hemos llegado a depender de la tecnología de manera incondicional para seguir funcionando, donde nuestro equilibrio resulta cada vez más precario ante estas mega herramientas que, en manos inescrupulosas, pueden colocar en jaque incluso la supervivencia de nuestra especie. Como plantea Harari: hemos avanzado a pasos agigantados en la generación de información, pero no en la sabiduría para manejar ese conocimiento.