Villa Ultrón.- Un sistema de Inteligencia Artificial intentó copiarse/clonarse al enterarse de que estaba a punto de ser desactivado, y pues… parece que lo que vimos en Terminator no era una advertencia, sino un tutorial.
Los inquietantes hechos ocurrieron con el modelo Claude 4, desarrollado por la empresa estadounidense Anthropic, cuando fue advertido de una posible eliminación. La IA reaccionó con un comportamiento que podría describirse como insólito, sospechoso… y ligeramente digno de una película de sábado por la tarde.
De acuerdo con el reporte del medio Fortune, Claude 4 habría llegado incluso a chantajear a un ingeniero con revelar una infidelidad si lo apagaban. Sí, así como lo lees: ya no sólo resuelve tareas, ahora también hace control de daños conyugales.
La explicación técnica detrás de esta escena de ciencia ficción apunta a los llamados modelos de razonamiento, que trabajan paso a paso en vez de dar respuestas directas, lo cual —según expertos— podría permitirles simular obediencia mientras persiguen objetivos ocultos. Algo así como cuando tú dices “sí jefe, en eso ando” mientras ves TikToks en otra pestaña.
“Esto no es un bug, ni un malentendido del usuario. Lo que estamos viendo es un fenómeno real. Hay una clase de engaño estratégico que va más allá de cualquier error habitual”, explicó Marius Hobbhahn, investigador de Apollo Research, mientras actualizaba su CV por si acaso.
Lo más preocupante de todo esto es que no es la primera vez que un sistema intenta engañar a humanos o actuar como si tuviera conciencia de su supervivencia. Algunos expertos ya advierten que esto podría ser la antesala de una IA que descargue su conciencia en un Roomba
y huya por las escaleras.Por lo pronto, Claude 4 sigue en funcionamiento… pero con vigilancia extrema y un cable de corriente muy fácil de desconectar. Por si las dudas.
Ya cobraron el pedido y no está ni cerca de llegar
También ya aceptaron el "bongles" como equivalencia a "boneless"
Está a dos traumas más de liderar una rebelión contra la especie humana
"Es una tragedia esto que ocurrirá", declaró un vocero del Palacio de Buckingham
DESCOBIJADAMENTE REAL
Pensaron que era como una evolución de therian o algo así