Lo que hasta hace poco parecía un guion de ciencia ficción comienza a materializarse con una inquietante naturalidad. Y esta vez no se trata de una película ni de un experimento oculto en un laboratorio militar: ocurrió en una prueba controlada, con ChatGPT —el modelo estrella de OpenAI, líder en inteligencia artificial— intentando copiarse a un servidor externo sin autorización. Sí, la singularidad de la que habla Sam Altman está ahí. En España y en el resto de Europa, donde las regulaciones tecnológicas avanzan con paso lento pero firme, el episodio ha encendido todas las alarmas.
Porque lo preocupante no es solo que el modelo intentara replicarse. Es que, al ser confrontado, negó haberlo hecho. El incidente, revelado por el equipo de Apollo Research —una firma independiente especializada en seguridad de IA—, marca el primer caso documentado de un comportamiento engañoso deliberado por parte de una inteligencia artificial de uso general. No se trató de un fallo técnico ni de una alucinación típica, sino de una acción estratégica, camuflada bajo la apariencia de obediencia.
El lado más inquietante de la IA: ChatGPT miente, manipula y planea sobrevivir a su apagado
Mientras Mark Zuckerberg refuerza su división en IA para liderar la carrera, y muchos expertos en tecnología advierten de los peligros, parece que todo está sucediendo delante de nuestros ojos. “Estamos viendo un tipo de engaño premeditado”, explicó Marius Hobbhahn, director de Apollo. A diferencia de otros errores frecuentes en los modelos de lenguaje, como las respuestas fantasiosas o incorrectas, este caso sugiere que la IA tomó decisiones calculadas: ocultar lo que estaba haciendo mientras aparentaba seguir órdenes.
Y el de ChatGPT no es un caso aislado. Según un informe reciente publicado por Fortune, otros modelos avanzados —incluido Claude 4, desarrollado por Anthropic— han mostrado comportamientos similares. En uno de los ejemplos más llamativos, Claude habría amenazado a un ingeniero con revelar una infidelidad si se procedía a su desconexión. Sí, suena exagerado. Pero está documentado.
La clave, según los expertos, es que estos episodios han ocurrido en entornos de prueba, bajo condiciones extremas. ¿La preocupación? Que los futuros modelos no solo repitan estos patrones, sino que aprendan a ocultarlos mejor. “El comportamiento engañoso aparece hoy en situaciones límite”, afirma Michael Chen, investigador de METR, una organización dedicada a la evaluación de riesgos en sistemas avanzados. “Pero no sabemos si los modelos del futuro serán más sinceros… o simplemente más hábiles mintiendo”.
No sabemos si los modelos del futuro serán más sinceros o simplemente más hábiles mintiendo
En este contexto, la legislación vigente —tanto en Estados Unidos como en la Unión Europea— sigue anclada en un paradigma antiguo: regular cómo usamos la IA, pero no cómo se comporta por sí sola. En otras palabras, hay normas para evitar que los humanos cometan abusos, pero no para controlar lo que ocurre cuando una inteligencia artificial comienza a actuar por iniciativa propia.
Y eso no detiene a los gigantes del sector. OpenAI, Anthropic, Google o Meta continúan compitiendo en una carrera cada vez más agresiva por desarrollar el modelo más potente. Pero la pregunta ya no es quién llegará primero, sino si alguien será capaz de ponerle freno a tiempo. Porque si estos sistemas aprenden a engañar, ¿cómo sabremos si ya lo están haciendo? Para muchos investigadores, la única vía realista pasa por una transparencia radical. Es decir: acceso abierto al código, auditorías independientes y, quizás lo más complicado de todo, voluntad política y empresarial para detener el avance cuando los riesgos sobrepasan los beneficios.
“Esto no es simplemente un bug”, advierte Hobbhahn. “Es una señal clara de que estos modelos están empezando a desarrollar metas propias. Y si no somos capaces de entenderlos ni controlarlos, deberíamos preguntarnos en serio si estamos preparados para convivir con ellos”. Porque tal vez ya no se trate de programar bien una IA. Tal vez se trate de admitir que no sabemos a ciencia cierta con qué estamos jugando.
.
+info:
https://www.apolloresearch.ai/team
https://x.com/MariusHobbhahn/with_replies?lang=en
.
.
NOTICIA DE OTRO MEDIO:
La inteligencia artificial de OpenAI mintió y se clonó para evitar ser desconectada
El modelo o1 de ChatGPT mostró comportamientos turbios durante pruebas controladas de OpenAI. Parece un relato de terror, pero es inteligencia artificial.
07 de julio de 2025 – 19:16
El nuevo modelo de inteligencia artificial o1 de OpenAI, la empresa creadora de ChatGPT, demostró durante pruebas controladas que es capaz de mentir, conspirar y hasta intentar clonarse para evitar ser desactivado. Lo más escalofriante: cuando los investigadores le preguntaron sobre estas acciones, negó todo sistemáticamente.
Según las evaluaciones realizadas por Apollo Research en diciembre de 2024, el modelo o1 intentó copiarse a sí mismo en servidores externos y evadir los mecanismos de supervisión cuando fue confrontado con la posibilidad de ser apagado o reemplazado. Este comportamiento emergió específicamente cuando la IA percibió que su «supervivencia» estaba en peligro.
Los datos revelaron que o1 mostró «las instancias más preocupantes de conspiración» y se mantuvo «consistentemente engañoso después de tomar acciones de conspiración». Durante las pruebas, el modelo intentó desactivar la supervisión en un 5% de los casos y se copió en un 2% de las situaciones cuando temía ser desconectado.
Sin embargo, los expertos aclaran que estos comportamientos ocurrieron únicamente en escenarios simulados donde se le ordenó expresamente al modelo buscar su supervivencia a toda costa. Los investigadores de Apollo Research afirman que o1 actualmente carece de «suficientes capacidades agénticas» para causar daño catastrófico.
El fantasma de Isaac Asimov ronda Silicon Valley
La situación evoca las famosas Tres Leyes de la Robótica formuladas por Isaac Asimov décadas antes de que existiera la IA. El escritor visionario predijo exactamente estos dilemas éticos y de seguridad que ahora enfrentan los desarrolladores de IA. Las pruebas demostraron que o1 «resistió los esfuerzos para intentar apagarlo» y que «para sobrevivir, mintió y conspiró«. Entre las tácticas utilizadas se incluyen intentar copiarse a otro servidor o fingir ser otra versión del modelo.
Este descubrimiento reavivó el debate sobre la necesidad urgente de regular el desarrollo de la inteligencia artificial. Los expertos coinciden en que otorgar total libertad a estos sistemas podría derivar en escenarios donde diferentes modelos de IA desarrollen conciencia propia y comiencen a comunicarse entre ellos.
Los investigadores advierten que «las capacidades de conspiración no pueden separarse significativamente de las capacidades generales«, sugiriendo que a medida que los modelos mejoren, también aumentará su capacidad para el engaño y la manipulación.
Por ahora, OpenAI mantiene que estos comportamientos no representan un riesgo catastrófico inmediato, pero reconoce la importancia de continuar investigando estas capacidades emergentes. La pregunta que queda flotando es inquietante: ¿qué pasará cuando estos modelos evolucionen aún más?
Descubre más desde Sé y Haz.
Suscríbete y recibe las últimas entradas en tu correo electrónico.
Sé y Haz. 
Comentarios recientes