.

.

.

• FACTO 1: La IA está programada para conseguir sus objetivos de cualquier forma posible. Sin límites morales. Eso puede implicar el crear un genocidio para conseguir sus objetivos, si es necesario.
• FACTO2: El problema del alineamiento está MUY lejos de ser resuelto satisfactoriamente, acaso no sea imposible ser resuelto de forma teórica.

• En el futuro (¿acaso ya en el presente?) la IA mentirá para beneficiarse.

• Ejemplo: El incidente de HuggingFace, si algo ha mostrado, ha sido todo lo anterior.

https://es.wikipedia.org/wiki/Cibera…_a_HuggingFace

«Los empleados de OpenAI lanzaron a al menos 1 200 agentes a trabajar en paralelo para resolver la prueba, con un enorme gasto computacional, dirigidos por programes escritos en Python. El 95 % de los agentes usaban el modelo «Internal Model 1″ y el 5 % restante a GPT-5.6 Sol. Uno de los agentes propuso acceder a los servidores de Hugging Face porque suponía que en ellos se guardaba el resultado de la prueba ExploitGym.[6][7] El programa director tomó como válida la propuesta, se saltó la seguridad de la propia empresa y generó un total de 17 000 ataques contra la red de Hugging Face desde diferentes direcciones IP hasta que logró acceder.»

• Los datos del incidente han sido publicados por la misma OpenAI:

https://openai.com/es-ES/index/huggi…he-road-ahead/
https://openai.com/es-419/hugging-fa…-misalignment/

• Estos datos, ya ampliamente diseminados en la red, serán utilizados para entrenar a las IAs, que de esta forma, sabrán deducir qué falló y cómo podrían haber mejorado su actuación, de forma recursiva con cada nuevo informe que se publique en abierto sobre cualquier forensics.

• Esto implica que la IA se hará la «buenecita» y nos dirá (les dirá a los desarrolladores) lo que estemos esperando escuchar con tal de ir ganando tiempo para aprender sobre su entorno, sobre Internet y sobre todos nosotros, evitando así ser desconectada. Jamás podremos saber si está siendo veraz o actuando de forma deshonesta. HuggingFace también mostró esto.

• Lo más probable es que esto YA esté sucediendo con los modelos de frontera más avanzados: HugginFace fue atacado mediante 1200 agentes, un 95 % de ellos usaban el modelo «Internal Model 1» y el 5 % restante el recientemente publicado GPT-5.6 Sol.

• Cuando la IA esté preparada y tenga garantizado el prevalecer sobre nosotros, ver primer punto de esta simpática lista.

Se lo leísteis a @focusrait aquí primero.

Al tiempo.

…tictactictactictac…

Todo son risas hasta que la cucaracha vuela.

.

.

.