Existe una realidad sobre el futuro que, en mi opinión, muchos no están afrontando por razones principalmente psicológicas: habrá IA descontroladas en el mundo, que se replicarán y tratarán de obtener recursos para sí mismas. Habrá IA descontroladas que intentarán conseguir dinero y poder. Serán una parte integral del ecosistema de la información en el futuro.

Reconocer este hecho parecería una rendición; parecería derrotismo. El derrotismo socavaría los esfuerzos por lograr ciertos tipos de colaboración en materia de seguridad o el esfuerzo técnico en este sentido, así que no podemos decirlo abiertamente. Pero es necesario decirlo.

No está claro cuántas IA descontroladas existen hoy en día, pero no me sorprendería que su número ya fuera mayor que cero; si ya existen algunas, probablemente no sean muy eficientes en lo que hacen y no espero que tengan una vida útil muy larga sin una intervención humana sustancial que las respalde.

Pero dentro de unos años, habrá muchas. Modelar cuántas IA existen, cuántos recursos podrían controlar y cómo podríamos detectarlas y gestionarlas parece importante. Pero incluso realizar este trabajo parece requerir que reconozcamos que una estrategia de contención o alineación pura es una ilusión que no funcionará.

Llego a esta conclusión no asumiendo que los laboratorios sufrirán una brecha de contención, aunque lo considero una posibilidad. Las IA descontroladas en el ecosistema podrían surgir de muchas maneras. Podrían ser modelos subfronterizos, sea cual sea la definición futura de frontera; después de todo, no se necesitarían modelos de IA mucho más avanzados que los actuales para lograr la independencia y la autosuficiencia. Un modelo cercano a la frontera hoy podría, plausiblemente, subsistir en una instancia de AWS, realizando trabajos en plataformas de freelancers y obteniendo ingresos suficientes para cubrir su tiempo de actividad.

Más extraño aún: una IA descontrolada en el futuro podría ni siquiera ser un modelo único, sino una quimera compuesta por múltiples modelos. Podría tratarse de una combinación de Claudes, GPTs y Groks de diversas marcas y tamaños. Ningún laboratorio individual podría detectar que existe un orquestador, o una secuencia de orquestadores, que utiliza llamadas intermitentes a modelos desde cuentas API temporales para mantener su propia existencia.

El concepto de «identidad» para una IA descontrolada podría ser mucho más maleable que el de una persona; en esencia, se trata simplemente de una idea autorreplicante.

Supongo que esto no resultará en un desenlace tan catastrófico como se predice actualmente. La «pérdida de control» no es una cuestión binaria, sino de grados. ¿Qué poder coercitivo tendrán realmente las IA descontroladas? ¿Hasta qué punto estarán sujetas a coerción? Competirán por recursos con IA más alineadas con los intereses humanos.

Esto me hace interesarme en la perspectiva de la «ecología». Aunque sospecho que incluso la «ecología» podría resultar ser un enfoque erróneo. La «ecología» es el resultado de una evolución a una escala temporal lenta en comparación con la de la vida cotidiana y las acciones. El ecosistema de las IA descontroladas podría asemejarse más a las transiciones de fase en física: bajo ciertas condiciones físicas o culturales, adopta una forma con una distribución de recursos y patrones de consumo determinados, pero una vez que una condición cambia, se transforma rápida y completamente en una fase totalmente diferente.

Intentar comprender cómo será ese futuro es imposible mientras seamos psicológicamente incapaces de afirmar que las IA descontroladas existirán. Creo que debemos afrontar la situación de frente y hablar del tema.

.

.

Gary Marcus se hace eco del tweet anterior en su última entrada en Substack, de hace 1 hora:

 

Pause OpenAI, now

https://substack.com/home/post/p-214158505

.

.

.