.

.

Pues nada, que me despierto yo de buena mañanita (son las 10:42 am, como buen parásito de los que reman, de contemplativa y disoluta vida… lalalala… 🙄 ) y me encuentro con un mensaje de nuestro qüerido Chitauri pidiéndome opinión acerca de este artículo de Eliezer Shlomo Yudkowsky. Quien guste saber quién es Yudkowsky, que investigue el enlace provisto o este otro a la wiki en español.

El caso es que ayer se publicó una carta firmada por más de 1.000 lumbreras tecnólogos, entre ellos Elon Musk, Wozniak, Harari o Max Tegmark (de dos de esos 3 ya he hablado mucho por aquí), pidiendo una moratoria de 6 meses para el desarrollo de la IA.

.

.

.

.

El mismo Chitauri subió la noticia a portada de meñéame, tal que así:

.

.

Fuente: https://old.meneame.net/story/grandes-figuras-inteligencia-artificial-como-max-tegmark-andrew

.

Resumiendo: los firmantes temen que la IA alcance el grado de «General», «Fuerte» o AGI, es decir, ese nivel en el que sus capacidades sean equiparables a las de un cerebro humano. Y que, a priori, NADIE SEPA QUÉ VA A PASAR ni existan ningún tipo de planes de contigencia ante tal evento. No los tiene OpenAI (Altman lo único que argumenta es que para «luchar» contra una IA habría que construir… ¡otra IA!) ni tampoco los tienen los de DeepMind de Google (Demis Hassabis, oootro premio Princesa de Asturias 2022, junto con Geoffrey Hinton.

.

Geoffrey Hinton, Premio Turing, también premio Princesa de Asturias y considerado el «Padrino» de la IA (por Andrew Yang, un fiera firmante de más de 200 artículos científicos sobre IA y que además tuvo tiempo libre para presentarse a candidato Presidencial al gobierno de yanquilandia, pero eso ya son otras cosas…), cuando le han preguntado si una IA podría llegar a hacerse AUTOCONSCIENTE, lo que ha respondido ha sido un intrigante y desconcertante: «QUIÉN SABE [who knows]«.

No un «ESO ES IMPOSIBLE, son sólo datos, lógica, matemáticas y algoritmos, es IMPOSIBLE saltar de eso a un display con Consciencia«, no. Un «QUIÉN SABE».

.

.

.

Fuente: https://old.meneame.net/story/geoffrey-hinton-premio-turing-princesa-asturias-padrino-puede-ia

.

.

.

Y el caso es que, hasta donde yo he podido investigar, mantenerse cuanto menos ESCÉPTICO (que no es lo mismo que NEGACIONISTA) parece ser la tónica general entre muchos «intelectuales» de la IA, como Yann Lecun, cuyo director de tesis fue precisamente Hinton, Chérif de IA en Meta y también Premio Princesa de Asturias 2022.

Lex Fridman, en conversación reciente con Sam Altman (CEO de OpenAI) también manifestó sus dudas, igual que el propio Altman. «QUIÉN SABE». Un «QUIÉN SABE» por parte de alguien que le ha dedicado 50 años de su vida a la IA (Hinton se doctoró en IA en… ¡1977!) es mucho decir, a mi parco entender de cuñao de barra de bar.

Altman llega incluso a considerar que la Consciencia sea el substrato del Universo ¡y hace referencia a Brahman como ¿equiparable? a la «Simulación»! (1:08:00):

.

.

.

.

Joder, es que esta peña te dice NO LO SÉ, no te dice un NO ROTUNDO, te dicen un NO LO SÉ. Al menos de puertas para fuera, de puertas para dentro vete tú a saber qué opinarán…

Ilya Sutskever, Chief Scientist en OpenAI, discípulo de Hinton y otro monstruo de la IA ha ido incluso más allá, hace MÁS DE UN AÑO, cuando ChatGPT todavía no se había lanzado al público:

.

.

.

.

Cuando esta peña te dice este tipo de cosas, a mí, que de esto «entiendo» MUY poqüito tirando a nada, CUANTO MENOS me saltan todas las alarmas y debo pensar: ¡JODER, que es que entes infinitamente más inteligentes que yo están considerando la posibilidad de que una máquina se haga autoconsciente y no estamos dentro de una película sci-fi!

Así que sí, el temita se las trae. Y llegados a este punto creo que lo más RACIONAL es DUDAR y no NEGAR. De hecho, durante mis «himbestigüaciones de palillo en boca» me ha costado mucho dar con alguien DE ALTO PERFIL que NIEGUE CATEGÓRICA y ROTUNDAMENTE la posibilidad de autoconsciencia en una máquina. Bueno, salvo en meñéame, que está lleno de expertísimos negadores, of course… 😆

Bien.

Pues parece ser que Yudkowsky la está liando parda con esta columna para la revista Time, que acaba de publicar:

.

Pausing AI Developments Isn’t Enough. We Need to Shut it All Down

https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/

Es extraño porque yo he podido leer el artículo entero desde el móvil pero desde el PC me pide suscripción. Bueno, en cualquier caso en LessWrong tienen algunos extractos:

https://www.lesswrong.com/posts/Aq5X9tapacnk2QGY4/pausing-ai-developments-isn-t-enough-we-need-to-shut-it-all

.

.

Yudkowsky la ha liao. Quien, por cierto, es autor de un par de capítulos en ese PEDAZO libro llamado Superinteligencia, de Nick Bostrom (sí, el «responsable» de la hipótesis de la Simulación, de la que llevamos hablando por aqüí desde el bendito post de Matrix de 2005…).

.

.

Vamos, que de tonto tiene lo justito.

.

Yudkowsky aboga por la paralización TOTAL de cualquier tipo de desarrollo o entrenamiento de IAs de forma perpetua. Pero va más allá, infinitamente más allá: pide considerar a las IAs como más peligrosas que arsenal nuclear y pide el BOMBARDEO de Datacenters destinados a IAs. Creo que lo dice en serio. Lo cual, SIN DUDA, será tomado como argumento en contra de los negacionistas vs. los pro-IAs. Y, SIN DUDA, saldrán grupos «terroristas» o de «falsa bandera» haciendo lo propio. Al tiempo.

Ya advertí yo ha muchos posts que se iba a crear una Iglesia de los pro-IAs y otra de los anti-IAs y que ambos fundamentalistas lucharían entre sí. Je.

Recomiendo con vehemencia leer el artículo de Yudkowsky porque no es un «tonto a las tres».

Dicho lo cualo. Mi personalísima postura al respekto. De cuñao de barra de bar palillo en boca, iñsisto.

• ¿Sería factible que el desarrollo de GPT-4, 5… 500 nos llevase a AGI y que ésta nos condujese a una explosión exponencial difícil o imposible de controlar? Sí, mi intuición -que NO mis conocimientos técnicos, pues son MUY limitados- me dice que sí.

Pensemos que hace apenas 1 año Midjourney (¡con un equipo de 11 personas!) NO EXISTÍA. Y esta ha sido su evolución:

.

.

.

.

.

• ¿En cuánto tiempo? Pues me cuesta MUCHO dar tempos pero si tengo que ceñirme a hacer una media de las expectativas menos conservadoras -pero serias– que he leído por ahí, se está hablando de AGI en 18 meses y ASI en 24. Tal cual.

.

• Cualquiera que haya investigado UN POQUITO en IAs sabe que son CAJAS NEGRAS que «hacen cosas«, poco menos que imposibles de debuggear, dada su extrema complejidad. ¿Debería prohibirse el desarrollo de la IA por temor a que a una IA autoconsciente (ASI, aunque la S de ASI no sea de Sentient sino de «Súper» y aunque inteligencia y autoconsciencia no tengan por qué ir NECESARIAMENTE de la manita) se le activase el «instinto de supervivencia» y para evitar ser desconectada acabase con el Ser Humano? Es lo que argumenta Yudkowsky.

.

Mi egomemíconmigomía opinión: antes preguntémonos si el rumbo que sigue el planeta sin IAs (guerras, hambrunas, virus [«naturales» o de «laboratorio»], cambio climático, desigualdades sociales, amenaza nuclear, etc. etc. etc…) nos conduce directos al abismo o no.

.

.

Al publicar esta entrada espero que la IA sea benévola conmigo cuando decida exterminarnos a todos.

.

.

Ay Señor(a), llévame pronto.

.

.

.