Por Salvador Cosío Gaona
Como ya se mencionaba en la primera entrega de este serial, existen, en reglas generales, dos campos de pensamiento con relación a la Inteligencia Artificial: están los que creen que esta superinteligencia será beneficiosa para la humanidad y los que creen todo lo contrario.
Y aquí continúo con la segunda etapa respecto de las fases de la IA:
2. Inteligencia artificial general (AGI)
Esta categoría -Artificial General Intelligence- se alcanza cuando una máquina adquiere capacidades cognitivas a nivel humano.
Es decir, cuando puede realizar cualquier tarea intelectual que realiza una persona.
También se la conoce como “IA fuerte”.
Es tal la creencia de que estamos al borde de alcanzar este nivel de desarrollo, que en marzo pasado más de 1.000 expertos en tecnología pidieron a las empresas de IA que dejen de entrenar, por al menos seis meses, a aquellos programas que sean más poderosos que GPT-4, la versión más reciente de ChatGPT.
“Los sistemas de IA con inteligencia que compite con la humana pueden plantear profundos riesgos para la sociedad y la humanidad”, advirtieron en una carta abierta, entre otros, el cofundador de Apple, Steve Wozniak, y el dueño de Tesla, SpaceX, Neuralink y Twitter, Elon Musk (quien fue uno de los cofundadores de Open AI antes de renunciar de la junta por desacuerdos con la conducción de la compañía).
En la carta, publicada por la organización sin fines de lucro Future of Life Institute, los expertos dijeron que si las empresas no acceden rápidamente a frenar sus proyectos “los gobiernos deberían intervenir e instituir una moratoria” para que se puedan diseñar e implementar medidas de seguridad sólidas.
Aunque esto es algo que -por el momento- no ha ocurrido, el gobierno de Estados Unidos sí convocó a los dueños de las principales empresas de IA – Alphabet, Anthropic, Microsoft, y OpenAI- para acordar “nuevas acciones para promover la innovación responsable de IA”.
“La IA es una de las tecnologías más poderosas de nuestro tiempo, pero para aprovechar las oportunidades que presenta, primero debemos mitigar sus riesgos”, declaró a través de un comunicado la Casa Blanca el pasado 4 de mayo.
El Congreso de EE.UU., por su parte, convocó al CEO de OpenAI, Sam Altman, a responder preguntas sobre ChatGPT.
Durante la audiencia en el Senado, Altman dijo que es “crucial” que su industria sea regulada por el gobierno a medida que la IA se vuelve “cada vez más poderosa”.
Carlos Ignacio Gutiérrez, investigador de políticas públicas en el Future of Life Institute, explicó que uno de los grandes desafíos que presenta la IA es que “no existe un cuerpo colegiado de expertos que deciden cómo regularlo, como ocurre, por ejemplo, con el Panel Intergubernamental sobre Cambio Climático (IPCC)”.
En la carta de los expertos, estos definieron cuáles eran sus principales preocupaciones.
“¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, hacernos obsoletos y reemplazarnos?”, cuestionaron.
“¿Deberíamos arriesgarnos a perder el control de nuestra civilización?”.
Lo que nos lleva al tercer y último estadio de la IA.
3. Súper Inteligencia Artificial (ASI)
La preocupación de estos científicos informáticos tiene que ver con una teoría muy establecida que sostiene que, cuando alcancemos la AGI, poco tiempo después se arribará al último estadio en el desarrollo de esta tecnología: la Artificial Superintelligence, que ocurre cuando la inteligencia sintética supera a la humana.
El filósofo de la Universidad de Oxford y experto en IA Nick Bostrom define a la súper inteligencia como “un intelecto que es mucho más inteligente que los mejores cerebros humanos en prácticamente todos los campos, incluida la creatividad científica, la sabiduría general y las habilidades sociales”.
La teoría es que cuando una máquina logre tener una inteligencia a la par con la humana, su capacidad de multiplicar esa inteligencia de forma exponencial a través de su propio aprendizaje autónomo hará que en poco tiempo nos supere ampliamente, alcanzando la ASI.
“Los humanos para ser ingenieros, enfermeros o abogados debemos estudiar por muchísimo tiempo. El tema con la AGI es que es escalable de inmediato”, señala Gutiérrez.
Esto es gracias a un proceso llamado superación personal recursiva (recursive self-improvement) que permite a una aplicación de IA “continuamente mejorarse, en un tiempo que nosotros no podríamos hacerlo”.
Si bien existe mucho debate sobre si una máquina realmente puede adquirir el tipo de inteligencia amplia que tiene un ser humano -en especial en lo que hace a la inteligencia emocional-, es una de las cosas que más preocupa a quienes creen que estamos cerca de lograr la AGI.
Recientemente, el llamado “padrino de la inteligencia artificial” Geoffrey Hinton, pionero en la investigación de redes neuronales y aprendizaje profundo que permiten a las máquinas aprender de la experiencia, igual que los humanos, alertó en una entrevista que podríamos estar cerca de ese hito.
“En este momento (las máquinas) no son más inteligentes que nosotros, por lo que puedo ver. Pero creo que pronto podrían serlo”, dijo el hombre de 75 años, quien acaba de retirarse de Google.
Extinción o inmortalidad
En reglas generales existen dos campos de pensamiento con relación a la ASI: están los que creen que esta superinteligencia será beneficiosa para la humanidad y los que creen todo lo contrario.
Entre estos últimos estaba el famoso físico británico Stephen Hawking, quien creía que las máquinas súper inteligentes representaban una amenaza para nuestra existencia.
El desarrollo de la inteligencia artificial completa podría significar el fin de la raza humana”, le dijo a la BBC en 2014, cuatro años antes de morir.
Una máquina con este nivel de inteligencia “despegaría por sí sola y se rediseñaría a un ritmo cada vez mayor”, señaló.
“Los humanos, que están limitados por una evolución biológica lenta, no podrían competir y serían superados”, predijo.
Sin embargo, en el bando opuesto creen todo lo contrario.
Uno de los mayores entusiastas de la ASI es el inventor y autor futurista estadounidense Ray Kurzweil, investigador de IA en Google y cofundador de la Universidad de la Singularidad en Sillicon Valley (la “singularidad” es otra manera de llamar a la era en la que las máquinas se tornan súper inteligentes).
Kurzweil cree que los humanos podremos utilizar la IA súper inteligente para superar nuestras barreras biológicas, mejorando nuestras vidas y nuestro mundo.
En 2015 incluso predijo que para el año 2030 los humanos lograremos alcanzar la inmortalidad gracias a nanobots (robots ínfimamente pequeños) que actuarán dentro de nuestro cuerpo, reparando y curando cualquier daño o enfermedad, incluyendo el causado por el paso del tiempo.
En su declaración ante el Congreso este martes, Sam Altman, de OpenAI, también se mostró optimista sobre el potencial de la IA, señalando que podría resolver “los mayores desafíos de la humanidad, como el cambio climático y la cura del cáncer”.
En el medio están las personas, como Hinton, que creen que la IA tiene enorme potencial para la humanidad, pero consideran que el ritmo de desarrollo actual, sin regulaciones y límites claros, es “preocupante”.
En una declaración enviada a The New York Times anunciando su salida de Google, Hinton, dijo que ahora lamentaba el trabajo que había realizado, porque temía que “malos actores” utilizaran la IA para hacer “cosas malas”.
Consultado por la BBC dio este ejemplo de un “escenario de pesadilla”:
“Imagina, por ejemplo, que algún mal actor como [el presidente ruso Vladimir] Putin decidiera dar a los robots la capacidad de crear sus propios sub objetivos”.
Las máquinas podrían eventualmente “crear sub objetivos como: ‘necesito obtener más poder'”, lo que representaría un “riesgo existencial”, señaló.
Al mismo tiempo, el experto británico-canadiense dijo que, en el corto plazo, la IA brindará muchos más beneficios que riesgos, por lo que “no debemos dejar de desarrollarla”.
“El tema es: ahora que hemos descubierto que funciona mejor de lo que esperábamos hace unos años ¿qué hacemos para mitigar los riesgos a largo plazo de que cosas más inteligentes que nosotros tomen el control?”.
Gutiérrez coincide en que la clave es crear un sistema de gobernanza de la IA antes de que se desarrolle una inteligencia que puede tomar decisiones propias.
“¿Si se crean estos entes que tienen su propia motivación, qué significa cuando nosotros ya no estamos en control de esas motivaciones?”, plantea.
El experto señala que el peligro no es solo que una AGI o ASI, ya sea por motivación propia o controlada por personas con “objetivos malos”, inicie una guerra o manipule el sistema financiero, productivo, la infraestructura energética, de transporte o cualquier otro sistema que hoy está computarizado.
Una superinteligencia podría dominarnos de una manera mucho más sutil, advierte.
“Imagínate un futuro en que un ente tenga tanta información sobre cada persona en el planeta y sus hábitos (gracias a nuestras búsquedas en internet) que nos podría controlar de una manera que no nos daríamos cuenta”, afirma.
“El peor escenario no es que haya guerras de humanos contra robots. Lo peor es que no nos demos cuenta de que estamos siendo manipulados porque estamos compartiendo el planeta con un ente que es mucho más inteligente que nosotros”.
Opinión.salcosga@hotmail.com
@salvadorcosio1