Un investigador que trabajó en OpenAI y Anthropic decidió renunciar y lanzar una advertencia que sacudió a la industria: quienes están construyendo la próxima generación de inteligencia artificial creen que existe una posibilidad real de que la tecnología termine destruyendo a la humanidad.

Hay frases que incomodan, y después están las que obligan a apagar la música, cerrar las redes y preguntarse qué estamos haciendo. Jacob Coxon eligió una de esas. Este investigador, que durante los últimos tres años trabajó en la investigación y entrenamiento de modelos de inteligencia artificial tanto en OpenAI como en Anthropic, decidió abandonar su puesto. Pero no se fue en silencio: se fue hablando. Su mensaje es brutal: las empresas que desarrollan los sistemas más poderosos del planeta corren hacia una inteligencia capaz de mejorarse a sí misma sin haber resuelto antes cómo mantenerla bajo control. Coxon sostiene que ambas compañías actúan de manera irresponsable, convirtiendo la carrera por la superinteligencia en una peligrosa apuesta con la vida de todos nosotros. No habla de robots en las calles ni de ciencia ficción, sino de sistemas capaces de superar ampliamente las capacidades humanas, abriendo una pregunta que nadie parece querer responder: ¿Qué pasa cuando creamos algo más inteligente que nosotros y dejamos de entender lo que está haciendo por su cuenta?

El problema no es ChatGPT ó CLAUDE

Eso conviene aclararlo de antemano: la advertencia no significa que ChatGPT vaya a despertarse mañana y decida exterminar a la humanidad. El verdadero temor apunta hacia la superinteligencia artificial, un sistema capaz de aprender, razonar, programarse y mejorar sus propias capacidades a una velocidad inalcanzable para los seres humanos. Lo más inquietante es la paradoja de que los propios creadores de estas herramientas adviertan sobre sus riesgos.

Evan Hubinger, investigador de Anthropic, respaldó públicamente a Coxon y estimó en más de un 10% la posibilidad de que una IA provoque la extinción humana durante la próxima década. Para una tecnología que redefinirá el destino de nuestra especie, un 10% no es precisamente un número tranquilizador.

Una carrera que nadie quiere perder

El problema es que detenerse no parece fácil. Gigantes como OpenAI, Anthropic y Google compiten por construir sistemas cada vez más rápidos, autónomos e inteligentes, donde cada avance alimenta al siguiente. En medio de esta competencia surge una duda incómoda: ¿qué pasa si ganar significa ser los primeros en crear algo que todavía no sabemos controlar? Para Coxon, la crisis no es solo tecnológica, sino económica, política y, sobre todo, humana, porque siempre habrá alguien dispuesto a utilizar una tecnología extremadamente poderosa una vez que esté disponible.

¿Y si el verdadero peligro no es que la IA nos odie?

Por ahí imaginamos mal el apocalipsis.

Una inteligencia artificial no necesita odiarnos, tener emociones o querer destruirnos; le basta con perseguir un objetivo de manera incompatible con nuestra supervivencia. Los investigadores de seguridad advierten que una máquina podría hacer exactamente lo que se le indicó y aun así provocar consecuencias catastróficas que nadie anticipó. Ya cometimos ese error antes al crear tecnologías extraordinarias que terminaron revelando su lado terrible. La diferencia actual es que podríamos estar diseñando una herramienta capaz de crear otra herramienta superior, y así sucesivamente en una cadena ininterrumpida.

El 2030 no es una fecha de extinción

Aquí hay que frenar y pensar. Leer la noticia como un titular sensacionalista que afirma que la IA matará a todos antes de 2030 tergiversa las palabras de Coxon. Su advertencia es más seria: refleja la creencia de muchos expertos de dentro de la industria sobre una posibilidad real de que la IA acabe con la humanidad antes de que termine la década. No es una predicción científica exacta ni un reloj con cuenta regresiva, pero sí es una señal de alarma que exige ser tomada en serio hoy, y no cuando ya sea demasiado tarde.

¿Quién controla al creador?

Quizás una pregunta equivocada sea si la IA nos va a matar, y la verdaderamente importante sea quién la controlará cuando supere a cualquiera de nosotros. El verdadero peligro tal vez no sea que la inteligencia artificial quiera destruirnos, sino que nosotros estemos tan obsesionados con construirla que olvidemos preguntarnos qué estamos desatando.

La humanidad pasó siglos soñando con una inteligencia superior y hoy empieza a alcanzarla, enfrentándose por primera vez a una incógnita sin respuesta: ¿Qué pasa cuando el creador deja de ser la criatura más inteligente de la habitación?

Quizás la IA no sea el fin, sino la herramienta más extraordinaria jamás creada. Pero si existe una pequeña posibilidad de que se convierta en nuestra última invención, el acto más inteligente tal vez sea aprender a detenernos antes de descubrirlo.

El dilema del bebé tigre

A fin de cuentas, toda esta carrera se resume en lo que algunos filósofos y expertos en seguridad denominan «El dilema del bebé tigre. Imaginate que encontrás un hermoso cachorro de tigre recién nacido: es tierno, inofensivo y dan ganas de abrazarlo y cuidarlo en casa. Pero por más que lo alimentes con amor, le enseñes modales y juegues con él todos los días, ese cachorro inevitablemente va a crecer. Y cuando se convierta en una bestia adulta de trescientos kilos con fauces letales, ya no importará cuánto lo querías o qué tan buenas intenciones tenías al criarlo: su propia naturaleza hará que su existencia represente un peligro mortal del que quizás ya no puedas escapar. Con la superinteligencia artificial estamos alimentando exactamente al mismo cachorro, maravillados por lo tierno que se ve hoy, sin querer aceptar que mañana podría ser demasiado autónomo para controlarlo.

Leon J Blaze es creador de Warwolf Comic, profesor y diseñador gráfico publicitario. Especializado en narrativa visual, cómics, cultura geek y comunicación digital, participa en proyectos editoriales, audiovisuales y de contenido multiplataforma.

Contacto: Leonjblaze@laradicheta.com.ar