Hinton, el padre del aprendizaje profundo, le pone número al riesgo: hasta dos de cada diez chances de que la IA nos extinga

¿Puede la inteligencia artificial terminar con la especie humana? Sí, según Geoffrey Hinton, el británico-canadiense de 78 años al que muchos consideran el padre del aprendizaje profundo. Y no es una hipótesis lejana: el propio Hinton le asigna entre un 10 % y un 20 % de probabilidades de que ocurra en los próximos treinta años.

Después de renunciar a Google en 2023, justamente para poder opinar sin mordaza corporativa, Hinton viene recorriendo el mundo con un mensaje incómodo: nunca en la historia el ser humano se enfrentó a entidades más inteligentes que él mismo. Y eso, dice, nos tiene en franca desventaja.

El número que sacude a la industria

En charla con distintos medios internacionales, el investigador aclaró que ese rango del 10 % al 20 % no es un capricho. Lo sostiene por una razón concreta: la velocidad a la que avanza la disciplina voló por arriba de las proyecciones que él mismo manejaba hace apenas diez años. Si el progreso sigue este ritmo, la superinteligencia podría estar entre nosotros antes de 2055.

“La humanidad nunca se enfrentó a entidades más inteligentes que ella misma, y ese punto ciego es el mayor peligro del momento.”Geoffrey Hinton, investigador y ganador del Premio Turing

Por qué ya no alcanza con regular tarde

El planteo de Hinton no es tecnofóbico, ojo. Él mismo aclara que la tecnología no es mala en sí. El problema es otro: la innovación corre más rápido que los marcos regulatorios. Para explicarlo usó una comparación bien doméstica, casi de barrio. Pensá en un auto con un acelerador enorme pero sin volante: cuanto más pisás el acelerador, más riesgo corrés. La regulación gubernamental, en su esquema, es ese volante.

• Hinton sostiene que los modelos de lenguaje ya no se limitan a detectar patrones en montañas de texto.
• Dice que comprenden realmente los conceptos abstractos que procesan, y eso cambia la categoría del riesgo.
• Rechaza la idea de dejar la seguridad de la IA en manos del mercado y de la competencia entre países.

En criollo: el tipo que construyó las redes neuronales modernas está preocupado por su propia criatura. Y no por especulación filosófica, sino porque ve evidencia técnica concreta de que la cosa se nos puede ir de las manos.

Hay un dato que a mí, como lector curioso, me dejó pensando. Si hasta el hombre que puso los ladrillos reconoce que la regulación le llega tarde a la tecnología, ¿qué nos queda al resto? Para Hinton, todavía hay margen de maniobra, pero se achica cada día. La ventana para definir la orientación ética de los sistemas que estamos construyendo sigue abierta, aunque cada modelo nuevo la cierra un poco más.

Por eso repite una y otra vez lo mismo: hacen falta leyes globales, no acuerdos de autorregulación corporativa. La competencia geopolítica entre Estados Unidos, China y Europa no puede ser excusa para postergar lo que él considera una cuestión de supervivencia. ¿Te parece realista una regulación planetaria de la IA? Yo todavía no la veo cerca, pero coincido con Hinton en que ir sin reglas es la peor de las opciones. Si te sirve, ponelo sobre la mesa la próxima vez que alguien te diga que esto es alarmismo.