Altman, el CEO de OpenAI, marca la cancha: dos riesgos que le preocupan de la inteligencia artificial

¿Te suena a ciencia ficción que una máquina termine tomando las decisiones más importantes? Sam Altman, el cerebro detrás de OpenAI, dice que no es un guion de Hollywood: es uno de los dos riesgos centrales que ya están sobre la mesa cuando se habla del avance de la inteligencia artificial.

Los dos escenarios que le preocupan

Los dos escenarios que le preocupan

El primero es el clásico de las películas: que la humanidad pierda el control sobre sistemas cada vez más capaces. Es como subirse a un tren que va acelerando y no tener el freno a mano. El segundo, más terrenal y por eso más preocupante para muchos, es que una sola persona, empresa o país termine acumulando un poder enorme gracias a esa tecnología.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, CEO de OpenAI

La receta que propone

La receta que propone

Altman reconoce que esquivar ambos peligros al mismo tiempo es como caminar por una cornisa angosta. Para no caer, sostiene que las técnicas de alineación y seguridad tienen que correr a la par de los modelos, o incluso unos pasos adelante. En criollo: no sirve lanzar una herramienta nueva si todavía no sabemos cómo apagarla si algo sale mal.

• Un marco regulatorio federal que fije requisitos de seguridad comunes para los modelos de frontera, esos que están en el límite de lo que la tecnología puede dar.
• La incorporación de auditores independientes en los mecanismos de supervisión, para que el control no quede solo en manos de las propias empresas.
• Coordinación internacional entre gobiernos, ya que la carrera entre países no puede justificar correr riesgos innecesarios.

El propio Altman fue claro con eso último: ninguna presión competitiva debería empujarnos a ser imprudentes. Es como si en una carrera de autos te dijeran que el rival pisa más fuerte el acelerador y vos, en vez de mantener la prudencia, sacaras el volante. No tiene sentido si el premio es terminar todos en la banquina.

También dejó una frase para el escritorio de cualquier directivo: las empresas no deberían esperar a que salgan nuevas leyes para empezar a aplicarse medidas de seguridad por su cuenta. O sea, la responsabilidad no se delega en el legislador; se asume antes.

Y ahora, la pregunta que queda dando vueltas

Y ahora, la pregunta que queda dando vueltas

Porque más allá de los discursos, la gran duda es cómo se traduce todo esto en la práctica. ¿Qué mecanismos concretos de supervisión sirven para que el desarrollo de la inteligencia artificial no concentre poder en unas pocas manos? La pelota pasa de los laboratorios a los parlamentos, a los organismos de control y, en última instancia, a nosotros como sociedad que usamos y exigimos estas herramientas. Si te sirve, probá a mirar con esa lupa cada vez que aparezca una noticia sobre regulación de IA: te vas a llevar más de una sorpresa.