Imaginate la escena: Sam Altman, el tipo que maneja la empresa detrás de ChatGPT, parado frente a un micrófono con cara de preocupado y diciendo, casi en porteño, "che, muchachos, esto se nos puede ir de las manos". No, no fue tan así. Pero la idea va por ahí. El CEO de OpenAI volvió a encender las alarmas sobre los dos fantasmas que, según él, sobrevuelan el avance de la inteligencia artificial: que perdamos el control de sistemas cada vez más capaces, o que alguien se quede con la lapicera y nos escriba el futuro a su gusto.

El primer escenario suena a película de ciencia ficción barata, pero Altman lo plantea con cara muy seria. "Podríamos perder el control del futuro ante la IA", tiró, y agregó algo que parece el slogan de un club de fans de la humanidad: "Estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas". La solución que propone suena razonable: que las técnicas de seguridad y alineación corran a la par de las capacidades de los modelos, o un pasito adelante, no atrás como suele pasar.

El segundo riesgo, que es el que más me preocupa

Porque una cosa es que la máquina se vuelva rebelde estilo Terminator, y otra muy distinta es que el vecino de al lado, con buena plata y mejores algoritmos, termine decidiendo cómo vivimos todos. "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", advirtió. Y reconoció que esquivar los dos riesgos al mismo tiempo es como caminar por la cornisa de un edificio de veinte pisos: hay que tener pulso firme.

“Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia.”Sam Altman, CEO de OpenAI

¿Y cómo se hace para que esto no termine en un disparate?

• Un marco regulatorio federal con requisitos de seguridad comunes para los modelos de frontera, esos que están en el límite de lo que la tecnología da.
• Auditores independientes metidos en el meollo de la supervisión, no como adorno de la gilada.
• Coordinación entre gobiernos, porque si cada país va a su propio ritmo, esto termina siendo un tren a la nada con cada vagón en una dirección distinta.

Eso sí, el propio Altman aclara que las empresas no tienen que esperar a que salgan las leyes para empezar a cuidarse. Algo así como decir "no fumes esperando que prohíban los cigarrillos". Mi vieja, que es ucraniana y sabiha mil cosas, diría algo como ", ", que en criollo viene a ser "haganlo, que después va a ser tarde". Y la verdad, le doy razón: esperar a que el Estado te regule mientras los algoritmos te lavan el cerebro es como pedirle al bombero que llegue antes de que tomes mate. (Dicho esto con todo el cariño a los bomberos, que son unos grosos.)

La pregunta del millón, la que me dejaste picando al final, no tiene respuesta fácil. ¿Qué mecanismos concretos sirven para que la IA no concentre poder en pocas manos? Yo te tiro los míos: transparencia obligatoria en los datos de entrenamiento, acceso público a auditorías, comités éticos con dientes y no sólo con buen corazón, y por sobre todo, educación digital para que vos y yo dejemos de ser analfabetos tecnológicos a merced de cuatro CEOs con plata infinita. Pero el debate recién empieza, y lo que pase de acá a cinco años depende de que estas conversaciones dejen de ser cosas de nerds en Twitter y pasen a la mesa del bar de la esquina. Fin de semana largo, buen chamamé y, por las dudas, desenchufá el micrófono que le pediste a la IA que te cantara el feliz cumple.