Varios de los principales responsables del desarrollo de inteligencia artificial vienen hablando sobre la posibilidad de que sus creaciones se vuelvan peligrosas. Es una situación que llama la atención, no solo todos tenemos a Skynet presente, sino que ahora las mismas empresas que compiten por construir estos sistemas cada vez más capaces advierten que podríamos perder el control sobre ellos. Pero, que no cunda el pánico, a veces conviene escucharlas, a veces es mejor ignorarlas. Un riesgo no equivale a que el desenlace ya esté escrito.
Las preocupaciones abarcan escenarios muy diferentes. Dario Amodei (Anthropic) plantea riesgos relacionados con el uso malicioso de la IA, el desplazamiento laboral y la concentración de poder. Demis Hassabis (Google DeepMind) expone la necesidad de mecanismos y estándares internacionales para contener a estos sistemas. Sin embargo, en las publicaciones de Amodei y Hassabis no solo hay preocupación, sino también propuestas para intervenir. Esa distinción importa: Advertir sobre un futuro posible tiene sentido precisamente porque todavía se puede influir en él.
En sus argumentos aparece la expectativa de sistemas con mucha más capacidad y autonomía, frente a los cuales los controles actuales podrían resultar insuficientes. También hay una dimensión comercial y política (como siempre, personalmente creo que esto es más propagandístico que otra cosa). Claramente se busca la promoción (léase como: «mi herramienta es la mejor, tanto así que alcanzará AGI primero, que nos mate a todos es solo un efecto secundario») y a la vez hacer lobby sobre las reglas que van a limitar su actividad. Pueden tener preocupaciones sinceras, pero defienden lo que le conviene a sus empresas al mismo tiempo. Su conocimiento técnico les da una voz relevante, pero no la última palabra sobre cuánto riesgo deberíamos aceptar el resto.
Personalmente, no compro la conclusión de que la humanidad tiene los días contados. Entre una herramienta capaz de resolver tareas complejas y un sistema capaz de provocar una catástrofe global hay muchos supuestos, la gran mayoría sacados de Hollywood. Por otro lado, tampoco alcanza con ver el estado de los modelos actuales para descartar cualquier peligro futuro. En ambos extremos se corre el riesgo de confundir una convicción con una certeza.
Mientras discutimos esos escenarios, hay decisiones bastante concretas por tomar. Una empresa puede limitar los permisos de sus agentes, exigir aprobación para operaciones sensibles y conservar registros de lo que hicieron. Los desarrolladores pueden someter sus sistemas a evaluaciones independientes y aceptar que ciertos resultados obliguen a postergar un lanzamiento. Ninguna medida garantiza seguridad absoluta, pero permite actuar sin esperar a resolver todas las incógnitas.
Mi expectativa es que el mundo siga, aunque sigan cambiando muchas cosas en el camino. Ese optimismo depende, en parte, de que las advertencias se conviertan en decisiones y controles. Podemos equivocarnos al pronosticar una catástrofe, pero también puede que la catástrofe no suceda por haber hecho bien en prevenirla. La clave es, como siempre, no perder el pensamiento crítico.