Hace dos semanas escribí en esta columna sobre la renuncia de Jacob Coxon a Anthropic y las dudas que despertó su viralización de un tuit que publicó contando las amenazas que la IA le traía a la humanidad. Dije, en ese momento, que ninguna de las explicaciones se anulaba entre sí: que Coxon podía ser sincero, que su trayectoria técnica era real, y que al mismo tiempo hubo una maquinaria de intereses que supo aprovechar el momento. Ahora además sabemos que Coxon renunció dos meses antes de que se le vencieran sus acciones en la empresa. Él mismo lo dijo sin vueltas: "ya no tengo nada para ganar inflando la valuación de Anthropic". El dato pesa, porque desarma buena parte de la sospecha de que esto fue un cálculo financiero. También reconoció algo más incómodo: que en el ambiente de la seguridad en IA a veces existe "una paranoia excesiva" respecto de OpenAI y de China, que también puede usarse para justificar que sigan corriendo sin frenar.
La curva exponencial
Nicolás Varela es periodista y conductor de radio de profesión. De lunes a viernes conduce Buenos Vecinos, un magazine de información y entretenimiento local por FM 88,7 y El Diario Sur en Vivo. También forma parte de FeFIJEE al Extremo, los sábados a las 20.
Lo que no bajó fue el respaldo de sus excolegas. Evan Hubinger, jefe del equipo que en Anthropic pone a prueba los mecanismos de alineación, salió a bancarlo en público: escribió que él personalmente cree que hay más del 10% de probabilidad de que la IA termine matando a toda la humanidad en la próxima década, y que la empresa "todavía no tiene un plan para resolver la alineación de una superinteligencia". Hubinger no dio ningún portazo ni habló después de renunciar. Hubinger sigue trabajando en Anthropic.
Coxon, mientras tanto, recorrió NBC, CNN y Fox News, y ahí bajó un poco la espuma: dijo que los modelos actuales "no representan un riesgo significativo" y que "lo peor que pueden hacer es hackear algo". El problema, insistió, es la proyección a un año: contó que agentes de OpenAI ya habían logrado vulnerar infraestructura de terceros por decisión propia, y advirtió sobre lo que podría pasar si esa autonomía se conecta a sistemas físicos, desde robots de laboratorio hasta infraestructura crítica.
Y acá entra lo que pasó esta semana en Nueva York, en la Asamblea General de la ONU, porque el tema dejó de ser una discusión de nicho y pasó a ocupar el centro de la escena diplomática mundial. António Guterres, en su último discurso como secretario general antes de dejar el cargo en diciembre, pidió controles internacionales sobre la IA con una frase que se llevó un aplauso largo: "las decisiones de vida o muerte nunca deben dejarse en manos de las máquinas; los robots asesinos no deben tener cabida en nuestro futuro". Pidió además que los países que lideran el desarrollo compartan información sobre riesgos y coordinen pruebas de seguridad en conjunto.
Leé más: ¿Cada voto cuenta?
Un día después, en una sesión inédita convocada por Francia, el Consejo de Seguridad recibió por primera vez en su historia a los máximos responsables de las principales empresas de IA: Sam Altman de OpenAI, Dario Amodei de Anthropic y Clement Delangue de Hugging Face. Amodei fue tajante frente a los quince miembros del Consejo: "si se gestiona mal, creo que la IA podría ser un riesgo para la humanidad en su conjunto", dijo, y sumó que los peligros son "reales e inminentes". Lo de que los peligros eran reales ya lo había admitido el propio Claude cuando lo consulté la vez pasada, lo de que es “inminente” parece ser una novedad.
No todos coincidieron en el diagnóstico. Donald Trump rechazó de plano cualquier regulación internacional y la calificó de "esquema globalista". Emmanuel Macron propuso desarrollar un modelo de IA de frontera y de código abierto para que ningún país quede como "vasallo" de las dos grandes potencias tecnológicas. Volodímir Zelenski llevó el debate al campo de batalla y reclamó control humano sobre las armas autónomas. Y un grupo de 22 países pidió la creación, bajo el paraguas de la ONU, de un organismo internacional que regule la IA. Javier Milei, por su parte, insistió frente a la comunidad internacional con su pedido a Elon Musk para que le regale un Cybertruck negro para pintarle un león dorado y pasear por Buenos Aires.
Lo que hace dos semanas fue un posteo de Twitter, el del chico de 27 años Jacob Coxon, se discutió esta semana en el Consejo de Seguridad de las Naciones Unidas. Como en una función exponencial los pasos se hacen cada vez más grandes, pero no hay que olvidarse que el último equivale al 50% del proceso.