Jacob Coxon renunció a Anthropic tras advertir que la competencia entre empresas acelera el desarrollo de la inteligencia artificial sin garantías suficientes de seguridad. Sus declaraciones reavivaron el debate sobre la necesidad de regular esta tecnología.
La renuncia del investigador Jacob Coxon a la empresa estadounidense Anthropic volvió a poner en el centro del debate los riesgos del desarrollo acelerado de la inteligencia artificial. Tras abandonar la compañía, el especialista publicó un mensaje en la red social X en el que criticó el rumbo que están tomando las principales empresas del sector. “Ninguna de las dos compañías está actuando con responsabilidad. Están corriendo directamente hacia una superinteligencia que se mejora a sí misma y están apostando con nuestras vidas”, escribió en referencia a Anthropic y OpenAI. La publicación se viralizó rápidamente y generó reacciones de investigadores, empresarios y especialistas en tecnología de distintos países.
Coxon trabajó durante tres años en OpenAI y posteriormente en Anthropic desarrollando modelos avanzados de inteligencia artificial. Aunque reconoció que ambas compañías cuentan con equipos dedicados exclusivamente a la seguridad de sus sistemas, aseguró que la competencia por liderar el mercado está acelerando el desarrollo de modelos cada vez más potentes, reduciendo los márgenes de precaución. En otra de sus publicaciones afirmó que “las personas que construyen IA creen sinceramente que podría matarnos a todos antes de que termine la década”, una advertencia que, según él, muchos ejecutivos evitan expresar públicamente. Días después aclaró, en declaraciones recogidas por medios estadounidenses, que nunca pretendió que sus mensajes se hicieran virales, sino llamar la atención sobre un problema que considera urgente.
Otros expertos respaldan las advertencias
Las declaraciones de Coxon encontraron respaldo dentro de la propia Anthropic. El investigador Evan Hubinger, especializado en alineación de inteligencia artificial, sostuvo que “realmente creemos que la IA podría matar a todos los seres humanos” y estimó una probabilidad superior al 10 % de que ocurra un escenario catastrófico durante la próxima década si no se logra controlar una eventual superinteligencia. En una línea similar, Elon Musk declaró recientemente en una entrevista con The Economist que la inteligencia artificial superará la capacidad intelectual humana en aproximadamente cinco años y advirtió que “los humanos ya no estarán al mando dentro de diez años”. No obstante, también señaló que esta tecnología podría generar una etapa de “abundancia extraordinaria” si se desarrolla bajo estrictos mecanismos de seguridad y supervisión.
Regulación, el principal desafío
Mientras Anthropic insiste en que la seguridad continúa siendo una prioridad y que mantiene equipos dedicados a evaluar los riesgos de sus modelos antes de su lanzamiento, la salida de Coxon ha intensificado el debate sobre el ritmo con el que avanza la industria. Diversos especialistas sostienen que la competencia entre empresas podría estar superando la capacidad de los gobiernos para establecer normas comunes. En ese contexto, crecen los llamados para impulsar acuerdos internacionales que regulen el desarrollo de sistemas cada vez más avanzados y garanticen que la innovación tecnológica vaya acompañada de mecanismos efectivos de supervisión, transparencia y responsabilidad.
