La carrera de desarrolladores ciega riesgos que podrían acabar con la humanidad antes del 2030
El investigador de la empresa Anthropic, Jacob Coxon, dio a conocer que la Inteligencia Artificial podría acabar con la humanidad a finales de la década, por lo que optó por renunciar e informar de lo que está sucediendo dentro de los desarrolladores.
Ya la ONU se ha pronunciado. Como informó el sitio de casa, Parabólica.mx, el organismo advirtió que esta tecnología podría convertirse en un “riesgo existencial para la humanidad” si no se toman medidas y si no se limita el uso de artefactos automatizados también para la guerra.
Volker Türk, Alto Comisionado de Naciones Unidas para los Derechos Humanos, se sumó a los llamados para que se imponga un mayor control de la inteligencia artificial (IA).
https://www.parabolica.mx/2026/internacional/item/11276-alerta-onu-que-la-inteligencia-artificial-supone-un-riesgo-existencial-para-la-humanidad
En un hilo publicado en su cuenta de la red social X, el experto en IA indicó que su labor se basaba en investigación de preentrenamiento para Anthropic y OpenAI, pero que en ninguna de las dos compañías está actuando de manera responsable.
“Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de pre-entrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas”, refirió.
Por ello, acotó que no hay que subestimar el poder de esta tecnología, ya que pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026“Todos hemos presenciado el progreso en cada uno de estos dominios, y el progreso no está desacelerando. Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”, alertó.
Aclaró que es un truco de marketing, si acaso, ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, “pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro”.
“Una respuesta común es: ‘si realmente creen esto, ¿por qué siguen construyéndolo?’. En OpenAI, muchos no han interiorizado profundamente las apuestas civilizatorias. En Anthropic, las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo. Aceptar esta carrera e ingresar al ‘endgame’ es una apuesta arrogante que no debería lanzarse desde la flojera de una empresa privada. Intentar hacer una carrera rápida del alineamiento debería requerir una confianza extraordinaria en que no hay trayectorias mejores disponibles”, reveló.
Por eso, se dijo optimista sobre el potencial para la coordinación, ya que los “disparos de advertencia”, como el ataque a Hugging Face, han hecho que los acuerdos de ritmo entre laboratorios de Estados Unidos sean más viables.
“No siento que estemos en camino de prevenir una carrera global, lo que podría requerir acciones costosas como una prohibición temporal de mejorar las capacidades de los modelos. Si eres un investigador de laboratorio, te insto a que consideres cómo se sentirán realmente los próximos años. ¿Quieres iniciar una ejecución de RL superinteligente sin una comprensión rigurosa de su mente? ¿Deberías agachar la cabeza porque ‘de todos modos está sucediendo’ —o aprovechar este momento para pedir condiciones diferentes?”, concluyó.
Según el portal RT, la reacción más contundente ante tales declaraciones llegó de Evan Hubinger, responsable de Alignment Science en Anthropic, quien afirmó que Coxon estaba en lo correcto y estimó en más del 10% la probabilidad de que la IA provoque la extinción humana durante los próximos 10 años.
También Samuel Marks, responsable de Scalable Oversight en Anthropic, se sumó a la discusión señalando que "los desarrolladores de IA creen que su tecnología podría provocar la extinción de la humanidad (o consecuencias igualmente graves)" en los próximos años.
