Se habría usado para indagar en la alteración genética de patógenos peligrosos
Anthropic, uno de los gigantes estadounidenses de investigación y desarrollo de inteligencia artificial, hizo publico un extenso informe técnico de inteligencia de amenazas donde confirmó haber bloqueado múltiples cuentas de científicos vinculados a gobiernos que intentaron utilizar su modelo de inteligencia artificial, Claude, para realizar investigaciones que podrían ayudar al desarrollo de armas biológicas.
Este reporte representa la primera admisión formal por parte de una gran empresa del sector sobre casos reales en los que actores estatales intentaron aprovechar las capacidades avanzadas de la IA para fines bioterroristas o de proliferación de armas prohibidas.
Entre los detalles clave del informe, se expone que ante el incidente de los virus, Anthropic detectó y detuvo intentos de científicos (cuyos países de origen tienen vetado el uso de estas tecnologías) que buscaban apoyo de Claude para redactar solicitudes de financiamiento científico destinadas a la alteración genética de patógenos peligrosos, específicamente el virus del chikungunya transmitido por mosquitos.
El reporte de la compañía no solo abarcó riesgos biológicos. También documentó intentos de usar Claude en China, Rusia y Yemen para desarrollar software de diseño de armas convencionales (como misiles, drones armados y bombas), así como campañas de desinformación generadas por medios estatales rusos.
Anthropic aseguró que todas estas cuentas maliciosas fueron suspendidas antes de que pudieran materializar un daño real, utilizando los patrones detectados para endurecer de forma inmediata las salvaguardas de sus modelos.
Este informa sale a la luz, pocos días antes de que el investigador sénior Jacob Coxon renunció públicamente a Anthropic advirtiendo que la industria está inmersa en una carrera descontrolada hacia la superinteligencia artificial y que las empresas están "jugando con nuestras vidas" ante la falta de planes de alineamiento seguros.
