La compañía de inteligencia artificial Anthropic ha informado que ha frustrado varios intentos de utilizar sus modelos para el desarrollo de armas biológicas. Este bloqueo se realizó debido al riesgo asociado con el uso indebido de sus tecnologías.
Anthropic ha revelado que ha detectado y bloqueado varios intentos de utilizar sus modelos de inteligencia artificial (IA) en investigaciones que podrían contribuir al desarrollo de armas biológicas. Este anuncio se realizó el jueves y se enmarca en las crecientes preocupaciones sobre el uso dual de la IA, tal y como recoge la información de expansion.com.
En un informe, la empresa indicó que tomó esta decisión durante el año en curso, aunque no pudo establecer si los estudios tenían fines legítimos o maliciosos. Ante la incertidumbre, optó por bloquear dichos usos para evitar que sus modelos contribuyan al desarrollo de patógenos peligrosos.
"Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real", expresó la compañía en su documento.
Hasta la fecha, Anthropic ha afirmado que no tiene constancia de que ninguna empresa privada haya presentado públicamente evidencia sobre el posible mal uso de sus plataformas para este tipo de desarrollo. Sin embargo, la tecnológica incluyó una lista de casos en los últimos ocho meses en los que se han utilizado sus modelos de IA de manera indebida, incluyendo el chatbot Claude, en países como China, Rusia y Yemen.
Este informe se lanza en un contexto de preocupación creciente entre los expertos del sector tecnológico sobre el riesgo que representa la IA, que puede facilitar investigaciones biológicas y, al mismo tiempo, ser utilizada para actividades peligrosas. Anthropic ha desarrollado sistemas de detección para identificar y bloquear usos que representen un riesgo en sus modelos de IA.
También te puede interesar
