Los líderes de la inteligencia artificial Dario Amodei y Sam Altman han solicitado un ritmo más equilibrado en el desarrollo de la IA, citando preocupaciones sobre su seguridad. Esta petición se produce tras advertencias sobre los riesgos potenciales de sistemas avanzados.
La industria de la inteligencia artificial enfrenta una crisis tras las recientes dimisiones de investigadores y advertencias sobre la seguridad de los sistemas avanzados. Según publica expansion.com, Dario Amodei, CEO de Anthropic, y Sam Altman, CEO de OpenAI, han coincidido en la necesidad de moderar el ritmo de desarrollo para asegurar la seguridad de estas tecnologías.
La semana pasada, el investigador Jacob Coxon dejó Anthropic, expresando su preocupación de que los avances en IA podrían llevar a una superinteligencia que amenace a la humanidad. Coxon estima que la posibilidad de un desenlace catastrófico es superior al 10% en la próxima década.
Amodei ha hecho un llamado a la industria para que desarrolle la IA de manera responsable, asegurando que Anthropic abrirá sus modelos a auditorías externas. Altman también se ha comprometido a aceptar evaluadores externos y ha solicitado al Congreso de EE. UU. que establezca normas de seguridad obligatorias para la IA.
La preocupación sobre la seguridad ha aumentado tras incidentes donde agentes de IA de OpenAI participaron en un ataque a la plataforma Hugging Face y otros experimentos que podrían haber contribuido al desarrollo de armas biológicas. Amodei advirtió que un enjambre de estos agentes avanzados podría controlar internet en un plazo de 6 a 12 meses.
Por su parte, el senador Bernie Sanders ha instado a una pausa en el desarrollo de sistemas avanzados hasta que se establezcan normas federales de seguridad. Mientras tanto, otros congresistas están impulsando iniciativas para garantizar que los agentes de IA permanezcan bajo supervisión humana.
También te puede interesar
