OpenAI está evaluando la posibilidad de reducir el ritmo de desarrollo de su inteligencia artificial más avanzada. Esta medida, impulsada por su CEO, Sam Altman, busca coordinar acciones con otros laboratorios del sector.
OpenAI está considerando reducir el ritmo de desarrollo de sus sistemas de inteligencia artificial más avanzados. El CEO de la compañía, Sam Altman, ha informado a los empleados que se plantea coordinar esta acción con otros laboratorios de IA, tal como recoge Bloomberg.
La empresa ha solicitado directrices al Congreso sobre la legalidad de implementar un freno coordinado en el desarrollo de la inteligencia artificial en los Estados Unidos. Esto surge ante la incertidumbre sobre si un acuerdo de este tipo podría infringir las leyes antimonopolio.
La preocupación por la seguridad en la IA ha crecido recientemente tras alertas de desarrolladores de grandes laboratorios sobre los riesgos asociados a la carrera por crear modelos más avanzados sin tener claro cómo mantenerlos bajo control. En particular, el investigador Jacob Coxon ha advertido que existe una probabilidad superior al 10% de que la inteligencia artificial pueda amenazar a la humanidad en la próxima década.
Además, Anthropic, otra empresa del sector, ha revelado que ha bloqueado intentos de usar sus sistemas de IA para investigaciones relacionadas con armas biológicas. En un documento de política pública, OpenAI ha solicitado regulación en Estados Unidos para los modelos más avanzados, que incluya auditorías independientes y medidas de ciberseguridad.
También te puede interesar
