Las empresas OpenAI y Anthropic enfrentan importantes tensiones internas debido a las propuestas de sus directivos para limitar el desarrollo de la inteligencia artificial. La situación ha generado inquietud entre los empleados sobre la viabilidad de implementar estas medidas.
El discurso de los líderes de OpenAI y Anthropic sobre la necesidad de ralentizar el desarrollo de la inteligencia artificial está provocando tensiones internas significativas en ambas compañías. Según publica expansion.com, estas tensiones reflejan las dificultades prácticas de llevar a cabo estas promesas.
Los empleados de las empresas, conocidas por sus modelos de IA como ChatGPT y Claude, están intentando seguir las recomendaciones de sus consejeros delegados, Sam Altman y Dario Amodei, que abogan por un enfoque más cauteloso en el desarrollo de la IA. Esto surge tras alarmantes advertencias de investigadores sobre los riesgos asociados con una rápida evolución tecnológica.
En un ensayo reciente, Amodei enfatizó la necesidad de realizar evaluaciones independientes y fomentar la colaboración entre laboratorios y gobiernos. Además, pidió protección legal frente a normativas que pudieran obstaculizar esta colaboración, algo que ha sido un tema recurrente en el sector.
Sin embargo, a pesar de las declaraciones públicas, internamente se ha hecho poco para implementar las nuevas propuestas. Muchos empleados están de acuerdo en que es necesario ralentizar el progreso, pero también temen que esto pueda poner en riesgo sus puestos de trabajo. La idea de integrar evaluadores externos para supervisar el desarrollo ha generado preocupaciones sobre la seguridad de la tecnología.
OpenAI ha afirmado que ya ha tomado medidas concretas, como la paralización de ciertos entrenamientos, a diferencia de Anthropic, que no ha detenido su investigación. La implementación de un acceso más amplio para evaluadores externos presenta desafíos significativos en cuanto a la protección de datos y la seguridad de los sistemas.
Las organizaciones independientes que actúan como evaluadoras han cobrado relevancia este año tras las brechas de seguridad en ambas compañías, lo que subraya la necesidad de un enfoque más colaborativo en el sector tecnológico.
También te puede interesar
