Dario Amodei publicó un ensayo solicitando mayor cautela a las empresas del sector, proponiendo auditorías externas permanentes y marcos de seguridad antes de lanzar nuevos modelos.
El cofundador y CEO de Anthropic, Dario Amodei, hizo un llamado público a la industria de la inteligencia artificial para reducir el ritmo de desarrollo de esta tecnología. A través de un ensayo publicado en su blog oficial, el ejecutivo detrás del modelo Claude sostuvo que la prevención de riesgos debe ser la máxima prioridad del sector tecnológico. La postura de Amodei se dio a conocer luego de que la propia compañía publicara un informe revelando cómo sus modelos fueron utilizados de forma no autorizada por diversos actores para operaciones cibernéticas, desarrollo de armas, fraude y vigilancia.
Para abordar la problemática sin frenar por completo el progreso técnico, el empresario propuso un marco de seguridad en tres pasos que incluye la incorporación de evaluadores externos independientes de forma permanente en las firmas líderes. Esta advertencia se suma a recientes incidentes de seguridad reportados en empresas competidoras como OpenAI y a las renuncias de investigadores internos que alertan sobre los peligros de una carrera desenfrenada. Amodei instó a las plataformas a colaborar de forma voluntaria en la creación de estándares, en un contexto de creciente presión por parte de los legisladores de Estados Unidos para imponer regulaciones estatales.
Acerca del autor
