Microsoft ha tomado la decisión de restringir temporalmente el acceso de sus empleados a Claude Fable 5, el reciente modelo de inteligencia artificial desarrollado por Anthropic, debido a inquietudes sobre la manera en que la empresa gestiona y almacena los datos de los usuarios.
Según un informe de The Verge, la compañía ha eliminado de forma temporal Claude Fable 5 del selector de modelos disponible para sus trabajadores en la versión interna de GitHub Copilot. No obstante, los demás modelos de la familia Claude siguen habilitados bajo la política conocida como Retención Cero de Datos (Zero Data Retention o ZDR).
Esta medida fue tomada en respuesta a las preocupaciones expresadas por el equipo legal de Microsoft en relación con el tratamiento de información confidencial y datos corporativos que podrían ser expuestos por los empleados al utilizar el nuevo modelo.
Qué hay de nuevo en Claude Fable 5
Claude Fable 5 fue lanzado esta semana como el primer modelo de clase Mythos destinado al público general. A diferencia de versiones anteriores de Claude, este modelo requiere la retención temporal de datos para habilitar nuevos sistemas de seguridad que ha desarrollado Anthropic.
Estos mecanismos están diseñados para detectar intentos de eludir las restricciones del modelo mediante métodos conocidos como «jailbreaking», que implica formular diferentes versiones de una misma consulta para obtener respuestas prohibidas.
Para lograr esto, Anthropic almacena temporalmente tanto los prompts enviados por los usuarios como las respuestas generadas por el sistema. La compañía asegura que estos datos se eliminan normalmente después de 30 días, aunque pueden ser retenidos hasta dos años si se identifican posibles infracciones a sus políticas de uso.
Este cambio impacta especialmente a los clientes corporativos que operaban bajo el esquema de Retención Cero de Datos, una modalidad que se utiliza para asegurar mayores niveles de privacidad y confidencialidad. También afecta a usuarios empresariales que acceden a Claude a través de plataformas como AWS Bedrock, Google Cloud o Microsoft Foundry.
En contraste, para los usuarios de los planes gratuitos, Pro y Max, la retención de datos ya era parte de las condiciones de uso y continúa aplicándose sin cambios.
El reto de los modelos avanzados
Anthropic sostiene que Claude Fable 5 incluye salvaguardas adicionales, ya que es una versión adaptada para uso general de la tecnología Mythos 5, considerada una de las más avanzadas de la compañía. La empresa argumenta que ciertas amenazas solo pueden ser detectadas al analizar varias interacciones en conjunto, lo que requiere conservar temporalmente tanto las instrucciones como las respuestas generadas.
Por su parte, Claude Mythos 5, que está destinado a un grupo muy limitado de organizaciones de investigación y seguridad, no cuenta con estas restricciones adicionales, ya que opera en entornos controlados.
La decisión de Microsoft refleja el creciente debate en la industria sobre cómo equilibrar las capacidades avanzadas de inteligencia artificial con la seguridad y la protección de datos, especialmente en contextos empresariales donde la confidencialidad de la información es fundamental.
Con información de AFP
Con información de Montevideo Portal
