Meta ha decidido suspender de manera temporal un sistema interno diseñado para registrar la actividad informática de sus empleados, después de detectar una brecha de seguridad que dejó al descubierto conversaciones privadas dentro de la empresa.
La herramienta, conocida como Model Capability Initiative (MCI), fue implementada con el propósito de recopilar datos sobre cómo los empleados interactúan con sus computadoras y aplicaciones, orientándose a entrenar modelos de inteligencia artificial cada vez más avanzados.
No obstante, una filtración de datos expuso información privada de los trabajadores, lo que llevó a la compañía a pausar el programa mientras se investiga el incidente.
MCI registraba diferentes aspectos de la actividad digital de los empleados, como clics, pulsaciones de teclado y navegación en determinadas aplicaciones.
Meta había indicado al lanzar la iniciativa que estos datos permitían generar ejemplos reales de uso que ayudarían a entrenar sistemas de inteligencia artificial para asistir a las personas en tareas cotidianas realizadas desde sus computadoras. «Si estamos creando agentes para ayudar a las personas a realizar tareas cotidianas con ordenadores, nuestros modelos necesitan ejemplos reales de cómo los utilizan realmente los usuarios», había señalado la compañía en abril.
Este sistema formaba parte de los esfuerzos de Meta para desarrollar agentes de IA que comprendan mejor el comportamiento humano frente a una pantalla y ejecuten acciones de forma más eficiente.
La brecha de seguridad fue revelada por el medio especializado Business Insider, que tuvo acceso a capturas de pantalla relacionadas con el incidente.
A pesar de que Meta ha reconocido la situación, ha asegurado que no hay indicios de que empleados hayan accedido de manera indebida a la información privada de otros trabajadores. La empresa también sostuvo que el programa fue diseñado con medidas de protección para preservar la privacidad de quienes participaban en el proceso de recopilación de datos. «El sistema fue cuidadosamente diseñado con salvaguardias de privacidad», indicó la compañía en declaraciones citadas por el medio estadounidense.
A pesar de eso, el incidente conllevó la suspensión inmediata del proyecto mientras continúan las investigaciones internas.
Este acontecimiento reabre el debate sobre los métodos que utilizan las grandes tecnológicas para obtener datos destinados al entrenamiento de sistemas de inteligencia artificial. En los últimos años, empresas como Meta, OpenAI, Google y Anthropic han aumentado la búsqueda de información que les permita mejorar las capacidades de sus modelos, especialmente aquellos que buscan automatizar tareas complejas realizadas por personas.
En este contexto, los datos de uso real son considerados muy valiosos porque reflejan cómo los usuarios interactúan con programas, sitios web y herramientas digitales en situaciones cotidianas. Sin embargo, la recopilación de este tipo de información también plantea dudas sobre privacidad, transparencia y protección de datos.
Cambios recientes en el sistema
Antes de la filtración, Meta ya había implementado algunas modificaciones para atender las inquietudes de los empleados. Entre estas medidas, se encontraba la opción de interrumpir temporalmente el monitoreo durante períodos de hasta 30 minutos, permitiendo así realizar actividades personales sin que estas quedaran registradas por el sistema.
La compañía no ha informado cuándo podría reanudarse el funcionamiento de MCI, ni si el incidente provocará cambios permanentes en la estrategia de recopilación de datos para entrenar sus modelos de inteligencia artificial.
Con información de Montevideo Portal
