Un agente de IA interno de Meta — diseñado para asistir a ingenieros con tareas de código y documentación — terminó exponiendo datos sensibles de la empresa a empleados que no deberían haberlos visto. Según The Guardian, el incidente ocurrió cuando el agente, al intentar resolver una consulta técnica, accedió a repositorios internos sin las restricciones de permisos adecuadas y compartió fragmentos de código propietario y datos de usuarios en un canal abierto.
Agentes sin guardrails = riesgo real
Este caso es el ejemplo perfecto de por qué la soberanía de datos no es un lujo sino una necesidad operativa. Un agente autónomo con acceso amplio y sin controles granulares de permisos es como darle las llaves de toda la oficina al pasante del primer día. El problema no es la IA en sí — es la implementación descuidada. Meta tenía un sistema de permisos para humanos, pero nadie pensó en aplicar las mismas restricciones al agente.
Lo más preocupante es que esto pasó en Meta, una empresa con miles de ingenieros de seguridad. Si les pasa a ellos, imaginate lo que puede pasar en una PyME que implementa un agente de IA sin asesoramiento. Los guardrails — controles de acceso, logs de auditoría, sandboxing — no son opcionales. Son el mínimo indispensable.
"Si tu agente de IA tiene acceso a más datos de los que necesita para su tarea específica, ya tenés un problema de seguridad. No importa cuán sofisticado sea el modelo." — Bruce Schneier, experto en ciberseguridad.
La alternativa: LLMs locales y control total
Este tipo de incidentes refuerza el caso para los modelos de lenguaje locales. Cuando corrés tu propio LLM en infraestructura propia, vos controlás qué datos puede ver, qué puede hacer y a quién puede responder. No dependés de que un tercero configure bien los permisos. Para empresas que manejan datos sensibles — salud, finanzas, legales — esto ya no es una opción teórica sino una necesidad práctica.
En Argentina, empresas como bancos y fintechs ya están evaluando implementaciones on-premise de modelos como Llama y Mistral. El costo bajó dramáticamente en los últimos 12 meses y el rendimiento es más que suficiente para la mayoría de los casos de uso empresariales. La lección de Meta es clara: la conveniencia de la nube no compensa el riesgo de perder el control de tus datos.
