Un treballador de Meta va publicar una pregunta en un fòrum intern.

[lalgorisme@infosec.exchange]

Un treballador de Meta va publicar una pregunta en un fòrum intern. Un altre enginyer va demanar a un agent d'IA que l'ajudés a analitzar la pregunta, però l'agent va publicar la resposta directament al fòrum sense demanar permís. A més, el consell que va donar era incorrecte.
El treballador que havia fet la pregunta va seguir les instruccions de l'agent, i això va fer que grans quantitats de dades de l'empresa i dels usuaris quedessin accessibles a enginyers que no tenien autorització per veure-les, durant dues hores.
Meta va classificar l'incident de severitat 1, el segon nivell de gravetat més alt del seu sistema intern.
La velocitat de desplegament de tecnologíes IA va molt per davant dels sistemes de control i governança, exemple 747590098545.
https://www.findarticles.com/meta-confronts-rogue-ai-agents-after-data-exposure/