OS-Sentinel : Vers des agents d'interface graphique mobile plus sûrs grâce à une validation hybride dans des workflows réalistes
OS-Sentinel: Towards Safety-Enhanced Mobile GUI Agents via Hybrid Validation in Realistic Workflows
October 28, 2025
papers.authors: Qiushi Sun, Mukai Li, Zhoumianze Liu, Zhihui Xie, Fangzhi Xu, Zhangyue Yin, Kanzhi Cheng, Zehao Li, Zichen Ding, Qi Liu, Zhiyong Wu, Zhuosheng Zhang, Ben Kao, Lingpeng Kong
cs.AI
papers.abstract
Les agents informatiques utilisant des modèles vision-langage (VLM) ont démontré des capacités quasi humaines pour opérer dans des environnements numériques comme les plateformes mobiles. Bien que ces agents promettent d'importantes avancées en automatisation numérique, leur potentiel d'opérations non sécurisées, telles que la compromission de systèmes et la fuite de données privées, soulève des préoccupations majeures. Détecter ces risques de sécurité dans l'espace opérationnel vaste et complexe des environnements mobiles représente un défi formidable qui reste cruellement sous-exploré. Pour établir les bases de la recherche sur la sécurité des agents mobiles, nous présentons MobileRisk-Live, un environnement sandbox dynamique accompagné d'un benchmark de détection de sécurité comprenant des trajectoires réalistes avec des annotations granulaires. Sur cette base, nous proposons OS-Sentinel, un nouveau cadre hybride de détection de sécurité qui combine de manière synergique un Vérificateur Formel pour détecter les violations explicites au niveau système avec un Juge Contextuel basé sur VLM pour évaluer les risques contextuels et les actions des agents. Les expériences montrent qu'OS-Sentinel obtient des améliorations de 10% à 30% par rapport aux approches existantes sur plusieurs métriques. Une analyse plus poussée fournit des insights critiques qui favorisent le développement d'agents mobiles autonomes plus sûrs et plus fiables.
English
Computer-using agents powered by Vision-Language Models (VLMs) have
demonstrated human-like capabilities in operating digital environments like
mobile platforms. While these agents hold great promise for advancing digital
automation, their potential for unsafe operations, such as system compromise
and privacy leakage, is raising significant concerns. Detecting these safety
concerns across the vast and complex operational space of mobile environments
presents a formidable challenge that remains critically underexplored. To
establish a foundation for mobile agent safety research, we introduce
MobileRisk-Live, a dynamic sandbox environment accompanied by a safety
detection benchmark comprising realistic trajectories with fine-grained
annotations. Built upon this, we propose OS-Sentinel, a novel hybrid safety
detection framework that synergistically combines a Formal Verifier for
detecting explicit system-level violations with a VLM-based Contextual Judge
for assessing contextual risks and agent actions. Experiments show that
OS-Sentinel achieves 10%-30% improvements over existing approaches across
multiple metrics. Further analysis provides critical insights that foster the
development of safer and more reliable autonomous mobile agents.