OS-Sentinel: Zu sicherheitsverbesserten mobilen GUI-Agenten durch hybride Validierung in realistischen Workflows

OS-Sentinel: Towards Safety-Enhanced Mobile GUI Agents via Hybrid Validation in Realistic Workflows

October 28, 2025

papers.authors: Qiushi Sun, Mukai Li, Zhoumianze Liu, Zhihui Xie, Fangzhi Xu, Zhangyue Yin, Kanzhi Cheng, Zehao Li, Zichen Ding, Qi Liu, Zhiyong Wu, Zhuosheng Zhang, Ben Kao, Lingpeng Kong

cs.AI

papers.abstract

Von Vision-Language Models (VLMs) gesteuerte, computerbasierte Agenten haben menschenähnliche Fähigkeiten bei der Bedienung digitaler Umgebungen wie Mobilplattformen demonstriert. Während diese Agenten großes Potenzial für die Weiterentwicklung digitaler Automatisierung bergen, wecken ihre Möglichkeiten für unsichere Operationen, wie Systemkompromittierung und Datenschutzverletzungen, erhebliche Bedenken. Die Erkennung dieser Sicherheitsprobleme im riesigen und komplexen Operationsraum mobiler Umgebungen stellt eine gewaltige Herausforderung dar, die bislang kritisch unerforscht bleibt. Um eine Grundlage für die Sicherheitsforschung mobiler Agenten zu schaffen, stellen wir MobileRisk-Live vor – eine dynamische Sandbox-Umgebung mit einem Sicherheitserkennungs-Benchmark, der realistische Trajektorien mit feingranularen Annotationen umfasst. Darauf aufbauend präsentieren wir OS-Sentinel, ein neuartiges hybrides Sicherheitserkennungsframework, das einen Formal Verifier zur Erkennung expliziter Systemverstöße synergetisch mit einem VLM-basierten Contextual Judge zur Bewertung kontextueller Risiken und Agentenaktionen kombiniert. Experimente zeigen, dass OS-Sentinel gegenüber bestehenden Ansätzen über mehrere Metriken hinweg Verbesserungen von 10–30 % erzielt. Eine vertiefte Analyse liefert kritische Erkenntnisse, die die Entwicklung sichererer und zuverlässigerer autonomer Mobilogenten fördern.

English

Computer-using agents powered by Vision-Language Models (VLMs) have demonstrated human-like capabilities in operating digital environments like mobile platforms. While these agents hold great promise for advancing digital automation, their potential for unsafe operations, such as system compromise and privacy leakage, is raising significant concerns. Detecting these safety concerns across the vast and complex operational space of mobile environments presents a formidable challenge that remains critically underexplored. To establish a foundation for mobile agent safety research, we introduce MobileRisk-Live, a dynamic sandbox environment accompanied by a safety detection benchmark comprising realistic trajectories with fine-grained annotations. Built upon this, we propose OS-Sentinel, a novel hybrid safety detection framework that synergistically combines a Formal Verifier for detecting explicit system-level violations with a VLM-based Contextual Judge for assessing contextual risks and agent actions. Experiments show that OS-Sentinel achieves 10%-30% improvements over existing approaches across multiple metrics. Further analysis provides critical insights that foster the development of safer and more reliable autonomous mobile agents.