OS-Sentinel: Verso Agenti GUI Mobili con Sicurezza Potenziata tramite Validazione Ibrida in Flussi di Lavoro Realistici

OS-Sentinel: Towards Safety-Enhanced Mobile GUI Agents via Hybrid Validation in Realistic Workflows

October 28, 2025

Autori: Qiushi Sun, Mukai Li, Zhoumianze Liu, Zhihui Xie, Fangzhi Xu, Zhangyue Yin, Kanzhi Cheng, Zehao Li, Zichen Ding, Qi Liu, Zhiyong Wu, Zhuosheng Zhang, Ben Kao, Lingpeng Kong

cs.AI

Abstract

Gli agenti informatici basati su modelli visione-linguaggio (VLM) hanno dimostrato capacità simili a quelle umane nell'utilizzo di ambienti digitali come le piattaforme mobili. Sebbene questi agenti promettano notevoli progressi nell'automazione digitale, il loro potenziale di operazioni non sicure, come il compromettere sistemi e la violazione della privacy, sta sollevando serie preoccupazioni. Rilevare questi rischi per la sicurezza nell'ampio e complesso spazio operativo degli ambienti mobili rappresenta una sfida formidabile che rimane criticamente poco esplorata. Per gettare le basi della ricerca sulla sicurezza degli agenti mobili, presentiamo MobileRisk-Live, un ambiente sandbox dinamico accompagnato da un benchmark di rilevamento della sicurezza che comprende traiettorie realistiche con annotazioni granulari. Sulla base di questo, proponiamo OS-Sentinel, un innovativo framework ibrido per il rilevamento della sicurezza che combina sinergicamente un Verificatore Formale per individuare violazioni esplicite a livello di sistema con un Giudice Contestuale basato su VLM per valutare i rischi contestuali e le azioni dell'agente. Gli esperimenti mostrano che OS-Sentinel raggiunge miglioramenti del 10%-30% rispetto agli approcci esistenti su molteplici metriche. Un'ulteriore analisi fornisce insight cruciali che favoriscono lo sviluppo di agenti mobili autonomi più sicuri e affidabili.

English

Computer-using agents powered by Vision-Language Models (VLMs) have demonstrated human-like capabilities in operating digital environments like mobile platforms. While these agents hold great promise for advancing digital automation, their potential for unsafe operations, such as system compromise and privacy leakage, is raising significant concerns. Detecting these safety concerns across the vast and complex operational space of mobile environments presents a formidable challenge that remains critically underexplored. To establish a foundation for mobile agent safety research, we introduce MobileRisk-Live, a dynamic sandbox environment accompanied by a safety detection benchmark comprising realistic trajectories with fine-grained annotations. Built upon this, we propose OS-Sentinel, a novel hybrid safety detection framework that synergistically combines a Formal Verifier for detecting explicit system-level violations with a VLM-based Contextual Judge for assessing contextual risks and agent actions. Experiments show that OS-Sentinel achieves 10%-30% improvements over existing approaches across multiple metrics. Further analysis provides critical insights that foster the development of safer and more reliable autonomous mobile agents.