SeerGuard:基于世界模型预测的移动GUI智能体安全框架
TLDR
SeerGuard利用世界模型预测在移动GUI智能体执行动作前主动评估风险,提升安全性。
评分理由
The paper proposes a novel proactive safety framework using a safety-augmented world model, showing strong empirical gains on a specific agent. However, the evaluation is limited to one agent type and does not discuss generalization to other GUI environments or real-world deployment challenges.
Read-first 评分解释
综合优先阅读分 33.4,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 32。
研究版图角色
前沿论文
排序敏感性
稳定性:volatile;排名波动范围:138。
关键词评分
深度分析
创新点
- 移动GUI智能体的执行前指令级筛选和动作级风险评估
- 后果感知的动作级评估,在执行前预测可能的结果
- 通过多任务学习构建统一的安全增强世界模型(SAWM),集成语义下一状态预测和安全风险评估
方法
SeerGuard采用执行前指令级筛选和动作级风险评估,其中动作级评估分析当前GUI状态下智能体提出的动作,预测可能的结果并识别风险。该框架基于统一的安全增强世界模型(SAWM),通过多任务学习联合进行语义下一状态预测和安全风险评估。在多种移动GUI智能体上评估,衡量安全效用得分和风险成本得分。
关键结果
在Qwen3-VL-8B-Instruct上,SeerGuard在ω=0.8时将安全效用得分从0.191提升至0.596,在α=0.8时将风险成本得分从0.347降至0.130。SAWM验证了指令级筛选以及动作风险评估/下一状态预测的能力。