论文提出了什么方法?
将大量LLM智能体执行轨迹压缩成单个紧凑的有限状态机(FSM),并以此作为结构基底,用于下一步预测和失败预测。
(翻译)基于智能体轨迹的自动机:失败与下一步预测
Abstract page for arXiv paper 2608.23670: Automata from Agent Traces: Failure and Next-Step Prediction
该论文提出从LLM智能体执行轨迹中构建紧凑有限状态机(FSM),在12个公开数据集上仅用7-43个状态即可高保真重放数据;FSM状态上下文可提升下一步预测,基于状态的失败预测AUROC最高0.94,并可在线提前停止。研究显示行为拓扑更多由部署环境而非模型决定,为AI安全审计与运行监控提供模型无关的结构化基础。
将大量LLM智能体执行轨迹压缩成单个紧凑的有限状态机(FSM),并以此作为结构基底,用于下一步预测和失败预测。
在12个公开数据集上,FSM仅有7-43个状态,重放留出数据适应度不低于0.997,构建时间毫秒级;失败预测AUROC最高达0.94,并可从部分轨迹触发提前停止。
智能体行为拓扑更多由部署框架而非LLM本身决定,因此可形成与模型无关的结构化工具,用于安全审计和运行时监控。