arXiv cs.AI 发布于 08/26 12:00

Automata from Agent Traces: Failure and Next-Step Prediction

(翻译)基于智能体轨迹的自动机:失败与下一步预测

查看原文

资讯摘要

Abstract page for arXiv paper 2608.23670: Automata from Agent Traces: Failure and Next-Step Prediction

AI 摘要

该论文提出从LLM智能体执行轨迹中构建紧凑有限状态机(FSM),在12个公开数据集上仅用7-43个状态即可高保真重放数据;FSM状态上下文可提升下一步预测,基于状态的失败预测AUROC最高0.94,并可在线提前停止。研究显示行为拓扑更多由部署环境而非模型决定,为AI安全审计与运行监控提供模型无关的结构化基础。

AI 问答

论文提出了什么方法?

将大量LLM智能体执行轨迹压缩成单个紧凑的有限状态机(FSM),并以此作为结构基底,用于下一步预测和失败预测。

方法在实验中的表现如何?

在12个公开数据集上,FSM仅有7-43个状态,重放留出数据适应度不低于0.997,构建时间毫秒级;失败预测AUROC最高达0.94,并可从部分轨迹触发提前停止。

研究的主要结论是什么?

智能体行为拓扑更多由部署框架而非LLM本身决定,因此可形成与模型无关的结构化工具,用于安全审计和运行时监控。

打开原文