计算机工程

作者：张珑耀, 温东新, 马庄宇, 舒燕君, 李庆, 刘明义, 左德承

单位：1. 哈尔滨工业大学计算学部, 黑龙江 哈尔滨 1500012. 江苏自动化研究所, 江苏 连云港 222006

关键词：大语言模型,智能体,多智能体系统,异常统计,异常分类

基金：国家重点研发计划(2024YFB4506000); 国家自然科学基金(61202091); 国家自然科学基金(62171155)

基于大语言模型(LLM)的多智能体系统(MAS)虽在处理复杂任务方面展现出巨大潜力, 但其分布式特性与交互不确定性易引发多样化异常, 威胁系统可靠性。为系统化识别并分类此种异常, 进行全面综述。研究选取7个代表性MAS及相应数据集, 收集13 418段运行轨迹, 采用LLM初步分析与专家人工校验相结合的方法进行数据分析。构建一个涵盖模型理解感知异常、智能体交互异常、任务执行异常和外部环境异常4个层级的细粒度异常分类框架, 并结合典型案例揭示各类异常产生的内在逻辑与外部诱因。统计分析显示: 模型理解感知异常占比最高, 其中"上下文幻觉"和"任务指令误解"是主要问题; 智能体交互异常占16.8%, "信息隐瞒"是主因; 任务执行异常占27.1%, 主要表现为"决策重复出错"; 外部环境异常占18.3%, 以"记忆冲突"为主。此外, 模型理解感知异常作为根源性诱因, 引发其他层级的异常, 凸显了提升模型基础能力的重要性。此分类和根源分析旨在为构建高可靠的基于LLM的MAS提供理论支撑与实践参考。

来源：2026年第1期

《计算机工程》期刊编辑部

查看计算机工程杂志2026年第1期