发布日期:2026-10-24 08:38 点击次数:185

序言
AI 智能体是东谈主工智能畛域的遑急研究主义之一。近期,字节逾越的李航博士在我国狡计机科学畛域顶级期刊 Journal of Computer Science and Technology(JCST)上发表了一篇题为《General Framework of AI Agents》的不雅点论文(将收录于 JCST 创刊 40 周年专辑),建议了一个涵盖软件智能体和硬件智能体的通用框架。其中,软件智能体是指可开动于 PC 和手机等开采上的智能体,而硬件智能体则指物理寰宇中的机器东谈主。
该框架的主要特色是:智能体以完成任务为目的,以文本或多模态数据当作输入和输出,依赖大讲话模子(LLM)进行推理,通过强化学习进行构建,并或者使用各种器具与历久缅想系统。
李航博士以为,面前业界常见的智能体,以及字节逾越 Seed 团队最近研发的智能体,均可纳入这一通用框架。此外,著述还比较了智能体通用框架与东谈主脑信息处理机制之间的有关,分析了智能体本领的主要特色,并酌量了该畛域异日研究的遑急主义。
该著述主要不雅点如下:
智能体以完成任务为目的,以文本和多模态数据为输入和输出,依赖 LLM 进行念念考,通过强化学习构建,使用各式器具和历久缅想。
LLM 是智能体的中枢,承担「念念考」功能,其才调决定智能体的水平。
智能体框架与东谈主脑信息处理机制在功能层面存在对应研究。
智能体的信息处理当该是神经象征处理。
智能体的异日研究主义包括:改动模子架构与检会风景、扩大数据畛域、研发主动和陆续学习本领、增强安全性与可控性。
如果智能体强化学习的奖励函数超出完成任务的范围,有可能带来要紧风险,需建造研发红线。
论文信息:Li H. General framework of AI agents. Journal of Computer Science and Technology. 2026, DOI: 10.1007/s11390-025-5951-5
论文地址:
https://jcst.ict.ac.cn/article/doi/10.1007/s11390-025-5951-5
https://link.springer.com/article/10.1007/s11390-025-5951-5
智能体的通用框架
东谈主工智能智能体(AI 智能体)通常领有以下特色。
智能体是「合理行动的机器」,能在环境中与环境(包括其中的东谈主类)进行互动,以完成任务为目的,有评价完成任务猛烈的法度。
智能体以文本、多模态数据(包括图像、视频、音频)为输入,以文本、多模态数据或动作数据为输出。
智能体中从输入到输出的信息处理机制是通过数据驱动、机器学习的技能构建的,一般基于强化学习。
智能体使用多模态大讲话模子(MLLM)包括其中的 LLM,可以对文本的输入(领导),给出文本的输出(恢复);也可以对多模态的输入,产生多模态的输出。MLLM 通常是预检会好的,在强化学习中得到进一步微调。
智能体中的 LLM 承担着智能体「念念考」的功能,是智能体的中枢。在念念考过程中,可以生成输出念念维链,进行推理。智能体的念念考还包括策画、总结和反念念。
智能体根据需要使用各式器具,以及历久缅想或缅想。器具和缅想的使用使智能体有别于 LLM 本人,更遑急的是,这使其才调范围得到质的扩张。器具可以是内置的(如狡计器),也可以是外挂的(如搜索引擎)。
智能体根据应用的需要可以具有高自主性或低自主性,即独就地进行决策和行动的才调。前者的例子有自动驾驶汽车,后者的例子有智能客服系统。
跟着东谈主工智能本领的发展,各式 AI 智能体的信息处理框架的基本形态也曾迟缓酿成。该文将已有系统的框架进行详尽整理,建议一个新的通用框架(图 1)。
图 1. AI 智能体的通用框架
智能体由多模态大讲话模子(MLLM, 其中 LLM 为中枢部分)、器具、缅想(包括历久缅想和职责缅想)、多模态编码器、多模态解码器以及动作解码器组成。
智能体可以吸收文本输入并生成文本输出,其华文本既可以是天然讲话,也可以是风景化讲话;LLM 根据文本输入生成文本输出,况兼还可能生成暗示推理过程的文本,即念念维链(chain of thought)。在这一过程中,智能体可以调用不同的器具,并从缅想中读取或向缅想中写入信息和常识。
智能体还可以吸收多模态输入并生成多模态输出,包括图像、音频和视频;通过多模态编码器,智能体生成多模态的中间暗示,将其输入到 MLLM 中,再生成新的多模态中间暗示,最终通过多模态解码器生成多模态输出;在此过程中也可以使用器具。
硬件智能体(即机器东谈主)一样可以吸收文本和多模态输入,并输出物理动作和多模态效果;物理动作可以证实为机器东谈主畅通和操作的轨迹,这些动作输出后由机器东谈主的硬件和限制系统推行实施。
在硬件智能体中,一般需要两类模子:MLLM 本人;以及多模态 - 讲话 - 动作模子(MLAM),即在 MLLM 基础上增强了动作解码器的模子。MLLM 主要用于高层任务策画、推理,以及与环境的交互,而 MLAM 则用于低层动作策画(即生成用于实施筹画的畅通和操作轨迹)。
MLLM 和多模态编码器主要通过预检会获取;MLLM、多模态编码器、多模态解码器以及动作解码器在后检会阶段进一步微调,一般通过师法学习和强化学习进行。
该文建议的框架具有两层结构:底层由 MLLM、编码器、解码器、器具和缅想等组件组成;顶层则是全体的信息处理机制。此外,这些组件同期处理象征表征和神经表征。
智能体实例
业界着名的智能体或智能体框架,如 AutoGPT、LangChain、ReAct、Reflexion、LATS、ToolFormer、Voyager、OS-Copilot、Gemini Robotics 1.5,以及字节逾越 Seed 近期研发的智能体 AGILE、Delta Prover、Robix+GR-3 和 M3 Agent,其信息处理框架均可视为图 1 所示通用框架的特例。
这些智能体在输入和输出风景上各不疏通,况兼可能使用器具、缅想,或两者俱收并蓄,但它们的中枢架构与职责经过是一致的。异日,跟着智能体朝着更高通用性主义发展,其底层框架也将迟缓趋于通用化。
与东谈主脑的比较
东谈主的念念维,即大脑的信息处理,大多是鄙人结实中进行的,有诸多个相对沉寂的子系统并行处理信息。脑科学中的全局职责空间(global workspace)假说以为,结实是终了全脑信息同步的机制,其信息处理证实出串行特征。下结实 - 结实的这种并行 - 串行协同机制,使大脑在保持高效处理的同期,也能灵验地应付复杂的环境。
具身融会论(embodied cognition)以为,在东谈主的念念维过程中,结实中的处理产生的是安闲(image),心智狡计论(computational theory of mind)以为结实中的处理产生的是心智讲话(mental language, mentalese)。面前莫得定论,该文鉴戒两者的不雅点,假定念念维中既能产生心智讲话,也能产生安闲。图 2 形容了大脑的信息处理机制。
图 2 东谈主脑大脑的信息处理机制
可以看出,智能体的框架与东谈主脑大脑的信息处理机制在功能层面上有对应研究,都具有两层的信息处理结构(天然两者在算法和终了层面上全都不同)。表层是串行处理,基层是并行处理。两层之间的信阻隔畅通过神经表征和象征表征进行。
图 1 所示的智能体可以对视觉和听觉信息进行处理,生成讲话,开展推理,策画动作,况兼在其中进行有机的合作;这方面与东谈主有相似之处。天然也有一些不同点,举例,狡计机可以以文本的风景,对讲话进行输入和输出,而东谈主则通过视觉、听觉、触觉等多模态风景对讲话进行输入和输出。
在东谈主脑与通用智能体框架之间,在功能层面存在些许相似之处。率先,两者均呈现双层结构:底层由多个处理模块组成,表层则讲求合作与同步。其次,两者在处理信息时,均通过这些模块以象征表征与神经表征两种风景进行。或者说,东谈主脑与 AI 智能体均接受了神经象征处理。
分析和筹商
软件智能体和硬件智能体
软件智能体与硬件智能体(机器东谈主)实质上具有相似性,但也存在相反。这主若是因为它们开动的环境不同:软件智能体行为于数字寰宇,而硬件智能体则作用于物理寰宇。尽管两者所处的环境有所分辩,但它们在信息处理框架上是一致的。二者主要的分辩在于其输入与输出的风景不同。
软件智能体通常以文本及多模态(视觉与听觉)数据当作输入,输出则多为象征风景,如文本、代码或其他结构化抒发。比较之下,机器东谈主这么的硬件智能体需要处理更各样的多模态输入。举例,它们可以整合触觉数据。更遑急的是,硬件智能体的输出不限于文本和多模态,还包括物理动作。
具身融会表面以为,东谈主类智能是通过体魄与环境的互动发展而来的,这一旨趣也可以拓展至机器智能。硬件智能体可以借助更丰富的输入与动作空间,从而发展出更通用、更具合乎性的智能。
智能体中的大讲话模子
大讲话模子 LLM 承担着智能体「念念考」的功能,是智能体的中枢。智能体的智能水平主要依赖于 LLM 的才调。
经过强化学习微调的 LLM 本人便是一种遒劲的智能体,通过生成讲话,完成与东谈主交互的任务。其中交互可以是单轮的,也可以是多轮的;交互的过程中可能使用念念维链进行推理;生成的讲话可以是天然讲话,也可以是风景讲话,举例代码。LLM 的讲话生成基于高下文,在多轮交互时便是面前为止的交互纪录,存储在 LLM 的高下文窗口或短期缅想中。
关联词 LLM 也有不及:只消短期缅想,无法无收场地存储和使用信息和常识。 LLM 也不具备搜索、算术狡计、代码实施等才调。再有,LLM 也不可径直处理多模态数据。
智能体在 LLM 的基础上,加多历久缅想、各式器具、多模态处理模块,组成两层结构,并通过强化学习再检会,使它变得愈加遒劲。
推理
推理是一个具有多重含义的观点,存在些许种类型。深度学习中的推理通常指用检会好的模子对未知数据的瞻望,当模子是生成模子时是指对新数据的生成。数学畛域的逻辑推理(包括命题逻辑、一阶谓词逻辑)是通盘数学的基础。机器学习畛域的贝叶斯测度和因果测度各自领有严格和完备的数学体系。类推推理(analogical reasoning)是指针对两个相似的事物,将其中一个事物的属性、类别、功能推行到另一个事物上的推理。一般以为机器学习中神经荟萃的分类、讲话模子的生成等终了的是类推推理。
东谈主的推理接受哪种类型?面前科学并莫得定论。可以看出是多面的。咱们在作念数学定知道释的时候,推导过程中使用的是逻辑推理。福尔摩斯通过汇集的把柄判断犯东谈主是谁的可能性最大,这个过程可以用贝叶斯测度来描绘。但东谈主在日常念念考过程中更多使用的是类推推理,在东谈主的领路、决策、学习中起着遑急作用。举例,「时候」是一个抽象的观点,咱们通常用从左到右的一条带箭头直线,一个真是的观点,来领路它;推行是一个比方。
LLM 的推理要分三个不同档次来领路。
预检会模子的推理是一个自纪念地瞻望或生成下一个词元的过程(next token prediction)。推行是基于高下文的词元序列的轮回类推推理。预检会时的目的是产生似然函数最大或交叉熵亏本最小的词元序列,等价于对检会数据的无损压缩。
在预检会模子的基础上进行强化学习(基于考据器或 Reinforcement Learning from Human Feedback,RLHF)微调,得到的模子是一个战术函数,其景况由现时高下文的词元序列暗示,动作由下一个词元暗示。(Supervised Fine-Tuning, SFT, 可以看作是师法学习)。强化学习的一条推理旅途是 LLM 与环境交互过程中产生的词元序列。奖励的生机值最大的旅途是最优的词元序列。检会时最终得到奖励,推理时历久莫得奖励,因此推理的每一步模子作念的亦然下一个词元瞻望。
LLM 的推理也可以看作是在论述的空间中的搜索。LLM 生成的词元子序列会酿成一段翰墨,暗示一个完满的语义,这里称之为论述(statement)。事实上,LLM 的推理亦然在扫数可能的论述组成的空间进行的。论述可以是基于天然讲话的,也可以是基于风景讲话的。可以暗示逻辑推理,也可以暗示类推推理。念念维链亦然论述的一种。这么,LLM 的推理(搜索)就可以呈现多种类型的推理才调,终点是经过强化学习检会的 LLM。智能体中的 LLM 临了通过全体的强化学习检会得到,秉承了 LLM 的这种推理才调。
神经象征处理
神经象征处理是指象征处理与神经处理(深度学习)的协调。智能体应具备神经象征处理才调,这亦然智能体与多模态大讲话模子(MLLM/LLM)之间的主要分辩。
尽管 LLM 在一定进度上能进行象征处理,但在需要严谨性的任务中,它们并不全都可靠。比较之下,使用器具的初志恰是为了进行象征处理。举例,逻辑推理和数学狡计实质属于象征处理,应当通过相应的器具来终了,而非只是依赖于 LLM。这是因为 LLM 从机制上无法终了严谨的逻辑推理和数学狡计。
此外,历久缅想中的寰宇常识实质上是多模态的。这类常识中的一部分可以更天然、更合理地以象征风景呈现。科学把柄标明,东谈主类常识的获取和缅想所以实体和观点为中心的,这些实体和观点在脑海中酿成了一个精深的语义荟萃。一样,智能体的缅想中也可以惊奇这么一种语义荟萃,该荟萃可以通过象征处理从 LLM 的输出中构建。
智能体对环境的领路(举例对讲话和视觉输入的领路)不应局限于安闲风景,而必须真切到语义层面,即终了锚定(grounding)。对环境的准确领路能使智能体更灵验地完成任务。锚定的实质在于将输入信息与已有常识建立有关。以「神经 - 象征」夹杂风景存储在历久缅想中的常识,或者灵验地促进这一锚定过程。
异日发展
智能体和机器东谈主的发展仍处于早期阶段,仍然有好多科学和本领问题有待探索和攻克。除了基本的模子架构、检会风景除外,以下几个遑急的研究课题也需要平日的探索和真切的研究。
扩大数据畛域
缺少检会数据应该是面前智能体开发中遭遇的最大瓶颈。如安在智能体的通用或垂直畛域中汇集充足大畛域的数据,用于模子检会,是亟待处理,亦然内行正在奋发处理的问题。举例,机器东谈主的开发需要有充足量的机器东谈主硬件系统匡助进行数据采集。
一个处理有筹画是在推行场景当中,先有一个还可以的智能体进行开动,进行数据采集,在这个过程中,得到多数的真正数据,构建数据模子检会的闭环。另一个处理有筹画是通过自动的技能,包括生成式 AI 本领,自动合成数据用于模子检会。这些风景都需要今后充分的尝试和探索。
自主和陆续学习
面前智能体一般是预先检会好,然后在具体场景中使用。好多学者指出,异日的智能体应该或者在使用过程中,也便是与环境的互动过程中,进行自主学习(autonomous learning)和陆续学习(continual learning)。
即使是当今的智能体框架,也能更主动地学习。举例,智能体在使用过程中进行在线强化学习。通过轨迹采样,得到环境的奖励,进行诓骗和探索的均衡,学习到更好的战术。面前在线强化学习由于安全等原因并莫得推行使用起来。
主动和陆续学习意味着智能体在与环境的互动中,不休构建或更新对环境的感知和融会,陆续掌抓或提高完成任务的策画和限制才调,进步自身的智能水平。
安全性和可控性
智能体的安全性和可控性长久是最遑急的问题之一。高自主性的智能体可能带来的风险更大,若何将可能的风险限制在最小范围是陆续需要处理的问题。
如果是使用强化学习检会智能体,这就研究到若何界说强化学习的奖励函数。如果奖励函数暗示完成任务的猛烈,同期与东谈主类价值不雅对王人;这时风险天然存在,但相对可控。
如果奖励函数超出完成任务的范围,那就有可能给东谈主类带来极大的风险。咱们需要树立研究和开发的红线。举例,假定以智能体在环境中是否能生涯当作奖励函数,那么检会出来的智能体,就有可能变得自利,容易会去监犯。智能体在与环境交互中进行学习,环境中老是存在使智能体「学坏」的信息和常识,这少许东谈主亦然一样的,其实并不可怕。要津是智能体是否能排斥搅扰开云kaiyun中国官方网站,学习到「好的」技能和行动。这里,奖励函数起着决定性的作用。