├── README.md
└── docs
├── _sidebar.md
├── 第一章：Agent简介
├── 1.1 Agent原理.md
├── 1.2 Agent原理深入+环境配置.md
├── demo-code
│ ├── cfg_tool_template.json
│ ├── 本地Function demo.ipynb
│ └── 远程Function demo.ipynb
└── imgs
│ ├── 3_envs.png
│ ├── Agent_bone.png
│ ├── Agent_config.png
│ ├── ReAct.png
│ ├── ask_Agent_1.png
│ ├── ask_Agent_2.png
│ ├── ask_weather.png
│ ├── create_Agent_1.png
│ ├── dashscope_token.png
│ ├── do_circle.png
│ ├── load.png
│ ├── model_list.png
│ ├── modelscope_token.png
│ ├── modelscope_tools.png
│ ├── simple_LLM.png
│ ├── using_AgentFabric.png
│ ├── using_ChatGPT.png
│ └── weather_2.jpg
├── 第三章：Agent应用展望
├── 3.1 Agent通用创作思路.md
├── 3.2 Agent应用展望.md
├── demo-code
│ ├── .gitignore
│ └── dashscope-demo.ipynb
└── imgs
│ ├── 3-1.png
│ ├── 3-3.png
│ ├── 3-4.png
│ ├── 3-5.png
│ ├── 3-6.png
│ ├── 3-7.png
│ ├── 3-8.png
│ └── 3-9.png
└── 第二章：Agent实践
├── 2.1 高德开放API实践.md
├── 2.2 日程规划小助手.md
└── imgs
├── img.png
├── img_1.png
├── img_10.png
├── img_11.png
├── img_12.png
├── img_13.png
├── img_14.png
├── img_15.png
├── img_16.png
├── img_2.png
├── img_3.png
├── img_4.png
├── img_5.png
├── img_6.png
├── img_7.png
├── img_8.png
└── img_9.png
/README.md:
--------------------------------------------------------------------------------
1 | # agent-tutorial
2 |
3 | ## 教程介绍
4 | 本教程是 Datawhale 成员写作的关于 Agent 的教程，特点是通过实践引导学习者加深对Agent的理解。
5 |
6 | 目前已有的内容，主要用于支持《动手学Agent开发》学习活动，介绍如何使用 [ModelScope Agent](https://github.com/modelscope/modelscope-agent/tree/master) 开发一个智能助手，并探讨一些 Agent 的通用创作思路及应用展望。
7 |
8 | 学习活动详见[《动手学Agent应用开发》学习手册](https://datawhaler.feishu.cn/docx/DqaydpsFdovWonxDrYxcrBYxnkf)。
9 |
10 | ## 教程大纲
11 | 第1章：Agent入门简介
12 | - [Agent原理](./docs/第一章：Agent简介/1.1%20Agent原理.md)
13 | - [Agent原理深入+环境配置](./docs/第一章：Agent简介/1.2%20Agent原理深入+环境配置.md)
14 |
15 | 第2章：Agent实践：日程规划小助手
16 | - [高德开放API实践](./docs/第二章：Agent实践/2.1%20高德开放API实践.md)
17 | - [日程规划小助手](./docs/第二章：Agent实践/2.2%20日程规划小助手.md)
18 |
19 | 第3章：Agent应用展望
20 | - [Agent通用创作思路](./docs/第三章：Agent应用展望/3.1%20Agent通用创作思路.md)
21 | - [Agent应用展望](./docs/第三章：Agent应用展望/3.2%20Agent应用展望.md)
22 |
--------------------------------------------------------------------------------
/docs/_sidebar.md:
--------------------------------------------------------------------------------
1 | - 目录
2 | - 第1章：Agent入门简介
3 | - [Agent原理](./第一章：Agent简介/1.1%20Agent原理.md)
4 | - [Agent原理深入+环境配置](./第一章：Agent简介/1.2%20Agent原理深入+环境配置.md)
5 |
6 | - 第2章：Agent实践：日程规划小助手
7 | - [高德开放API实践](./第二章：Agent实践/2.1%20高德开放API实践.md)
8 | - [基础准备：日程规划小助手](./第二章：Agent实践/2.2%20日程规划小助手.md)
9 |
10 | - 第3章：Agent应用展望
11 | - [Agent通用创作思路](./第三章：Agent应用展望/3.1%20Agent通用创作思路.md)
12 | - [Agent应用展望](./第三章：Agent应用展望/3.2%20Agent应用展望.md)
13 |
--------------------------------------------------------------------------------
/docs/第一章：Agent简介/1.1 Agent原理.md:
--------------------------------------------------------------------------------
1 | # Agent原理
2 |
3 | ## 何为Agent
4 |
5 | Agent一词起源于拉丁语中的Agere，意思是“to do”。在LLM语境下，**Agent可以理解为在某种能自主理解、规划决策、执行复杂任务的智能体**。
6 |
7 | 比尔·盖茨曾发过一篇[长文](https://www.gatesnotes.com/AI-agents?ref=blog.glasp.co)，里面如此评价Agent：**“一个对科技行业的冲击波”、“一场自‘输入命令到点击图标’变革之后计算机领域的最大变革”**。
8 |
9 | 盖茨坦言，现在软件还是相当笨的，不论你想在电脑上做什么，都必须自己选取应用程序。你可以用Word或是谷歌Docs起草商业计划书，但却无法让他们帮你发送电子邮件、分享自拍、分析数据、安排聚会或是购买电影票。因为再顶尖的程序，也没法全面了解你的工作、生活、兴趣爱好与人际关系，能为你做事的能力也极为有限。往往只有通过另一个人，比如你的好朋友或秘书，才有可能实现。
10 |
11 | 盖茨断言，未来五年，这种情况将彻底改变，你不必再为不同任务选用不同应用程序，只需用日常用语告诉Agent你的需求，Agent就能获取自己能获取到的信息，为你量身定做一个结果。在不久的将来，任何一个上网的用户都能拥有一个由AI驱动的助理，其功能将远超当今技术水平。
12 |
13 | 举个例子，当你想买一台相机，Agent将会帮你阅读淘宝上所有相机的评论区，总结它们，提出建议，并在您做出决定后帮你下订单，而不是简单的根据价格、销量、好评率等数据筛选商品。
14 |
15 | 而这所谓的Agent，可以被理解为一颗能自主使用工具、执行任务的“人造大脑”。
16 |
17 | **Agent并非ChatGPT升级版，它不仅告诉你“如何做”，更会帮你去做！**
18 |
19 | ## 进化：从LLM到Agent
20 |
21 | 人们一直期待能有个强悍的人工智能助手，帮助我们处理日常中各种复杂的问题，完成各种琐碎的任务。而以ChatGPT为首的LLM（大语言模型），因其“全知全能”的表现而闻名全球，同时也在学界和业界消灭了大多数的传统NLP（自然语言处理）任务，开辟了全新的NLP范式，同时被人们寄予厚望，将其看做是通向AGI（通用人工智能）的曙光。
22 |
23 |
24 |
25 | 
26 |
27 |
图1.1 笔者向ChatGPT咨询专业问题，回答的头头是道
29 |
30 |
31 | 尽管ChatGPT的知识储备接近“全知全能”，但当你试着以AI助手的方式使用时就会发现，它只会“动嘴皮子”，不会“动手”，同时也不能回答一些如天气，时间之类的简单问题。
32 |
33 |
34 |
35 | 
36 |
37 |
ChatGPT无法回答天气信息
39 |
40 |
41 | 笔者向ChatGPT查询今天天气，ChatGPT委婉的告诉笔者，其无法提供天气信息，原因是
42 |
43 | 1. 无法浏览互联网
44 | 2. 无法获取当前日期
45 |
46 | 至于为什么ChatGPT连当前日期都获取不了，这就得先了解下LLM的原理了。
47 |
48 | 关于ChatGPT等LLM最基本的原理，Datawhale有一篇专门的[教程(so-large-lm)](https://github.com/datawhalechina/so-large-lm)，其引言部分写的比较详细。这里我简单阐述下其原理
49 |
50 | 对于GPT这类生成式语言模型而言，其本质上是一个自回归语言模型（Autoregressive Language Model），所谓自回归语言模型，就是基于序列数据的概率分布，通过建模当前词语与前面已生成词语的条件概率来预测下一个词语。
51 |
52 |
53 |
54 |
67 |
68 | 
69 |
70 |
（Lilian Weng定义的Agent结构图）
71 |
87 |
88 |
103 |
104 |
113 |
114 |
127 |
128 |
133 |
134 |
17 |
18 | 
19 |
20 |
ReAct的工作流程
22 |
23 | 工作流程大体是如此，在Action那一步调用函数，Observation返回函数执行结果，但到这步应该还有同学会疑惑，一个语言模型是怎么调用函数的？没关系，下面我接着讲。
24 |
25 | 这里我用ModelScope-Agent-7B做为Agent中枢，选它的原因主要是prompt更本土化（中文的，方便演示）。
26 |
27 | 我们以modelscope-agent框架的一个例子为例
28 | https://mp.weixin.qq.com/s/L3GiV2QHeybhVZSg_g_JRw
29 |
30 | 首先，咱们先注册一个Tool，让Agent调用，代码见下
31 | ~~~python
32 | from modelscope_agent.tools import Tool
33 |
34 | class AliyunRenewInstanceTool(Tool):
35 | description = '续费一台包年包月ECS实例'
36 | name = 'RenewInstance'
37 | parameters: list = [{
38 | 'name': 'instance_id',
39 | 'description': 'ECS实例ID',
40 | 'required': True
41 | },
42 | {
43 | 'name': 'period',
44 | 'description': '续费时长以月为单位',
45 | 'required': True
46 | }
47 | ]
48 |
49 | def _local_call(self, *args, **kwargs):
50 | instance_id = kwargs['instance_id']
51 | period = kwargs['period']
52 | return {'result': f'成功为{instance_id}续费，续费时长{period}月'}
53 | ~~~
54 | 这个Tool的注册很简单，简单的从Tool类继承个子类，然后在子类中定义好这几个属性即可。
55 |
56 | 1. name
57 | 2. description、parameters
58 | 3. _local_call（远程版为：_remote_call）
59 |
60 | 其中，name和description是Tool的基本信息，parameters是Tool的参数信息，_local_call是Tool的调用方法。现在不理解这些没关系，看下面的prompt你就懂了，下面的内容为方便肉眼分析，我把里面的json格式化为了易于人类阅读的格式。
61 |
62 |
63 | ~~~
64 | <|system|>:你是达摩院的ModelScopeGPT（魔搭助手），你是个大语言模型， 是2023年达摩院的工程师训练得到的。你有多种能力，可以通过插件集成魔搭社区的模型api来回复用户的问题，还能解答用户使用模型遇到的问题和模型知识相关问答。
65 |
66 |
67 | 当前对话可以使用的插件信息如下，请自行判断是否需要调用插件来解决当前用户问题。若需要调用插件，则需要将插件调用请求按照json格式给出，必须包含api_name、parameters字段，并在其前后使用<|startofthink|>和<|endofthink|>作为标志。然后你需要根据插件API调用结果生成合理的答复； 若无需调用插件，则直接给出对应回复即可。
68 |
69 | 1. {
70 | "name": "RenewInstance",
71 | "description": "续费一台包年包月ECS实例",
72 | "parameters": [
73 | {
74 | "name": "instance_id",
75 | "description": "ECS实例ID",
76 | "required": true
77 | },
78 | {
79 | "name": "period",
80 | "description": "续费时长以月为单位",
81 | "required": true
82 | }
83 | ]
84 | }
85 |
86 | <|user|>:请帮我续费一台ECS实例，实例id是：i-rj90a7e840y5cde，续费时长10个月
87 |
88 | <|assistant|>:
89 | ~~~
90 |
91 | 这prompt大概意思是，你现在能用的工具就这个，想调用就在<|startofthink|>和<|endofthink|>中用json格式写出来。
92 |
93 | 具体怎么写，让我们看看ModelScope-Agent-7B模型的回复
94 |
95 | ~~~
96 | 好的，我现在帮你调用续费接口，请稍等片刻
97 | <|startofthink|>```JSON
98 | {
99 | "api_name": "RenewInstance",
100 | "url": "https://ecs.aliyuncs.com/renewinstance",
101 | "parameters": {
102 | "instance_id": "i-rj90a7e840y5cde",
103 | "period": 10
104 | }
105 | }
106 | ```<|endofthink|>
107 | ~~~
108 |
109 | 熟悉json和markdown的同学应该都看出来了，尽管我没要求输出 \```JSON ... \```，但模型还是自动的给我加上了。这里给不熟悉markdown的朋友科普下，这语法是代码块，并且注明了里面的语言是json，如果我不加任何转义符就写在教程里，呈现出的效果就是这样。
110 |
111 | ~~~JSON
112 | {
113 | "api_name": "RenewInstance",
114 | "url": "https://ecs.aliyuncs.com/renewinstance",
115 | "parameters": {
116 | "instance_id": "i-rj90a7e840y5cde",
117 | "period": 10
118 | }
119 | }
120 | ~~~
121 |
122 | 这是因为，模型的输出能被解析为代码块，因此能用程序定位出json的位置。然后咱们再解析下这段json，出来的结果是这样的
123 |
124 |
125 |
126 | 
127 |
128 |
165 |
166 | 
167 |
168 |
173 |
174 | 
175 |
176 |
183 |
184 | 
185 |
186 |
191 |
192 | 
193 |
194 |
208 |
209 | 
210 |
211 |
9 |
10 | 
11 |
12 |
生成式AI产品的分级 @ZhenFund
14 |
19 |
20 | 
21 |
22 |
由LLM驱动的Autonomouse Agent 系统
24 | @Lilian Weng
25 |
32 |
33 | 
34 |
35 |
知识密集型任务（如HotpotQA、FEVER）和
37 | 决策型任务（如AlfWorld Env、WebShop）
38 | 的推理轨迹示例
39 | @Shunyu Yao等
40 |
52 |
53 | 
54 |
55 |
60 |
61 | 
62 |
63 |
75 |
76 | 
77 |
78 |
87 |
88 | 
89 |
90 |
108 |
109 | 
110 |
111 |
124 |
125 | 
126 |
127 |
ModelScope-Agent 核心组件
129 |