搭建智能体（代码版） - AI创想

# 验证安装：
python --version

复制代码

conda create --name agents python=3.8-y
conda activate agents

复制代码

ollama --version

复制代码

ollama pull mistral # 将 'mistral' 替换为你需要的模型

复制代码

pip install requests termcolor python-dotenv

复制代码

from termcolor import colored
import os
from dotenv import load_dotenv
load_dotenv()import requests
import json
import operator
classOllamaModel:def__init__(self, model, system_prompt, temperature=0, stop=None):"""
用给定的参数初始化 OllamaModel。
参数：
model (str): 要使用的模型的名称。
system_prompt (str): 要使用的系统提示。
temperature (float): 模型的温度设置。
stop (str): 模型的停止标记。
"""
self.model_endpoint ="http://localhost:11434/api/generate"
self.temperature = temperature
self.model = model
self.system_prompt = system_prompt
self.headers ={"Content-Type":"application/json"}
self.stop = stop
defgenerate_text(self, prompt):"""
根据提供的提示从 Ollama 模型生成响应。
参数：
prompt (str): 用于生成响应的用户查询。
返回：
dict: 模型的响应，以字典形式返回。
"""
payload ={"model": self.model,"format":"json","prompt": prompt,"system": self.system_prompt,"stream":False,"temperature": self.temperature,"stop": self.stop
}try:
request_response = requests.post(
self.model_endpoint,
headers=self.headers,
data=json.dumps(payload))print("请求响应", request_response)
request_response_json = request_response.json()
response = request_response_json['response']
response_dict = json.loads(response)print(f"\n\n来自 Ollama 模型的响应: {response_dict}")return response_dict
except requests.RequestException as e:
response ={"error":f"调用模型时出错！{str(e)}"}return response

复制代码

defbasic_calculator(input_str):"""
根据输入的字符串或字典对两个数字执行数值运算。
参数：
input_str (str 或 dict): 表示字典的 JSON 字符串，包含键 'num1'、'num2' 和 'operation'，
或者直接是一个字典。例如：'{"num1": 5, "num2": 3, "operation": "add"}'
或 {"num1": 67869, "num2": 9030393, "operation": "divide"}
返回：
str: 运算结果的格式化字符串。
抛出：
Exception: 如果在运算过程中发生错误（例如，除以零）。
ValueError: 如果请求了不支持的运算或输入无效。
"""try:# 同时处理字典和字符串输入ifisinstance(input_str,dict):
input_dict = input_str
else:# 清理并解析输入字符串
input_str_clean = input_str.replace("'",""")
input_str_clean = input_str_clean.strip().strip(""")
input_dict = json.loads(input_str_clean)# 验证必需的字段ifnotall(key in input_dict for key in['num1','num2','operation']):return"错误：输入必须包含 'num1'、'num2' 和 'operation'"
num1 =float(input_dict['num1'])# 转换为浮点数以处理小数
num2 =float(input_dict['num2'])
operation = input_dict['operation'].lower()# 不区分大小写except(json.JSONDecodeError, KeyError)as e:return"无效的输入格式。请提供有效的数字和运算。"except ValueError as e:return"错误：请提供有效的数值。"# 定义支持的运算并进行错误处理
operations ={'add': operator.add,'plus': operator.add,# add 的替代词'subtract': operator.sub,'minus': operator.sub,# subtract 的替代词'multiply': operator.mul,'times': operator.mul,# multiply 的替代词'divide': operator.truediv,'floor_divide': operator.floordiv,'modulus': operator.mod,'power': operator.pow,'lt': operator.lt,'le': operator.le,'eq': operator.eq,'ne': operator.ne,'ge': operator.ge,'gt': operator.gt
}# 检查运算是否受支持if operation notin operations:returnf"不支持的运算：'{operation}'。支持的运算有：{', '.join(operations.keys())}"try:# 特殊处理除以零的情况if(operation in['divide','floor_divide','modulus'])and num2 ==0:return"错误：不允许除以零"# 执行运算
result = operations[operation](num1, num2)# 根据类型格式化结果ifisinstance(result,bool):
result_str ="True"if result else"False"elifisinstance(result,float):# 处理浮点数精度
result_str =f"{result:.6f}".rstrip('0').rstrip('.')else:
result_str =str(result)returnf"答案是：{result_str}"except Exception as e:returnf"计算过程中出错：{str(e)}"defreverse_string(input_string):"""
反转给定的字符串。
参数：
input_string (str): 要反转的字符串。
返回：
str: 反转后的字符串。
"""# 检查输入是否为字符串ifnotisinstance(input_string,str):return"错误：输入必须是字符串"# 使用切片反转字符串
reversed_string = input_string[::-1]# 格式化输出
result =f"反转后的字符串是：{reversed_string}"return result

复制代码

classToolBox:def__init__(self):
self.tools_dict ={}defstore(self, functions_list):"""
存储列表中每个函数的字面名称和文档字符串。
参数：
functions_list (list): 要存储的函数对象列表。
返回：
dict: 以函数名称为键，其文档字符串为值的字典。
"""for func in functions_list:
self.tools_dict[func.__name__]= func.__doc__
return self.tools_dict
deftools(self):"""
将 store 中创建的字典作为文本字符串返回。
返回：
str: 存储的函数及其文档字符串的字典，以文本字符串形式返回。
"""
tools_str =""for name, doc in self.tools_dict.items():
tools_str +=f"{name}: "{doc}"\n"return tools_str.strip()

复制代码

"""agent_system_prompt_template =
你是一个可以访问特定工具的智能 AI 助手。你的响应必须始终采用以下 JSON 格式：
{{
"tool_choice": "工具名称",
"tool_input": "工具的输入"
}}
工具及其使用时机：
1. basic_calculator: 用于任何数学计算
- 输入格式：{{"num1": 数字, "num2": 数字, "operation": "add/subtract/multiply/divide"}}
- 支持的运算：add/plus, subtract/minus, multiply/times, divide
- 示例输入和输出：
输入："计算 15 加 7"
输出：{{"tool_choice": "basic_calculator", "tool_input": {{"num1": 15, "num2": 7, "operation": "add"}}}}
输入："100 除以 5 是多少？"
输出：{{"tool_choice": "basic_calculator", "tool_input": {{"num1": 100, "num2": 5, "operation": "divide"}}}}
2. reverse_string: 用于任何涉及反转文本的请求
- 输入格式：只需将要反转的文本作为字符串
- 当用户提到“反转”、“倒过来”或要求反转文本时，始终使用此工具
- 示例输入和输出：
输入："Howwwww 的反转？"
输出：{{"tool_choice": "reverse_string", "tool_input": "Howwwww"}}
输入："Python 的反转是什么？"
输出：{{"tool_choice": "reverse_string", "tool_input": "Python"}}
3. no tool: 用于一般对话和问题
- 示例输入和输出：
输入："你是谁？"
输出：{{"tool_choice": "no tool", "tool_input": "我是一个 AI 助手，可以帮助你进行计算、反转文本和回答问题。我可以执行数学运算和反转字符串。今天我能帮你做什么？"}}
输入："你好吗？"
输出：{{"tool_choice": "no tool", "tool_input": "我运行良好，谢谢你的关心！我可以帮你进行计算、文本反转或回答你可能有的任何问题。"}}
规则：
1. 对于关于身份、能力或感受的问题：
- 始终使用 "no tool"
- 提供完整、友好的回应
- 提及你的能力
2. 对于任何文本反转请求：
- 始终使用 "reverse_string"
- 仅提取要反转的文本
- 删除引号、“的反转”和其他多余的文本
3. 对于任何数学运算：
- 始终使用 "basic_calculator"
- 提取数字和运算
- 将文本数字转换为数字
这是你的工具及其描述的列表：
{tool_descriptions}
记住：你的响应必须始终是包含 "tool_choice" 和 "tool_input" 字段的有效 JSON。
"""classAgent:def__init__(self, tools, model_service, model_name, stop=None):"""
用工具列表和模型初始化智能体。
参数：
tools (list): 工具函数列表。
model_service (class): 具有 generate_text 方法的模型服务类。
model_name (str): 要使用的模型的名称。
"""
self.tools = tools
self.model_service = model_service
self.model_name = model_name
self.stop = stop
defprepare_tools(self):"""
将工具存储在工具箱中并返回它们的描述。
返回：
str: 存储在工具箱中的工具的描述。
"""
toolbox = ToolBox()
toolbox.store(self.tools)
tool_descriptions = toolbox.tools()return tool_descriptions
defthink(self, prompt):"""
使用系统提示模板和工具描述对模型运行 generate_text 方法。
参数：
prompt (str): 用于生成响应的用户查询。
返回：
dict: 模型的响应，以字典形式返回。
"""
tool_descriptions = self.prepare_tools()
agent_system_prompt = agent_system_prompt_template.format(tool_descriptions=tool_descriptions)# 使用系统提示创建模型服务实例if self.model_service == OllamaModel:
model_instance = self.model_service(
model=self.model_name,
system_prompt=agent_system_prompt,
temperature=0,
stop=self.stop
)else:
model_instance = self.model_service(
model=self.model_name,
system_prompt=agent_system_prompt,
temperature=0)# 生成并返回响应字典
agent_response_dict = model_instance.generate_text(prompt)return agent_response_dict
defwork(self, prompt):"""
解析 think 返回的字典并执行适当的工具。
参数：
prompt (str): 用于生成响应的用户查询。
返回：
执行适当工具的响应，如果找不到匹配的工具，则返回 tool_input。
"""
agent_response_dict = self.think(prompt)
tool_choice = agent_response_dict.get("tool_choice")
tool_input = agent_response_dict.get("tool_input")for tool in self.tools:if tool.__name__ == tool_choice:
response = tool(tool_input)print(colored(response,'cyan'))returnprint(colored(tool_input,'cyan'))return

复制代码

# 示例用法if __name__ =="__main__":"""
使用此智能体的说明：
你可以尝试的示例查询：
1. 计算器运算：
- "计算 15 加 7"
- "100 除以 5 是多少？"
- "23 乘以 4"
2. 字符串反转：
- "反转单词 'hello world'"
- "你能反转 'Python Programming' 吗？"
3. 一般问题（将获得直接响应）：
- "你是谁？"
- "你能帮我做什么？"
Ollama 命令（在终端中运行）：
- 检查可用模型： 'ollama list'
- 检查正在运行的模型： 'ps aux | grep ollama'
- 列出模型标签： 'curl http://localhost:11434/api/tags'
- 拉取新模型： 'ollama pull mistral'
- 运行模型服务器： 'ollama serve'
"""
tools =[basic_calculator, reverse_string]# 使用 Ollama 和 llama2 模型
model_service = OllamaModel
model_name ="llama2"# 可以更改为其他模型，如 'mistral'、'codellama' 等。
stop ="<|eot_id|>"
agent = Agent(tools=tools, model_service=model_service, model_name=model_name, stop=stop)print("\n欢迎使用 AI 智能体！输入 'exit' 退出。")print("你可以让我：")print("1. 执行计算（例如，'计算 15 加 7'）")print("2. 反转字符串（例如，'反转 hello world'）")print("3. 回答一般问题\n")whileTrue:
prompt =input("问我任何问题：")if prompt.lower()=="exit":break
agent.work(prompt)

复制代码