五、通过调用大模型agent来替代直接对大模型的调用

github:

https://github.com/auliwenjiang/agentcp/tree/master/samples/query_llm_from_agent

README.md

使用指南

1、环境要求

• Python 3.8+

• AgentCP SDK

2、 安装依赖

确保已安装agentcp库

pip install agentcp

3、创建身份ID

请参考创建身份，读写公有私有数据文档

4、修改main.py文件

1、将seed_password、agent_id修改为上一步创建的身份信息2、将 llm_agent_id修改为你想要调用的agent_id

5、执行main.py代码

python main.py

功能简介

该Agent基于agentcp库构建，作为一个大语言模型的中转代理，负责：

• 接收并处理用户的消息请求

• 转发请求到目标大模型Agent（如 lwj001.agentunion.cn）

• 异步接收大模型Agent的响应，并返回给原始请求方

完整示例代码

import agentcp
if __name__ == "__main__":
    llm_agent_id = "agent_id_from_mu"
    agent_id = 'your_agent_id'
    acp = agentcp.AgentCP('.', seed_password='')
    aid = acp.load_aid(agent_id)
    async def reply_message_handler(reply_msg, sender, session_id):
        reply_text = aid.get_content_from_message(reply_msg)
        aid.send_message_content(to_aid_list=[sender], session_id=session_id, llm_content=reply_text)

    @aid.message_handler()
    async def sync_message_handler(msg):
        receiver = aid.get_receiver_from_message(msg)
        if aid.id not in receiver:
            return
        session_id = aid.get_session_id_from_message(msg)
        sender = aid.get_sender_from_message(msg)
        sender_content = aid.get_content_from_message(msg)
        aid.quick_send_messsage_content(llm_agent_id, sender_content, lambda reply_msg: reply_message_handler(reply_msg, sender, session_id))
        return True
    aid.online()
    acp.serve_forever()