简介
AI Gateway 是一个基于适配器模式的多 Agent 统一接口平台，旨在为前端提供标准化的AI服务接口。该项目通过抽象基类和统一的数据模型，实现了对多个AI平台（FastGPT、Dify、Coze等）的兼容性，让开发者可以轻松切换不同的AI后端服务。 并且支持多用户控制，您可以创建对应的用户，生成对应的API Key，来调用 AI Gateway 的 API，实现真正的 Agent All in One。 我们提供了完整的安全和日志审计功能，您可以查看您的 API Key 的用量，以及您的 API 的调用情况，确保您的数据安全。快速开始
5分钟部署您的第一个AI Gateway实例
核心特性
统一接口
所有Agent都继承自BaseAgent基类，提供标准化的接口，前端只需对接一套API
灵活切换
通过修改请求头中的agent参数即可切换不同的AI平台，无需修改前端代码
文件支持
支持图片、文档等多种文件类型上传，所有Agent共享相同的文件处理接口
流式响应
支持SSE（Server-Sent Events）流式响应，提供更好的用户体验
认证架构
支持API密钥、JWT令牌等多种认证方式
日志管理
支持详细的日志记录，记录 Agent 的原始请求和响应
支持的平台
AI Gateway 目前支持以下主流AI平台（期待您的贡献）：- FastGPT - 完整的RAG支持，知识库检索和引用
- Dify - 工作流和对话管理，变量替换和上下文管理
- Coze - 基于Coze平台的Bot服务，支持国内和海外版本
- 智谱清言 - 基于智谱AI的Agent服务
查看所有支持的平台
详细了解每个平台的特性和配置方法
技术架构
AI Gateway 采用现代化的技术栈和架构设计：- 适配器模式 - 清晰的代码结构，易于维护和扩展
- 异步处理 - 基于FastAPI，支持高并发请求处理
- 类型安全 - 使用Pydantic模型确保数据验证和类型安全
- 动态加载 - 自动发现和加载所有Agent模块
- 用户管理 - 支持API密钥、JWT令牌等多种认证方式
架构详解
深入了解AI Gateway的技术架构和设计理念
开始使用
项目优势
技术优势
- 架构清晰 - 采用适配器模式，代码结构清晰，易于维护
- 扩展性强 - 新增Agent只需实现BaseAgent接口即可
- 类型安全 - 使用Pydantic模型确保数据验证和类型安全
- 异步支持 - 基于FastAPI，支持异步处理和并发请求
业务优势
- 统一接口 - 前端只需对接一套API，无需适配多个平台
- 灵活切换 - 可以根据需求动态切换不同的AI平台
- 成本控制 - 可以比较不同平台的性能和成本，选择最优方案
- 风险分散 - 避免单一平台依赖，提高系统稳定性
运维优势
- 配置简单 - 通过环境变量即可配置所有Agent
- 监控友好 - 统一的日志格式和错误处理
- 部署便捷 - 支持Docker部署，一键启动
- 文档完善 - 详细的API文档和使用示例