- Dify:开源的 AI 应用开发平台 Dify 是一个开源的 AI 应用开发平台,用可视化工作流搭建智能体、聊天机器人和 RAG 知识库应用,可发布为网页应用、API 或 MCP 服务,支持云端使用和 Docker 自部署。
- Gemma:Google 推出的轻量级开放模型家族 Gemma 是 Google 基于 Gemini 同源研究与技术打造的轻量级开放模型家族,最新的 Gemma 4 覆盖从手机到工作站的多种尺寸,并衍生出医疗、翻译、嵌入、安全等专用变体。
- LangChain:用于构建大模型应用与智能体的开源框架 LangChain 是构建大模型应用和智能体的开源框架,提供统一的模型接口、create_agent 智能体框架和中间件机制,底层基于 LangGraph,可配合 LangSmith 调试和评估。
- MCP(模型上下文协议):连接 AI 应用与外部系统的开放标准 MCP(Model Context Protocol)是连接 AI 应用与外部数据、工具和工作流的开源标准,基于 JSON-RPC 2.0,定义了工具、资源、提示三类核心原语和两种传输方式。
- Ollama:在本地和云端运行开源大模型的工具 Ollama 是一个开源的大模型运行工具,一条命令即可在本地下载和运行 Gemma 等开源模型,提供兼容 OpenAI 与 Anthropic 的 API,也支持云端模型和编程智能体接入。
- vLLM:高吞吐、易用的开源大模型推理与服务引擎 vLLM 是起源于加州大学伯克利分校的开源大模型推理与服务库,以 PagedAttention 和连续批处理著称,提供兼容 OpenAI 的 API 服务,支持多种硬件和分布式推理。
繼續探索 AI 的更多可能瀏覽全部工具