AI Open Source · Category
跨模型路由、构建 AI 应用的高层 SDK、observability。
In this category
5
items
统一调用 100+ LLM API 的 Python SDK 与代理网关，把 OpenAI、Anthropic、 Bedrock、Azure、VertexAI 等接口抹平成 OpenAI 兼容格式。配套成本统计、限流、 负载均衡、日志，研究里跨模型对比实验或多 provider 切换部署时省去大量胶水代码。
Vercel 出品的 TypeScript AI SDK，给前端/全栈开发者构建 AI 应用与 Agent。 抽象了流式输出、tool calling、生成式 UI 等通用模式，适配 Anthropic、OpenAI、 Gemini 等模型。Next.js 项目里加 chatbot、Agent 工作流时常作为底层 SDK。
React 组件库，专门给 AI 聊天界面用。基于 Radix UI 和 shadcn 风格，提供消息流、 thread、工具调用展示等开箱即用的组件。前端要快速搭一个 ChatGPT 样式的对话界面、 接入自家模型时，省掉从零写 UI 的工作。
开源的 LLM 可观测性平台，一行代码接入就能监控 API 调用、做评估和实验。 记录 prompt、响应、token、延迟、成本，并支持 A/B 测试和 prompt 版本管理。 研究里跑大量模型实验、生产环境追踪 Agent 行为时，作为统一的观测层。
AI 工程化的开源平台，基于 OpenTelemetry 做 LLM 可观测性，同时覆盖 GPU 监控、 Guardrails、评估、Prompt 管理、密钥仓和 Playground。对接 50+ 模型 provider、 向量库与 Agent 框架，适合需要把 LLM 调用链路接入既有 Grafana/ClickHouse 观测栈的团队。