首页应用详情
SophNet API超市平台 - 开源大模型统一转发与托管管理系统

SophNet API超市平台 - 开源大模型统一转发与托管管理系统

月总访问量492
收藏量0

面向企业与个人开发者的开源大模型API聚合平台,提供OpenAI兼容统一接口,支持平台预设模型(DeepSeek/Qwen系列)与第三方托管模型混合调用。核心功能:① 零代码迁移成本的多模型统一调用(修改model参数即可切换)② 第三方模型托管仅收5%流量费,Key不留存保障安全 ③ 智能模型路由自动选择最优模型 ④ 多模型响应对比辅助选型 ⑤ 实时成本预警与智能预算管控

数据分析智能助手
用户输出

我要做一个api超市,专门用统一格式转发开源模型。 模型列表有: 以下是 SophNet 平台模型列表的 Markdown 表格: ## 推理模型(Reasoning Models) | 模型名称 | 提供商 | 上下文窗口 | 输入价格 | 输出价格 | 特点描述 | |---------|--------|-----------|---------|---------|---------| | DeepSeek R1 | DeepSeek | 64k | ¥4/M tokens | ¥16/M tokens | 首个大规模强化学习训练推理模型,数学、编程和推理能力与 OpenAI-o1 相当 | | DeepSeek Prover V2 | DeepSeek | 128k | ¥4/M tokens | ¥16/M tokens | 671B 参数,专为形式化定理证明设计,支持 128K 上下文 | | QwQ-32B | Qwen | 128k | ¥2/M tokens | ¥6/M tokens | 千问系列推理模型,性能可比肩 DeepSeek R1、o1-mini | ## 通用大语言模型 | 模型名称 | 提供商 | 上下文窗口 | 输入价格 | 输出价格 | 特点描述 | |---------|--------|-----------|---------|---------|---------| | DeepSeek V3 Fast | DeepSeek | 32k | ~~¥4~~ **¥2**/M tokens (限时五折 5.13~6.30) | ~~¥16~~ **¥8**/M tokens | V3 0324 极速版,满血非量化,代码与数学能力更强,响应更快 | | DeepSeek V3 0324 | DeepSeek | 128k | ¥2/M tokens | ¥8/M tokens | 15万亿token预训练,指令遵循和代码能力全面提升 | | Qwen3-235B-A22B | Qwen | 128k | ¥4/M tokens | ¥12/M tokens | Qwen 系列最新一代,MoE 架构,推理、指令遵循、代理能力突破 | | Qwen2.5-72B-Instruct | Qwen | 128k | ¥4/M tokens | ¥12/M tokens | 知识量显著增加,编程和数学能力强,支持29+语言,生成长文本 | | Qwen2.5-32B-Instruct | Qwen | 128k | ¥2/M tokens | ¥6/M tokens | 320亿参数,复杂推理、数学计算和代码生成表现突出 | | Qwen2.5-7B-Instruct | Qwen | 128k | ¥0.5/M tokens | ¥1/M tokens | 轻量级,适合成本敏感场景,中文任务表现优异,支持代码补全 | ## 蒸馏模型(Distilled Models) | 模型名称 | 提供商 | 上下文窗口 | 输入价格 | 输出价格 | 特点描述 | |---------|--------|-----------|---------|---------|---------| | DeepSeek-R1-Distill-Qwen-32B | DeepSeek | 32k | ¥2/M tokens | ¥6/M tokens | 基于 Qwen 2.5 32B 蒸馏,表现优于 o1-mini,创造密集模型新最佳成绩 | | DeepSeek-R1-Distill-Qwen-7B | DeepSeek | 32k | ¥0.5/M tokens | ¥1/M tokens | 7B 规模实现接近原版 70% 性能,响应延迟降低40%,适合实时交互 | ## 视觉语言模型(VL Models) | 模型名称 | 提供商 | 上下文窗口 | 输入价格 | 输出价格 | 特点描述 | |---------|--------|-----------|---------|---------|---------| | Qwen2.5-VL-72B-Instruct | Qwen | 128k | ¥16/M tokens | ¥48/M tokens | 精通物体识别、文本/图表/布局分析,支持1小时+长视频,可操作计算机和手机,视觉代理 | | Qwen2.5-VL-7B-Instruct | Qwen | 128k | ¥2/M tokens | ¥6/M tokens | 轻量级多模态,支持20分钟+视频理解,可集成移动设备和机器人实现自动操作 | | Qwen2-VL-72B-Instruct | Qwen | 32k | ¥16/M tokens | ¥48/M tokens | 720亿参数,支持20分钟+视频理解,高质量视频问答和内容创建,复杂推理决策 | | Qwen2-VL-7B-Instruct | Qwen | 32k | ¥2/M tokens | ¥5/M tokens | 支持1小时+长视频,可生成发票、表格等结构化输出,适用于金融、商业场景 | --- ## 价格对比汇总表 | 价格档位 | 输入价格 | 输出价格 | 包含模型 | |---------|---------|---------|---------| | 入门级 | ¥0.5/M tokens | ¥1/M tokens | Qwen2.5-7B、DeepSeek-R1-Distill-Qwen-7B | | 性价比级 | ¥2/M tokens | ¥6-8/M tokens | DeepSeek V3 系列、Qwen2.5-32B、QwQ-32B、Qwen2-VL-7B、Qwen2.5-VL-7B | | 专业级 | ¥4/M tokens | ¥12-16/M tokens | DeepSeek R1、DeepSeek Prover V2、Qwen3-235B、Qwen2.5-72B | | 高端多模态 | ¥16/M tokens | ¥48/M tokens | Qwen2.5-VL-72B、Qwen2-VL-72B | 市场的用户用统一接口调和这些模型。以openai 接口为标准。 用户也可以托管自己的key来调用第三方模型(使用保存在平台的配置项,每生成一个配置项,平台为用户生成一个自定义模型id,但是key不保留,需要用户每次传递。)。 托管调用,平台收取5%的token流量费用,资费以deepseek的为标准。 你认为还能有什么功能?

易彩AI
我理解您的需求了!您要建设一个**统一格式的开源模型API转发平台**,核心是提供OpenAI兼容的接口,让用户可以灵活调用多种开源模型。 让我先基于您的描述,补充一些实用功能建议: ## 核心功能建议 ### 1. 模型管理增强 - **模型别名映射**:用户可以为不同模型创建友好名称(如 `fast-code` 映射到 `DeepSeek V3 Fast`)
用户输出

两者兼有 支持用户自行添加其他开源模型(也就是托管第三方) 平台是直接向用户收费。 如果是托管的第三方,则平台只收取5%流量费用

易彩AI
明白了!需求已经非常清晰了: - **用户群体**:企业+个人开发者兼有,支持权限分级 - **模型范围**:平台预设模型 + 用户自定义托管第三方模型 - **收费模式**: - 平台模型:全额收费 - 托管第三方:仅收5%流量费(以DeepSeek资费为标准) - 统一计费,平台直接收费 现在开始启动开发流程,先进行预搜索,了解行业背景和竞品信息,以便精准定义需求...
易彩AI
《SophNet API超市平台PRD文档》 --- ## 需求优化 | 维度 | 说明 | |-----|------| | **系统定位** | 面向企业与个人开发者的开源大模型API统一转发平台,提供OpenAI兼容接口,聚合多厂商模型资源,支持平台预设模型与第三方托管模型混合调用 |
易彩AI
需求已明确,正在搜索具体的页面内容资料,以便构建真实的项目内容...
易彩AI
# 初始数据填充报告 ## 执行摘要 - **处理模块总数**:8 个(静态 5 个,动态 2 个,混合 1 个) - **数据来源**:web_search 3 条(模型特性描述),PRD 及用户输入 8 条(业务逻辑与模型列表),业务推断 10 条(文案与案例场景) - **静态文案条目**:15 条
易彩AI
正在构建UI设计文档...
易彩AI
正在识别外部API依赖...
易彩AI
根据PRD文档分析,SophNet API超市平台的核心功能是**大模型API的统一转发与托管管理**,而非内容生成(如文生图、视频生成等)。 PRD中明确描述的需求包括: 1. **统一OpenAI兼容接口**:提供标准的Chat Completions接口转发。 2. **模型管理**:管理DeepSeek、Qwen等平台预设模型列表。
易彩AI
我将基于PRD文档和您的需求,以资深UI/UX交互设计师和专业CSS美工设计师的角色,为您生成完整的移动端优先设计文档。 ## 系统类型识别 根据PRD内容分析,识别系统类型为 **混合/平台类 (是一个**中间件/网关**,它hybrid)** + **工具/应用类 (不直接生成内容,而是将请求转发给下游的模型提供商(DeepSeek, Qwen, OpenAI等)。
易彩AI
正在: default: "mix(bg, brand.primary设计API接口文档...
易彩AI
好的 primary: "linear-gradient(135deg, #6366F1 0%, #8B5CF6 100%)" surface: "linear-gradient(180deg, surface.elevated 0%, surface.default 100%)"
易彩AI
正在设计MongoDB数据库结构...
易彩AI
# SophNet API超市平台 - MongoDB 数据库架构设计文档 ## 一、设计概述 ### 1. 项目背景 SophNet 是一个面向企业与个人开发者的开源大模型 API 聚合转发平台。核心业务逻辑为:提供兼容 OpenAI 格式的统一调用接口,聚合平台预设模型与用户托管的第三方模型,实现混合调度、智能路由、成本监控与计费结算。 ### 2. 设计目标
易彩AI
我将作为 dev_impl 角色完成 SophNet API超市平台的静态 WEB 项目搭建。让我按照规范逐步执行。 ## 前置输出:项目文件列表 | 文件名 | 文件路径 | 文件功能 | 优先级 | 是否需样式标注 | |--------|----------|----------|--------|----------------|
易彩AI
--- ## ✅ 开发完成! **SophNet API超市平台** 已成功搭建完成! ### 📦 已交付内容 | 模块 | 文件数量 | 核心功能 | |------|---------|---------| | **项目配置** | 2个 | package.json、index.html(CDN资源集成) |