Fireworks AI 部署管理(Deployments)

该API用于列出指定账户下的所有部署信息,包括部署名称、描述、创建时间、状态等详细内容。

本页面仅提供API测试,调用的API服务由 Fireworks AI 提供,用量购买及管理请前往其官网。浏览器直调API,易源不做代理转发。

Fireworks AI 部署管理

密钥仅在浏览器端存储,易源不做转发

创建部署

功能示例

创建客户服务聊天模型部署

输入:

  • 账户ID:acct-2024-market
  • 部署显示名称:客户服务智能问答模型
  • 基础模型名称:llama3-70b-instruct
  • 部署区域:美国弗吉尼亚
  • 最小副本数:2
  • 最大副本数:5

输出:

  • 部署ID:deploy-cs-202406
  • 部署状态:运行中(READY)
  • 创建时间:2024-06-10 09:30:00
  • 资源配置:NVIDIA A100 80GB(2-5个副本,自动弹性伸缩)

查看账户下所有AI部署列表

输入:

  • 账户ID:acct-2024-market
  • 分页数量:10
  • 部门标签:技术部

输出:

  • 部署总数:8个
  • 部署列表摘要:
  • 1. 客户服务智能问答模型(运行中,2024-06-10,Llama3-70B)
  • 2. 产品推荐算法模型(运行中,2024-06-05,GPT-4-Turbo)
  • 3. 内部文档检索模型(已停止,2024-05-20,Mistral-8x7B)
  • 4. 营销文案生成模型(运行中,2024-06-08,Claude-3-Sonnet)

查询"产品推荐模型"运行详情

输入:

  • 账户ID:acct-2024-market
  • 部署显示名称:产品推荐算法模型

输出:

  • 部署状态:运行中(READY)
  • 副本配置:最小3个,最大8个(当前5个)
  • 计算资源:NVIDIA H100 80GB
  • 过期时间:2024-12-31 23:59:59
  • 性能优化:已启用长提示优化(处理1000+商品列表)

调整"智能客服模型"资源配置

输入:

  • 账户ID:acct-2024-market
  • 部署显示名称:客户服务智能问答模型
  • 新最小副本数:3
  • 新最大副本数:10
  • 计算资源类型:NVIDIA H200 141GB

输出:

  • 更新状态:配置更新成功
  • 副本范围:3-10个(当前5个,自动扩容中)
  • 计算资源:已升级为NVIDIA H200 141GB
  • 更新时间:2024-06-12 14:15:30

清理过期"测试模型"部署

输入:

  • 账户ID:acct-2024-market
  • 部署显示名称:测试模型202405
  • 删除类型:常规删除(保留30天恢复期)

输出:

  • 删除状态:已标记删除(DELETING)
  • 删除时间:2024-06-15 10:20:00
  • 资源释放:已释放2个NVIDIA A10G 24GB资源
  • 恢复期限:2024-07-15前可恢复

恢复误删的"财务报表分析模型"

输入:

  • 账户ID:acct-2024-market
  • 部署显示名称:财务报表分析模型

输出:

  • 恢复状态:恢复成功
  • 恢复时间:2024-06-18 09:45:00
  • 当前副本数:2个(默认最小副本)
  • 运行状态:初始化中(UPDATING,预计5分钟后可用)

使用场景

智能客服系统

快速部署高性能对话模型,为客户提供24/7智能问答服务,减少人工客服压力。

个性化推荐引擎

部署AI推荐模型,根据用户行为实时生成个性化商品推荐,提升转化率和用户体验。

文档智能处理

部署文档分析模型,自动提取关键信息、总结内容并分类文档,提高工作效率。

金融数据分析

部署专业金融模型,实时分析市场趋势、预测价格变动,辅助投资决策。

营销内容生成

快速部署文案生成模型,批量创建高质量营销材料、广告文案和社交媒体内容。

安全监控系统

部署异常检测模型,实时监控系统日志和用户行为,及时发现潜在安全威胁。

价格说明

价格由API服务商设定,请到服务商官网查看详细定价方案

查看Fireworks AI官方定价

常见问题

如何获取访问API所需的认证令牌?

您需要在Fireworks AI官网注册账户并创建API密钥。登录后,进入账户设置页面,在API密钥部分生成新的访问令牌。

部署模型需要多长时间才能就绪?

部署时间取决于模型大小和当前系统负载,通常在5-15分钟之间。小型模型可能更快,而大型模型(如70B参数)可能需要更长时间初始化。

如何选择合适的计算资源类型?

根据您的模型大小和性能需求选择:小型模型可使用A10G,中等规模模型推荐A100,大型模型或高性能需求建议使用H100或H200。

已删除的部署可以恢复吗?

是的,使用Undelete Deployment API可以恢复30天内删除的部署。超过此期限的部署将被永久清除,无法恢复。

自动扩展功能如何工作?

系统会根据实时请求量自动调整副本数量,在设置的最小和最大副本数范围内波动。您可以通过API调整这些参数和扩展策略。

部署的模型如何更新到新版本?

使用Update Deployment API,指定新版本的基础模型名称。系统将自动处理模型更新,期间可能会有短暂的服务中断。