月之暗面

上下文缓存接口允许用户预先存储可能会被频繁请求的数据，当再次请求相同信息时，系统可以直接从缓存中快速提供，从而节省时间和资源。该接口支持创建、列举、删除、更新和查询缓存，并且可以通过标签系统来管理缓存。

上下文缓存接口允许系统预先存储可能会被频繁请求的大量数据或信息，当再次请求相同信息时，系统可以直接从缓存中快速提供，从而节省时间和资源。该接口支持创建、列举、删除、更新和查询缓存，并通过标签系统管理缓存。

通过POST请求，用户可以发送包含对话消息和模型ID的请求，以计算这些消息将消耗的Token数量。这对于管理API调用成本非常有用。

该模型适用于多种任务，包括内容或代码生成、摘要、对话、创意写作等。用户可以通过提供明确的指令和范例来“训练”模型，使其更好地完成任务。

该API允许用户上传文件，并抽取文件内容作为上下文信息。支持多种文件格式，包括但不限于PDF、TXT、CSV、DOC、DOCX、XLS、XLSX、PPT、PPTX、JPEG、PNG等。单个用户最多可上传1000个文件，单文件不超过100MB，所有文件总和不超过10G。文件解析服务限时免费，请求高峰期可能会有限流策略。