安全声明:本测试功能完全绿色免费,调用时直连对方服务器,本站不做任何转发且不存储您的任何Token,请放心使用!
基础配置
Token*
鉴权token
选择接入点:
POST
接入点文档:查看
Run: Ctrl+
接入点描述:使用指定的模型生成聊天
请求参数
context_length_exceeded_behavior
如果提示的令牌计数加上`max_tokens`超过模型的上下文窗口,则采取的措施。
presence_penalty
基于是否出现在文本中的新令牌进行惩罚的数字,介于-2.0和2.0之间。
messages[0].content*
消息的内容。所有内容都是必需的消息,对于具有函数调用的辅助消息可能为空。
messages[0].role*
消息作者的角色。系统、用户或助手之一。
top_k
Top-k采样,过滤k个最可能的下一个令牌。
stop
API将停止生成进一步令牌的序列。
model*
要使用的模型名称。
frequency_penalty
基于现有频率对新令牌进行惩罚的数字,介于-2.0和2.0之间。
repetition_penalty
对重复令牌应用惩罚以阻止或鼓励重复。
prompt_truncate_len
截断聊天提示的大小(以令牌为单位)。
tools
工具列表
n
为每个提示生成的完成数量。
max_tokens
生成完成的最大令牌数。
top_p
核采样,模型考虑具有top_p概率质量的令牌结果。
user
代表您的最终用户的唯一标识符,可以帮助监控和检测滥用。
stream
是否流回部分进度。
mirostat_lr
Mirostat采样算法的学习率。
temperature
采样温度,介于0和2之间。
mirostat_target
Mirostat算法的目标困惑度。
ignore_eos
控制模型是否应忽略序列结束(EOS)令牌。
返回结果
当前为示例返回
更多接入点测试
使用其他软件测试API
您可以拷贝Curl语句,直接导入Postman进行测试