推理服务v2-模型

指定模型最大输出token数，请查看开始使用-模型列表-文本生成页，表格中最大输出(tokens)列说明。

说明：（1）较高的数值会使输出更加随机，而较低的数值会使其更加集中和确定2）取值范围：当模型为DeepSeek-V3，即model值为deepseek-v3、deepseek-v3-241226，取值范围[0，2]； 当模型为Llama-4-Maverick、Llama-4-Scout、GLM-Z1-32B-0414、Qianfan-8B或Qianfan-70B，取值范围[0，2]，默认0.6； 当模型为Qwen2.5，即model值为qwen2.5-7b-instruct，取值范围[0，2]，默认0.7； 当模型为GLM-4-32B-0414或GLM-Z1-Rumination-32B-0414，取值范围[0，2]，默认0.95； 其他模型，默认0.95，范围 (0, 1.0]，不能为0；（3）不支持以下模型： DeepSeek-Reasoner、 DeepSeek-R1-Distill系列、 QwQ-32B、 ERNIE X1 Turbo系列

说明：（1）影响输出文本的多样性，取值越大，生成文本的多样性越强（2）取值范围 [0, 1.0]

正值根据迄今为止文本中的现有频率对新token进行惩罚，从而降低模型逐字重复同一行的可能性；说明：默认0.1，取值范围[-2.0, 2.0]

正值根据token记目前是否出现在文本中来对其进行惩罚，从而增加模型谈论新主题的可能性；说明：默认0.0，取值范围[-2.0, 2.0]

通过对已生成的token增加惩罚，减少重复生成的现象。说明：（1）值越大表示惩罚越大（2）取值范围：[1.0, 2.0]

说明：（1）取值范围: （0,2147483647‌），会由模型随机生成，默认值为空（2）如果指定，系统将尽最大努力进行确定性采样，以便使用相同seed和参数的重复请求返回相同的结果

生成停止标识，当模型生成结果以stop中某个元素结尾时，停止文本生成。说明：（1）每个元素长度不超过20字符（2）最多4个元素（3）不支持以下模型：ERNIE X1 Turbo系列

是否以流式接口的形式返回数据，默认false

流式响应是否输出usage，说明：· true：是，设置为true时，在最后一个chunk会输出一个字段，这个chunk上的usage字段显示整个请求的token统计信息 · false：否，流式响应默认不输出usage

指定响应内容的格式，可选值： json_object：以json格式返回，可能出现不满足效果情况 text：以文本格式返回，默认为text; json_schema：以json_scheam规定的格式返回

一个可触发函数的描述列表，支持模型请参考开始使用-模型-Function calling-支持模型范围。

说明：（1）支持模型请参考开始使用-模型-Function calling-支持模型范围（2）可选值： true：表示开启函数并行调用，默认开启 false：表示关闭函数并行调用

表示最终用户的唯一标识符

是否开启实时搜索功能，说明：（1）如果关闭实时搜索，角标和溯源信息都不会返回（2）可选值： true：开启 false：关闭，默认false

是否开启上角标返回，说明：（1）enable为true时生效（2）可选值： true：开启；如果开启，在触发了搜索增强的场景下，响应内容会附上角标，并带上角标对应的搜索溯源信息 false：未开启，默认false（3）如果检索内容包含非公开网页，角标不生效

是否返回搜索信号，说明：（1）enable 为 true时生效（2） 可选值： true：返回；如果为true触发搜索，会通过delta_tag:search_status表示这一包是信号包。 false：不返回，默认false

是否返回搜索溯源信息，说明：（1）enable 为 true时生效（2）可选值： true：返回；如果为true，在触发了搜索增强的场景下，会返回搜索溯源信息search_results false：不返回，默认false（3）如果检索内容为非公开网页，即使触发搜索也不返回溯源信息