推理服务v1-对话

指定模型最大输出token数，说明：（1）如果设置此参数，范围[2, 2048]；（2）如果不设置此参数，最大输出token数为1024

说明：（1）较高的数值会使输出更加随机，而较低的数值会使其更加集中和确定；（2）默认0.8，范围 (0, 1.0]，不能为0

说明：（1）影响输出文本的多样性，取值越大，生成文本的多样性越强；（2）默认0.8，取值范围 [0, 1.0]

通过对已生成的token增加惩罚，减少重复生成的现象。说明：（1）值越大表示惩罚越大；（2）默认1.0，取值范围：[1.0, 2.0]

生成停止标识，当模型生成结果以stop中某个元素结尾时，停止文本生成。说明：（1）每个元素长度不超过20字符（2）最多4个元素

是否以流式接口的形式返回数据

模型人设，主要用于人设设定，例如，你是xxx公司制作的AI助手，说明：（1）长度限制，message中的content总长度和system字段总内容不能超过20000个字符，且不能超过5120 tokens

指定响应内容的格式，说明：（1）可选值：· json_object：以json格式返回，可能出现不满足效果情况；· text：以文本格式返回；（2）如果不填写参数response_format值，默认为text

是否强制关闭实时搜索功能，可选值：· true：关闭· false：表示不关闭，默认false

是否开启上角标返回，说明：（1）开启后，有概率触发搜索溯源信息search_info，search_info内容见响应参数介绍；（2）默认false，不开启；（3）注意：本字段不控制是否关闭实时搜索功能，该功能请参见disable_search字段。如果设置了disable_search=true，那么本字段无效

是否开启系统记忆，说明：（1）false：未开启，默认false；（2）true：表示开启，开启后，system_memory_id字段必填

是否返回搜索溯源信息，说明：（1）如果开启，在触发了搜索增强的场景下，会返回搜索溯源信息search_info，search_info内容见响应参数介绍；（2）默认false，表示不开启；（3）注意：本字段不控制是否关闭实时搜索功能，该功能请参见disable_search字段。如果设置了disable_search=true，那么本字段无效

系统记忆ID，说明：（1）用于读取对应ID下的系统记忆，读取到的记忆文本内容会拼接message参与请求推理；（2）通过调用创建系统记忆接口，返回的result字段获取

表示最终用户的唯一标识符

用户IP,可用于推测用户位置等