浏览代码

生化报警获取结果 采用14b,不再走搜索增强

wangmiaomiao 9 月之前
父节点
当前提交
8dbb100dbd
共有 1 个文件被更改,包括 1 次插入1 次删除
  1. 1 1
      slibra-quartz/src/main/java/com/slibra/quartz/task/AsyncTask.java

+ 1 - 1
slibra-quartz/src/main/java/com/slibra/quartz/task/AsyncTask.java

@@ -893,7 +893,7 @@ public class AsyncTask {
             InferenceAPIsServiceGrpc.InferenceAPIsServiceBlockingStub stub = InferenceAPIsServiceGrpc.newBlockingStub(channel);
 //            String dataJson = "{\"bot_id\":\"721\",\"exp_id\":\"721\",\"session_id\":\"" + sessionId + "\",\"use_rag\":\"true\",\"prompt\":\"你是⼀个资深⽔务领域专家,能回答各种⽔务相关问题\",\"history_dia\":" + JSON.toJSONString(historyDates) + ",\"generate_args\":{\"max_new_tokens\":2048,\"max_length\":4096,\"num_beams\":1,\"do_sample\":true,\"top_p\":0.7,\"temperature\":0.95},\"extra\":{ \"ip_address\": \"" + ipAddr  + "\" },\"strengthen\":" + (true) + "}";
             //2024年6月27日13:29:18 优化,不再使用拼接JSON字符串
-            String dataJson = buildBigModelReqForChat(sessionId, historyDates, ipAddr, true);
+            String dataJson = buildBigModelReqForChat(sessionId, historyDates, ipAddr, false);
             log.info("请求大模型的问答参数为{}", dataJson);
             PredictionsRequest request = PredictionsRequest.newBuilder()
                     .setModelName("slibra_bot")