提交 f398883f 作者: 925993793@qq.com

定制专题-逻辑优化、bug修改

上级 e3a41619
......@@ -33,6 +33,8 @@ public class LlmProperties {
private String defaultModel;
//是否开启网络搜索
private Boolean webSearch;
//温度
private Float temperature;
}
/**
......
package com.zzsn.event.llm;
import com.zzsn.event.config.properties.LlmProperties;
/**
* 模型调用
*/
......@@ -15,4 +17,14 @@ public interface LlmService {
* @return 大模型响应结果
*/
String model(String modelType, String modelName, String system, String content);
/**
* 千问模型调用
*
* @param modelConfig 模型配置信息
* @param system 提示词
* @param content 引用内容
* @return 大模型响应结果
*/
String qwenModel(LlmProperties.ModelConfig modelConfig, String system, String content);
}
......@@ -136,6 +136,9 @@ public class LlmServiceImpl implements LlmService {
.messages(Arrays.asList(systemMsg, userMsg))
.resultFormat(GenerationParam.ResultFormat.MESSAGE)
.build();
if (modelConfig.getTemperature() != null) {
param.setTemperature(modelConfig.getTemperature());
}
GenerationResult call = gen.call(param);
return call.getOutput().getChoices().get(0).getMessage().getContent();
} catch (Exception e) {
......
Markdown 格式
0%
您添加了 0 到此讨论。请谨慎行事。
请先完成此评论的编辑!
注册 或者 后发表评论