feat: 提高模型输出速度

This commit is contained in:
chenchun
2025-07-08 18:24:21 +08:00
parent 4e3edefb35
commit 0d2bc585a9

View File

@@ -119,7 +119,7 @@ public class AiGateWayManager : DomainService
StringBuilder backupSystemContent = new StringBuilder(); StringBuilder backupSystemContent = new StringBuilder();
// 设置输出速率例如每50毫秒输出一次 // 设置输出速率例如每50毫秒输出一次
var outputInterval = TimeSpan.FromMilliseconds(100); var outputInterval = TimeSpan.FromMilliseconds(75);
// 标记是否完成接收 // 标记是否完成接收
var isComplete = false; var isComplete = false;
// 启动一个后台任务来消费队列 // 启动一个后台任务来消费队列