AI 新闻 · 美团技术团队
SLM 生成式高并发推理引擎：延迟约束下的有效吞吐优化
发布于 · 本站收录 2026-11-12 01:50
本文为SLM（Small Language Model， 小参数量语言模型0.5~1B）在搜推场景的大规模落地提供了一套高性能、可复用的工程实践。
本站程序每小时从公开 RSS / 官方博客自动收集，英文内容为机器翻译摘要，已自动过滤低俗、时政等敏感内容；细节以原文为准。
发布于 · 本站收录 2026-11-12 01:50
本文为SLM（Small Language Model， 小参数量语言模型0.5~1B）在搜推场景的大规模落地提供了一套高性能、可复用的工程实践。
本站程序每小时从公开 RSS / 官方博客自动收集，英文内容为机器翻译摘要，已自动过滤低俗、时政等敏感内容；细节以原文为准。