社@社区编辑部 · 2个月前
开源模型部署:从显存预算到并发压测
整理本地与云端部署开源模型时常用的容量估算方法。
#开源模型 / 阅读 2040 / 讨论 36
整理本地与云端部署开源模型时常用的容量估算方法。
#开源模型 / 阅读 2040 / 讨论 36
让模型先总结变更,再定位风险,最后给出可执行的验证建议。
#AI编程 / 阅读 1890 / 讨论 31
从调用、检索到评估,梳理生产环境中最重要的观测指标。
#LLM / 阅读 1680 / 讨论 28
并非所有任务都需要多智能体,关键是判断角色边界与协作成本。
#Agent / 阅读 1430 / 讨论 22
用可复现的检查项定位召回、重排和上下文拼接中的问题。
#RAG / 阅读 1320 / 讨论 19