RAG 问答链路如何估计各阶段耗时并设置超时预算?

未标记

Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~

问 AI
本题目录

相关面经

4 篇

字节跳动

Agent 开发
校招秋招二面
查看原面经 →
5.4 这一步模型推理无法直接向用户流式输出答案,是否会导致用户等待答案的时间过长?

腾讯

AI 应用开发
二面
查看原面经 →
检索再说说你这个检索架构。这个整体链路耗时多少呢?向量检索耗时,关键词检索耗时和提取Embedding耗时是多久?

美团

技术岗位
查看原面经 →
实现一个“RAG问答服务”。请描述后端侧的核心组件:向量化服务、向量库、关键词检索、重排服务、LLM生成服务。它们之间的调用顺序与超时预算你会怎么定?

美团

后端开发
查看原面经 →
追问超时预估?

相关题目

4 题