feature - add more profile scope

[jianglan89]

No description provided.

[LLLLKKKK]

Code Review: PR #848 — feature - add more profile scope

Author: jianglan89
Review version: v1
Head SHA: 75c2b70
Verdict: LGTM

Summary

为 RTP-LLM 添加更细粒度的 profiling 支持，主要变更：

1. 大量 RTP_LLM_PROFILE_FUNCTION() 添加: 在 GenerateStream、StreamCacheResource、FIFOScheduler 的关键函数中添加 profiling scope，便于性能分析
2. applyTimelineGate 提取为共享方法: 从 LocalRpcServer 中提取，DecodeRpcServer、PrefillRpcServer、*New 版本统一调用
3. all_tp 广播 profiling: StartProfile 新增 all_tp 参数，tp_rank=0 通过 BroadcastManager 将 profiling 请求广播到所有 TP rank
4. step_profiler_.tick() 移到 process() 之后: 确保所有 TP rank 在 NCCL 同步后再启停 profiler，时间窗口对齐
5. Proto 新增 StartProfileInternalRequestPB: 用于 TP 内部广播

评价

改动方向正确，profiling scope 覆盖了调度器、stream 生命周期、缓存管理等关键路径。all_tp 广播设计合理，step_profiler_.tick() 位置调整有明确的技术理由。

P2 Suggestions

1. DecodeRpcServerNew.cc 中 const_cast 修改 protobuf request

const_cast<GenerateInputPB*>(request)->mutable_generate_config()->set_gen_timeline(true);

const_cast 修改 gRPC 传入的 const request 是不安全的做法。建议改为在 transQuery 之后修改 input->generate_config->gen_timeline，与 DecodeRpcServer.cc 和 PrefillRpcServer.cc 的做法保持一致。

2. request_counter.py 似乎未被使用

新增了 rtp_llm/utils/request_counter.py，但在本 PR 中没有任何文件 import 它。如果是为后续 PR 准备的，建议在后续 PR 中一起提交，避免死代码。

P3 Nits

3. Trace name 格式变更

- prefix = "profiler_wr" + std::to_string(world_rank_) + "_ts" + ...
+ prefix = "profiler_ts" + ... + "wr" + std::to_string(world_rank_) + "_";

world_rank 从前缀移到后缀，现有的 trace 解析脚本如果依赖文件名格式可能需要更新。