vLLM 与 TensorRT-LLM 推理加速方案深度对比

演讲摘要

从 PagedAttention 出发，拆解高吞吐推理框架的选型原则和工程坑点。