vLLM 的故事始于加州大学伯克利分校 Sky Computing Lab 里一群充满热情的学生与研究员。2023 年，他们开源了核心的 PagedAttention 技术，vLLM 在短短一年多内 GitHub Star 数突破 4 万，并迅速增长至如今的 6.5 万，如今已成为全球科技公司首选的推理引擎。 在这一成功背后 ...