vllm
其他GitHub活跃Python
A high-throughput and memory-efficient inference and serving engine for LLMs
描述来源: 原始来源
测量时间: 2026年10月16日 · 69 次观测
领域 & 用途
- 领域
- 人工智能 / 大语言模型
到信息源核实
请在官方文档中核实兼容性和前提条件。
https://github.com/vllm-project/vllm分类
- 类型
- 工具
A high-throughput and memory-efficient inference and serving engine for LLMs
描述来源: 原始来源
测量时间: 2026年10月16日 · 69 次观测
请在官方文档中核实兼容性和前提条件。
https://github.com/vllm-project/vllm