vllm
SonstigesGitHubAktivPython
A high-throughput and memory-efficient inference and serving engine for LLMs
Herkunft der Beschreibung: Originalquelle
Gemessen: 16.10.2026 · 69 Beobachtungen
Bereiche & Einsatzzwecke
- Bereiche
- KI / LLM
An der Quelle prüfen
Kompatibilität und Voraussetzungen in der offiziellen Dokumentation prüfen.
https://github.com/vllm-project/vllmKlassifikationen
- Art
- Werkzeug