Die Werkzeugbeschreibungen sind auf Englisch.
lucebox — Werkzeugprofil und Verlauf
LLM speculative inference server for heterogeneous hardware & consumer GPUs
- Sprache
- C++
- Lizenz
- Apache-2.0
- Erstellt
- Letzte Aktivität
- Themen
- cuda
- cuda-kernels
- dflash
- heterogeneous-computing
- kernel
- llama-cpp
- local-ai
- luce
- megakernel
- pflash
- poolside
- qwen
- r9700
- rocm
- rtx3090
- spark
- speculative-decoding
- speculative-prefill
- strix-halo
Aktuelle Messung
2 825GitHub-Sterne+37 (+1.3 %)
gemessenes WachstumMomentum uses available readings from the last 7 days: measured with at least two comparable readings, estimated otherwise.
Messverlauf
| Datum | Wert | Metrik |
|---|---|---|
| 2 825 | GitHub-Sterne | |
| 2 820 | GitHub-Sterne | |
| 2 813 | GitHub-Sterne | |
| 2 808 | GitHub-Sterne | |
| 2 805 | GitHub-Sterne | |
| 2 791 | GitHub-Sterne | |
| 2 788 | GitHub-Sterne | |
| 2 784 | GitHub-Sterne | |
| 2 784 | GitHub-Sterne | |
| 2 780 | GitHub-Sterne | |
| 2 778 | GitHub-Sterne | |
| 2 776 | GitHub-Sterne | |
| 2 771 | GitHub-Sterne | |
| 2 762 | GitHub-Sterne | |
| 2 761 | GitHub-Sterne | |
| 2 761 | GitHub-Sterne | |
| 2 754 | GitHub-Sterne | |
| 2 746 | GitHub-Sterne | |
| 2 745 | GitHub-Sterne | |
| 2 743 | GitHub-Sterne | |
| 2 736 | GitHub-Sterne | |
| 2 732 | GitHub-Sterne | |
| 2 728 | GitHub-Sterne | |
| 2 728 | GitHub-Sterne |
Klassifikationen
- Bereiche
- Typ
- Sonstige
- Anwendungsfälle
- Kein Anwendungsfall angegeben