프리미엄

설명

Ultra-fast LLM inference — 300+ tokens/second with open-source models

태그

fastinferenceopen-source

사용 방법

프리미엄 — 유료 업그레이드 가능. Groq is a freemium more tool.