フリーミアム

説明

Ultra-fast LLM inference — 300+ tokens/second with open-source models

タグ

fastinferenceopen-source

使い方

フリーミアム——有料アップグレードあり。 Groq はフリーミアムのツールです。