Groq
Описание
Ultra-fast LLM inference — 300+ tokens/second with open-source models
Теги
fastinferenceopen-sourceКак использовать
Freemium. Groq — это бесплатный инструмент.
Ultra-fast LLM inference — 300+ tokens/second with open-source models
Freemium. Groq — это бесплатный инструмент.