Llama-3.1-8B-Instruct API
MetaТекстовая16K контекстРелиз: 23 июля 2024 г.
Llama-3.1-8B-Instruct - компактная открытая модель Meta для текстовых чатов, подготовки черновиков и самостоятельного запуска. Поддерживает reasoning, tool calling, структурированный вывод, logprobs, параллельные вызовы инструментов и prompt caching.
Llama-3.1-8B-Instruct — текстовая модель от Meta; контекст 16K токенов подходит для длинных документов и развёрнутых диалогов. Поддерживает вызов инструментов и режим рассуждений через единый API.
Pricing
Input
0.17BYN
за 1M токенов
Output
0.27BYN
за 1M токенов
Cache read
0.17BYN
за 1M токенов из кэша
Capabilities
Input
Текст
Output
Текст
Поддерживается
ToolsReasoningStructured outputCaching
Specifications
- Провайдер
- Meta
- Категория
- Текстовая
- Контекст
- 16K
- Релиз
- 23 июля 2024 г.
- Model ID
- Endpoint
/v1/chat/completions- Модальности
text -> text
Quick Start
Документация API →1curl https://api.aiai.by/v1/chat/completions \2 -H "Authorization: Bearer sk-YOUR-KEY" \3 -H "Content-Type: application/json" \4 -d '{5 "model": "llama-3.1-8b-instruct",6 "messages": [7 {"role": "user", "content": "Привет!"}8 ]9 }'Замените sk-YOUR-KEY на ваш ключ.
Частые вопросы о Llama-3.1-8B-Instruct
Стоимость Llama-3.1-8B-Instruct через AIAI.BY API: 0.17 BYN за 1M входных токенов и 0.27 BYN за 1M выходных токенов. Цены указаны в белорусских рублях (BYN). Оплата доступна для юридических и физических лиц из Беларуси.
Контекстное окно Llama-3.1-8B-Instruct составляет 16K токенов. Это означает, что модель может обрабатывать до 16K токенов в одном запросе, включая как входной промпт, так и генерируемый ответ.
Чтобы использовать Llama-3.1-8B-Instruct через AIAI.BY API, зарегистрируйтесь на сайте aiai.by и получите API-ключ. API совместим с форматом OpenAI, поэтому вам достаточно заменить базовый URL и ключ в существующем коде. Поддерживаются все популярные языки программирования и фреймворки.
Llama-3.1-8B-Instruct разработана компанией Meta. Категория модели: текстовая (chat). Доступ к Llama-3.1-8B-Instruct через единый API предоставляет AIAI.BY с оплатой в белорусских рублях.
Llama-3.1-8B-Instruct - компактная открытая модель Meta для текстовых чатов, подготовки черновиков и самостоятельного запуска. Поддерживает reasoning, tool calling, структурированный вывод, logprobs, параллельные вызовы инструментов и prompt caching.. Llama-3.1-8B-Instruct от Meta выделяется среди конкурентов стабильной производительностью. Через AIAI.BY вы можете протестировать Llama-3.1-8B-Instruct и сравнить с другими моделями, используя единый API.
Похожие модели
Попробуйте Llama-3.1-8B-Instruct прямо сейчас
Получите API-ключ и начните использовать Llama-3.1-8B-Instruct через единый API AIAI.BY