В данном блоге доступно 8 постов на разные темы
По запросу нашлось 8 постов
Язык, на котором говорят LLM: разбираем контракт OpenAI API
API-вызовы (OpenAI-совместимый формат): запрос и ответ При работе с LLM часто требуется знать верхнеуровневый формат «запрос-ответ», который обеспечивает полноценную коммуникацию между клиентом и LLM. Единого официального стандарта нет: каждый вендор …
Битва за память: как VRAM, RAM и PCIe влияют на скорость LLM
Как понять, запустится ли модель на локальном ПК Если на ПК только CPU Формула для очень грубой оценки: text ток/с ≈ пропускная способность RAM / размер модели в памяти Во …