В данном блоге доступно 37 постов на разные темы
LLM в проде: наблюдаемость, безопасность и System Design
Темы 67–70: трассировка, стоимость и кэширование, prompt injection и защита от него, латентность и пропускная способность, каркас для секции LLM System Design. 67. Наблюдаемость, стоимость и кэширование Важность на собеседовании: …
Продвинутый RAG: векторные БД, оценка качества и галлюцинации
Темы 59–62: HyDE, multi-query и graph RAG, HNSW и IVF-PQ в векторных базах, метрики поиска и ответа, борьба с галлюцинациями. 59. Продвинутый RAG Важность на собеседовании: 9/10 █████████░ 🔥🔥🔥 Критично …
Как обучают LLM: токенизация, предобучение, SFT и alignment
Темы 46–50: BPE и byte-level токенизация, законы масштабирования, обучение следовать инструкциям, RLHF, DPO и GRPO, стратегии декодирования. 46. Токенизация Важность на собеседовании: 9/10 █████████░ 🔥🔥🔥 Критично, и здесь тонет много …
Как устроены собеседования на NLP/LLM-разработчика
Форматы и этапы интервью, обязательный минимум знаний, реальные вопросы российских компаний и техника ответа. Плюс карта приоритетов: что учить в первую очередь, а что можно пропустить. Уровень: Middle → Senior …
«Ты чего гонишь?», или LLM-галлюцинации
Галлюцинация LLM — генерация уверенного, но фактически неверного или выдуманного текста. Первопричина: Модель обучается предсказывать наиболее вероятный следующий токен на основе статистики, а не проверять факты на истинность. Она стремится …
Tools vs Skills: чем инструменты агента отличаются от навыков
Инструмент (Tool) — это механизм интеграции LLM с внешним миром. Технически инструменты реализуются в виде функций или методов классов и позволяют компенсировать врождённые ограничения языковых моделей. Основные ограничения LLM: Временные …