В данном блоге доступно 8 постов на разные темы
По запросу нашлось 2 поста
«Ты чего гонишь?», или LLM-галлюцинации
Галлюцинация LLM — генерация уверенного, но фактически неверного или выдуманного текста. Первопричина: Модель обучается предсказывать наиболее вероятный следующий токен на основе статистики, а не проверять факты на истинность. Она стремится …
Как KV-кеш поборол O(n²)
Key-Value кеш — отличный пример того, как недостаточно предложить и теоретически обосновать даже такую сильную архитектурную идею, как трансформеры в LLM. Замечание 1. Трансформеры — это архитектурное решение, которое было …