А. Сапунов | Как работает LLM. От нуля до своего трансформера. От токена до внимания — большие языковые модели, разобранные по-человечески (2026) [PDF, FB2, EPUB] -Автор: А. Сапунов Издательство: Самиздат Жанр: Информатика и вычислительная техника, Искусственный интеллект, Программирование Формат: PDF, FB2, EPUB Качество: Изначально электронное (ebook) Иллюстрации: Цветные и черно-белые Описание: Эта книга объясняет, как на самом деле устроены большие языковые модели (LLM) — те самые, что стоят за ChatGPT, Claude, Gemini и их собратьями. Путь идёт от вопроса «что это вообще такое?» до строки кода, в которой ваша собственная маленькая модель генерирует свой первый связный текст. Книга написана в стиле «для чайников»: каждая идея сначала объясняется на пальцах — с аналогиями и иллюстрациями. Но там, где любопытному читателю хочется заглянуть глубже, его ждут инженерные вставки — со строгими формулами, кодом и деталями, которые обычно прячут «под капотом». Хотите — читайте только основной текст и получите крепкое интуитивное понимание. Хотите — ныряйте во вставки и выходите из книги человеком, который может написать трансформер с нуля. Главная мысль книги одной фразой: LLM — это гигантский, но удивительно понятный механизм, который снова и снова отвечает на один вопрос: «какое слово вероятнее всего идёт следующим?». Всё остальное — детали того, как сделать этот ответ хорошим.
"Продолжение описания:"
Для кого эта книга: • для любопытных без технического бэкграунда — если вы пользуетесь нейросетями и хотите понять, что внутри; • для разработчиков, которые применяют LLM, но хотят перестать относиться к ним как к магии; • для студентов и преподавателей — как мягкое, но честное введение в тему; • для продактов, аналитиков и менеджеров — чтобы говорить с инженерами на одном языке. Что нужно знать заранее? Почти ничего: школьной математики и желания разобраться хватит. Весь нужный минимум объясняется по дороге, а строгие выкладки вынесены в приложение. Особенность книги: весь код — на Swift (чистый Swift и Apple MLX), а не на Python. Идеи LLM не принадлежат ни одному языку: увидев механизм внимания на непривычном синтаксисе и поняв его, вы понимаете саму идею, а не заклинание из конкретной библиотеки. Практический мини-GPT из Части V запускается прямо на Mac (Apple Silicon) — без облака, без CUDA.
"Дополнительная информация:"
Оглавление Введение. Зачем эта книга и как ею пользоваться Часть I. Что это вообще такое 1. Что такое LLM простыми словами 2. История: от перцептрона до GPT 3. Как машина видит текст: токены и словарь Часть II. Фундамент (без боли) 4. Векторы и эмбеддинги: смысл как геометрия 5. Языковая модель = предсказание следующего токена 6. Нейросети с нуля: нейрон, слои, обучение 7. Градиентный спуск и обратное распространение Часть III. Архитектура трансформера 8. Механизм внимания — сердце трансформера 9. Multi-head attention и feed-forward 10. Позиционное кодирование 11. Трансформер целиком Часть IV. Как обучают LLM 12. Предобучение на терабайтах текста 13. Дообучение, instruction tuning, RLHF 14. Масштаб, законы масштабирования, эмерджентность Часть V. Практика: строим мини-GPT 15. Готовим данные и токенизатор 16. Пишем модель GPT с нуля: построчный разбор 17. Обучаем и генерируем текст Часть VI. Жизнь LLM в реальном мире 18. Инференс и сэмплирование 19. Промпт-инжиниринг по-инженерному 20. RAG, агенты и вызов инструментов 21. Ограничения, безопасность и этика 22. Куда всё движется Приложения A. Глоссарий терминов B. Математический минимум C. Литература и ссылки D. Установка окружения для примеров
Курс А. Сапунов - Как работает LLM. От нуля до своего трансформера. От токена до внимания — большие языковые модели, разобранные по-человечески (2026)
Текущее время: Сегодня 04:50
Часовой пояс: GMT + 4
Вы не можете начинать темы Вы не можете отвечать на сообщения Вы не можете редактировать свои сообщения Вы не можете удалять свои сообщения Вы не можете голосовать в опросах Вы не можете прикреплять файлы к сообщениям Вы не можете скачивать файлы