AI-инфраструктура изнутри¶
Количественный анализ и проектирование систем¶
Русский перевод: community edition, организованный @ilkruglov. Неофициальное издание сообщества книги Боцзе Ли (Bojie Li) AI Infra in Depth: Quantitative Analysis and System Design.
Скачать полную книгу в PDF · Открыть PDF на GitHub
Предисловие и 12 глав: 967 страниц, 496 рисунков и 130 таблиц.
Основной формат для чтения — PDF. Markdown ниже служит также исходником для сборки: часть относительных ссылок на источники и другие главы сохраняет пути оригинала и не открывается непосредственно на GitHub. При сборке PDF такие ссылки преобразуются в ссылки на зафиксированную версию исходного репозитория.
О книге¶
Книга о том, как устроена инфраструктура для инференса и обучения AI-моделей: от архитектуры модели и отдельного ускорителя до суперузлов, сетей центров обработки данных и совместной работы устройств и облака. Акцент — на количественных оценках, ограничениях ресурсов и выборе системных решений. В главах есть расчёты, упражнения и эксперименты.
Содержание¶
- Первое знакомство с AI Infra
- Архитектура модели
- Нагрузки инференса и обучения
- Архитектура ускорителей
- Операторы и среда выполнения
- Суперузлы
- Сети центров обработки данных
- Оптимизация инференса
- Распределённый инференс
- Системы обучения
- Планирование ресурсов и среда выполнения
- Совместная работа устройств, периферии и облака
О русском издании¶
Издание содержит редакционные уточнения; отступления от оригинала явно помечены и сопровождаются обоснованием.
Перевод и отдельная проверка по исходнику выполнены с помощью GPT-5.6. Подписи к иллюстрациям переведены на русский; схемы и графики в PDF сохраняют векторную форму, а исходные растровые изображения — своё разрешение. Формулы, числовые данные таблиц и сноски проверены; сведения о сборке и проверках находятся в каталоге verification.
Это не официальный перевод автора и не замена профессиональной редактуре. Если заметите неточность, сообщите об ошибке, указав главу или страницу PDF и фрагмент текста.
Оригинал и лицензия¶
Автор оригинала — Боцзе Ли (Bojie Li). Исходный репозиторий. Перевод подготовлен по зафиксированной версии оригинала.
Книга распространяется по лицензии Apache License 2.0. Авторские права и сведения о сторонних материалах сохранены в NOTICE; лицензии используемых шрифтов — в licenses.
Сборка и проверки¶
Каталог book-ru содержит самостоятельное русское издание: исходники и иллюстрации в book/, сборщик в scripts/, тесты в tests/, готовый PDF в dist/. Сборка не изменяет другие языковые версии и не требует загрузки исследовательских наборов данных оригинала.
Требования: Python 3.12, uv, Pandoc, XeLaTeX, Poppler (pdfinfo, pdftotext, pdffonts) и MuPDF (mutool, для тестов). Для XeLaTeX нужны пакеты из book/preamble.tex, включая русскую поддержку Babel; в Debian/Ubuntu это пакеты texlive-xetex, texlive-latex-extra, texlive-lang-cyrillic, fonts-paratype, fonts-noto-core, fonts-dejavu-core, poppler-utils, mupdf-tools и pandoc.
Из корня репозитория:
cd book-ru
uv sync --frozen
uv run pytest -q
uv run python scripts/build_pdf.py --full
Сборщик создаёт PDF и JSON-манифест в .tmp/pdf-build/; опубликованный файл в dist/ автоматически не перезаписывается. Отчёты в verification/ относятся к указанным в них версиям и контрольным суммам; verification/pdf.json описывает опубликованный PDF. Для повторной проверки по оригиналу потребуется отдельно подготовить его исходники; обычная сборка PDF использует только файлы этого каталога. Русское издание подключено к общей CI-сборке: после обновления main рабочий процесс публикует русский PDF и EPUB в GitHub Release, а сайт доступен по адресу /ru/.