Перейти к содержанию

AI-инфраструктура изнутри

Количественный анализ и проектирование систем

Русский перевод: community edition, организованный @ilkruglov. Неофициальное издание сообщества книги Боцзе Ли (Bojie Li) AI Infra in Depth: Quantitative Analysis and System Design.

Скачать полную книгу в PDF · Открыть PDF на GitHub

Предисловие и 12 глав: 967 страниц, 496 рисунков и 130 таблиц.

Основной формат для чтения — PDF. Markdown ниже служит также исходником для сборки: часть относительных ссылок на источники и другие главы сохраняет пути оригинала и не открывается непосредственно на GitHub. При сборке PDF такие ссылки преобразуются в ссылки на зафиксированную версию исходного репозитория.

О книге

Книга о том, как устроена инфраструктура для инференса и обучения AI-моделей: от архитектуры модели и отдельного ускорителя до суперузлов, сетей центров обработки данных и совместной работы устройств и облака. Акцент — на количественных оценках, ограничениях ресурсов и выборе системных решений. В главах есть расчёты, упражнения и эксперименты.

Содержание

Предисловие

  1. Первое знакомство с AI Infra
  2. Архитектура модели
  3. Нагрузки инференса и обучения
  4. Архитектура ускорителей
  5. Операторы и среда выполнения
  6. Суперузлы
  7. Сети центров обработки данных
  8. Оптимизация инференса
  9. Распределённый инференс
  10. Системы обучения
  11. Планирование ресурсов и среда выполнения
  12. Совместная работа устройств, периферии и облака

О русском издании

Издание содержит редакционные уточнения; отступления от оригинала явно помечены и сопровождаются обоснованием.

Перевод и отдельная проверка по исходнику выполнены с помощью GPT-5.6. Подписи к иллюстрациям переведены на русский; схемы и графики в PDF сохраняют векторную форму, а исходные растровые изображения — своё разрешение. Формулы, числовые данные таблиц и сноски проверены; сведения о сборке и проверках находятся в каталоге verification.

Это не официальный перевод автора и не замена профессиональной редактуре. Если заметите неточность, сообщите об ошибке, указав главу или страницу PDF и фрагмент текста.

Оригинал и лицензия

Автор оригинала — Боцзе Ли (Bojie Li). Исходный репозиторий. Перевод подготовлен по зафиксированной версии оригинала.

Книга распространяется по лицензии Apache License 2.0. Авторские права и сведения о сторонних материалах сохранены в NOTICE; лицензии используемых шрифтов — в licenses.

Сборка и проверки

Каталог book-ru содержит самостоятельное русское издание: исходники и иллюстрации в book/, сборщик в scripts/, тесты в tests/, готовый PDF в dist/. Сборка не изменяет другие языковые версии и не требует загрузки исследовательских наборов данных оригинала.

Требования: Python 3.12, uv, Pandoc, XeLaTeX, Poppler (pdfinfo, pdftotext, pdffonts) и MuPDF (mutool, для тестов). Для XeLaTeX нужны пакеты из book/preamble.tex, включая русскую поддержку Babel; в Debian/Ubuntu это пакеты texlive-xetex, texlive-latex-extra, texlive-lang-cyrillic, fonts-paratype, fonts-noto-core, fonts-dejavu-core, poppler-utils, mupdf-tools и pandoc.

Из корня репозитория:

cd book-ru
uv sync --frozen
uv run pytest -q
uv run python scripts/build_pdf.py --full

Сборщик создаёт PDF и JSON-манифест в .tmp/pdf-build/; опубликованный файл в dist/ автоматически не перезаписывается. Отчёты в verification/ относятся к указанным в них версиям и контрольным суммам; verification/pdf.json описывает опубликованный PDF. Для повторной проверки по оригиналу потребуется отдельно подготовить его исходники; обычная сборка PDF использует только файлы этого каталога. Русское издание подключено к общей CI-сборке: после обновления main рабочий процесс публикует русский PDF и EPUB в GitHub Release, а сайт доступен по адресу /ru/.