Инфографический постер об инфраструктуре ИИ

Цель: Создать качественную вертикальную образовательную инфографику под названием «...»{argument name="headline text" default="AI infrastructure"}. Подзаголовок:{argument name="subtitle text" default="How Modern AI Systems Work"}. Этот документ содержит углубленный анализ современной инфраструктуры ИИ, от конвейеров данных и кластеров для обучения на графических процессорах до сервисов вывода, пакетной обработки и кэшей типа «ключ-значение». Холст: Портретный постер с соотношением сторон 4:5, выполненный в глубоком синем цвете в футуристическом стиле дата-центра. Фон представляет собой светящуюся сине-фиолетовую сетку, дополненную иллюстрациями гор, серверных стоек, графических процессоров, неоновых схем, тонких закругленных панелей, белых и голубых шрифтов и небольших оранжевых логотипов с цифрами. Общий вид должен напоминать высококачественный технический постер, насыщенный, но легко читаемый. Макет: Основной заголовок расположен в верхнем левом углу, за ним следуют подзаголовки и слоганы, а в верхнем правом углу — декоративные серверные стойки и графические процессоры. Содержание разделено на восемь пронумерованных основных разделов, с разделом «Ключевые понятия» справа и нижним колонтитулом внизу. Используются точные границы панелей, значки, стрелки, диаграммы, таблицы и микровкладки. Разделы и необходимое содержание: 1. Конвейер обработки данных: Демонстрация пяти этапов конвейера, соединенных стрелками: исходные данные, сбор и очистка, аннотирование/организация, сегментация/разбивка на фрагменты слов, а также шардинг и хранение. Исходные данные включают 5 ключевых элементов: веб-страницы, документы, код, изображения и журналы. Сбор и очистка включают 3 ключевых элемента: фильтрация, дедупликация и нормализация. Разметка/организация включает 3 ключевых элемента: проверка качества, ручные/эвристические методы и сборка набора данных. Токенизация/разбивка на фрагменты включает 3 ключевых элемента: преобразование в токены, разбивка на документы и добавление специальных токенов. Шардинг и хранение включают 3 ключевых элемента: разделение на фрагменты, сбалансированное разбиение и оптимизация для параллельного чтения. 1. Добавьте пояснительный текст, указывающий на то, что данные были очищены, дедуплицированы, организованы, токенизированы и сохранены в виде сегментов для эффективного чтения несколькими рабочими узлами. 2. Уровень хранения и оркестровки: включает 3 вертикальные карточки: объектное хранилище (со значком облачной базы данных, обозначенным как «S3 / GCS / Azure Blob или локальное объектное хранилище»); ​​отслеживание метаданных/экспериментов (со значком панели мониторинга, ключевые элементы: «Запуск и метрики», «Гиперпараметры», «Происхождение и артефакты»); мониторинг и журналы (со значками диаграмм/лупы, ключевые элементы: «Метрики и оповещения», «Агрегация журналов», «Отслеживание и отладка»). Добавьте пояснение в нижнем колонтитуле: уровень управления отвечает за координацию вычислительных задач, отслеживание экспериментов, хранение контрольных точек и мониторинг использования, сбоев и затрат. 3. Архитектура обучающего кластера: центральная большая архитектурная диаграмма под названием «Архитектура обучающего кластера». На схеме показаны четыре узла с графическими процессорами/ускорителями, расположенные в сетке 2x2 и соединенные светящимися высокоскоростными сетевыми каналами с маркировкой «Высокоскоростная сеть InfiniBand / RoCE». Каждый узел содержит хост-процессор (многоядерный), ОЗУ, графический процессор (например, 8x H100) и локальный твердотельный накопитель NVMe. Пунктирные линии соединяют узлы. Ниже расположены три меньшие панели: «Внутреннее устройство узла», «Параллелизм данных» и «Параллелизм распределенного обучения» (легенда). На панели «Внутреннее устройство узла» должен быть показан процессор, подключенный к нескольким графическим процессорам через линии PCIe/NVLink/NVSwitch. В легенде «Параллелизм распределенного обучения» должны быть показаны четыре этапа, обозначенные как Этап 1, Этап 2, Этап 3 и Этап 4. 4. Этапы обучения: Создайте поток обучения слева направо, содержащий шесть этапов: ввод токена, прямое распространение ошибки, вычисление функции потерь, обратное распространение ошибки, вычисление градиента и обновление оптимизатора. Включает в себя набор значков контрольных точек, блок «Точность модели» (с указанием FP32, FP16/BF16, FP8) и блок «Статус оптимизатора». Отображает стрелки накопления градиента с пояснением: Во время обучения модель прогнозирует выходные данные, вычисляет потери, распространяет градиенты обратно и обновляет веса; этот процесс повторяется миллиарды раз. 5. Конвейер сервиса вывода: Создает компактную блок-схему сервиса с 6 этапами вверху: Запросы пользователей, API-шлюз, токенизатор, планировщик/маршрутизатор, сервер моделей (GPU) и потоковый вывод. Панель включает в себя динамическую пакетную обработку (3 строки запросов), блок сервера моделей (с отображением циклов предварительного заполнения и декодирования), кэш ключ-значение в памяти GPU, дополнительные адаптеры и балансировщик нагрузки, соединяющий 3 реплики моделей (обозначенные как «Реплика модели 1», «Реплика модели 2» и «Реплика модели N»). 6. Эксплуатация, надежность и безопасность: включает 6 карточек операций с иконками: автоматическое масштабирование/масштабирование, телеметрия/наблюдаемость, ограничение скорости и квоты, фильтры безопасности/ограничения, контроль версий/откат и мониторинг затрат. Добавьте примечания: системы ИИ производственного уровня требуют надежных инструментов управления для поддержания надежности, безопасности и экономической эффективности. 7. Сравнение обучения и вывода: добавьте сравнительную таблицу из 6 строк: Цель, основные узкие места, проблемы с памятью, типичные метрики, режим масштабирования и требования к эластичности. Назовите два столбца «Обучение» и «Вывод (сервис)» соответственно. Обучение должно описывать обучение весов модели на основе данных, пропускную способность распределенных вычислений и перемещения данных, значения активации/градиенты/состояния оптимизатора, количество токенов в секунду или скорость сходимости, большие пакеты длительных задач и контрольные точки/отказоустойчивость. В разделе «Вывод» следует описать полезные ответы, сгенерированные пользователем, задержку и пропускную способность, веса модели плюс кэш ключ-значение, задержку и количество токенов в секунду, большое количество коротких запросов, а также высокую доступность/плавное снижение производительности. 8. Правая боковая панель «Ключевые понятия»: Создайте высокую правую боковую панель с заголовком «Ключевые понятия», содержащую 5 карточек с буквами: A. Размер пакета, B. Длина последовательности/контекстное окно, C. Кэш ключ-значение, D. Пропускная способность и задержка, E. Параметры/веса/значения активации. Карточка A должна определять размер пакета и показывать сравнение между малыми и большими пакетами (значки токенов/людей). Карточка B должна показывать токен ключевого слова и длинный контекст (блоки токенов с метками T1, T2, T3, T4, …, Tn). Карточка C должна показывать ввод токена ключевого слова в фиолетовый цилиндрический кэш ключ-значение, после чего из кэша считываются новые токены. Карточка D должна отображать две панели мониторинга: пропускную способность и задержку. Карточка E должна отображать веса и значения активации (синяя и фиолетовая сетки, соединенные умножением). Добавьте подсказку «Предварительное заполнение против декодирования» внизу боковой панели, объясняющую, что процессы предварительного заполнения завершают ключевые слова, в то время как декодирование генерирует токены по одному, используя кэш ключ-значение. Нижний колонтитул: Добавьте нижнюю панель навигации в последовательности «Данные → Обучение → Вывод → Ценность» с небольшой круглой иконкой ракеты/компаса слева и заключительным утверждением. Визуальный стиль: Плотная корпоративная инфографика, четкие векторные и полу-3D иконки, светящиеся голубые контуры, тонкие градиенты, объемное освещение, небольшие схемы, микродиаграммы и четкие заголовки с засечками в сочетании с современными надписями без засечек. Цветовая схема должна быть следующей: {argument name="color palette" default="Глубокий темно-синий, электрический синий, голубой, фиолетовый, белый и небольшое количество янтарных акцентов"}. Ограничения: использовать 8 пронумерованных основных модулей, 5 карточек с ключевыми концепциями, 4 узла GPU, 6 этапов обучения, 6 этапов вывода, 6 карточек обслуживания и 6 строк таблиц сравнения обучения и вывода. Весь видимый текст должен быть на английском языке, следует избегать водяных знаков и логотипов брендов, а также поддерживать высокую читаемость в плотном макете.