45 минут бесплатного урока · Начните сейчас, без карты
Shiur Prati

Частный урок с ИИ: Инфраструктура ИИ: GPU, инференс и затраты

Инфраструктура ИИ: GPU, инференс и затраты в живом частном уроке: преподаватель говорит с ребёнком вслух, объясняет на общей доске и идёт в темпе ученика, урок за уроком, по понятной программе.

Живой индивидуальный урок 1:1 с ИИ-учителем

Преподаватель: Noam

  • Программа обновлена 11.2026
  • Иврит и ещё 5 языков
  • 3 уровня
  • 36 уроков · около 20 часов занятий

Инфраструктура ИИ: GPU, инференс и затраты

Инфраструктура ИИ: GPU, инференс и затраты в живом частном уроке: преподаватель говорит с ребёнком вслух, объясняет на общей доске и идёт в темпе ученика, урок за уроком, по понятной программе.

12 уроков · 4 разделов · личный живой урок с учителем у доски

Чему вы научитесь

  • Что происходит внутри модели
  • Зачем AI нужен GPU
  • Обучение против инференса
  • Память и большие модели
  • Задержка и throughput: куда уходит время
  • Уменьшить и ускорить: квантование и серверные движки
  • Где запускать: облако против своих серверов и планирование мощности
  • Экономика инференса: стоимость одного запроса
  • Кэш и быстрый ответ
  • Мониторинг и эксплуатация в продакшене

В курс входит

  • Живые уроки 1:1 с ИИ-учителем на доске
  • 20 часов живых индивидуальных уроков
  • 36 уроков на общей доске, и в каждом есть понятная цель
  • Практика и проверка понимания на каждом уроке
  • Краткое резюме после каждого урока, которое сохраняется в истории
  • Сертификат об окончании каждого уровня
  • Компьютер, планшет или телефон
  • Иврит и ещё 5 языков

Программа курса

3 уровня · 10 глав · 36 уроков · Всего: 19 ч 35 мин

Для начинающихНачинающим: GPU, обучение против инференса и память4 главы • 12 уроков • 6 ч 30 мин
  1. Что происходит внутри модели2 урока • 1 ч
    1. 1Модель — это множество чисел: параметры и матрицыПробный урококоло 30 мин
    2. 2Токены: как языковая модель генерирует текстоколо 30 мин
  2. Зачем AI нужен GPU3 урока • 1 ч 40 мин
    1. 3CPU против GPU: несколько умных ядер против тысяч простыхоколо 30 мин
    2. 4FLOPs: подсчёт вычислений, которые нужны моделиоколо 35 мин
    3. 5Внутри GPU: ядра, HBM и пропускная способность памятиоколо 35 мин
  3. Обучение против инференса3 урока • 1 ч 40 мин
    1. 6Обучение: как модель учит свои весаоколо 35 мин
    2. 7Обучение против инференса: разово против каждого запросаоколо 35 мин
    3. 8Путь запроса: карта serving stackоколо 30 мин
  4. Память и большие модели4 урока • 2 ч 10 мин
    1. 9Сколько памяти нужно, чтобы держать модельоколо 30 мин
    2. 10Память при инференсе: KV cache и длина контекстаоколо 35 мин
    3. 11Память при обучении: почему нужна в разы большеоколо 30 мин
    4. 12Когда модель не влезает в один GPU: разбиение на несколькооколо 35 мин
Средний уровеньПродолжаем: batching, квантование, облако или свой сервер3 главы • 12 уроков • 6 ч 30 мин

Соответствует экзамену: NVIDIA-Certified Associate: AI Infrastructure and Operations (NCA-AIIO), ברמת ההבנה; אין בחינה ישראלית רשמית

  1. Задержка и throughput: куда уходит время5 уроков • 2 ч 40 мин
    1. 1Prefill против decode: два этапа каждого запросаоколо 30 мин
    2. 2Почему decode медленный: memory-bound и arithmetic intensityоколо 35 мин
    3. 3Batching: один раз читаем веса для нескольких запросовоколо 30 мин
    4. 4Continuous batching и очередь запросовоколо 35 мин
    5. 5Управление памятью KV cache: PagedAttentionоколо 30 мин
  2. Уменьшить и ускорить: квантование и серверные движки4 урока • 2 ч 10 мин
    1. 6Квантование: от FP16 к INT8 и INT4около 35 мин
    2. 7Квантование на практике: методы, форматы и проверка качестваоколо 35 мин
    3. 8Speculative decoding и другие способы ускорить decodeоколо 30 мин
    4. 9Серверные движки: vLLM, TensorRT-LLM и SGLangоколо 30 мин
  3. Где запускать: облако против своих серверов и планирование мощности3 урока • 1 ч 40 мин
    1. 10Варианты запуска: управляемый API, GPU в облаке и свой сервероколо 30 мин
    2. 11Планирование мощности: сколько GPU нужно для заданного трафикаоколо 35 мин
    3. 12Облако или своё железо: точка безубыточности по загрузкеоколо 35 мин
Для продвинутыхИнфраструктура AI, продвинутый уровень: стоимость, кэш и мониторинг3 главы • 12 уроков • 6 ч 35 мин
  1. Экономика инференса: стоимость одного запроса4 урока • 2 ч 10 мин
    1. 1От часа GPU до цены за миллион токеновоколо 30 мин
    2. 2Стоимость запроса: входящие и исходящие токены и длинные диалогиоколо 30 мин
    3. 3Модель стоимости продукта: пользователи, пики и запасоколо 35 мин
    4. 4Снижение стоимости: маршрутизация моделей, сокращение и batch-задачиоколо 35 мин
  2. Кэш и быстрый ответ4 урока • 2 ч 10 мин
    1. 5Бюджет задержки: TTFT, TPOT и перцентилиоколо 30 мин
    2. 6Prefix caching: не считать одно и то же начало дваждыоколо 35 мин
    3. 7Кэш ответов: exact match и semantic cacheоколо 30 мин
    4. 8Маршрутизация, autoscaling и cold startоколо 35 мин
  3. Мониторинг и эксплуатация в продакшене4 урока • 2 ч 15 мин
    1. 9Метрики сервиса: что действительно измерятьоколо 30 мин
    2. 10Мониторинг стоимости и качества: кто тратит токены и чего они стоятоколо 30 мин
    3. 11SLO, алерты и частые инцидентыоколо 35 мин
    4. 12Итог: спроектировать, оценить и мониторить AI-сервисоколо 40 мин

Что нужно

  • Для начального уровня знания не нужны: учитель проверит, что вы уже знаете, и начнёт оттуда
  • Для следующих уровней: материал предыдущего уровня (можно пропустить, если уже знаете)
  • Компьютер, планшет или телефон с микрофоном и браузер

Для кого курс

  • Для взрослых: для работы, учёбы, экзамена или просто из любопытства

Экзамены и сертификаты

  • Средний уровень: NVIDIA-Certified Associate: AI Infrastructure and Operations (NCA-AIIO), ברמת ההבנה; אין בחינה ישראלית רשמית
  • Пользоваться ИИ с умом

    с Noam

    Живой индивидуальный урок 1:1 с ИИ-учителемоколо 12 часов24 урока2 уровня
  • Машинное обучение

    с Noam

    Живой индивидуальный урок 1:1 с ИИ-учителемоколо 20 часов36 уроков3 уровня
  • Глубокое обучение

    с Noa

    Живой индивидуальный урок 1:1 с ИИ-учителемоколо 18 часов34 урока3 уровня
  • Компьютерное зрение

    с Noam

    Живой индивидуальный урок 1:1 с ИИ-учителемоколо 20 часов36 уроков3 уровня
  • Генеративный ИИ и промпт-инжиниринг

    с Noa

    Живой индивидуальный урок 1:1 с ИИ-учителемоколо 19 часов36 уроков3 уровня
Все курсы направления «Искусственный интеллект»

Ваш учитель

NoamNoamИИ-учитель, живой урок на общей доске

Персональный ИИ-учитель, который ведёт живой урок: спрашивает, слушает, рисует на доске и даёт решить самому с подсказками. Помнит, что вы проходили, и каждый урок начинается с того места, где вы остановились.

Как проходит урок?

  • Ребёнок разговаривает с учителем голосом, как по видеосвязи, и спрашивает всё, что непонятно.

  • Учитель объясняет, пишет и рисует на общей доске, а ребёнок решает вместе с ним на той же доске.

  • Можно сфотографировать рабочий лист или домашку и разобрать их задание за заданием.

  • Родитель получает отчёт: сколько времени ребёнок занимался, что получилось и что стоит подтянуть.

Правила урока

  • Только учёба

Частые вопросы

Как проходит урок по курсу «Инфраструктура ИИ: GPU, инференс и затраты»?
Выбираете «Инфраструктура ИИ: GPU, инференс и затраты» и уровень и говорите с учителем голосом. Учитель спрашивает, что уже знакомо, объясняет, пишет и рисует на доске и даёт решать самому с подсказками, пока всё не станет ясно.
Сколько времени занимает курс Инфраструктура ИИ: GPU, инференс и затраты?
12 уроков по примерно 33 минут на первом уровне, в вашем темпе. Можно остановиться, вернуться или пропустить то, что уже известно.
Нужны предварительные знания?
Для начального уровня — нет. В начале первого урока учитель проверит, что уже известно, и подберёт уровень. Можно сразу начать с продвинутого.
Как начать бесплатно?
Войдите через аккаунт Google или по коду из письма, укажите имя и класс ребёнка, и урок сразу начнётся. Каждая семья получает 45 минут бесплатных уроков по любому предмету, считается фактическое время урока, без банковской карты. Потом можно выбрать платную подписку и отменить её в любой момент.
На каком устройстве заниматься?
На любом компьютере, планшете или телефоне с браузером и микрофоном. Сайт можно установить как приложение на главный экран.

Хотите попробовать?

Заходите, укажите имя и класс ребёнка, и урок начнётся. 45 минут урока бесплатно, без банковской карты.

Начать бесплатно

Shiur Prati с AI: что это и как работает

Инфраструктура ИИ: GPU, инференс и затратыПервые 45 минут бесплатно

Частный урокНачать бесплатно