45 минут бесплатного урока · Начните сейчас, без карты
Shiur Prati

Частный урок с ИИ: Введение в исследования согласования и безопасности ИИ

Введение в исследования согласования и безопасности ИИ в живом частном уроке: преподаватель говорит с ребёнком вслух, объясняет на общей доске и идёт в темпе ученика, урок за уроком, по понятной программе.

Живой индивидуальный урок 1:1 с ИИ-учителем

Преподаватель: Noa

  • Программа обновлена 11.2026
  • Иврит и ещё 5 языков
  • 3 уровня
  • 35 уроков · около 19 часов занятий

Введение в исследования согласования и безопасности ИИ

Введение в исследования согласования и безопасности ИИ в живом частном уроке: преподаватель говорит с ребёнком вслух, объясняет на общей доске и идёт в темпе ученика, урок за уроком, по понятной программе.

11 уроков · 4 разделов · личный живой урок с учителем у доски

Чему вы научитесь

  • Основы: что такое выравнивание и как учатся модели
  • Неточно заданные цели
  • Галлюцинации и ложь в языковых моделях
  • Карта безопасности: как мы реагируем
  • Обучение на предпочтениях: RLHF и конституционные методы
  • Интерпретируемость: заглянуть внутрь модели
  • Red-teaming и оценки
  • Риски продвинутых моделей
  • Управление и политика
  • Открытые направления исследований

В курс входит

  • Живые уроки 1:1 с ИИ-учителем на доске
  • 19 часов живых индивидуальных уроков
  • 35 уроков на общей доске, и в каждом есть понятная цель
  • Практика и проверка понимания на каждом уроке
  • Краткое резюме после каждого урока, которое сохраняется в истории
  • Сертификат об окончании каждого уровня
  • Компьютер, планшет или телефон
  • Иврит и ещё 5 языков

Программа курса

3 уровня · 10 глав · 35 уроков · Всего: 19 ч 5 мин

Для начинающихДля начинающих: основы выравнивания и безопасности ИИ4 главы • 11 уроков • 5 ч 50 мин
  1. Основы: что такое выравнивание и как учатся модели3 урока • 1 ч 35 мин
    1. 1Что такое выравнивание (Alignment) и почему это сложноПробный урококоло 30 мин
    2. 2Как учится модель: цель, loss и оптимизацияоколо 30 мин
    3. 3Обучение с подкреплением и конвейер обучения языковой моделиоколо 35 мин
  2. Неточно заданные цели4 урока • 2 ч 5 мин
    1. 4Разрыв спецификации и закон Гудхартаоколо 30 мин
    2. 5Reward hacking и specification gaming на практикеоколо 35 мин
    3. 6Ошибочное обобщение целей и inner alignmentоколо 30 мин
    4. 7Побочные эффекты, надзор и возможность остановкиоколо 30 мин
  3. Галлюцинации и ложь в языковых моделях3 урока • 1 ч 35 мин
    1. 8Почему языковые модели галлюцинируютоколо 30 мин
    2. 9Снижение галлюцинаций: опора на факты, калибровка и «не знаю»около 30 мин
    3. 10Подхалимство, честность и обманоколо 35 мин
  4. Карта безопасности: как мы реагируем1 урок • 35 мин
    1. 11Стек безопасности: от обучения до мониторингаоколо 35 мин
Средний уровеньПродолжаем: RLHF, интерпретируемость и red-teaming3 главы • 12 уроков • 6 ч 30 мин
  1. Обучение на предпочтениях: RLHF и конституционные методы5 уроков • 2 ч 40 мин
    1. 1Reward model: от человеческой оценки к баллуоколо 30 мин
    2. 2PPO, штраф KL и переоптимизацияоколо 35 мин
    3. 3DPO и альтернативы RLоколо 30 мин
    4. 4Constitutional AI и RLAIFоколо 35 мин
    5. 5Пределы обратной связи и масштабируемый надзороколо 30 мин
  2. Интерпретируемость: заглянуть внутрь модели3 урока • 1 ч 40 мин
    1. 6От поведения к внутреннему устройству: probes и attributionоколо 30 мин
    2. 7Features, superposition и sparse autoencodersоколо 35 мин
    3. 8Схемы, activation patching и steeringоколо 35 мин
  3. Red-teaming и оценки4 урока • 2 ч 10 мин
    1. 9Red-teaming: методология и процессоколо 30 мин
    2. 10Jailbreak и prompt injection: эшелонированная защитаоколо 35 мин
    3. 11Оценки безопасности: как построить надежный evalоколо 30 мин
    4. 12Итоговый кейс: от reward hacking к исправлениюоколо 35 мин
Для продвинутыхПродвинутый: риски, управление и передовые исследования3 главы • 12 уроков • 6 ч 45 мин
  1. Риски продвинутых моделей4 урока • 2 ч 15 мин
    1. 1Модели угроз: злоупотребление, рассогласование и структурный рискоколо 30 мин
    2. 2Оценка опасных возможностей и elicitationоколо 35 мин
    3. 3Ситуационная осведомлённость, стратегический обман и schemingоколо 35 мин
    4. 4Автономные агенты, поиск власти и AI Controlоколо 35 мин
  2. Управление и политика4 урока • 2 ч 10 мин
    1. 5Рамки безопасности лабораторий и safety casesоколо 35 мин
    2. 6Регулирование: EU AI Act, США и Израильоколо 35 мин
    3. 7Управление вычислениями, защита весов и открытые моделиоколо 30 мин
    4. 8Международная координация, поэтапный запуск и отчёты об инцидентахоколо 30 мин
  3. Открытые направления исследований4 урока • 2 ч 20 мин
    1. 9Передний край надзора: debate, weak-to-strong и ELKоколо 35 мин
    2. 10Открытые вопросы интерпретируемости и мониторинга chain-of-thoughtоколо 35 мин
    3. 11Карта исследований: robustness, unlearning и model organismsоколо 30 мин
    4. 12Итоговый проект: safety case для реального агентаоколо 40 мин

Что нужно

  • Для начального уровня знания не нужны: учитель проверит, что вы уже знаете, и начнёт оттуда
  • Для следующих уровней: материал предыдущего уровня (можно пропустить, если уже знаете)
  • Компьютер, планшет или телефон с микрофоном и браузер

Для кого курс

  • Для взрослых: для работы, учёбы, экзамена или просто из любопытства
  • Пользоваться ИИ с умом

    с Noam

    Живой индивидуальный урок 1:1 с ИИ-учителемоколо 12 часов24 урока2 уровня
  • Машинное обучение

    с Noam

    Живой индивидуальный урок 1:1 с ИИ-учителемоколо 20 часов36 уроков3 уровня
  • Глубокое обучение

    с Noa

    Живой индивидуальный урок 1:1 с ИИ-учителемоколо 18 часов34 урока3 уровня
  • Компьютерное зрение

    с Noam

    Живой индивидуальный урок 1:1 с ИИ-учителемоколо 20 часов36 уроков3 уровня
  • Генеративный ИИ и промпт-инжиниринг

    с Noa

    Живой индивидуальный урок 1:1 с ИИ-учителемоколо 19 часов36 уроков3 уровня
Все курсы направления «Искусственный интеллект»

Ваш учитель

NoaNoaИИ-учитель, живой урок на общей доске

Персональный ИИ-учитель, который ведёт живой урок: спрашивает, слушает, рисует на доске и даёт решить самому с подсказками. Помнит, что вы проходили, и каждый урок начинается с того места, где вы остановились.

Как проходит урок?

  • Ребёнок разговаривает с учителем голосом, как по видеосвязи, и спрашивает всё, что непонятно.

  • Учитель объясняет, пишет и рисует на общей доске, а ребёнок решает вместе с ним на той же доске.

  • Можно сфотографировать рабочий лист или домашку и разобрать их задание за заданием.

  • Родитель получает отчёт: сколько времени ребёнок занимался, что получилось и что стоит подтянуть.

Правила урока

  • Только учёба
  • Только безопасность и защита

Частые вопросы

Как проходит урок по курсу «Введение в исследования согласования и безопасности ИИ»?
Выбираете «Введение в исследования согласования и безопасности ИИ» и уровень и говорите с учителем голосом. Учитель спрашивает, что уже знакомо, объясняет, пишет и рисует на доске и даёт решать самому с подсказками, пока всё не станет ясно.
Сколько времени занимает курс Введение в исследования согласования и безопасности ИИ?
11 уроков по примерно 32 минут на первом уровне, в вашем темпе. Можно остановиться, вернуться или пропустить то, что уже известно.
Нужны предварительные знания?
Для начального уровня — нет. В начале первого урока учитель проверит, что уже известно, и подберёт уровень. Можно сразу начать с продвинутого.
Как начать бесплатно?
Войдите через аккаунт Google или по коду из письма, укажите имя и класс ребёнка, и урок сразу начнётся. Каждая семья получает 45 минут бесплатных уроков по любому предмету, считается фактическое время урока, без банковской карты. Потом можно выбрать платную подписку и отменить её в любой момент.
На каком устройстве заниматься?
На любом компьютере, планшете или телефоне с браузером и микрофоном. Сайт можно установить как приложение на главный экран.

Хотите попробовать?

Заходите, укажите имя и класс ребёнка, и урок начнётся. 45 минут урока бесплатно, без банковской карты.

Начать бесплатно

Shiur Prati с AI: что это и как работает

Введение в исследования согласования и безопасности ИИПервые 45 минут бесплатно

Частный урокНачать бесплатно