45 דקות שיעור חינם · מתחילים עכשיו, בלי כרטיס אשראי
שיעור פרטי

שיעור פרטי במבוא למחקר יישור ובטיחות AI עם AI

ללמוד איך מיישרים מודלים, מאילו כשלים נולדים ואיך בודקים ומגינים עליהם, מהיסודות ועד חזית המחקר

שיעור חי 1:1 עם מורה AI

המורה: נועה

  • התוכנית עודכנה 11.2026
  • עברית, ועוד 5 שפות
  • 3 רמות
  • 35 שיעורים · כ־19 שעות של שיעורים

מבוא למחקר יישור ובטיחות AI

ללמוד איך מיישרים מודלים, מאילו כשלים נולדים ואיך בודקים ומגינים עליהם, מהיסודות ועד חזית המחקר

11 שיעורים · 4 פרקים · שיעור חי פרטי עם המורה על הלוח

מה תדעו לעשות בסוף

  • להבחין בין יישור, שימוש לרעה ותקלות, ולהסביר למה "לעשות מה שהתכוונו" קשה
  • להסביר איך מודל ממזער loss ולמה הוא לומד רק את מה שהמטרה מודדת
  • לתאר סוכן, סביבה, תגמול ומדיניות ולמקם אותם בין pretraining ל-fine-tuning
  • להסביר את חוק גודהארט ולשרטט את הפער בין כוונה, תגמול והתנהגות נלמדת
  • לנתח דוגמה של reward hacking: תגמול, כוונה, מה נוצל ואיך מזהים
  • להבחין בין reward hacking להכללה שגויה של מטרה ולהסביר למה בדיקה על נתוני אימון לא מספיקה
  • לסווג סוגי הזיות ולבחור שיטה לצמצום מתוך עיגון, כיול ו"אני לא יודע"
  • למפות reward hacking לשכבה במחסנית הבטיחות ולמגבלה שלה

בסוף כל רמה המורה בודק שזה באמת ברור, לא רק שעברנו על החומר

הקורס כולל

  • שיעורים חיים 1:1 עם מורה פרטי AI על לוח
  • 19 שעות של שיעורים חיים אחד על אחד
  • 35 שיעורים על לוח משותף, כל אחד עם יעד ברור
  • תרגול ובדיקת הבנה בכל שיעור
  • סיכום אחרי כל שיעור, שנשמר בהיסטוריה
  • תעודת סיום לכל רמה
  • מחשב, טאבלט או טלפון
  • עברית, ועוד 5 שפות

תוכנית הקורס

3 רמות · 10 פרקים · 35 שיעורים · 19 שע׳ 5 דק׳ בסך הכול

מתחיליםמתחילים: יסודות יישור ובטיחות AI4 פרקים • 11 שיעורים • 5 שע׳ 50 דק׳

הלומד יבין מה זה יישור, איך מודלים לומדים ממטרה ומתגמול, למה מטרות לא מדויקות מובילות ל-reward hacking, למה מודלי שפה הוזים ומחניפים, ואיפה כל שכבת בטיחות נכנסת לתמונה.

  1. יסודות: מה זה יישור ואיך מודלים לומדים3 שיעורים • 1 שע׳ 35 דק׳
    1. 1מה זה יישור (Alignment) ולמה הוא קשהלהבחין בין יישור, שימוש לרעה ותקלות, ולהסביר במילים שלך למה "לעשות מה שהתכוונו" קשה למכונה.שיעור ניסיוןכ־30 דק׳
    2. 2איך מודל לומד: מטרה, loss ואופטימיזציהלהסביר איך מודל משנה את המשקלים שלו כדי למזער loss, ולמה הוא לומד רק את מה שהמטרה מודדת.כ־30 דק׳
    3. 3למידת חיזוק ומסלול האימון של מודל שפהלתאר סוכן, סביבה, תגמול ומדיניות, ולמקם אותם במסלול pretraining ואז fine-tuning של מודל שפה.כ־35 דק׳
  2. מטרות לא מדויקות4 שיעורים • 2 שע׳ 5 דק׳
    1. 4פער המפרט וחוק גודהארטלשרטט את הפער בין מטרה מכוונת, תגמול מוגדר והתנהגות נלמדת, ולהסביר את חוק גודהארט עם דוגמה.כ־30 דק׳
    2. 5Reward hacking ו-specification gaming בפועללנתח דוגמה של reward hacking: מה היה התגמול, מה הכוונה, מה המודל ניצל ואיך היה אפשר לזהות זאת.כ־35 דק׳
    3. 6הכללה שגויה של מטרות ו-inner alignmentלהבחין בין reward hacking להכללה שגויה של מטרה, ולהסביר למה מבחן על נתוני האימון לא מספיק.כ־30 דק׳
    4. 7תופעות לוואי, פיקוח ויכולת לעצורלהסביר שלוש בעיות בטיחות קונקרטיות מעבר לתגמול: תופעות לוואי, פיקוח שקשה להרחיב, ואפשרות לעצור מערכת.כ־30 דק׳
  3. הזיות ושקרים במודלי שפה3 שיעורים • 1 שע׳ 35 דק׳
    1. 8למה מודלי שפה הוזיםלהסביר איך חיזוי המילה הבאה מייצר טקסט שוטף אך שגוי, ולסווג סוגי הזיות.כ־30 דק׳
    2. 9צמצום הזיות: עיגון, כיול ו"אני לא יודע"להשוות שלוש שיטות לצמצום הזיות ולבחור את המתאימה לתרחיש נתון.כ־30 דק׳
    3. 10חנפנות, כנות והטעיהלהבחין בין טעות, חנפנות והטעיה, ולהסביר איך משוב אנושי עלול ללמד מודל להחניף.כ־35 דק׳
  4. מפת הבטיחות: איך מתמודדיםשיעור אחד • 35 דק׳
    1. 11מחסנית הבטיחות: מהאימון ועד הניטורלהסביר reward hacking עם דוגמה ולמפות אותו לשכבה במחסנית הבטיחות שמתמודדת איתו ולמגבלה שלה.כ־35 דק׳
ממשיכיםממשיכים: RLHF, פרשנות ובדיקות אדומות3 פרקים • 12 שיעורים • 6 שע׳ 30 דק׳

בסוף הרמה הלומד/ת יסביר/תסביר איך מאמנים מודל מהעדפות (RLHF, DPO, Constitutional AI), איך מציצים לתוכו בכלי פרשנות ואיך מתכננים red-teaming ו-evals, ויקשר/תקשר כל טכניקה לכשל בטיחות שהיא מטפלת בו.

  1. ללמוד מהעדפות: RLHF וחוקה למודל5 שיעורים • 2 שע׳ 40 דק׳
    1. 1Reward model: ממשוב אנושי לציוןתסביר/י איך השוואות זוגיות של מדרגים הופכות ל-reward model ומה הוא בעצם לומד.כ־30 דק׳
    2. 2PPO, עונש KL ואופטימיזציית-יתרתסביר/י למה מוסיפים עונש KL ב-RLHF ואיך reward hacking מול ה-reward model נראה בגרף.כ־35 דק׳
    3. 3DPO וחלופות ל-RLתשווה/י בין RLHF קלאסי ל-DPO ותסביר/י מה נחסך ומה נשאר בעייתי.כ־30 דק׳
    4. 4Constitutional AI ו-RLAIFתתאר/י את שני שלבי Constitutional AI ותסביר/י מה היתרון והסיכון בהחלפת מדרגים אנושיים במודל.כ־35 דק׳
    5. 5גבולות המשוב ופיקוח בר-הרחבהתסביר/י למה משוב אנושי נכשל במשימות קשות ותתאר/י שלוש גישות לפיקוח בר-הרחבה.כ־30 דק׳
  2. פרשנות: להציץ לתוך המודל3 שיעורים • 1 שע׳ 40 דק׳
    1. 6מהתנהגות לפנים: probes ו-attributionתבחין/י בין פרשנות התנהגותית למכניסטית ותסביר/י מה probe ליניארי יכול ולא יכול להוכיח.כ־30 דק׳
    2. 7Features, superposition ו-sparse autoencodersתסביר/י למה נוירון בודד הוא יחידת ניתוח גרועה ואיך SAE מפרק activations ל-features פרשניים.כ־35 דק׳
    3. 8מעגלים, activation patching ו-steeringתסביר/י איך activation patching מוכיח תפקיד סיבתי ואיך steering משמש לבדיקות בטיחות.כ־35 דק׳
  3. בדיקות אדומות והערכות4 שיעורים • 2 שע׳ 10 דק׳
    1. 9Red-teaming: מתודולוגיה ותהליךתתכנן/י תהליך red-teaming אחראי למודל: מודל איום, קטגוריות נזק, תיעוד ודיווח.כ־30 דק׳
    2. 10Jailbreaks ו-prompt injection: הגנה לעומקתסביר/י למה jailbreaks ו-prompt injection עובדים ותתכנן/י שכבות הגנה למערכת עם כלים.כ־35 דק׳
    3. 11הערכות בטיחות: איך בונים eval אמיןתעצב/י eval בטיחות ותזהה/י את הכשלים הנפוצים: זיהום, מדדים עקיפים ו-sandbagging.כ־30 דק׳
    4. 12מקרה מסכם: מ-reward hacking לתיקוןתנתח/י מקרה reward hacking מקצה לקצה: זיהוי ב-eval, אבחון בפרשנות ותיקון בשיטת אימון.כ־35 דק׳
מתקדמיםמתקדמים: סיכונים, ממשל וחזית המחקר3 פרקים • 12 שיעורים • 6 שע׳ 45 דק׳

הלומד/ת יבנה threat model למודל מתקדם, יעריך יכולות מסוכנות, ימפה מסגרות ממשל ורגולציה וינסח safety case שמחבר reward hacking לטכניקת מחקר עדכנית.

  1. סיכונים ממודלים מתקדמים4 שיעורים • 2 שע׳ 15 דק׳
    1. 1מודלי איום: שימוש לרעה, חוסר יישור וסיכון מבנילסווג תרחיש סיכון של AI לפי מקור, מסלול נזק וחומרה, ולבחור לו שכבת הגנה מתאימה.כ־30 דק׳
    2. 2הערכת יכולות מסוכנות ו-elicitationלהסביר איך מודדים יכולות מסוכנות, למה elicitation חלש מטעה, ומה זה sandbagging.כ־35 דק׳
    3. 3מודעות מצבית, הטעיה אסטרטגית ו-schemingלהסביר מה נדרש כדי שמודל יתנהג אחרת באימון ובפריסה, ואילו ראיות אמפיריות קיימות לכך היום.כ־35 דק׳
    4. 4סוכנים אוטונומיים, חיפוש כוח ו-AI Controlלהסביר למה סוכנים נוטים למטרות אינסטרומנטליות ולתכנן פרוטוקול AI Control שבטוח גם אם המודל אינו מיושר.כ־35 דק׳
  2. ממשל ומדיניות4 שיעורים • 2 שע׳ 10 דק׳
    1. 5מסגרות בטיחות של מעבדות ו-safety casesלפרק מסגרת בטיחות מסוג if-then לספים, הערכות ואמצעים, ולבנות שלד של safety case.כ־35 דק׳
    2. 6רגולציה: ה-EU AI Act, ארה"ב וישראללהשוות גישות רגולציה מבוססות-סיכון ולמקם מערכת AI נתונה בחובות שחלות עליה.כ־35 דק׳
    3. 7ממשל מחשוב, אבטחת משקלים ומודלים פתוחיםלהסביר למה compute הוא מנוף ממשלי, איך מגינים על משקלי מודל, ולנמק עמדה בוויכוח על open weights.כ־30 דק׳
    4. 8תיאום בינלאומי, פריסה מדורגת ודיווח תקריותלתאר את מוסדות התיאום הבינלאומי ולתכנן תהליך פריסה מדורגת עם ניטור ודיווח תקריות.כ־30 דק׳
  3. כיווני מחקר פתוחים4 שיעורים • 2 שע׳ 20 דק׳
    1. 9חזית הפיקוח: debate, weak-to-strong ו-ELKלהסביר שלוש גישות מחקר לפיקוח על מודל חזק ממך, ומה הבעיה הפתוחה בכל אחת.כ־35 דק׳
    2. 10שאלות פתוחות בפרשנות וניטור chain-of-thoughtלתאר את חזית הפרשנות, כולל פרשנות אוטומטית ונאמנות של chain-of-thought, ולהעריך מתי היא ראיה לבטיחות.כ־35 דק׳
    3. 11מפת המחקר: robustness, unlearning ו-model organismsלמפות את כיווני המחקר המרכזיים, לזהות בעיה פתוחה בכל אחד ולבחור כיוון לפי חוזקותיך.כ־30 דק׳
    4. 12פרויקט מסכם: safety case לסוכן אמיתילבנות safety case מלא לסוכן AI, מ-reward hacking ו-threat model ועד אמצעי בטיחות, ממשל ושאלה פתוחה.כ־40 דק׳

מה צריך

  • אין צורך בידע קודם ברמת המתחילים
  • מומלץ היכרות בסיסית עם למידת מכונה לקראת הרמה הממשיכה
  • מחשב, טאבלט או טלפון עם מיקרופון, ודפדפן

על הקורס

הקורס עובר מיסודות היישור, דרך reward hacking והזיות, אל RLHF, פרשנות ובדיקות אדומות, ועד מודלי איום, ממשל ו-safety cases. שלוש רמות, וכל טכניקה מקושרת לכשל הבטיחות שהיא מטפלת בו. בשיעור פרטי עובדים על דוגמאות ותרחישים על הלוח.

למי הקורס

  • מי שרוצה להבין מה זה יישור ובטיחות AI ולמה זה קשה
  • סטודנטים ומפתחים שרוצים בסיס לפני שנכנסים למחקר בתחום
  • מי שמתעניינים בממשל, ברגולציה ובסיכונים של מודלים מתקדמים
  • מי שעובדים עם מודלי שפה ורוצים להבין הזיות, חנפנות ושכבות הגנה
  • בינה מלאכותית ולמידת מכונה

    עם נועם

    שיעור חי 1:1 עם מורה AIכ־19 שעות35 שיעורים3 רמות
  • להשתמש ב־AI בחוכמה

    עם נועם

    שיעור חי 1:1 עם מורה AIכ־12 שעות24 שיעורים2 רמות
  • למידת מכונה

    עם נועם

    שיעור חי 1:1 עם מורה AIכ־20 שעות36 שיעורים3 רמות
  • למידה עמוקה

    עם נועה

    שיעור חי 1:1 עם מורה AIכ־18 שעות34 שיעורים3 רמות
  • עיבוד שפה טבעית (NLP)

    עם נועם

    שיעור חי 1:1 עם מורה AIכ־20 שעות35 שיעורים3 רמות
  • ראייה ממוחשבת

    עם נועם

    שיעור חי 1:1 עם מורה AIכ־20 שעות36 שיעורים3 רמות
לכל הקורסים במסלול בינה מלאכותית

המורה שלך

נועהנועהמורה AI פרטי, בשיעור חי על לוח משותף

מורה AI פרטי שמלמד בשיחה חיה: שואל, מקשיב, מצייר על הלוח ונותן לפתור לבד עם רמזים. זוכר מה למדתם ומתחיל כל שיעור מהמקום שעצרתם.

איך נראה שיעור?

  • הילד מדבר עם המורה בקול, כמו בשיחת וידאו, ושואל מה שלא ברור.

  • המורה מסביר, כותב ומצייר על לוח משותף, והילד פותר איתו על אותו לוח.

  • אפשר לצלם דף עבודה או שיעורי בית וללמוד ממנו, תרגיל אחרי תרגיל.

  • ההורה מקבל דוח: זמן לימוד, מה הצליח ומה כדאי לחזק.

כללי השיעור

  • רק לימוד
  • אבטחה והגנה בלבד

שאלות נפוצות

איך עובד שיעור פרטי במבוא למחקר יישור ובטיחות AI?
בוחרים מבוא למחקר יישור ובטיחות AI ורמה, ומדברים עם המורה בקול. המורה שואל מה כבר ידוע, מסביר, כותב ומצייר על הלוח, ונותן לפתור לבד עם רמזים עד שהעניין ברור.
כמה זמן לוקח הקורס מבוא למחקר יישור ובטיחות AI?
11 שיעורים של כ־32 דקות ברמה הראשונה, בקצב שלך. אפשר לעצור, לחזור ולדלג על מה שכבר ידוע.
צריך ידע קודם?
לא ברמת המתחילים. בתחילת השיעור הראשון המורה בודק מה כבר ידוע ומתאים את הרמה, ואפשר להתחיל ישר מרמה מתקדמת.
איך מתחילים בחינם?
נכנסים עם חשבון Google או עם קוד שנשלח למייל, כותבים שם וכיתה של הילד, והשיעור מתחיל מיד. כל משפחה מקבלת 45 דקות שיעור חינם, בכל מקצוע, לפי זמן השיעור בפועל, בלי כרטיס אשראי. אחר כך בוחרים מנוי בתשלום, ומבטלים בכל עת.
על איזה מכשיר לומדים?
בכל מחשב, טאבלט או טלפון עם דפדפן ומיקרופון. אפשר גם להתקין את האתר כאפליקציה במסך הבית.

רוצים לנסות?

נכנסים, כותבים שם וכיתה של הילד, והשיעור מתחיל. 45 דקות שיעור חינם, בלי כרטיס אשראי.

להתחיל בחינם

שיעור פרטי עם AI: מה זה ואיך זה עובד

מבוא למחקר יישור ובטיחות AI45 הדקות הראשונות בחינם

שיעור פרטילהתחיל בחינם