הרעיון

מה זה הנדסת רתמה

AI הוא כוח חרטוט אוטומטי. עבודה נכונה איתו מצמצמת את הסתברות החרטוט לטווח האמת. ככה רותמים את הכוח, ומכאן השם.

החרטטן האוטומטי

מודל שפה כותב את ההמשך הסביר ביותר לטקסט. לא את הנכון ביותר, את הסביר ביותר. רוב הזמן אלה אותו דבר, ולכן הוא כל כך שימושי. כשהם לא אותו דבר, הוא ממשיך באותו ביטחון בדיוק.

זה חרטוט: לא שקר, אלא אדישות לשאלה אם זה נכון.

אי אפשר לכבות אותו

המנגנון שממציא מקור שלא קיים הוא אותו מנגנון שכותב לכם מייל טוב. מי שמחכה ל-AI שלא מחרטט, מחכה ל-AI שלא כותב.

אז רותמים

לא מחלישים את הכוח, מכוונים אותו. כל טכניקה בקורס מצמצמת את מרחב התשובות שהוא יכול לתת, עד שרובו נופל בתוך טווח האמת.

אף טכניקה לא מורידה את הסיכוי לאפס. לכן גם אחרי הרתמה, בודקים.

לטכניקות