רגע, מה בעצם קורה כשאתם שואלים את Claude שאלה?
בואו נתחיל מההתחלה. כשאתם פותחים את Claude, ChatGPT, או כל מודל שפה אחר, וכותבים לו "תכתוב לי מייל ללקוח" – מה בעצם קורה שם? איך תוכנה שיושבת על שרת יודעת לכתוב משפטים שנשמעים כאילו בן אדם כתב אותם?
התשובה הקצרה: היא לא יודעת. מה שהיא כן עושה זה משהו אחר לגמרי, ודווקא ההבנה של מה זה "אחר לגמרי" היא מה שיהפוך אתכם ממשתמשים מזדמנים למשתמשים שמפיקים מהכלי הזה פי עשר.
מושג ראשון: חיזוי המילה הבאה (Next Token Prediction)
דמיינו שאתם משחקים משחק. מישהו אומר לכם: "היום בבוקר שתיתי כוס ____". מה המילה שהכי סביר שתבוא? כנראה "קפה". בטח לא "מברג" או "שולחן". מודל שפה עושה בדיוק את זה – רק שהוא קרא טריליוני מילים ומחשב הסתברויות ברמת דיוק מדהימה.
מושג שני: חלון ההקשר (Context Window)
חלון ההקשר הוא הזיכרון לטווח קצר של המודל – כמות המידע שהוא מסוגל "להחזיק בראש" בזמן נתון. ככל שתספקו יותר הקשר, התשובה תהיה מדויקת יותר.
מושג שלישי: הזיות (Hallucinations)
הזיה היא מצב שבו המודל ממציא מידע בביטחון מלא. זה קורה כשאין לו מספיק הקשר והוא ממשיך לנחש – רק שהפעם הניחוש שגוי מבחינה עובדתית.
קראו את המאמר המלא להסבר מפורט עם דוגמאות מעשיות וטיפים לבעלי עסקים.