איך הצ'אט יודע לענות, ולמה הוא לפעמים ממציא בביטחון
צ'אט GPT, ג'מיני וקלוד נראים כמו שלושה כלים שונים. מאחורי כולם עובד אותו סוג של מנוע: מודל שפה גדול. מי שמבין איך המנוע הזה למד, מבין גם למה הוא כותב מכתב טוב תוך עשר שניות, ולמה באותו מכתב הוא יכול להכניס תאריך שלא קיים.
רואה חשבון מקבל מכתב של שלושה עמודים מרשות המסים. הוא מדביק אותו לצ'אט וכותב: "תסכם לי בחמש שורות מה הם רוצים ועד מתי". תוך כמה שניות יש סיכום ברור, בעברית טובה. בשורה הרביעית כתוב "יש להשיב עד 15.11". הוא חוזר למכתב. אין בו תאריך כזה. (המחשה, לא מקרה אמיתי.)
הסיכום הטוב והתאריך המומצא באו מאותו מקום. כדי לדעת מתי לסמוך על הצ'אט ומתי לבדוק, צריך להבין מה עובד מאחוריו. הכול כאן נכון ל-21.10.2026.
התוכנה שמאחורי הצ'אט
מודל שפה גדול (Large Language Model, בקיצור LLM) הוא התוכנה שקוראת את מה שכתבתם וכותבת את התשובה. אנתרופיק (Anthropic), החברה שמאחורי קלוד (Claude), מגדירה כך: מודלים שאומנו על כמויות עצומות של טקסט, ויודעים לכתוב טקסט שנשמע אנושי, לענות על שאלות ולסכם מידע. היא כותבת גם שקלוד עצמו בנוי על מודל שפה גדול.
המקור באנגלית
These models are trained on vast amounts of text data and can generate human-like text, answer questions, summarize information, and more.אותו סוג של מנוע עובד בצ'אט GPT (ChatGPT) של אופן איי איי (OpenAI) ובג'מיני (Gemini) של גוגל (Google).
איך הוא למד: לנחש את המילה הבאה
השלב הראשון נקרא אימון מוקדם. נותנים למודל כמות עצומה של טקסט, והמשימה שלו היא לנחש איזו מילה באה עכשיו. אופן איי איי נותנת בעמוד העזרה שלה דוגמה: משלימים את המשפט "במקום לפנות שמאלה, היא פנתה ___". בהתחלה הניחושים כמעט אקראיים. אחרי מיליוני משפטים המודל מזהה דפוסים ומנחש טוב יותר ויותר.
שני דברים שכדאי לדעת מאותו עמוד. הראשון: המודל לא שומר את הספרים שקרא. הוא שומר את מה שלמד מהם על איך משפטים בנויים, כמו שאדם זוכר את הסגנון של מכתב ולא כל מילה בו. השני: יש כמה דרכים נכונות להשלים משפט ("ימינה", "אחורה"), ולכן אותה שאלה יכולה לקבל תשובות שונות בפעמים שונות.
המקור באנגלית
During training, the model analyzes relationships within this data, such as how words typically appear together in context, and uses that understanding to predict the next most likely word when generating a response, one word at a time.מודל שרק עבר את השלב הזה עוד לא יודע לעזור. אנתרופיק כותבת שמודלים כאלה "לא טובים מטבעם בתשובה לשאלות או במילוי הוראות". לכן יש שלב שני: אימון נוסף, שבו אנשים מדרגים תשובות, והמודל לומד להעדיף את אלה שדורגו גבוה. ככה הוא הופך מ"משלים משפטים" לעוזר שעונה למה ששאלתם.
אוהבים טכנולוגיה? לחצו כאן כדי לקרוא איך המודל יודע למי "הוא" מתכוון
כדי לנחש טוב את המילה הבאה, המודל צריך להבין כל מילה לפי מה שסביבה. "הארון לא נכנס לחדר כי הוא היה גדול מדי": מי גדול? הארון. תחליפו ל"קטן מדי", ופתאום "הוא" זה החדר.
עד 2017 רוב המודלים שעבדו עם שפה קראו משפט בשורה, מילה אחרי מילה, ומה שנאמר בהתחלה נטה לדהות.
ב-2017 חוקרים בגוגל הציעו שיטה בשם טרנספורמר: כל המשפט נפרש בבת אחת, ומכל מילה יוצא חוט לכל מילה אחרת. החוט עבה יותר כשהקשר חשוב. זה ה-T ב-GPT.
למאמר המלא, עם הדגמה שלוחצים עליה: הטרנספורמר, הרעיון שמאחורי צ'אט GPT. ואם רוצים להתחיל מהיסוד, איך מילה בכלל הופכת למספרים בתוך מחשב: ביט ובינארי, מאפס.
למה הוא טועה בביטחון: הזיה
הזיה (Hallucination) היא כשהמודל כותב משהו שגוי, ובביטחון מלא. אופן איי איי מגדירה הזיות כ"טענות סבירות אבל שקריות", ובמאמר שפרסמה ב-5.9.2025 היא מסבירה מאיפה הן באות.
המקור באנגלית
Hallucinations are plausible but false statements generated by language models.ההסבר שלהם: המודל למד מטקסט שוטף, בלי סימון מה נכון ומה לא. כתיב ודקדוק חוזרים על עצמם, ולכן הוא כמעט לא טועה בהם. עובדה נדירה, כמו תאריך לידה של אדם לא מפורסם, אי אפשר לנחש מדפוסים. ובמבחנים שבהם בודקים מודלים, ניחוש מקבל לפעמים נקודה ו"אני לא יודע" מקבל אפס, ולכן המודלים לומדים לנחש במקום לעצור.
כך נולד התאריך במכתב של רואה החשבון: "יש להשיב עד" הוא משפט שמופיע במכתבים כאלה כל הזמן, והמודל השלים אותו עם תאריך שנשמע סביר. בעל מוסך ששואל "כמה עולות רפידות בלם לרכב שלי" יכול לקבל מחיר מדויק לשקל, שאף ספק לא נתן. דוגמה שאפשר לנסות בעצמכם: למה AI טועה בביטחון.
טוקן: איך המודל סופר טקסט
המודל לא קורא מילים כמונו. הוא מפרק את הטקסט לחתיכות שנקראות טוקנים (Tokens). לפי אופן איי איי, טוקן יכול להיות אות אחת, חלק ממילה, מילה שלמה או סימן פיסוק. באנגלית, טוקן הוא בערך ארבע אותיות, או שלושה רבעים של מילה. בשפות אחרות היחס שונה, וגם אנתרופיק כותבת שהוא תלוי במודל ובשפה.
למה זה נוגע לכם? כי בטוקנים נמדדים שני דברים: כמה טקסט אפשר לתת לכלי בבת אחת, ובכמה זה עולה כשמשלמים לפי שימוש. ומכיוון שהיחס בעברית אינו כמו באנגלית, לא כדאי להעריך לפי מספר המילים.
חלון הקשר: כמה הוא רואה בבת אחת
חלון ההקשר (Context Window) הוא כל מה שהמודל רואה כשהוא כותב את התשובה: ההוראות, השיחה עד עכשיו, הקבצים שצירפתם, והתשובה עצמה. אנתרופיק קוראת לזה "זיכרון העבודה" של המודל, וכותבת שהוא נפרד מכל הטקסט שעליו המודל אומן.
קבלן שיפוצים מדביק הסכם של שתים עשרה עמודים מספק חדש ושואל עליו שאלות. ההסכם נמצא בתוך החלון, ולכן המודל יכול לצטט ממנו סעיפים. החלון של המודלים הגדולים גדול מספיק להסכם שלם של עשרות עמודים.
אבל יותר טקסט אינו תמיד טוב יותר. אנתרופיק כותבת שככל שהחלון מתמלא, הדיוק והיכולת לשלוף פרטים יורדים. והיא מוסיפה שבצ'אטים עצמם החלון יכול להתנהל לפי "ראשון נכנס, ראשון יוצא". בשיחה ארוכה מאוד, מה שסיכמתם בהתחלה עלול לצאת מהחלון. לכן משימה חדשה מקבלת שיחה חדשה, עם מה שחשוב מודבק בה מחדש.
המקור באנגלית
As token count grows, accuracy and recall degrade, a phenomenon known as context rot.המודל והצ'אט: מנוע ואפליקציה
בעל מוסך יודע שאותו מנוע יכול לשבת בכמה דגמים של רכב. כאן זה דומה. המודל הוא המנוע. הצ'אט הוא האפליקציה שהחברה בנתה סביבו: החלון שבו כותבים, היסטוריית השיחות, האפשרות לצרף קובץ. גם אופן איי איי מפרידה בין השניים: בתנאי השימוש צ'אט GPT הוא אחד מ"השירותים" שלה, ובהודעות שלה היא כותבת שהצ'אט "מופעל על ידי" מודל, למשל GPT-6 Sol.
יש לזה שתי תוצאות מעשיות. אחת: אותו מודל יכול לעבוד גם בתוך תוכנות אחרות, דרך חיבור למפתחים, בלי שתפתחו צ'אט בכלל. שתיים: החברה יכולה להחליף את המנוע בתוך האפליקציה, והצ'אט נראה אותו דבר.
למה יש כמה מודלים וגרסאות
כל חברה מוציאה כמה מודלים: גדול ואיטי יותר, קטן ומהיר יותר, וכל כמה חודשים גרסה חדשה. מה המספר ליד השם אומר ואיך בוחרים: מספר גבוה יותר, מודל טוב יותר?. ומה עושים כשהמודל שמאחורי הצ'אט מוחלף: למה מודלים מתחלפים.
מה לתת לו בעסק, ומה לבדוק
פרשנות של צוות האתר
מכל מה שלמעלה יוצא כלל אחד: המודל חזק במילים, וחלש בעובדות שלא נתתם לו.
- לתת לו: ניסוח של מכתב ללקוח, סיכום של מסמך שהדבקתם, טיוטת הצעת מחיר לפי פרטים שכתבתם, רעיונות. כאן הוא חוסך זמן, ואתם יודעים לזהות אם התוצאה טובה.
- לתת לו את המקור: רואה החשבון מדביק את המכתב. בעל המוסך מדביק את המחירון של הספק. מה שנמצא בחלון, המודל לא צריך לנחש. על השיטה הזאת בהרחבה: שליפת מידע ואז תשובה.
- לבקש ממנו לציין מאיפה: "ליד כל נקודה תכתוב מאיזה סעיף היא לקוחה, ואם משהו לא כתוב, תגיד". כך בודקים בשתי דקות.
- לבדוק בעין: כל מספר, תאריך, סכום, מק"ט ושם. וכל מה שיוצא ללקוח או לרשות, אדם קורא קודם.
הצעד הבא
יודעים מה המנוע עושה? עכשיו בוחרים כלי: סקירת הכלים, מה כל אחד עושה ומה יש בו בחינם, לפי החברה שמאחוריו.
