מה זה בינה מלאכותית ואיך היא עובדת?

כשמישהו שואל אותי מה זה בינה מלאכותית, אני בדרך כלל מתחיל מספאם.

תוכנה רגילה מול תוכנה שלומדת

נגיד שאתם רוצים תוכנה שמסננת מיילים של ספאם. הדרך הישנה היא לכתוב כללים. אם מופיעה המילה "זכית", אם השולח לא מוכר, אם יש יותר משלושה קישורים. זה עובד יום-יומיים, ואז השולחים משנים ניסוח והכללים כבר לא תופסים כלום.

בלמידת מכונה הולכים הפוך. אוספים עשרות אלפי מיילים שמישהו כבר סימן, ספאם או לא ספאם, ונותנים למחשב למצוא לבד מה מבדיל ביניהם. אף אחד לא כותב לו את הכללים. הוא מסיק אותם.

מה שיוצא מהתהליך נקרא מודל. בפועל זה קובץ ענק של מספרים. המיילים עצמם לא נשמרים בו, רק הדפוסים שנמצאו בהם. כשמגיע מייל חדש, המודל מחשב לאיזו קבוצה הוא דומה יותר ומחזיר הערכה.

בינה מלאכותית, בגדול, זה השם של כל התחום הזה. תוכנות שעושות דברים שפעם דרשו שיקול דעת של בן אדם, כמו להבין טקסט, לזהות מה יש בתמונה או לתרגם.

רשת עצבית, בלי להיבהל מהשם

רוב המודלים היום בנויים כרשת עצבית. השם נשמע ביולוגי, אבל זו מתמטיקה. יש שכבות של חישובים פשוטים, ולכל חיבור ביניהם יש מספר שנקרא משקל. המשקל קובע כמה פרט מסוים משפיע על התוצאה.

האימון נראה בערך ככה. המודל מקבל דוגמה ומנחש. בודקים בכמה הוא טעה, ומזיזים קצת את המשקלים כך שבפעם הבאה הטעות תהיה קטנה יותר. ואז שוב. ושוב. מיליארדי פעמים.

במודלי השפה הגדולים יש מאות מיליארדי משקלים, והאימון רץ על אלפי שבבים במשך שבועות. זו גם הסיבה שרק כמה חברות בעולם מאמנות מודלים כאלה מאפס. כל השאר, כולל אני, עובדים עם מודלים שהן אימנו.

אז איך ChatGPT או Claude כותבים?

מודל שפה קורא טקסט ביחידות קטנות שנקראות טוקנים. טוקן יכול להיות מילה, חצי מילה או סימן פיסוק. כששואלים אותו משהו, הוא מסתכל על כל מה שנכתב עד עכשיו ומחשב איזה טוקן הכי סביר שיבוא אחר כך. בוחר אחד, מוסיף אותו, ומחשב שוב.

כשהבנתי את זה לראשונה זה נשמע לי די מאכזב. זה בסך הכול השלמה אוטומטית? אבל תחשבו מה צריך כדי להשלים טוב טקסט על דיני חוזים, או על באג בקוד. המודל חייב לבנות לעצמו ייצוג כלשהו של המושגים ושל הקשרים ביניהם. מכאן מגיעה היכולת להסביר משהו במילים אחרות, לפתור בעיה שלא ראה בדיוק בצורה הזאת, או לכתוב קוד שבאמת רץ.

אחרי האימון הבסיסי יש עוד שלב, שבו מלמדים את המודל להתנהג כמו עוזר. מראים לו שיחות טובות, אנשים מדרגים תשובות, והוא לומד לעקוב אחרי הוראות ולסרב לבקשות מזיקות.

למה הוא ממציא דברים

אם אתם משתמשים ב-AI בעבודה, זה החלק שהכי חשוב להבין.

המודל לא מחפש את התשובה במאגר. הוא מייצר את ההמשך הכי סביר, וברוב המקרים ההמשך הסביר הוא גם הנכון. אבל כשחסר לו מידע הוא לא אומר "אין לי מושג". הוא כותב משהו שנשמע נכון. שם של מחקר שלא קיים, מספר סעיף שגוי, מחיר מלפני שנתיים. וכל זה כתוב באותו ביטחון כמו שאר התשובה. לזה קוראים הזיה (hallucination).

מה עוזר? קודם כול לתת לו את המקור. כשמצרפים את המחירון ומבקשים לענות רק לפיו, הדיוק קופץ. בעולם המקצועי קוראים לשיטה הזאת RAG. גם כלים עוזרים, למשל חיפוש באינטרנט או אפשרות להריץ חישוב במקום "לחשב בראש". ובכל מה שנוגע לכסף, ללקוחות או לחוק, מישהו צריך לקרוא לפני שזה יוצא החוצה.

ומה זה סוכן?

צ'אט עונה לכם. סוכן גם עושה. הוא יכול לפתוח קובץ, לעדכן רשומה במערכת, לכתוב קוד ולהריץ אותו, לראות מה יצא ולהחליט מה הלאה. Claude Code, שאני עובד איתו כמעט כל יום, הוא סוכן כזה שעובד על קוד. ככל שלסוכן יש יותר גישה, צריך להגדיר יותר בקפידה מה מותר לו. כתבתי על זה עוד במדריך לבניית סוכן AI לעסק.

כמה דברים שהוא לא

אין לו כוונות. הוא לא יודע מה קרה אחרי שהאימון שלו הסתיים, אלא אם חיברו אותו למקור עדכני. הוא לא זוכר אתכם משיחה לשיחה, אלא אם המערכת שומרת את זה בכוונה. והוא לא אחראי על מה שהוא כותב. מי שמשתמש בו אחראי.

אם הייתי צריך לצמצם את כל הכתבה לעצה אחת: תנו ל-AI משימות שקל לבדוק אם יצאו נכון, ותביאו לו את החומר במקום לסמוך על הזיכרון שלו.

אפשר להמשיך מכאן למה AI יודע לעשות היום או למי בכלל צריך AI. ואם יש לכם תהליך בעסק שנראה לכם מתאים, ספרו לי עליו, או תקראו על פתרונות ה-AI שאני בונה.