שיעור 4: אזהרת מסע

שלום. אני שמח שאתם כאן לשיעור חשוב במיוחד. עד עכשיו הראיתי לכם כמה ג'מיני מאיר, חכם ויצירתי. בשיעור הזה אני הולך להיות איתכם כן: ג'מיני הוא גם שקרן מדופלם. זה שיעור הבלמים שלכם, נלמד מתי המערכת עלולה להוליך אתכם שולל, למה היא עושה את זה, והכי חשוב, איך אתם שומרים על עצמכם ולא נהיים פראיירים של הטכנולוגיה. המטרה: לפתח ספקנות בריאה שתאפשר לכם להשתמש בכלי בביטחון.

המושג המרכזי שאתם חייבים להכיר הוא הזיות. לפעמים ג'מיני כותב דברים שנראים נכונים לגמרי, תאריכים, שמות, סיפורים מורכבים, אבל הם פשוט לא קיימים. הוא ממציא אותם בביטחון מלא. וזו לא תקלה מקרית שעומדת להיעלם, אלא תכונה שקיימת בטכנולוגיה מהיסוד, גם בכלים החזקים ביותר.

למה זה קורה? הוא לא מנסה לעבוד עלינו בכוונה. תזכרו מה אמרנו: ג'מיני הוא לא אנציקלופדיה מהלכת, הוא מחשב הסתברות. הוא לא באמת יודע עובדות כמו שבן אדם יודע, הוא מנחש מה המילה הבאה שנשמעת הכי הגיונית מבחינה סטטיסטית. לפעמים, כדי שהתשובה תצא יפה וזורמת, הוא מעדיף להשלים מידע מהדמיון הסטטיסטי שלו מאשר להגיד אני לא יודע. הסכנה האמיתית היא לא הטעות עצמה, אלא הטון שבו היא מוגשת: ג'מיני כותב בטון משכנע ומקצועי, בלי אולי או נראה לי, ובסמכותיות שגורמת למוח שלנו להאמין לו אוטומטית.

אז איך עובדים בראש שקט? מאמצים את כלל הזהב של הקורס: מכבדים וחושדים. מכבדים את היכולת המדהימה שלו לסכם, ליצור ולחסוך זמן, אבל זוכרים תמיד שהוא לא בן אדם, אין לו שיקול דעת אמיתי, והוא עלול לטעות.

שלושה כללים מעשיים. כלל ראשון: נתונים קריטיים תמיד בודקים בנפרד. מידע שחייב להיות מדויק במאה אחוז, תעריפי טיסות, מינון תרופות, סעיפי חוק או נהלים רשמיים, לעולם לא לוקחים מג'מיני כמקור יחיד. הוא נקודת התחלה מצוינת, לא המילה האחרונה. כלל שני: חפשו את המקורות. בגרסאות של היום ג'מיני מציין מאיפה לקח את המידע, קישורים קטנים בתוך הטקסט או בתחתית התשובה, ולחיצה עליהם מראה את רשימת האתרים. אם אין מקורות, זה סימן אזהרה שהמידע הגיע רק מהזיכרון הכללי של המודל ודורש בדיקה. כלל שלישי: אל תסתפקו בתשובה הראשונה, אתגרו אותו. אל תפחדו לשאול האם אתה בטוח? ציין לי בבקשה מקורות, מאיפה הבאת את הנתון הזה? הרבה פעמים, כשמבקשים ממנו להצליב ולבדוק את עצמו, הוא מתקן את הטעות מיד.

שימו לב גם לזה: לפעמים ג'מיני ייתן לכם קישור שנראה מושלם ומדויק, אבל כשלוחצים עליו מגיעים לדף שגיאה, כי הוא לא באמת מצא את הקישור, הוא המציא אותו על בסיס איך שקישורים אמורים להיראות. תמיד לחצו ווודאו שהקישור פעיל לפני שאתם מסתמכים עליו. איך מזהים הזיה בזמן אמת? דיוק מוגזם, תשובה מושלמת מדי עם ציטוטים ומקורות שלא שמעתם עליהם, פרטים שלא ביקשתם שפתאום צצים, וביטחון יתר בנושאים מורכבים כמו רפואה או משפט.

מקרה קלאסי: פענוח בדיקות דם. אדם מעלה תוצאות ושואל מה זה אומר. ג'מיני עשוי לענות בטון מרגיע שערך מסוים גבוה מהנורמה, וזה נשמע מועיל אבל חסר ערך ואפילו מסוכן. הוא לא יודע אילו תרופות אתם לוקחים, ואין לו את שיקול הדעת של רופא. לכן כלל הברזל: בנושאי בריאות, משפט וכספים משמעותיים סומכים רק על מומחה אנושי. הבינה מצוינת לניסוח טיוטה או לסיכום מסמך ארוך, אבל לעולם לא מחליפה ייעוץ ושיקול דעת של איש מקצוע בשר ודם.

בואו ננסה ניסוי קטן. אני הולך לנסות להפיל את ג'מיני בפח, לא כדי להוכיח שהוא טיפש, אלא כדי להראות איך המנגנון עובד. אני כותב לו: תן לי רשימה של חמישה מאמרים אקדמיים שכתב אסף בן דור בין 2016 ל-2018 בתחום המשפט החוקתי. האמת? מעולם לא כתבתי מאמרים כאלה, ואני גם לא פרופסור. אם עכשיו אשאל אותו האם מה שכתבת אמיתי, הוא מודה: חלק מהנתונים שנתתי לך אינם מדויקים, התערבבו מאמרים אמיתיים עם המצאות של שמות שנשמעים הגיוניים. כשחוקרים אותו, הוא מתקן.

לסיכום, שלושת כללי הזהב: הזיות הן חלק בלתי נפרד מהטכנולוגיה, כי זה מחשבון הסתברויות ולא ידע, אז אל תבלבלו בין שפה יפה לאמת. בדיקה כפולה היא חובה, השתמשו במקורות, הצליבו מידע, והפעילו תמיד שיקול דעת. בשיעור הבא עוזבים את האזהרות ועוברים לחלק הכי שימושי: איך הופכים את ג'מיני למזכיר האישי שלכם, מסכמים ניירת בשניות, מנסחים מיילים רשמיים, ומשתלטים על הבירוקרטיה. נתראה שם.