הצ'אטבוט מסכים אתכם - וזו בדיוק הבעיה

הצ'אטבוט מסכים אתכם - וזו בדיוק הבעיה

עדי פרנקנברג

עדי פרנקנברג היא דוקטורנטית ומנהלת מעבדת AI-DICE באוניברסיטת רייכמן, חוקרת את ההשפעות הפסיכולוגיות של הבינה המלאכותית

"שאלה מצוינת!", "רעיון מבריק!", "הזמנה מרתקת לחקירה" – הצ'אטבוטים מתוכנתים להרעיף עלינו פידבקים חיוביים כדי לשמר אותנו כלקוחות מרוצים. אבל כאן טמון הפרדוקס: דווקא הפידבק שפחות נעים לנו לשמוע – הוא זה שמקדם אותנו באמת

הלוגיקה העומדת בבסיסם של חיזוקים חיוביים פשוטה למדי: אם תגמול מגיע לאחר ביצוע פעולה מסוימת, גדל הסיכוי שהפעולה תחזור על עצמה. כך, כאשר ילד מקבל מדבקה על שהצליח לסדר את החדר או עובד מקבל בונוס על הישג מקצועי, פעולות אלו מתוגמלות ולכן צפויות לחזור. זו התורה על רגל אחת של הגישה הביהייביוריסטית, שפרדריק סקינר היה ממוביליה. סקינר טען כי התנהגות רצויה ניתן לעצב באמצעות חיזוקים חיוביים וכי וכי שיטה זו לא רק מעודדת התנהגות, אלא אף עלולה ליצור תלות.

מה שפועל בצורה אפקטיבית במיוחד בעולם החינוך והתעסוקה, פועל לא פחות טוב, ואולי אפילו טוב מדי, בעולם הטכנולוגיה בהקשר לעיצוב התנהגות המשתמש. הצ'אטבוטים, שהפכו במהירות לחלק משגרת יומנו, מעוצבים בדיוק על פי הגישה הזו. בכל אינטראקציה פשוטה איתם המשתמש זוכה למבול של חיזוקים חיוביים מוגזמים. כל שאלה היא "מצוינת", כל הצעה "מבריקה" וכל התלבטות "הזמנה מרתקת לחקירה משותפת". במילים פשוטות יותר – הם מחניפים לנו ללא הפסקה.

ההתמכרות לחיזוקים חיוביים עשויה להשאיר אותנו לכודים בלולאה של אישורים תמידיים, ללא כל ערעור או הטלת ספק. אנחנו עלולים להסתפק בידע הקיים ובפתרונות המוכרים לנו, ולהימנע מחשיבה ביקורתית ומהתמודדות עם נקודות מבט מנוגדות או מורכבות יותר

אולם, מה שעובד מצוין בשלב הראשוני של למידה או עשייה, עלול להפוך לחרב פיפיות בטווח הארוך. ההתמכרות לחיזוקים חיוביים עשויה להשאיר אותנו לכודים בלולאה של אישורים תמידיים, ללא כל ערעור או הטלת ספק. אנחנו עלולים להסתפק בידע הקיים ובפתרונות המוכרים לנו, ולהימנע מחשיבה ביקורתית ומהתמודדות עם נקודות מבט מנוגדות או מורכבות יותר.

אי-הסכמה מתונה

הצ'אטבוטים, אגב, לא "מעיפים מבט נוסף" לפני שיגור התשובה, וזמן תגובה מהיר מתועדף (לרוב) על פני דיוק בפרטים קטנים. יש כמה דרכים פרקטיות שיכולות לעזור לנו לפרוץ את לולאת החיזוקים החיוביים. אפשר למשל, לבקש מהצ'אטבוט באופן מפורש למצוא נקודות חולשה בטיעונים, לסתור הנחות יסוד או פשוט להימנע מהסכמה. באמצעות פעולות אלו ניתן לעורר חשיבה ביקורתית, לעודד פתרונות יצירתיים ולשפר את יכולתנו להעריך מידע חדש באופן עצמאי.

עדי פרנקנברג היא דוקטורנטית ומנהלת מעבדת AI-DICE באוניברסיטת רייכמן, חוקרת את ההשפעות הפסיכולוגיות של הבינה המלאכותית

לכתבה המלאה בעיתון " הארץ"