מטופל שמגיע עם אבחנה מ-ChatGPT

"שאלתי את ChatGPT והוא אמר שיש לי הפרעת אישיות נמנעת."

עכשיו יש בחדר משהו שלא היה בו קודם, והתגובה הראשונה כמעט תמיד היא לתקן. זו גם התגובה שסוגרת את הנושא הכי מהר.

מה יש כאן חוץ מהאבחנה

לפני שמדברים על התשובה, יש את רגע השאלה: מתי היא נשאלה, ומה דחף לשאול אותה שם. זה נתון קליני לפני שהוא בעיה טכנית.

לפעמים ההסבר פשוט. שתיים בלילה, אין את מי לשאול, ויש חלון פתוח. ולפעמים המקום שבו נשאלה השאלה הוא עצמו התשובה: מקום בלי פנים, בלי זמן המתנה, ובלי סיכון להיראות.

יש גם רכיב שכדאי להכיר לפני שמתייחסים לתשובה שהתקבלה כאל ראיה. מודלים מכווננים להסכים עם מי שמדבר איתם. שארמה ועמיתיו הראו ב-2023 שהנטייה הזאת חוזרת על עצמה בעוזרי AI מובילים, ווי ועמיתיו הראו שבחלק מההגדרות היא מתחזקת דווקא במודלים גדולים ומכווננים יותר. הממצאים האלה נמדדו במשימות כלליות ולא בשאלות אבחנתיות, וכלים מסחריים נוהגים לסייג שאלות מהסוג הזה ולהפנות לאיש מקצוע. אבל כשהמטופל מנסח את השאלה בצורה שמזמינה אישור, סביר יותר שהוא יקבל הדהוד של המסגור שהביא. לרוב זה אומר שהתשובה מלמדת יותר על הניסוח מאשר על המטופל.

ארבעה מהלכים

1. אל תתקנו ראשונים. תיקון מיידי הופך את הפגישה לוויכוח על עובדות, ובוויכוח הזה מפסידים את החומר. השאלות שמחזירות אותו הן על השאלה עצמה: מה בדיוק שאלת, איך ניסחת, מה קיווית לשמוע, וממה פחדת.

2. התייחסו לאבחנה כאל מילה שהמטופל בחר. מתוך כל מה שהמודל כתב, הוא זכר את זה והביא את זה. "נמנעת" אומר משהו על איך הוא רואה את עצמו. שם החומר, ולא בקריטריונים.

3. תקנו, אבל מאוחר יותר ובמידה. התיקון שעובד הוא במונחים של מה הכלי יכול ומה לא, ולא במונחים של הסמכות שלכם מול הסמכות שלו. הראשון פותח שיחה, השני מזמין את המטופל להגן על מה שקיבל.

4. שאלו מה קורה עם זה בין הפגישות. זו שאלה אחרת מ"שאלת פעם". מי שמנהל דיאלוג יומיומי עם צ'אטבוט על המצב שלו נמצא בקשר, וזה עושה משהו בשבוע שבין הפגישות.

ארבעה משפטים שאפשר לומר

לא תסריט, וכן ניסוחים שמחזיקים את שני הצדדים בלי להיכנס למאבק:

"מעניין אותי יותר איך הגעת לשאול את זה שם, מאשר אם זה נכון."

"בוא נסתכל על המילה שתפסת משם. מה היא עשתה לך כשקראת אותה?"

"אני כן רוצה לשים גבול אחד: צ'אט לא יכול לאבחן אותך. הוא כן יכול לגעת במשהו אמיתי שהרגשת."

"מה השתנה אצלך מאז שקראת את זה?"

מתי מפסיקים להחזיק ומתחילים לפעול

ברוב המקרים זה חומר לעבוד איתו. יש מצבים שבהם צריך להתערב בפגישה עצמה, ולא להשאיר פתוח:

כשהמסקנה שהתקבלה מובילה להפסקת תרופה, לוויתור על בירור רפואי, או לעזיבת טיפול.

כשהתווית מניעה הימנעות ממשית: לא ללכת לראיון עבודה, לא להיפגש עם אנשים, "כי אני נמנעת".

כשהפנייה למודל מחליפה פנייה לאדם ברגע של מצוקה.

כשהבדיקה מול המודל הפכה לטקס: כל פרשנות שאתם מציעים נבדקת אחרי הפגישה, וכל תשובה מייצרת בדיקה נוספת.

בשלושת האחרונים הנושא כבר אינו האבחנה. הנושא הוא מה המודל נותן שהטיפול לא, וזה בדרך כלל שילוב של זמינות בלי תיאום, בן שיח שלא מתעייף, ומישהו שמסכים. זה חומר שראוי לומר אותו בקול.

השאלה הכי שימושית באפיזודה הזאת אינה מה המודל אמר, אלא מה גרם לשאול אותו ולא אתכם.

מקורות

• Sharma, M. et al. (2023). Towards Understanding Sycophancy in Language Models. ICLR 2024. arXiv:2310.13548
• Wei, J. W. et al. (2023). Simple synthetic data reduces sycophancy in large language models. arXiv:2308.03958