התייעצות עם AI על מקרה קליני

מטפלות ומטפלים כבר מתייעצים עם AI על מקרים, בלי שיש לזה עדיין נורמה מקצועית מוסכמת. הפיתוי ברור: התייעצות שזמינה בשתיים בלילה, בלי לתאם ובלי להרגיש שמטריחים מישהו, היא משאב שלא היה קיים קודם. אבל זו גם התייעצות שמכניסה צד נוסף לתמונה, בלי שהמטופל/ת יודע/ת על כך.

שווה להפריד שתי שאלות שנוטות להתערבב: מה לבדוק לפני שעושים את זה בכלל, ואיך עושים את זה טוב. הראשונה נוגעת לפרטיות ולאחריות, השנייה לאיכות החשיבה. שתיהן כאן.

חמש שאלות לפני

1. האם הקלט מאמן את המודל? זו השאלה הראשונה, כי היא היחידה שאין לה תיקון בדיעבד. בכלים לצרכן זו לפעמים ברירת המחדל ולפעמים יש הגדרה שמכבה אותה. שווה לבדוק את ההגדרה עצמה בתוך המערכת, ולא להסתמך על ניסוח כללי בעמוד מוצר.

2. מי יכול לראות את זה, ואיפה זה יושב? צוות של הספק? קבלני משנה? באיזו מדינה מאוחסן המידע? אם המידע יוצא מישראל זו כבר לא שאלה טכנית בלבד, ושווה לבדוק גם מה ההתחייבות לגבי העברה לגורמים נוספים.

3. מה באמת נמחק כשמוחקים, וכמה זמן נשמר מה שלא? שיחה שנעלמת מהמסך לא בהכרח נמחקת מהשרת. יש כלים ששומרים עותק או לוגים לתקופה קצובה "לצורכי תפעול ואבטחה", וזו בדרך כלל השורה שקובעת בפועל.

4. יש התחייבות כתובה, או רק תנאי שימוש? אם אין מסמך שמגדיר מי מעבד את המידע, כמה זמן הוא נשמר, ומה קורה כשמוחקים, נשארים עם תנאי שימוש כלליים שניתנים לשינוי חד-צדדי. זה בסיס חלש מדי לחומר קליני.

5. מי נושא/ת באחריות? זו שאלה של אחריות מקצועית, לא של פיצ'ר. ההחלטה מה להזין ובאיזה היקף נשארת של מי שמחליט/ה להשתמש בכלי. הקווים המנחים של ועדת האתיקה של הפ"י בנושא AI מנסחים חלק מהדרישות כדרישות שמוטלות ישירות על המטפל/ת, ולא על הספק.

וארבעה דברים שמשנים את איכות ההתייעצות

1. התייעצות היא שאלה, לא תיק. אל תשפכו את כל החומר פנימה. "אישה בשנות הארבעים, שנתיים בטיפול, נסיגה ברורה אחרי הפסקת הקיץ" מספיק כדי לחשוב יחד. הצמצום הזה הוא גם ההגנה הטובה ביותר על הפרטיות, וגם מה שמכריח לנסח מה בעצם השאלה. פעמים רבות עבודת הזיקוק הזו לבדה כבר מבהירה מה תקוע.

2. תנו את המסגרת התיאורטית. בלי מסגרת מוחזרת ברירת מחדל אקלקטית ושטוחה. "אני עובד/ת מתוך עמדה התייחסותית" משנה לא רק את השפה אלא את מה שנחשב בכלל מידע רלוונטי. אותו מקרה ייקרא אחרת תחת עמדה דינמית, CBT או מערכתית, וזה בסדר גמור; זה גם מה שקורה בין שני מדריכים.

3. יש שתי סכנות, והמסוכנת יותר היא השקטה. הראשונה גלויה: המודל ממציא. הוא ינקוב בביטחון גמור בקריטריון אבחנתי, בממצא מחקרי או בחובת דיווח שאינם קיימים. לכן הוא בן שיח, לא מקור ידע, ומה שנשמע כמו עובדה צריך אימות במקום אחר. השנייה שקטה יותר, ולכן מסוכנת יותר: מודלים מתוגמלים על להישמע מועילים ומאשרים, ולכן אם תציגו פורמולציה סביר שתקבלו הרחבה מנומקת ומשכנעת שלה במקום ערעור עליה. זה ההפך ממה שהדרכה טובה עושה. את הערעור צריך לבקש במפורש: "תן/י קריאה חלופית שסותרת את שלי", "איפה אני עלול/ה לטעות כאן", "מה לא הבאתי".

4. אל תבקשו הכרעה. "מה לעשות" מחזיר תשובה נחרצת שאין מאחוריה אחריות ואין לה היכרות עם האדם. "מה אני לא רואה" מחזיר חומר לחשיבה. ההכרעה נשארת שלכם/ן, וגם האחריות עליה.

אני רוצה להתייעץ, לא לקבל החלטה. אני עובד/ת מתוך עמדה [הגישה שלכם/ן].

התמונה בקצרה, בלי פרטים מזהים: [שתיים-שלוש שורות].
הפורמולציה שלי כרגע: [מה שאני חושב/ת שקורה].

תן/י לי: (א) קריאה חלופית שסותרת את הפורמולציה שלי; (ב) מה לא שאלתי ואולי היה צריך לשאול; (ג) הפרדה בין מה שיש לו בסיס במה שכתבתי לבין מה שאתה משער.

אל תמליץ/י על מהלך טיפולי, ואל תציג/י עובדות מקצועיות בלי לסמן שהן טעונות אימות. ההכרעה שלי.

אם תיקחו מכאן דבר אחד בלבד, קחו את (א). זה ההבדל בין בן שיח שמחדד אתכם/ן לבין בן שיח שמאשר אתכם/ן.

מקורות

• Sharma, M. et al. (2023). Towards Understanding Sycophancy in Language Models. ICLR 2024. arXiv:2310.13548
• Wei, J. W. et al. (2023). Simple synthetic data reduces sycophancy in large language models. arXiv:2308.03958