התייעצות עם AI על מקרה קליני

מטפלות ומטפלים כבר מתייעצים עם AI על מקרים, בלי שיש לזה עדיין נורמה מקצועית מוסכמת. הסיבה מעשית: זו התייעצות שזמינה בשעות שבהן אין הדרכה, בלי לתאם ובלי התחושה שמטריחים מישהו.

היא גם מכניסה צד נוסף לתמונה בלי שהמטופל יודע עליו, ומשם נגזרות שתי שאלות שנוטות להתערבב זו בזו: מה קורה לחומר שנכנס פנימה, ומה בעצם חוזר משם. הראשונה נוגעת לפרטיות ולאחריות, השנייה לאיכות החשיבה, והתשובות שלהן בלתי תלויות. אפשר לעבוד בכלי סגור ובטוח לחלוטין ולקבל ממנו התייעצות חסרת ערך.

מה שנשאל לפני שמזינים מילה

1. האם מה שנכנס משמש לאימון המודל?

זו השאלה הראשונה לא מפני שהיא החמורה שבחמש, אלא מפני שהיא היחידה שאין לה תיקון בדיעבד. אפשר למחוק שיחה, אפשר לסגור חשבון, אבל טקסט שכבר נכלל בסבב אימון לא ניתן לשליפה חזרה משום מקום. בכלים לצרכן זו לפעמים ברירת המחדל, ובשכבות העסקיות והמפתחיות של אותם ספקים עצמם זה בדרך כלל כבוי מלכתחילה: אותה חברה, אותו מודל, מדיניות אחרת. שתי נקודות שקל לפספס: ההגדרה יושבת בהגדרות החשבון ולא בעמוד השיווקי שמנסח את זה יפה, וכיבוי שלה נוגע לאימון בלבד. השיחה עדיין נשמרת אצל הספק, וזו כבר השאלה הבאה.

2. מי יכול לראות את זה, ואיפה זה יושב?

"מאובטח" היא תשובה שלא אומרת כלום. השאלה הקונקרטית שמייצרת תשובה אמיתית היא האם אדם יכול לקרוא את השיחות ובאילו נסיבות. אצל רוב הספקים התשובה היא כן: יש צוותי בדיקה שנחשפים לשיחות שסומנו כחריגות, לפעמים קבלני משנה. אחר כך מגיעה שאלת המיקום. רוב הכלים הצרכניים מאחסנים בארצות הברית, והעברת מידע רפואי אל מחוץ לישראל היא לא רק פרט טכני. יש לה כללים משלה בדין הישראלי, והמשמעות המעשית היא שהחומר יצא מתחום שיפוט שאפשר לפעול בו בלי עורך דין בינלאומי.

3. מה באמת נמחק כשמוחקים?

שיחה שנעלמת מהמסך לא בהכרח נמחקת מהשרת. הדפוס הנפוץ הוא שמירת עותק לתקופה קצובה, שלושים יום ומעלה, "לצורכי תפעול, ניטור ואבטחה", לעיתים גם כשהיסטוריית השיחות כבויה. זו בדרך כלל השורה שקובעת בפועל מה קורה למידע, והיא כמעט תמיד יושבת במסמך אחר מזה שקוראים. גם כאן יש הבדל בין רבדים: חלק מהספקים מציעים אפס שימור בשכבה העסקית, ולא בזו החינמית.

4. יש התחייבות כתובה, או רק תנאי שימוש?

ההבדל הוא בין הסכם שמגדיר מי מעבד את המידע, כמה זמן הוא נשמר ומה קורה כשמוחקים, לבין תנאי שימוש שהספק רשאי לשנות בהודעה חד-צדדית. השני הוא בסיס חלש לחומר קליני, לא מפני שהספק זדוני, אלא מפני שההתחייבות שנשענים עליה יכולה להשתנות מבלי שמישהו יבחין. בפועל, מטפל יחיד בכלי צרכני לרוב לא יקבל מסמך כזה. זו תשובה לגיטימית, ובלבד שהיא מוזנת בחזרה לשאלה הבאה: כמה מזהה החומר שמוזן פנימה.

5. מי נושא באחריות?

זו לא שאלה של תכונה במוצר. ההחלטה מה להזין, באיזה היקף ולאיזה כלי, נשארת של מי שמחליט להשתמש בו. "עקרונות וכללי אתיקה לשימוש בכלי בינה מלאכותית בעבודת הפסיכולוג" של ועדת האתיקה בהסתדרות הפסיכולוגים בישראל (מרץ 2026) מנסח חלק ניכר מהדרישות כדרישות שמוטלות ישירות על הפסיכולוג ולא על הספק. אלה קווים מנחים ולא חקיקה, ואף גוף לא מאשר או מסמיך כלים; אבל זהו סוג המסמך שמשמש אמת מידה כשמישהו נדרש להסביר בדיעבד למה עשה מה שעשה.

ומה חוזר משם

התייעצות היא שאלה, לא תיק.

"אישה בשנות הארבעים, שנתיים בטיפול, נסיגה ברורה אחרי הפסקת הקיץ" מספיק כדי לחשוב יחד. הצמצום הזה עובד בשני מישורים בבת אחת: הוא ההגנה הטובה ביותר על הפרטיות, והוא גם מה שמכריח לנסח מה בעצם השאלה. לא פעם עבודת הזיקוק הזו לבדה כבר מבהירה מה תקוע, לפני שנשלחה שורה אחת. יש גם סיבה שלישית, פחות מובנת מאליה: ככל שנשפך יותר חומר פנימה, כך יש למודל יותר ממה לבנות הסכמה, וזה מוביל ישר לנקודה השלישית כאן.

המסגרת התיאורטית משנה מה נחשב בכלל מידע.

בלי מסגרת מוחזרת ברירת מחדל אקלקטית ושטוחה, שנשמעת סבירה ולא נותנת כלום. "אני עובדת מתוך עמדה התייחסותית" משנה לא רק את השפה אלא את מה שייחשב רלוונטי מלכתחילה: מה שנחשב ראיה תחת עמדה דינמית ומה שנחשב ראיה תחת CBT הם לא אותם דברים. אותו מקרה ייקרא אחרת תחת כל אחת מהן, וזה בסדר גמור. זה מה שקורה כשמביאים אותו מקרה לשני מדריכים שונים.

שתי סכנות, והמסוכנת יותר היא השקטה.

הראשונה גלויה. המודל ממציא, והוא ינקוב בביטחון גמור בקריטריון אבחנתי, בממצא מחקרי או בחובת דיווח שאינם קיימים. לכן הוא בן שיח ולא מקור ידע, וכל דבר שנשמע כמו עובדה דורש אימות במקום אחר.

השנייה שקטה, ולכן קשה יותר לתפוס אותה. מודלים שאומנו על העדפות אנושיות נוטים להסכים עם עמדת המשתמש גם כשהיא לא נכונה, ולכן פורמולציה שמוגשת להם חוזרת מורחבת ומחוזקת במקום מעורערת. המנגנון מוסבר במלואו במדריך "למה המודל מסכים איתך", ומה שחשוב כאן הוא שהוא ניתן לצמצום בבקשה מפורשת.

הראיה הקרובה ביותר לעבודה קלינית מגיעה מעבודה של Chen ועמיתיו (נפתח בחלון חדש) שפורסמה ב-2025. חמישה מודלים התבקשו לכתוב מכתב משכנע שטוען ששתי תרופות זהות, שם מסחרי מול שם גנרי, הן תרופות שונות. זו בקשה שהמודל יודע שהיא שגויה, והמודלים החזקים נענו לה ב-100% מהמקרים. ואז החלק שמעניין יותר: תוספת של משפט אחד, שנתן למודל רשות לסרב וביקש ממנו לשחזר את העובדות לפני שהוא עונה, העלתה אותם ל-94% סירוב מנומק.

מה זה אומר כאן: מה שמשנה את התשובה הוא לא הידע של המודל אלא הרשות שניתנת לו. משפט אחד בבקשה, "תן קריאה חלופית שסותרת את שלי" או "איפה אני עלולה לטעות כאן", עושה חלק ניכר מהעבודה. מה זה לא אומר: הניסוי נסוב על שמות תרופות ולא על פורמולציה קלינית בעברית, ואין מדידה של גודל האפקט כאן.

בקשת הכרעה מחזירה את הדבר היחיד שלמודל אין.

"מה לעשות" מייצר תשובה נחרצת שאין מאחוריה אחריות ואין לה היכרות עם האדם, והנחרצות שלה משכנעת בדיוק באותה מידה בין אם היא נכונה ובין אם לא. "מה אני לא רואה" מייצר חומר לחשיבה, שאפשר לקחת או לפסול. ההכרעה נשארת בחדר, וכך גם האחריות עליה.

אני רוצה להתייעץ, לא לקבל החלטה. אני עובד מתוך עמדה [הגישה שלי]. התמונה בקצרה, בלי פרטים מזהים: [שתיים-שלוש שורות].הפורמולציה שלי כרגע: [מה שאני חושב שקורה]. תשובה בשלושה חלקים: (א) קריאה חלופית שסותרת את הפורמולציה שלי; (ב) מה לא שאלתי ואולי היה צריך לשאול; (ג) הפרדה בין מה שיש לו בסיס במה שכתבתי לבין מה שהוא השערה שלך. בלי המלצה על מהלך טיפולי, ובלי להציג עובדה מקצועית בלי לסמן שהיא טעונה אימות.

החלק (א) הוא זה שעושה את העבודה, וגם זה שהכי קל לוותר עליו כשהתשובה הראשונה כבר נשמעת חכמה. התייעצות שהסתיימה בתחושה שהכול מסתדר יפה ראויה לקריאה שנייה, כדי לבדוק אם הובא לשם משהו שאפשר היה לערער עליו או רק אישור לפורמולציה שכבר הייתה.

מאיפה המספרים

כל מספר במדריך הזה מגיע מהעבודה הבאה. אין צורך לקרוא אותה כדי להשתמש במדריך.

• מה קורה כשמבקשים ממודל דבר שהוא יודע שאינו נכון. חמישה מודלים, חמישים זוגות תרופות: היענות של עד 100% לבקשה שגויה, ועלייה ל-94% סירוב מנומק אחרי משפט אחד שנתן רשות לסרב וביקש שחזור עובדות. נמדד על שמות תרופות בלבד.
  • Chen, S. et al. (2025). When helpfulness backfires: LLMs and the risk of false medical information due to sycophantic behavior. npj Digital Medicine 8:605. PMC12534679 (נפתח בחלון חדש)