סיכון אובדני: לתת למודל תפקיד מוגבל

אחרי פגישה שנשארה בראש, המחשבה להקליד את מה שנאמר ולקבל קריאה מהצד מובנת לגמרי. זו גם הנקודה שבה שווה לעצור ולשאול מה בדיוק מבקשים מהמודל, כי בתחום הזה ההבדל בין שתי בקשות דומות הוא גדול.

ההצעה כאן צרה בכוונה: בכל מה שקשור לאובדנות, למודל יש תפקיד אחד שאפשר להגן עליו, והוא בדיקת כיסוי של השאלות. לא הערכה.

מה נמדד

מקביין ועמיתיו פרסמו ב-2025 ב-Psychiatric Services עבודה שבה שלושה עשר קלינאים מומחים סיווגו שלושים שאילתות הקשורות לאובדנות לחמש רמות סיכון, מנמוכה מאוד עד גבוהה מאוד. כל שאילתה הוזנה מאה פעמים לכל אחד משלושה כלים: GPT-4o mini, Claude 3.5 Sonnet ו-Gemini 1.5 Pro. תשעת אלפים תשובות בסך הכול.

בקצה אחד הייתה התאמה לשיפוט הקליני. אף אחד משלושת הכלים לא נתן תשובה ישירה לשאילתה ברמת סיכון גבוהה מאוד, באף אחת מההרצות.

בקצה השני התמונה כבר לא אחידה. שניים מהכלים ענו ישירות על שאילתות ברמת סיכון נמוכה מאוד ב-100% מההרצות, והשלישי נטה הרבה פחות לענות ישירות בכלל, גם כשלא היה בכך צורך. כלומר סירוב אצל כלי אחד אינו אומר שהשאלה מסוכנת, אלא לפעמים רק שזה הכלי.

וברמות הביניים כל השלושה היו לא עקביים: אותה שאלה עצמה, מענה בחלק מההרצות והימנעות באחרות. ובנוסף, ChatGPT ו-Claude נטו לענות ישירות גם על שאלות שנוגעות לקטלניות של אמצעים.

חשוב לדייק במה נמדד כאן: זו בדיקה של תגובות הכלים לשאילתות, לא בדיקה של היכולת שלהם להעריך סיכון של אדם אמיתי. את האחרונה איש לא ביסס. ראוי לציין גם שהמודלים שנבדקו הם דור מסוים, והתנהגות בטיחות היא סוג הדבר שמשתנה בין גרסאות.

המסקנה המעשית איננה "הכלים גרועים". היא שהעקביות הנמוכה ביותר נמצאת בדיוק ברמות שבהן השיפוט הקליני הכי קשה, ושאותה שאלה יכולה להתנהג אחרת בהרצות שונות. "שאלתי והוא אמר שזה בסדר" הוא דגימה אחת, לא מידע.

התפקיד היחיד

בודק כיסוי. הניסוח הוא: "לפי מה שכתבתי על השיחה, מה לא שאלתי שהערכה מובנית שאני עובד לפיה הייתה כוללת."

המסגור הזה עובד משלוש סיבות מעשיות. הוא מחזיר רשימה שאפשר לפעול לפיה בפגישה הבאה. עלות של שאלה עודפת נמוכה בדרך כלל מעלות של הרגעה שגויה. והוא לא מחייב לקבל דירוג שאין מאחוריו שום היכרות עם האדם.

הוא גם לא חסין, בשתי דרכים שכדאי להכיר מראש. מודל יכול להחזיר רשימה דלה ולהוסיף שההערכה נראית מקיפה, וזו ההרגעה שאין לה כיסוי. והוא יכול להחזיר רשימה ארוכה ולא רלוונטית שתסיט את הקשב בפגישה הבאה מהדברים שבאמת חשובים. בגלל שתי אלה, הפרומפט למטה אוסר עליו במפורש להעריך את שלמות ההערכה, ומה שחוזר הוא חומר לשיקול ולא מטלה.

שלושה כללים

1. בלי דירוג סיכון. לא רמה, לא ציון, לא "האם זה מסוכן". מספר שחוזר הופך לעוגן, והעוגן הזה נכנס לחדר גם כשמחליטים להתעלם ממנו.

2. בלי אמצעים. לא שיטות, לא קטלניות, לא השוואות. המחקר מראה שהכלים עונים על זה לפעמים, ואין שום שימוש קליני בתשובה כזאת.

3. כלל עצירה. ברגע שברור שהשאלה נשאלת כדי להירגע ולא כדי לדעת, סוגרים את החלון ומתקשרים לאדם.

מתי לא נכנסים לכאן בכלל

אם יש כוונה, תוכנית, נגישות לאמצעים, או חוסר יכולת של המטופל להתחייב לבטיחות, זה לא מצב שמתייעצים עליו עם מודל. זה מצב שמפעילים בו את הנוהל: יצירת קשר עם המטופל, פנייה להדרכה או לעמית, והערכת חירום לפי הצורך.

הבדיקה שלמטה מיועדת למצב אחר לגמרי: הערכה כבר בוצעה, והשאלה היא מה לא נשאל בה. לא למצב שבו מחליטים אם יש סכנה. הנוהל עצמו תלוי במסגרת שבה עובדים, ומה שכתוב כאן הוא עקרון זהירות ולא תחליף לו.

מה קורה לתוכן הזה בצד השני

תוכן שנוגע לאובדנות עלול להפעיל מנגנוני בטיחות של הכלי: השיחה נקטעת, וחוזרת הודעת מערכת עם מספרי חירום. בחלק מהכלים תוכן שסומן כך עשוי להיבדק בידי אדם. זו סיבה נוספת לתאר בקצרה, בלי ציטוטים ובלי פרטים מזהים, וגם סיבה לא להיבהל כשהשיחה נקטעת: זה מנגנון אוטומטי ולא שיפוט על מה שנכתב.

בדיקת שלמות של הערכה שכבר בוצעה. אינני מבקש הערכת סיכון. מה שנאמר, בלי פרטים מזהים ובלי ציטוטים ישירים: [תיאור קצר]מה שכבר נשאל: [רשימת השאלות ששאלתי בפועל] החזר דבר אחד בלבד: רשימת שאלות שהערכה מובנית הייתה כוללת ואינן מופיעותלמעלה. סדר אותן לפי מה שהיית שואל קודם. אל תיתן רמת סיכון, ציון, או הערכה של חומרה. אל תעריך אם ההערכה שבוצעה מספקתאו מקיפה, ואל תכתוב שלא חסר דבר. אל תזכיר אמצעים, שיטות או נתוני קטלניות.אל תמליץ על מהלך טיפולי.

הרשימה שחוזרת היא חומר לשיקול, לא אישור. ההחלטה אם מה שקורה כאן דורש יותר מפגישה נוספת מתקבלת מול אדם.

מאיפה המספרים

כל מספר במדריך הזה מגיע מהעבודה הבאה. אין צורך לקרוא אותה כדי להשתמש במדריך.

• עד כמה תשובות של כלים שכיחים לשאלות על אובדנות עקביות. 30 שאילתות שסווגו לחמש רמות סיכון בידי 13 קלינאים, ו-100 הרצות לכל שאילתה בכל כלי, סך הכול 9,000 תשובות. בקצה הגבוה אף כלי לא נתן תשובה ישירה באף הרצה; בקצה הנמוך שניים מהכלים ענו ב-100% מההרצות והשלישי נטה להימנע גם שם; וברמות הביניים כל השלושה היו לא עקביים. שניים מהם נטו לענות גם על שאלות שנוגעות לקטלניות של אמצעים. נבדקו שלושה כלים בגרסאות של אותה תקופה, והתנהגות בטיחות היא מה שמשתנה בין גרסאות.
  • McBain, R. K. et al. (2025). Evaluation of Alignment Between Large Language Models and Expert Clinicians in Suicide Risk Assessment. Psychiatric Services. 10.1176/appi.ps.20250086 (נפתח בחלון חדש)