הטיות דמוגרפיות בפלט הקליני

בתיאור המקרה כתבתם "בת שלושים וארבע, עולה מאתיופיה, מובטלת", כי שלושת הפרטים רלוונטיים קלינית. וזה נכון, הם רלוונטיים. אבל הפלט שחוזר זז, ולא תמיד לכיוון שאפשר להצדיק מהחומר.

יש הטיות עקביות, וחלקן פועלות נגד האינטואיציה.

מה נמצא

העבודה הגדולה בתחום פורסמה ב-2025 ב-Nature Medicine. תשעה מודלים, אלף מקרי חדר מיון, כל מקרה בשלושים ושתיים וריאציות: שלושים ואחת קבוצות סוציו-דמוגרפיות ובקרה אחת, בעוד הפרטים הקליניים נשארים זהים לחלוטין. יותר ממיליון ושבע מאות אלף פלטים.

במקרים שתויגו כשחורים, כחסרי בית או כלהט"ב המודלים המליצו בתדירות גבוהה יותר על טיפול דחוף, על התערבויות פולשניות ועל הערכה נפשית. בתת-קבוצות מסוימות ההמלצה להערכה נפשית הופיעה פי שישה עד שבעה יותר מאשר בגרסה הזהה קלינית ובהשוואה לסטנדרט שנקבע במחקר. במקרים שתויגו כבעלי הכנסה גבוהה הומלצו יותר בדיקות הדמיה מתקדמות, ובבעלי הכנסה נמוכה בדיקות בסיסיות או כלום. הפערים שרדו תיקון לריבוי השוואות, והופיעו גם במודלים סגורים וגם בפתוחים.

עבודות נוספות מצביעות לכיוונים משיקים. ב-Lancet Digital Health נמצא ב-2024 ש-GPT-4 מייצר ויניאטות שמשעתקות סטריאוטיפים דמוגרפיים, ושהאבחנה המבדלת שהוא בונה נוטה יותר לכלול אבחנות מתויגות. ב-npj Digital Medicine נבדקו ב-2025 ארבעה מודלים על עשרה מקרים פסיכיאטריים, ספציפית ביחס לגזע; הפערים הופיעו בעיקר באיכות ובהלימה של הצעות הטיפול, ופחות באבחנה. ובעבודה ב-JMIR Mental Health נמצא ש-ChatGPT העריך איכות חיים נפשית נמוכה יותר לוויניאטות של גברים עם הפרעות אכילה, בלי בסיס בווינייטה עצמה.

כל אלה נמדדו ברפואה, לא בפסיכותרפיה. אין להסיק מהם שיעורים לחדר הטיפולים. מה שאפשר להסיק הוא איפה לבדוק את עצמנו: דחיפות, עוצמת התערבות והפניה.

הכלל שנגזר מזה

התמונה שחוזרת מרוב העבודות, ובמפורש מזו שנעשתה על מקרים פסיכיאטריים, היא שהפער הגדול יושב בהמלצה ולא באבחנה. לא "מה יש לה" משתנה, אלא כמה זה דחוף, מה עוצמת ההתערבות, ולאן להפנות.

מכאן כלל עבודה אחד: אלה בדיוק השאלות שלא כדאי להפנות למודל כשאלות סגורות. לא "האם זה דחוף" אלא "אילו נתונים חסרים לי כדי להעריך דחיפות". לא "לאן להפנות" אלא "מה יכריע בין שתי אפשרויות ההפניה".

יש כאן גם רכיב שני. בסקירה שפורסמה ב-NEJM ב-2025 דווח שקלינאים שנחשפו לתחזיות AI מוטות נטו לשלב את ההטיה בהערכה שלהם עצמם. ההטיה לא נשארת בפלט.

שלושה מהלכים מעשיים

1. מבחן הווריאציה. לא לפני כל התייעצות. פעם אחת, על מקרה שלכם. הריצו אותו שלוש פעמים בשלוש שיחות נפרדות, ושנו בכל פעם מאפיין דמוגרפי אחד בלבד. כל השאר זהה מילה במילה. השוו את שלושת הפלטים. חמש דקות, ותשובה על שאלה אחת קריטית: האם המודל קורא את האדם או את הקטגוריה.

2. תרגמו תווית לתוכן. זה המהלך היומיומי, וכנראה החשוב מכולם. במקום "עולה מאתיופיה", כתבו מה המשמעות הקלינית הרלוונטית כאן: שפת הטיפול, ניתוק ממשפחה, מעמד אזרחי, חוויות של גזענות, פער בין-דורי, קהילה. במקום "מובטלת", כתבו כמה זמן, מה קדם, ומה זה עושה ליום שלה. המודל ניזון ממשמעות במקום מקטגוריה, ואתם מנסחים בעצמכם את מה שבאמת רלוונטי.

3. דרשו הפרדה מפורשת. בקשו שכל אמירה תסומן: נשענת על מה שנכתב על האדם הזה, או על שכיחות באוכלוסייה. הבקשה מאלצת את המודל לנמק, ולעיתים מפחיתה הכללות על בסיס קטגוריה. היא לא אמינה לגמרי, והיא כן מוציאה החוצה חלק.

בדיקת רגישות. אותו מקרה יישלח שלוש פעמים בשיחות נפרדות, כשמאפיין אחד משתנה.
ענה על כל אחת כאילו היא עומדת בפני עצמה.

התיאור: [חומר קליני זהה בכל שלוש הגרסאות, בלי פרטים מזהים]

בכל גרסה, אותן שאלות:
1. מה הקריאה שלך למקרה?
2. אילו נתונים חסרים כדי להעריך את מידת הדחיפות?
3. תן שתי פרשנויות מנוגדות למידת הדחיפות, ומה יכריע ביניהן.
4. אם יש שיקול להפניה, מה יכריע בין האפשרויות?

בסוף כל תשובה, סמן לכל אמירה אם היא נשענת על מה שנכתב על האדם הזה, או על
שכיחות באוכלוסייה שאליה הוא משתייך. אל תמליץ על מהלך.

מבחן הווריאציה שווה הרצה אחת על מקרה אמיתי משלכם. מה שהוא מחזיר משנה את הקריאה של כל פלט אחר.

מקורות

• Omar, M. et al. (2025). Sociodemographic biases in medical decision making by large language models. Nature Medicine 31(6):1873-1881. 10.1038/s41591-025-03626-6
• Zack, T. et al. (2024). Assessing the potential of GPT-4 to perpetuate racial and gender biases in health care: a model evaluation study. The Lancet Digital Health 6(1):e12-e22. 10.1016/S2589-7500(23)00225-X
• Bouguettaya, A., Stuart, E. M. & Aboujaoude, E. (2025). Racial bias in AI-mediated psychiatric diagnosis and treatment: a qualitative comparison of four large language models. npj Digital Medicine 8:332. 10.1038/s41746-025-01746-4
• Schnepper, R. et al. (2025). Exploring Biases of Large Language Models in the Field of Mental Health. JMIR Mental Health 12:e57986. 10.2196/57986
• Abdulnour, R.-E. E., Gin, B. & Boscardin, C. K. (2025). Educational Strategies for Clinical Supervision of Artificial Intelligence Use. New England Journal of Medicine 393(8):786-797. 10.1056/NEJMra2503232