מטופלת באוסטרליה גילתה במסמך הרפואי שלה טענה שקרית על שימוש בפטריות פסיכדליות, על פי דיווח בתקשורת האוסטרלית. המחקרים עדיין לא בחנו באופן שיטתי עד כמה שכיחות טעויות כאלה במערכות AI רפואיות
מטופלת באוסטרליה גילתה במסמך הרפואי שלה טענה שקרית על שימוש בפטריות פסיכדליות, על פי דיווח בתקשורת האוסטרלית. המחקרים עדיין לא בחנו באופן שיטתי עד כמה שכיחות טעויות כאלה במערכות AI רפואיות
כשרבקה גרין הגיעה לפגישה הראשונה שלה עם אורולוגית באוסטרליה והתבקשה להסכים לכך שמערכת בינה מלאכותית תתעד את השיחה, היא השיבה בחיוב מיד. לדבריה, היא לא רצתה להצטייר כמטופלת שמקשה על הרופאה או גוזלת עוד מזמנה. רק מאוחר יותר גילתה כי לתיק הרפואי שלה נכנסה טענה שקרית וחמורה: שהיא צורכת פטריות פסיכדליות.
גרין גילתה את הטעות לאחר שעברה במרץ ניתוח לטיפול באבנים בכליות, וקראה את המכתב שנשלח בעקבותיו מהמומחית לרופא המשפחה שלה. במכתב נכתב כי היא נוטלת מנות זעירות של פטריות פסיכדליות, וכי הדבר עשוי להסביר דימום קודם באזור הכליות.
"הייתי המומה ובכיתי. מעולם לא השתמשתי בפטריות בחיי", סיפרה גרין לרשת ABC האוסטרלית. לדבריה, הכנסת מידע שאין לו כל בסיס למסמך רפואי רשמי הייתה מפחידה במיוחד בשל ההשלכות האפשריות: היא קיבלה באותה תקופה פיצויים בעקבות פגיעה בעבודה, וחששה שאזכור של שימוש בסמים בלתי חוקיים ישפיע על עניינה.
מתעדים רפואיים מבוססי בינה מלאכותית, המכונים AI Scribes, מאזינים לשיחה בין הרופא למטופל, מתמללים אותה ומעבדים את התוכן למסמך רפואי מובנה. השימוש בהם מתרחב במהירות: על פי הדיווח ב-Ynet, בריאות, בסקר מקוון שערך הקולג' המלכותי האוסטרלי לרופאי משפחה בנובמבר 2025, 40% מהמשיבים אמרו שהם משתמשים בקביעות במתעדי AI, לעומת 22% בלבד בסקר שנערך באוגוסט 2024. היתרון ברור: במקום להקליד לאורך הפגישה או להשלים מסמכים לאחר שעות העבודה, הרופא יכול לכאורה להקדיש יותר תשומת לב למטופל.
עם זאת, מעבר לחיסכון בזמן, שימוש בכלים אלה משנה את נוהל התיעוד הרפואי ומציב סיכונים חדשים. תיעוד שגוי בתיק הרפואי עלול להשפיע על החלטות רפואיות בהמשך, על זכויות ביטוח, על תביעות משפטיות ועל יחסי אמון בין מטופל לרופא.
לצד היתרונות, המערכות עלולות להשמיט מידע, לייחס אמירות לדובר הלא נכון, לבלבל בין מונחים רפואיים או להוסיף פרטים שמעולם לא נאמרו, כך עולה מסקירה שפורסמה בכתב העת Journal of Evaluation in Clinical Practice. המקרה של גרין ממחיש את הסיכון הזה בצורה חריפה.
לאחר שהגישה תלונה, שלחה האורולוגית לגרין מכתב התנצלות ותיקנה את ההתכתבות הרפואית. הרופאה כתבה כי היא מתייחסת ברצינות לדיוק התיעוד, אך לא הצליחה לקבוע כיצד נכנסה הטענה על הפטריות למסמך, ולדבריה נראה שמקורה בטעות בתהליך ההכתבה או התמלול. היא הוסיפה כי תבחן מחדש את אופן השימוש בבינה מלאכותית במרפאתה, אך לא השיבה לשאלות ABC בנוגע לשינויים שבוצעו בפועל.
מתעדי AI רפואיים מבוססים על טכנולוגיות זיהוי דיבור (speech recognition) ועיבוד שפה טבעית (natural language processing, NLP), המאפשרות תמלול ועיבוד שיחות רופא-מטופל בזמן אמת. זיהוי דיבור מתרגם גל קול לטקסט גולמי; מודלים של NLP מסווגים, מארגנים ומחברים את הטקסט הזה לממצאים רפואיים, סיכומים ותוכניות טיפוליות. שגיאות יכולות להיווצר בכל שלב: טעות בזיהוי מילה בגלל רעש או מבטא, פירוש שגוי של משפט על ידי המודל, או כללי מיפוי שגויים שיוסיפו מסקנות שאינן מבוססות על הדיבור המקורי. במקרים מסוימים מערכות עלולות "למלא" חוסרים על סמך דפוסים סטטיסטיים, דבר שמוביל לעיסוק בהמצאות תוכן שלא נאמר.
בנוסף קיימים בעיות פרטיות ואבטחת מידע: הקלטה של שיחה רפואית שמועברת לענן לצורך עיבוד עשויה לחשוף נתונים רגישים אם לא מנוהלת בצורה קפדנית.
טעויות בתיעוד עלולות להשפיע על החלטות טיפוליות עתידיות, למשל שינוי פרמקולוגי, הימנעות מטיפולים מסוימים או שלילת זכאות לפיצויים. מעבר לכך, אזכורים של שימוש בסמים בלתי חוקיים עלולים ליצור דעות קדומות מקצועיות המתמרצות חוסר אמון כלפי מטופל. מבחינה אתית, נעשית חשיבות מיוחדת להבהרת מי אחראי על התוכן: מערכת ה-AI או הרופא שמאשר את המסמך. מרבית הגורמים הרפואיים מצפים שהרופא יהיה האחראי הסופי על התיעוד, אך בפועל עומס עבודה וחוסר פיקוח עלולים להביא לאישור מסמכים שטרם נבדקו.
מומלץ למטופלים לבקש עותק של כל מסמך רפואי שנוצר בעקבות ביקור, ולקרוא אותו בעיון לפני שהוא נשלח לגורמים אחרים או נכנס לתיק הקבוע. טעות במסמך רפואי עלולה להשפיע לא רק על הטיפול העתידי, אלא גם על זכויות ביטוח, פיצויים ותביעות משפטיות.
מטופלים יכולים לשאול במפורש מי מאזין ומעבד את השיחה, היכן מאוחסן הנתונים, מה מדיניות השמירה והמחיקה, והאם יש להם זכות לשלול שימוש במתקין כזה. מומלץ לעגן נהלי בדיקה של מסמכים שנוצרו על ידי AI: שהרופא יקרא ויאשר כל סיכום טרם שיגורו, ושיהיו נהלי תיקון ברורים במקרה של טעות.
מוסדות בריאות צריכים לפתח נהלים ברורים ובקרות איכות לשילוב מערכות AI בתיעוד, כולל הדרכת צוות, מדדי דיוק, בדיקות תקופתיות ודיווח על תקלות. כמו כן יש צורך במדיניות פרטיות ואחסון נתונים העומדת בדרישות המקומיות.
כאשר מטופל מגלה סתירה או טעות ברשומה רפואית שיש לה השלכות קליניות, ביטוחיות או משפטיות, יש לפנות לרופא המטפל או לממלא מקום ולבקש תיקון מיידי. אם מוסד הרפואה אינו מתקן או שהתיקון אינו מספק, מומלץ לפנות לגורם האחראי על איכות הטיפול במוסד, ללשכת הבריאות הציבורית או לייעוץ משפטי, בהתאם לחומרת המקרה.
המקרה של גרין מדגיש כי יצירת אמון רפואי מחייבת גם פיקוח אנושי קפדני על כלים אוטומטיים. לצד היעילות שה-AI מציעה, המרכיב האנושי נותר חיוני להבטחת בטיחות, דיוק וכבוד לפרטיות המטופלים.
מקורות: סקירה בכתב העת Journal of Evaluation in Clinical Practice; דיווחי ABC ו-Ynet כפי שנמסרו במקור.
כתבה זו היא דיווח חדשותי בלבד ואינה מהווה ייעוץ, אבחון או המלצה רפואית. לקבלת מידע המותאם למצבכם האישי יש להתייעץ עם רופא או איש מקצוע מוסמך.