ארגון "למענכם" מזהיר היום (א') את משרד הבריאות מפני "תופעה מסוכנת ההולכת ומתרחבת" של שימוש בלתי מבוקר בכלי בינה מלאכותית על ידי צוותים רפואיים. במכתב ששיגר לשר הבריאות אוריאל בוסו, מצייןיוסי ערבליך, מייסד ויו"ר הארגון, כי "תופעת ההסתמכות על כלי AI לקבלת החלטות רפואיות הובילה לשורת מקרים חמורים שהגיעו לפתחנו בחודשים האחרונים".

לדברי ערבליך, בין המקרים המדאיגים שתועדו: "קבלת מינונים לא נכונים לנטילת תרופות, חוות דעת שגויות ועוד, שעלו לא פעם לידי סכנת חיים של ממש". מקרה קונקרטי שהובא במכתב מתאר כיצד אשתו של אדמו"ר ידוע שוחררה מבית חולים גדול באזור ירושלים עם מינון פי שלושה של תרופה, כתוצאה מהסתמכות רופא על צ'אט GPT. האישה נאלצה לחזור באותו לילה לשטיפת קיבה.

"מחקרים רבים הראו שהתוצאות המתקבלות על ידי הבינה המלאכותית אינן עקביות, ולעיתים ניתנות תשובות שונות לאותו מקרה רפואי", מתאר ערבליך במכתבו. "בעוד טעויות בתחומים מסוימים עשויות להיות בלתי מזיקות, טעויות רפואיות עלולות לעלות בחיי אדם".