ה-IMDRF פרסם מסגרת טכנית לניהול מחזור חיים של AI במכשירים רפואיים: מה יש בפנים ולמה זה משנה

בתחילת אפריל 2026 פרסם ה-IMDRF טיוטה של מסמך חדש: IMDRF/AIML WG/N93, שכותרתו Technical Framework for Artificial Intelligence Life Cycle Management.

המסמך מנסה לגבש מסגרת בינלאומית מוסכמת לאיך מפתחים, מאמתים ומנטרים מכשירים רפואיים שמשלבים בינה מלאכותית לאורך מחזור החיים שלהם.

למה עכשו

עד לא מזמן, כמעט כל הנחיה מפורטת בנושא AI במכשירים רפואיים הגיעה מ-FDA בלבד.

ב-2025 פרסם ה-IMDRF את עשרת העקרונות ל-Good Machine Learning Practice (GMLP), אבל אלו נשארו ברמה גבוהה.

המסמך החדש לוקח את אותם עשרת העקרונות ומרחיב אותם לפירוט מחזור חיים שלם.

הדבר החשוב כאן הוא ה-IMDRF עצמו. הפורום מאגד רגולטורים מה-FDA האמריקאי, ה-EMA האירופאי, Health Canada, ה-TGA האוסטרלי, ה-PMDA היפני ורשויות נוספות. מסמך שפורסם בשמם מייצג עמדה בינלאומית רחבה, גם אם אין לו תוקף מחייב. יצרנים שמוכרים במספר שווקים יכולים להשתמש בו כבסיס משותף, בלי לכתוב גישה שונה לכל רגולטור.

שניה לפני שנצלול פנימה:

המסמך עצמו מבהיר מה הוא לא:

• הוא לא פרשנות של חוק ורגולציה ספציפיים

• לא מדריך להגשת בקשות רגולטוריות

• ולא מחייב.

הוא מסגרת של שיקולים שכל רשות יכולה לאמץ את כולם או חלקם.

זה בעצם יתרון, כי הוא לא קושר אתכם לפרשנות של רגולטור אחד.

ארבעה עקרונות שחוצים את כל מחזור החיים

לפני שמדברים על שלבים, ה-IMDRF מגדיר ארבעה תחומים שחלים על כל שלב, מתכנון ועיצוב ועד ההוצאה משימוש:

1. מערכת ניהול איכות לפי ISO 13485 היא הבסיס. המסמך מוסיף דגשים ספציפיים ל-AI: ניהול גרסאות של מודלים, ניהול נתוני אימון, וניטור פוסט-מרקט שיאפשר תגובה מהירה לירידה בביצועים.

2. ניהול סיכונים לפי ISO 14971 הוא הבסיס, עם AAMI TIR 34971:2023 כרפרנס ספציפי ל-ML/AI. המסמך מרחיב לסיכונים ייחודיים ל-AI ב-4 קטגוריות:

   • סיכוני מידע: תפוקות לא מדויקות, black box שלא ניתן להסביר

   • סיכוני אינטראקציה אנוש-AI: הטיית אוטומציה (נטייה לסמוך באופן עיוורעל המכשיר) ואפילו ההיפך, דחיית ממצאים (מתעלמים ממה שהמכשיר מציג)

   • סיכוני data drift ואיכות נתונים: כשנתוני השטח שונים ממה שהמודל אומן עליו

   • סיכוני פריסה ומעקב פוסט-שיווקי, כולל interoperability וחוסר ב-version control

3. פיקוח אנושי - Human Oversight: הוא מושג שנכנס לשיח הבינלאומי דרך ה-EU AI Act, וה-IMDRF מאמץ ומרחיב אותו. ההגדרה רחבה: רופאים, נותני שירות בריאות, מטופלים ומשתמשים הדיוטיים (Lay users). הרעיון הוא שמומחיות קלינית צריכה להיות שותפה בכל שלב, מבחירת פיצ'רים ותיוג של נתונים ועד ניטור בשטח. זה גם כלי מרכזי למניעת הטיות אוטומטיות. בשפת EU MDR, אפשר לחשוב על זה כשכבה מעבר ל-Human Factors הרגיל, לא רק בטיחות בזמן שימוש אלא מנגנון מובנה לאורך כל מחזור החיים.

4. אבטחת סייבר. מכשירי AI תלויים בזרימות נתונים רציפות ועדכוני מודלים, ולכן חשופים לאיומים ייחודיים כמו הרעלת נתונים (data poisoning) והיפוך מודל (model inversion). המסמך מציין שקשה לזהות התקפה כזאת כי אי אפשר תמיד להבחין בין ירידה טבעית בביצועים לבין פגיעה זדונית.

שלבי מחזור החיים

1. תכנון ועיצוב. השלב הראשון מוגדר כקריטי יותר ממה שנהוג לחשוב. ה-IMDRF מדגיש שבחירת המודל הנכון מוקדם יכולה לחסוך עבודה רבה בשלבים מאוחרים. כמה שאלות מפתח שצריך לענות עליהן כבר כאן:

   • האם AI הוא הכלי הנכון בכלל, או שגישה מבוססת כללים מספיקה?

   • מה הזמינות וההתאמה לייעוד של הנתונים?

   • מה דרישות יכולת ההסבר והפרשנות של המודל לסביבת השימוש? (יכולת ההסבר עוסקת במנגנון ויכולת הפרשנות עוסקת במשמעות הקלינית של התפוקה).

   • תכנון PMS מוזכר כפעולה שיש להתחיל כבר בשלב זה.

2. איסוף וניהול נתונים. אחד הסעיפים הארוכים. כמה דגשים:

   • נתונים סינתטיים ומוגדלים: המסמך מתיר להשתמש בהם, אבל מחייב תיעוד מפורט של שיטת היצירה שלהם, השימוש בהם וביסוס התאמתם לייעוד. הקבילות תלויה גם בשיפוט הרגולטורי של כל מדינה.

   • הטיות: דרישה לטפל גם בתת-אוכלוסיות תת-מיוצגות (קבוצות אתניות, אוכלוסיות ילידיות וקהילות כפריות), לא רק בדמוגרפיה כללית.

   • מסלול הנתונים (Data Lineage): מעקב אחר מקור הנתונים, הטרנספורמציות שעברו, והתנועה שלהם לאורך כל מחזור החיים (היכן היו, מה עבר עליהם, לאן הלכו). זה הכלי שמאפשר לעקוב אחרי תקלות בביצועים חזרה לסיבת השורש שלהן.

3. בניית ועדכון מודל. הסעיף הקריטי ביותר למי שעובד עם מודלים מסחריים. ה-IMDRF מקדיש תשומת לב ספציפית ל-general-purpose and off-the-shelf models, כלומר LLMs, foundation models ומודלים גנרטיביים. המסמך מחיל עליהם את כל דרישות ה-SOUP שמוכרות מ-IEC 62304, ומוסיף שאלות ספציפיות: מה מקור הנתונים של המודל, מה אורך החיים הצפוי שלו, מה מחויבויות הספק לעדכונים, ומה הסיכון להזיות. עבור מודלים כאלה, גם כשמידע קיים על נתוני האימון, הנתונים לרוב לא מייצגים את אוכלוסיית המטופלים הספציפית שלכם. למידה בהעברה (transfer learning) וכוונון עדין (fine tuning) מוזכרים כאסטרטגיות לטיפול בפער הזה.

4. אימות ותיקוף (V&V). ה-IMDRF עושה הבחנה חשובה שכדאי לאמץ כשיטת עבודה: אימות ותיקוף של המודל עצמו לחוד, ואימות ותיקוף של המכשיר שמשלב אותו לחוד. בשלב הראשון בודקים שהמודל מכליל מעבר לנתוני האימון (אימות חיצוני). בשלב השני עושים הערכה קלינית של המכשיר השלם, כולל המשתמש, הזרימה הקלינית והגורמים האנושיים. בדיקת חדירה עוינת (Red Teaming) גם מוזכרת כאן, תהליך שבו מחפשים חולשות במודל באופן יזום לפני הפריסה.

5. פריסה. תוכניות שינוי מוגדרות מראש (PCCPs) מוזכרות במפורש. הן מאפשרות לרגולטורים לאשר מראש שינויים עתידיים צפויים במודל, כמו התאמה מקומית והתאמה אתרית, לאתרים ספציפיים. ה-FDA כבר מקבל PCCPs. הנוטיפייד בודי'ס באירופה עדיין לא הגדירו עמדה אחידה. בכל מקרה, הכנת מסגרת PCCP מראש מוסיפה בשלות לתהליך ומאפשרת תגובה מהירה יותר כשמגיעים לאישור.

6. תפעול וניטור. כאן ה-IMDRF עושה הבחנה בין שני דברים שנוטים להתבלבל. תפעול וניטור הוא ניטור שוטף: רישום, התראות וטיפול באירועים, פעילות אוטומטית מובנית במערכת ניהול האיכות. הערכת ביצועים בסביבה האמיתית הוא ניתוח מובנה שמנסה לענות על שאלות ספציפיות לגבי בטיחות ויעילות בשטח. בשפת EU MDR, זה מעקב קליני פוסט-מרקט (PMCF). עבור מודלים מסתגלים, הניטור נדרש להיות מורכב יותר: לא רק עוקבים אחרי ביצועים, אלא גם אחרי שינויים בלוגיקה העצמית של המודל. עבור מודלים גנרטיביים, ה-IMDRF ממליץ לעקוב אחרי שרשור הנחיות וניסיונות לעקוף מחסומי הגנה.

7. שקיפות ותיוג. דרישה לספק מידע שמספיק כדי שהמשתמש יוכל להעריך מתי לסמוך על המכשיר ומתי לא. זה כולל ביצועים בתת-קבוצות, תנאי האימון, מיגבלות מוכרות, ולמכשירים שמשתמשים במודלי מדף, גם מידע על המודל עצמו ומגבלותיו.

מה זה אומר בפועל

כמה מסקנות מהמסמך עבור אנשי איכות ורגולציה:

1. תכננו ניהול נתונים מוקדם. דרישות הנתונים של ה-IMDRF, מסלול הנתונים, מקור הנתונים, תיעוד נתונים סינתטיים, דורשות מבנה תוך כדי פיתוח, לא בדיעבד. אם אתם בשלב התכנון, זה הזמן לבנות את המסגרת.

2. אל תתייחסו לפיקוח אנושי כשאלת ממשק משתמש. ה-IMDRF מצפה שמומחיות קלינית תהיה שותפה בבחירת מאפיינים, בתיוג נתונים, ובניטור פוסט-מרקט. אם זה לא חלק מבקרות הדיזיין שלכם, כדאי לבחון.

3. מודלים מסחריים דורשים תיעוד ספציפי. אם המוצר שלכם משתמש ב-LLM או מודל בסיס, ה-IMDRF מצפה לניתוח SOUP, ביסוס הבחירה, מדיניות הספק, מגבלות וסיכון להזיות, ועוד. לא שונה מהותית מ-IEC 62304, אבל ה-AI מוסיף שכבות שדורשות תיעוד ייחודי.

4. שמרו רישומים מפורטים. ה-IMDRF מדגיש את חשיבות הרישום השוטף של תפוקות המודל, כולל, כשזמין, מידע על אילו גורמים השפיעו על כל החלטה. בבדיקות הדמיה רדיולוגית, למשל, זה יכול להיות הצגה חזותית של האזור בתמונה שהשפיע על הממצא. רישומים כאלה הם גם כלי ניהול סיכונים שוטף וגם תיעוד שרגולטורים יבקשו במקרה של תקרית.

5. הכינו PCCP גם אם הרגולטור שלכם לא מכיר את המונח. עצם קיומה של תוכנית שינוי מוגדרת מראש מוסיפה אמינות לתהליך ומאפשרת תגובה מהירה יותר.

מה עוד לא סופי

המסמך הוא טיוטה. ה-IMDRF מבקש הערות ציבוריות לפני הגרסה הסופית, ותאריך פרסום סופי לא הוכרז. ה-FDA guidance הסופי על AI-enabled devices גם עדיין בדרך, ויכול להגיע ב-2027.

ובינתיים, ה-state of the art בנושא AI במכשירים רפואיים נבנה עכשיו, בטיוטות ובמסמכים שעוד לא קיבלו חותמת סופית. יצרנים שמחכים לגרסה הסופית לפני שמתחילים יגלו שפספסו חצי מחזור פיתוח.