FDA ו-AI/ML - מה מצופה מיצרני מכשירים רפואיים

בינה מלאכותית ולמידת מכונה (AI/ML) חדרו לתוך מכשירים רפואיים בקצב שה-FDA לא ציפה לו לפני עשור. היום, מאות מכשירים המבוססים על אלגוריתמים כבר קיבלו אישור, ואלפים נוספים בדרך. השאלה שכל יצרן ויועץ חייבים לדעת לענות עליה היא: מה בדיוק מצפה ה-FDA ממכשיר שיש בו AI/ML?

התשובה מורכבת, כי ה-FDA עצמו עדיין בונה את המסגרת. אבל יש הרבה שכבר ברור, ויש מסמכים שחובה להכיר.

נקודת ההתחלה: האם ה-AI/ML הוא מכשיר רפואי?

לפני שמדברים על דרישות, צריך לקבוע האם ה-AI/ML בכלל מוסדר כ-Software as a Medical Device (SaMD). ה-FDA אימץ את הגדרת ה-IMDRF ל-SaMD: תוכנה שמיועדת לשמש למטרה רפואית, שרצה על פלטפורמה כלשהי, ואינה חלק ממכשיר חומרה.

לא כל תוכנה שמשתמשת ב-AI היא SaMD. תוכנה שמיועדת לניהול תיקים, לתזמון, לכיול ציוד, בדרך כלל אינה SaMD. אבל תוכנה שמנתחת תמונות CT ומציגה המלצה לאבחנה, שמנתחת גלי ECG ומזהה אנומליות, שמחשבת מינון תרופה על בסיס נתוני מטופל, אלה כמעט בוודאות SaMD, ואם יש בהן AI/ML, הן נכנסות לתחום ה-FDA.

הפניה הרלוונטית כאן היא IMDRF/SaMD N10, N12, שה-FDA אימץ רשמית.

מסגרת ה-FDA ל-AI/ML: מה פורסם עד היום

המסגרת הרגולטורית של ה-FDA בנושא AI/ML עברה עדכונים משמעותיים בשנתיים האחרונות. נכון לתחילת 2025, אלה המסמכים המרכזיים שכל יצרן צריך להכיר:

• Action Plan for AI/ML-Based Software as a Medical Device (ינואר 2021): נקודת הפתיחה של המסגרת. מסמך מדיניות שתיאר חמישה כיווני פעולה עיקריים. לא מחייב בפני עצמו, אבל כל המסמכים שהגיעו אחריו נובעים ממנו.

• Good Machine Learning Practice (GMLP) — 10 Guiding Principles (אוקטובר 2021): מסמך משותף של FDA, Health Canada ו-MHRA. מגדיר 10 עקרונות לפיתוח נכון של AI/ML למכשירים רפואיים. לא מחייב, אבל נמצא בבסיס של כל ביקורת FDA בתחום.

• PCCP Final Guidance (דצמבר 2024): המסמך מגדיר כיצד יצרן יכול לתאר מראש אילו שינויים באלגוריתם מותרים בלי Premarket Submission חדש.

• Transparency for Machine Learning-Enabled Medical Devices: Guiding Principles (יוני 2024): מסמך Guiding Principles משותף של FDA, Health Canada ו-MHRA העוסק בשקיפות מערכות AI/ML - כיצד מסבירים למשתמשים ולרגולטורים כיצד האלגוריתם עובד ומה מגבלותיו.

• AI/ML — Coordinated FDA Approach (מרץ 2024): מסמך תיאום פנימי של ה-FDA בין CDRH, CDER, CBER ו-OCP. מסמן שה-FDA מתייחס ל-AI לא רק כנושא של מכשירים רפואיים, אלא כנושא רוחבי לכלל מוצרי הבריאות.

• Draft Guidance: AI-Enabled Device Software Functions — Lifecycle Management and Marketing Submission Recommendations (ינואר 2025): זהו המסמך המקיף והחשוב ביותר שפורסם עד כה. הוא מחליף בפועל את ה-Draft Guidance משנת 2023 ומגדיר גישת Total Product Lifecycle (TPLC) לניהול מכשירי AI. הוא כולל המלצות מפורטות לגבי תוכן ההגשה: תיאור המודל, Data Lineage, מדדי ביצועים מחוברים ל-Intended Use, ניתוח Bias, Human-AI Workflow, ניטור לאחר שיווק, ו-PCCP אם רלוונטי. המסמך היה בתקופת הערות ציבוריות עד אפריל 2025, וצפוי להתפרסם כ-Final בהמשך 2026.

מה ה-FDA מצפה לראות בהגשה

הגשה של מכשיר עם רכיב AI/ML צריכה לכלול את המרכיבים הבאים:

תיאור האלגוריתם: ארכיטקטורה, סוג המודל, כיצד הוא פועל. לא נדרשת חשיפת קוד מקור, אבל נדרש תיאור מפורט של ה-intended use ביחס לאלגוריתם.

נתוני האימון והולידציה: מי הם? מאיפה הגיעו? כיצד הם מייצגים את אוכלוסיית היעד? ה-FDA שואל שאלות קשות על גיוון של נתוני האימון, כי אלגוריתם שאומן על אוכלוסייה מסוימת יכול להיכשל על אוכלוסיות אחרות.

מדדי ביצועים: Sensitivity, Specificity, AUC, ולפי הצורך, תת-ניתוח לאוכלוסיות שונות (גיל, מגדר, גזע). זה לא רק טכני, יש כאן מימד של Equity שה-FDA מייחס לו משקל גובר.

Human Factors: כיצד המשתמש מקבל את פלט האלגוריתם? האם הוא יכול לדחות אותו? מה קורה כשהמערכת לא בטוחה? ה-FDA רוצה לראות שהמכשיר מעצים את שיפוט הרופא, לא מחליף אותו בלי הגנות.

Transparency: האם המכשיר מסביר את ההחלטה שלו? Explainability הוא נושא שה-FDA מזכיר יותר ויותר, גם אם אין עדיין דרישה פורמלית.

PCCP: הכלי החשוב ביותר ל-Adaptive AI

אחת הבעיות המרכזיות של AI/ML הוא שהוא לא סטטי. אלגוריתם שלומד ממידע חדש, גם אם זו התכונה שמגדירה אותו, יוצר שאלה רגולטורית קשה: האם כל שינוי מצריך Premarket Submission חדש?

ה-FDA פיתח את מנגנון ה-PCCP לפתרון הבעיה הזאת. ה-PCCP מוגש כחלק מההגשה המקורית ומתאר:

ראשית, SaMD Pre-Specifications: אילו שינויים יקרו בעתיד (שיפור ביצועים, הרחבה לאוכלוסייה חדשה, שינוי במדדים).

שנית, Algorithm Change Protocol: בדיוק כיצד השינויים יבוצעו ויאומתו - אילו נתונים ישמשו, אילו בדיקות יבוצעו, מי יאשר.

אם ה-PCCP מאושר, שינויים שנופלים בתוכו לא מצריכים (k)510 חדש. זה שינוי משמעותי בגישה הרגולטורית.

QMSR ו-AI: מה זה אומר מבחינת מערכת האיכות

• בפברואר 2026 נכנס לתוקף ה-Quality Management System Regulation (QMSR), שמחליף את 21CFR Part 820 ומיישר קו עם ISO 13485:2016. עבור מכשירי AI/ML, יש מספר נקודות ספציפיות שחשוב להכיר:

• Design Controls: פיתוח AI/ML חייב לעבור תהליך בקרת תכן מלא. זה כולל Design Inputs (מה האלגוריתם צריך לעשות), Design Outputs (מה בפועל הוא עושה), Design Verification (האם הוא עובד כנדרש), ו-Design Validation (האם הוא עובד על אוכלוסיית היעד האמיתית).

• Software Lifecycle: ה-FDA מסתמך על IEC 62304 לניהול מחזור חיי התוכנה. כשיש AI/ML, נוסף לכך הצורך לנהל גם את מחזור חיי הנתונים: מאיפה הגיעו, כיצד תויגו, כיצד אוחסנו.

מה קורה כשה-AI נכשל: MDR Reporting

תחת 21CFR Part 803, אם מכשיר רפואי גרם לפגיעה או עלול לגרום לפגיעה, יש חובת דיווח ל-FDA. ה-AI/ML אינו יוצא מן הכלל. אם אלגוריתם אבחוני פספס ממצא קריטי וזה תרם לפגיעה במטופל, זה דורש Medical Device Reporting.

השאלה המורכבת יותר היא כשהכשל הוא סיסטמי: האלגוריתם נכשל שוב ושוב על אוכלוסייה מסוימת. ה-FDA מצפה שיצרנים יזהו כשלים כאלה מתוך תהליך ה-Post-Market Surveillance השוטף שלהם, ולא רק בעקבות אירוע.

המציאות בשטח: מה רואים בביקורות FDA

מניסיון של ביקורות FDA בתחום ה-AI/ML, הממצאים השכיחים ביותר הם: תיעוד לקוי של תהליך בחירת נתוני האימון, חוסר בסטטיסטיקות ביצועים על תת-אוכלוסיות, PCCP שלא מוגדר מספיק לפרטים, ו-Human Factors Study שלא ניתח כיצד רופאים מתייחסים לאי-ודאות האלגוריתם.

לסיום: AI/ML זה עדיין SaMD

כל כך קל להתלהב מהיכולות של AI ולשכוח שמדובר במכשיר רפואי לכל דבר. הדרישות של Design Control, Software Lifecycle, CAPA, MDR Reporting, הן לא אופציונליות רק כי האלגוריתם חכם. אולי בגלל שהוא חכם, צריך להיות עוד יותר קפדניים.

ה-FDA בונה את המסגרת תוך כדי תנועה, אבל הכיוון ברור: שקיפות, הוכחת ביצועים על אוכלוסיות מגוונות, תכנון מוקדם של שינויים, ויכולת PMS אמיתית. מי שמתחיל את פיתוח ה-AI/ML עם הגישה הזאת מראש, יגיע לביקורת ולהגשה ממקום הרבה יותר חזק.