למה אסור לסמוך על AI לכתיבת דוקומנטציה רגולטורית בלי בדיקה

זה מאמר דעה, ואני מקדימה ואומרת את זה ישירות: AI הוא כלי מצוין לתמיכה בכתיבת דוקומנטציה רגולטורית.

הוא לא מחליף שיפוט מקצועי, ואם משתמשים בו בלי בדיקה, הוא יכול ליצור נזק אמיתי. לא נזק תיאורטי. נזק שמגיע לביקורת, לרגולטור, ולמטופל.

הנה למה, עם דוגמאות ספציפיות.

הבעיה הראשונה: הלוסינציות רגולטוריות

מודלי שפה גדולים מייצרים טקסט שנשמע נכון. זה הכוח שלהם. וזה גם הסיכון הגדול ביותר שלהם בהקשר רגולטורי.

ראיתי AI מצטט סעיפים שלא קיימים ב-ISO 13485. ראיתי ניסוח של "דרישה מה-FDA" שלא מופיעה באף CFR. ראיתי תיאור של MDCG guidance שהפנה לתוכן שגוי. בכל המקרים האלה, הטקסט נשמע משכנע, מקצועי, ומנוסח בשפה רגולטורית תקינה. מי שלא בדק מול המקור, לא היה מזהה את השגיאה.

זו לא תכונה שמשתפרת לחלוטין עם הזמן. אפילו המודלים המתקדמים ביותר עלולים לייצר מידע שגוי על רגולציות שעודכנו, על סעיפים ספציפיים, על דרישות מעבר.

הכלל: כל ציטוט רגולטורי שכותב AI חייב בדיקה מול המקור. ללא יוצא מהכלל.

הבעיה השנייה: הגנריות שנשמעת ספציפית

AI מצוין בייצור טקסט שנשמע ספציפי אבל הוא גנרי.

"הארגון יבצע הערכת סיכונים לפי ISO 14971 כדי לזהות סיכונים פוטנציאליים ולנקוט אמצעי מיתון מתאימים". זה משפט נכון. אבל הוא לא אומר כלום על הארגון הספציפי, על המוצר הספציפי, על הסיכונים הספציפיים.

דוקומנטציה רגולטורית שנכתבת ב-AI ללא הקשר ארגוני אמיתי יוצרת מסמכים שעוברים בדיקה שטחית אבל מתמוטטים במבדק מעמיק.

אודיטור מנוסה מבקש: "תראה לי כיצד אתה מיישם את תהליך ניהול הסיכונים על המוצר שלך".

אם התשובה מגיעה ממסמך גנרי, היא לא תחזיק.

הבעיה השלישית: שגיאות בסיווג ובדרישות תחת רגולציות ספציפיות

זו הבעיה הכי מסוכנת, ובמידה רבה גם הכי קשה לזהות. כשמבקשים מ-AI לתאר דרישות רגולטוריות ספציפיות, הפלט בדרך כלל מדויק ברובו.

הבעיה היא לא במה שכתוב בצורה שגויה בעליל, אלא בפרטים הקטנים: חריגה שמוצגת כדרישה גורפת, דרישה שחלה על קטגוריה אחת ומיוחסת לקטגוריה אחרת, שני מסמכים שמנוסחים בשפה דומה אבל אינם זהות בדרישותיהם ומוצגים כאילו הם כן.

הקושי המרכזי הוא שהשגיאות האלה לא נראות כשגיאות. הן נראות כמו טקסט רגולטורי תקין, מנוסח בשפה מקצועית, עם מספרי סעיפים ושמות מסמכים. מי שאינו מכיר את הרגולציה לעומק לא יזהה אותן. ולכן הסיכון הוא לא רק טכני, הוא ניהולי. ארגון שמסתמך על AI לכתיבת תיעוד רגולטורי בלי בדיקה עצמאית של איש מקצוע, עלול לבנות מסמכים שעוברים סקירה פנימית בהצלחה, אבל לא מחזיקים מים מול אודיטור מנוסה או נוטיפייד בודי.

הבעיה הרביעית: גרסאות ועדכונים

רגולציות ותקנים מתעדכנים. AI מאומן על נתונים עד תאריך ידוע, ואינו יודע על עדכונים שפורסמו אחריו.

בשנה האחרונה פורסמו: QMSR (עדכון מהותי ל-21CFR Part 820), שינויים ב-MDR Transitional Provisions, MDCG guidance חדשים, ומספר עדכוני FDA Guidance.

AI שנשאל על QMSR עשוי לענות על בסיס 21CFR Part 820 הישן, כי זה מה שהוא "יודע" טוב יותר.

ההבדלים ביניהם אינם זניחים.

אז מה כן נכון לעשות?

אני לא אומרת לא להשתמש ב-AI. אני משתמשת בו כל יום.

הנה הגבולות שאני עובדת לפיהם:

• מה מותר ל-AI לכתוב בלי בדיקה מאומתת: מבנה מסמך, ניסוח שפה ברור, עריכה לשונית, ניסוחים אלטרנטיביים לטקסט שכתבתי, תרגום ראשוני.

• מה אסור ש-AI יכתוב בלי בדיקה מלאה מול מקורות: כל סעיף שמתיימר לצטט דרישה רגולטורית, כל ניתוח פערים, כל הצהרה על עמידה בדרישות, כל תיאור של תהליך Conformity Assessment, כל הגשה רגולטורית.

כלל הברזל: אם המסמך הולך לרגולטור, לנוטיפייד בודי, לביקורת FDA, או להיות חלק מ-Technical Documentation, כל טענה רגולטורית נבדקת מול המקור.

AI עוזר לנו, הוא לא סמכות.

לסיום: אחריות מקצועית לא ניתנת להאצלה

בסוף, החתימה על דוקומנטציה רגולטורית היא שלך. לא של ה-AI. ורגולטורים, אודיטורים, ובתי משפט לא יקבלו "ה-AI כתב את זה" כהסבר לשגיאה.

AI הוא עוד כלי בארגז. כמו Excel, כמו תוכנה לניהול מערכת האיכות, כמו כל מסד נתונים שמסייע בעבודה.

שום כלי לא מחליף שיפוט מקצועי.

ובתחום שלנו, שיפוט מקצועי הוא לא רק יעיל. הוא הכרחי.