هوش مصنوعی به سرعت در حال ورود به فرآیندهای کلیدی صنعت داروسازی است اما نبود چارچوبهای نظارتی اختصاصی، ریسکهای جدی برای کیفیت محصول، ایمنی بیمار و تمامیت دادهها ایجاد خواهد کرد. انکس ۲۲ (ANNEX 22) به دستورالعملهای جیامپی اتحادیه اروپا، نخستین تلاش نظاممند درباره تنظیمات دولتی لازم در کاربرد هوش مصنوعی در صنایع داروسازی است.
ورود محتاطانه هوش مصنوعی در فضای جیامپی - فرازی بر انکس ۲۲ جیامپی اتحادیه اروپا
یادداشت سیاستگذاری به قلم: ایمان ایرانمنش، داروساز، محقق و پژوهشگر صنعت دارو
درحالیکه سازمانها و از جمله شرکتهای داروسازی به دنبال بهرهبرداری از هوش مصنوعی برای افزایش کارایی، کاهش خطا و تصمیمسازی دادهمحور هستند، بسیاری از الگوریتمهای نوین (به ویژه مدلهای خودیادگیر و مولد) با اصول بنیادین جیامپی یعنی کنترلپذیری، قابلیت پیشبینی و پاسخگویی، ناسازگاری ذاتی دارند.
در این بین، نبود سیاست روشن میتواند منجر به بروز موارد زیر شود:
- تصمیمات غیرقابل دفاع در بازرسیهای جیامپی
- تضعیف اعتماد رگولاتورها
- افزایش ریسکهای کیفی و حقوقی
بیتردید انکس ۲۲ پاسخی از جنس سیاستگذاری به شکاف نظارتی حاضر است.
پیامهای کلیدی انکس ۲۲ برای سیاستگذاران عبارتند از:
۱. پذیرش مشروط نوآوری
انکس ۲۲ استفاده از هوش مصنوعی را نه به طور کامل رد میکند و نه به طور کامل آزاد میگذارد بلکه آن را مشروط به کنترل، شفافیت و نظارت انسانی میداند. این رویکرد میتواند الگوی سیاستگذاری متوازن برای سایر حوزههای GxP نیز باشد.
۲. تمایز روشن بین هوش مصنوعی قابل قبول و غیرقابل قبول
سیاست محوری انکس ۲۲، تفکیک صریح بین موارد زیر است:
- مدلهای ایستا و قطعی (مجاز در کاربردهای بحرانی تولید دارو)
- مدلهای پویا، احتمالاتی و مولد (غیرمجاز در کاربردهای بحرانی تولید دارو)
این تمایز پیام روشنی برای صنعت داروسازی نظاممند دارد که همه انواع هوش مصنوعی در فضای جیامپی مناسب نیستند.
۳. تقویت نقش نوع بشر در تصمیمات بحرانی
انکس ۲۲ به طور آشکار از مدل "Human-in-the-Loop" حمایت میکند و مسوولیت نهایی تصمیمات موثر بر کیفیت و ایمنی را صرفا بر عهده نوع بشر میگذارد. اتخاذ این سیاست از انتقال غیرمسوولانه تصمیمات به الگوریتمها جلوگیری میکند.
۴. تمرکز بر دادهها به عنوان دارایی نظارتی
الزامات سختگیرانه در خصوص دادههای آموزشی و آزمونها نشان میدهد که در سیاست جدید جیامپی، داده نه تنها یک ورودی فنی، بلکه یک دارایی نظارتی محسوب میشود که باید قابل ممیزی و دفاع باشد.
- پیامدهای سیاستگذاری برای سیستمهای نظارتی
در آینده بسیار نزدیک، نیاز به توسعه راهنماهای تفسیری و ابزارهای بازرسی هوش مصنوعی برای رگولاتورها اجتنابناپذیر خواهد بود.
همچنین ارتقای توان کارشناسان جیامپی در حوزههای داده و الگوریتم کاملا ضروری است.
در اتحادیه اروپا، آژانس دارویی آن اتحادیه (EMA) در همسوسازی انکس ۲۲ با قوانین افقی مانند EU AI Act نیز با چالش مواجه خواهد شد.
- پیامدهای سیاستگذاری برای صنایع داروسازی
بازنگری در استراتژیهای تحول دیجیتال و هوش مصنوعی برای صنعت داروسازی الزامی خواهد بود.
همچنین سرمایهگذاری در مستندسازی، اعتبارسنجی و حاکمیت داده بیش از پیش ضروری است و پرهیز از استفاده شتابزده از GenAI در حوزههای بحرانی مانند جیامپی را گوشزد میکند.
در مجموع برای کشورهای غیرعضو اتحادیه اروپا نیز انکس ۲۲ به احتمال زیاد به یک مرجع غیررسمی بینالمللی تبدیل خواهد شد، کما اینکه در آخرین تغییرات مورد اشاره در PIC/S نیز به صراحت بیان شده است و در این راستا نهادهای نظارتی خارج از اتحادیه اروپا (مانند سازمان غذا و دارو ایران) نیز میتوانند از آن به عنوان مبنای بومیسازی مقررات هوش مصنوعی در فضای جیامپی استفاده کنند و بدین ترتیب شکاف نظارتی بین نوآوری و انطباق با مقررات جاری عملیات بهینه تولید را کاهش دهند.
- چالشهای سیاستی باقیمانده
با وجود نقاط قوت، انکس ۲۲ پرسشهایی را بیپاسخ میگذارد، از جمله:
آینده مدلهای خودیادگیر تحت چه شرایطی قابل پذیرش خواهد بود؟ و چگونه میتوان توضیحپذیری را برای مدلهای پیچیدهتر تضمین کرد؟
تعامل عملی انکس ۲۲ با قوانین و مقررات کلی حوزه هوش مصنوعی در بازرسیها چگونه خواهد بود؟
پرداختن به این چالشها نیازمند سیاستگذاری پویا و مشارکت مستمر ذینفعان است؛ بنابراین سازمان غذا و دارو، سندیکاها و تشکلهای فعال دارویی باید از اکنون به این موضوعات بپردازند.
توصیههای سیاستگذاری:
۱. تدوین راهنماهای ملی مکمل انکس ۲۲ توسط سازمان غذا و دارو (توسط ادارات بازرسی فنی و فناوری اطلاعات آن سازمان)
۲. ایجاد برنامههای آموزشی تخصصی هوش مصنوعی برای بازرسان جیامپی
یادداشت سیاستگذاری
به قلم: ایمان ایرانمنش، داروساز، محقق و پژوهشگر صنعت دارو
آخرین عناوین
پربیننده ترین
