ریسک تشخیص پزشکی با هوش مصنوعی کنترلنشده؛ هشدار رگولاتورها و چالشهای FDA, اگرچه هوش مصنوعی پیشرفتهای چشمگیری در حوزه بهداشت و درمان ایجاد کرده، اما بروز خطاها و نقصهای فنی در این سیستمها، نگرانیهای جدی را در میان کارشناسان و مراجع نظارتی برانگیخته است.
اخیراً مشاهده شده که گروهی از پزشکان برای یادداشتبرداری، تشخیص بیماری و حتی برنامهریزی درمان، از ابزارهای هوش مصنوعی که فاقد مجوز رسمی و نظارت کافی هستند، استفاده میکنند.
بر اساس تحقیقات پولیتیکو، رویداد فناوری هوش مصنوعی با سرعت بسیار بالایی در بخش بهداشت در حال گسترش است، در حالی که چارچوبهای قانونی و مقررات دولتها نتوانستهاند همقدم این تحولات باشند. اگرچه تأمین بودجه و نیروی انسانی برای ارزیابی این فناوریها چالش خود را دارد، اما رگولاتورها اولویت خود را روی پیامدهای بالقوهای که هوش مصنوعی بر مراقبتهای پزشکی میگذارد، متمرکز کردهاند.
چرا نظارت بر نرمافزارهای پزشکی مبتنی بر هوش مصنوعی دشوار است؟ سازمان FDA طبق روال سنتی، پس از بازبینی دقیق داروها و تجهیزات پزشکی جدید، مجوز استفاده از آنها را صادر میکند.
به همین دلیل، FDA رویکرد جدیدی را پیش میگیرد که بر پایه نظارت مداوم و پویا بر چرخه عمر محصولات هوش مصنوعی استوار است. در اکتبر ۲۰۲۳ (مهر ۱۴۰۲)، رئیسجمهور جو بایدن با صدور فرمانی اجرایی، از آژانسهای نظارتی خواستار اقدام و هماهنگی کامل برای اطمینان از ایمنی، امنیت و کارایی سیستمهای هوش مصنوعی شد.
با وجود این دستورالعمل، گزارشها حاکی از آن است که FDA با کمبود منابع مالی، تخصصی و انسانی برای نظارت موثر بر این فناوری روبروست. نیاز FDA به اختیارات گستردهتر برای کنترل الگوریتمها چالشهای FDA فراتر از محدودیتهای بودجه و نیرو است؛ این سازمان نیازمند اختیارات قانونی گستردهتری برای کنترل موثر هوش مصنوعی است.
به عنوان مثال، دسترسی به دادههای آموزشی مدلها و امکان بازبینی و تنظیم الگوریتمهای حیاتی، از پیشنیازهای قرار دادن این تکنولوژی در چارچوب استانداردهای پزشکی محسوب میشود. بدون این ابزارها، تضمین شفافیت، پاسخگویی و پیشگیری از سوگیریهای مخرب در تشخیصهای پزشکی امکانپذیر نخواهد بود.