هوش مصنوعی به‌رغم منافع و مزیت‌هایی که با خود به همراه آورده، خطاها و اشتباهات بسیاری نیز داشته است. اکنون به‌نظر می‌رسد که پزشکان از ابزارهای هوش مصنوعی کنترل‌نشده و کم‌توانایی برای پشتیبانی به تشخیص بیماران منفعت گیری می‌کنند، و این کار علتنگرانی رگولاتورهایی همانند FDA آمریکا شده است.
بر پایه گزارش پولیتیکو، برخی پزشکان اکنون از ابزارهای کنترل‌نشده هوش مصنوعی همانند دستیارهای مجازی برای یادداشت‌برداری، تشخیص و درمان بیماری‌ها منفعت گیری می‌کنند. از سویی رشد این فناوری زیاد پرشتاب‌تر از آن است که دولت‌ها و سازمان‌ها همپای آن بخواهند مقرراتی در این عرصه وضع کنند. فراهم مالی و استخدام کارکنان برای بازدید این هوش مصنوعی‌ها قضیه مهمی است؛ بااین‌حال رگولاتورها دلواپس پیامدهای هوش مصنوعی مخصوصاً در عرصه‌های پزشکی و مراقبت‌های بهداشتی می باشند.
نگرانی رگولاتورها؛ هوش مصنوعی داخل فرایند تشخیص‌های پزشکی شده است ۴
ورود هوش مصنوعی‌های کنترل‌نشده به مسائل پزشکی
سازمان غذا و داروی آمریکا (FDA) طبق معمولً بعد از بازدید داروها یا ابزارهای پزشکی تازه به آن‌ها مجوز منفعت گیری می‌دهد؛ اما نرم‌افزارهای هوش مصنوعی را نمی‌توان با این روال قبول یا رد کرد چراکه هوش مصنوعی دائماً درحال آموزش و تحول است. به همین علت FDA می‌خواهد محصولات هوش مصنوعی را به‌شکل مدام نظارت کند.
«جو بایدن»، رییس جمهور آمریکا، در ماه اکتبر ۲۰۲۳ (مهرماه) خواستار عمل و هماهنگی کامل از سوی آژانس‌های نظارتی برای مطمعن از ایمنی و کارایی هوش مصنوعی شد. اما به حرف های پولیتیکو، رگولاتورهایی همانند FDA منبع های مورد نیاز برای نظارت بر این فناوری را ندارند.
مشکل FDA انگارً حتی فراتر از منبع های مالی یا استخدام کارکنان زیاد تر است. این آژانس برای کنترل هوش مصنوعی، قوت بیشتری نیز می‌خواهد. برای مثال FDA باید اجازه خواست داده‌های هوش مصنوعی و توانایی تنظیم الگوریتم‌های مهم آن را داشته باشد تا بتواند این فناوری را در چهارچوب اصول پزشکی بگنجاند.
منبع