یکی از مهندسان مایکروسافت نگرانی‌هایی جدی را درمورد‌ی سرویس تصویرساز هوش مصنوعی این شرکت نقل کرده است. او ادعا می‌کند که هوش مصنوعی یادشده می‌تواند محتوای خطرناک و نامناسبی تشکیل کند.
شین جونز، مدیر ارشد مهندسی نرم‌افزار در مایکروسافت، کشف کرده است که Copilot Designer می‌تواند تصاویر خشونت‌آمیز و جنسی و مغرضانه‌ای را تشکیل کند؛ همانند عکس نامناسبی که در چند زمان تازه از تیلور سوئیفت تشکیل و انتشار شده می بود.
جونز این نوشته را ابتدا در داخل شرکت و با همکارانش نقل کرد؛ اما با جواب مناسبی رو‌به‌رو نشد. به این علت، اکنون تصمیم گرفته است که اشکالات را به‌صورت عمومی اظهار کند.
جونز این اشکالات را از‌طریق روش Red Teaming (راهکاری برای آزمایش ضعف‌های محصول) شناسایی کرده است. او گزارش کرد که با تصاویر دلواپس‌کننده‌ای روبه رو شده است؛ از‌جمله تصاویری از شیاطین و موجودات خیالی ترسناکی درکنار واژگان مربوط به حق سقط جنین و تصاویری از نوجوانان در مهمانی‌ها با سلاح و مواد مخدر.
جونز از مایکروسافت خواسته است که فوراً عمل کند. یکی از عمل های مهم مورد نظر جونز خارج‌شدن موقتی دیزاینر از دسترس کاربران است. او می‌خواهد این سرویس بعد از اجرای کامل تدبیرها امنیتی ملزوم و از بین بردن اشکالات ذکرشده، باردیگر دردسترس کاربران قرار گیرد.
این چنین، شین جونز افشاگری‌هایی درمورد‌ی محدودیت‌های Copilot Designer انجام داد. او می‌گوید که سرویس یادشده برای همه سنین و افراد مناسب نیست.
مایکروسافت تا این مدت به همه ادعاهای جونز در‌این‌باره جواب نداده است؛ با‌این‌حال، سخن‌گوی این شرکت او گفت که مایکروسافت خود را درقبال رسیدگی به نگرانی‌های کارکنانش متعهد می‌داند و قدردان کوششهای آن‌ها برای آزمایش فناوری‌های شرکت است.
در بخشی از بیانیه‌ی مایکروسافت آمده است: «برخی نگرانی‌ها و خطرها وجود دارند که می‌توانند تأثیرات بالقوه‌ای بر خدمات و شرکای تجاری ما بگذارند. به این علت، کانال‌های دریافت گزارش داخلی قوی برای بازدید و اصلاح مشکلات احتمالی تشکیل کرده‌ایم. ما کارکنان را تشویق می‌کنیم تا از آن‌ها برای رفع‌شدن نگرانی‌ها و اشکال‌های مدنظرشان منفعت گیری کنند.»
تصویرساز هوش مصنوعی جمنای گوگل نیز اخیراً در اتفاقی شبیه، تصاویری پرحاشیه را ساخته می بود. این نوشته علتشد تا گوگل تشکیل عکس انسان با این هوش مصنوعی را متوقف کند.
این روزها نگرانی‌ها درمورد‌ی این‌گونه سوءاستفاده‌ها از هوش مصنوعی در حال افزایش است و بعضی اوقات شرکت‌ها را به تحول سیاست‌ها و راهبردهایشان ناچار می‌کند. باید چشم به راه ماند و دید شرکت‌های بزرگ دنیا چه اقداماتی برای ایمن‌سازی گسترش و پیشرفت هوش مصنوعی خواهند کرد.
منبع