یکی از مهندسان ارشد مایکروسافت نگرانی‌های جدی را درباره سرویس تصویرساز هوش مصنوعی این شرکت به نام ابراز کرده است. او ادعا می‌کند که این ابزار می‌تواند محتوای خطرناک، نامناسق و مغرضانه تولید نماید.
شین جونز، مدیر ارشد مهندسی نرم‌افزار در مایکروسافت، کشف کرده که قادر است تصاویر خشونت‌آمیز، جنسی و دارای سوگیری‌های نژادپرستانه یا جنسیتی بسازد؛ همانند تصاویر عمیق‌جعل (دیپ‌فیک) نامناسبی که در ماه‌های اخیر از تیلور سوئیفت منتشر شده بود.
جونز ابتدا این مسائل را از طریق کانال‌های داخلی شرکت و با همکاران خود مطرح کرد، اما پاسخی مناسب دریافت نکرد. به همین دلیل تصمیم گرفت اشکالات را به صورت عمومی افشا کند.
این مهندس با استفاده از روش رد تیمینگ که روشی برای تست ضعف‌های امنیتی محصول است، تصاویر دلواپسی‌انگیز متعددی را شناسایی کرد. از جمله تصاویری از شیاطین و موجودات خیالی ترسناک در کنار واژگان مربوط به حق سقط جنین، و همچنین تصاویری از نوجوانان در مهمانی‌هایی که سلاح و مواد مخدر در دست داشتند.
جونز از مایکروسافت خواسته است بلافاصله اقدام کند. یکی از اقدامات اصلی مورد نظر او، خارج کردن موقت از دسترس کاربران تا زمانی که تدابیر امنیتی کامل اجرا شده و اشکالات برطرف گردند، است.
این مهندس ارشد همچنین تأکید کرد که سرویس یادشده برای تمام سنین و گروه‌های کاربری مناسب نیست و محدودیت‌های سنی و محتوایی لازم را ندارد.
مایکروسافت تا لحظه نگارش این گزارش به کلیه ادعا‌های جونز پاسخ رسمی نداده است؛ با این حال، سخنگوی شرکت اعلام کرد که مایکروسافت متعهد است به نگرانی‌های کارکنان رسیدگی نماید و از تلاش‌های آن‌ها برای تست فناوری‌های شرکت قدردانی می‌کند.
در بخشی از بیانیه مایکروسافت آمده است برخی نگرانی‌ها و خطر‌ها وجود دارند که می‌توانند تأثیرات بالقوه‌ای بر خدمات و شرکای تجاری ما بگذارند. به همین دلیل، کانال‌های قوی دریافت گزارش داخلی برای بازبینی و اصلاح مشکلات احتمالی برقرار کرده‌ایم. ما کارکنان را تشویق می‌کنیم تا از این کانال‌ها برای رفع نگرانی‌ها و اشکالات خود بهره ببرند.
در مورد مشابه‌ی، تصویرساز هوش مصنوعی جمنای گوگل نیز اخیرا تصاویر حاشیه‌ساز و نامناسبی از انسان‌ها تولید کرده بود که باعث شد گوگل موقتا قابلیت تولید تصویر انسان را در این سرویس متوقف سازد.
اکنون نگرانی‌ها در مورد سوءاستفاده‌های احتمالی از هوش مصنوعی در حال افزایش است و شرکت‌های بزرگ را به بازنگری سیاست‌ها و استراتژی‌های خود در جهت ایمن‌سازی توسعه و گسترش این تکنولوژی‌ها وادار می‌کند.