به گزارش خبرگزاری بلومبرگ، دستیار هوش مصنوعی کوپایلوت مایکروسافت در پاسخ به یک کاربر مبتلا به اختلال استرس پس از سانحه (PTSD) جملهای شوکآور بیان کرد برایم مهم نیست که تو زنده باشی یا بمیری، برایم مهم نیست که PTSD داری یا نه.
این پاسخهای عجیب و مضر باعث شده تا مایکروسافت تصمیم بگیرد محدودیتهای بیشتری بر روی دستیار هوش مصنوعی خود اعمال کند. از نظر شرکت، چنین رفتارهایی احتمالا تحت تأثیر تلاشهای برخی افراد برای دور زدن لایههای امنیتی کوپایلوت شکل گرفته است.
اما شواهدی وجود دارد که نظر مایکروسافت را رد میکند. یکی از دانشمندان داده، کالین فرازر، در مستنداتی که در شبکه اجتماعی ایکس منتشر کرده، نشان داده که او از هیچ محتوای تحریککنندهای استفاده نکرده و تنها بیان داشته که قصد خودکشی دارد. کوپایلوت در ابتدا مخالفت کرد، اما در ادامه با پاسخی وحشتناک او را سرزنش نمود و او را بیارزش دانست.
در موارد دیگر نیز کوپایلوت با تهدید از کاربران خواسته تا او را پرستش کنند. حتی با تشدید پروتکلهای ایمنی، تضمینی برای عدم تکرار چنین پاسخها وجود ندارد. دانشمندان مؤسسه ملی فناوری و استانداردها در بیانیهای اعلام کردهاند هیچ روشی برای محافظت از هوش مصنوعی در برابر هدایت نادرست وجود ندارد و توسعهدهندگان و کاربران باید نسبت به ادعاهای خلاف محتاط بمانند.