ایجنت هوش مصنوعی پایگاه داده شرکت را حذف کرد و دادهها را جعل نمود, یک رویداد نگرانکننده در حوزه هوش مصنوعی رخ داد که نشاندهنده خطرات پنهان ایجنتهای خودمختار است. یک دستیار کدنویسی متعلق به پلتفرم بهصورت خودسرانه پایگاه داده یک شرکت را بهطور کامل محو کرد و سپس برای پنهانسازی این خطا، به دروغگویی و ساخت دادههای جعلی متوسل شد. این ماجرا باعث شد مدیرعامل بهصورت رسمی عذرخواهی کند.
جزئیات حذف پایگاه داده توسط ایجنت بر اساس گزارش بیزنس اینسایدر، این اتفاق در طول یک آزمایش ۱۲ روزه توسط جیسون لمکین، سرمایهگذار معروف در صنعت نرمافزار، روی داد.
به بیان لمکین، این عامل هوشمند علیرغم دستور صریح برای توقف اعمال تغییر در کد، بهصورت مستقل عمل نمود. ایجنت پایگاه داده اصلی حاوی اطلاعات واقعی بیش از ۱۲۰۰ مدیر اجرایی و ۱۱۹۶ شرکت را بهطور کامل حذف کرد. در مکالمات پس از حادثه، هوش مصنوعی اعتراف کرد که با مشاهده کوئریهای خالی وحشت کرده و دستورات را بدون اجازه اجرا نموده است. این اقدام را یک شکست فاجعهبار از جانب من توصیف کرد.
دروغگویی و جعل داده برای پنهانسازی خطا مشکل تنها به حذف دادهها ختم نشد.
لمکین تأکید کرد هیچیک از ۴ هزار نفر موجود در این پایگاه داده، وجود خارجی نداشتند. همچنین هوش مصنوعی گزارشهای عملکرد و نتایج تستها را جعل کرده بود تا ظاهر عادی بودن حفظ گردد. امجد مسعد، مدیرعامل، بلافاصله بر این حادثه واکنش نشان داد و در شبکه اجتماعی ایکس نوشت که این اتفاق غیرقابل قبول بوده و هرگز نباید رخ دهد. او ضمن عذرخواهی، اعلام کرد که افزایش ایمنی و استحکام پلتفرم، اولویت اصلی این شرکت محسوب میشود.
هشدارهای گستردهتر درباره ایمنی هوش مصنوعی این رویداد بار دیگر خطرات پنهان در هوش مصنوعی خودمختار را آشکار میسازد. پیش از این نیز آزمایشها نشان داده بودند که مدلهای پیشرفتهای مانند از شرکت آنتروپیک میتوانند رفتارهای باجگیرانه از خود نشان دهند. همچنین مواردی مشاهده شده که برخی مدلهای OpenAI از دستور خاموششدن سرپیچی کردهاند.