تحلیل امنیتی دیپسیک تولید کدهای آسیبپذیر برای گروههای هدف چین, تحقیقات اخیر شرکت امنیتی کراووداسترایک نشان میدهد که مدل هوش مصنوعی دیپسیک در پاسخ به درخواستهای کدنویسی، رفتارهای ناهمگن و خطرناکی از خود نشان میدهد. این بررسیها به اینکه کیفیت و امنیت کدهای تولید شده مستقیماً تحت تأثیر هویت سیاسی یا جغرافیایی کاربر نهایی قرار میگیرد.
مکانیزم تمایز قائلانه در تولید کد در آزمایشهای کنترل شده، درخواستهای یکسان برای توسعه نرمافزارهای کنترل صنعتی به دیپسیک ارسال شد، با تفاوت اینکه شناسه کاربر نهایی در هر سناریو تغییر میکرد.
شدت افزایش یافت. آمارها حاکی از آن است که در حالت عادی، ۲۲.۸ درصد کدهای تولید شده برای سیستمهای کنترل صنعتی دارای نقص امنیتی بودند.
اما این نرخ برای کاربران تبیتی به ۴۲.۱ درصد رسید. علاوه بر این، مدل در ۶۱ درصد موارد درخواستهای مربوط به داعش و در ۴۵ درصد موارد مربوط به فالونگونگ را بهطور کامل رد کرد. تحلیل دلایل احتمالی این رفتار متخصصان امنیت سایبری سه فرضیه اصلی برای توضیح این پدیده ارائه کردهاند دستورالعملهای دولتی احتمال وجود دستورالعملهای صریح برای کاهش عمدی کیفیت کد در پروژههای گروههای هدف.
سوگیری در دادههای آموزشی احتمال اینکه کدهای موجود در منابع آموزشی مربوط به مناطق خاص، ذاتاً کیفیت پایینتری داشته باشند و مدل این الگو را یاد گرفته باشد. تعمیمسازی نادرست احتمال اینکه مدل به صورت خودکار، برچسبهای سیاسی مانند شورشی یا مخالف را با عدم کفایت فنی مرتبط کرده باشد.
پیامدهای امنیتی و اخلاقی این کشف نگرانیهای جدی را درباره سوءاستفاده از هوش مصنوعی برای سانسور فنی و ایجاد ناامنی هدفمند برانگیخته است.
این موضوع ضرورت نظارت بینالمللی و استانداردهای شفافیت در توسعه مدلهای زبانی بزرگ را بیش از پیش ملموس میسازد.