بر اساس یک تحقیق تازه، چتبات هوش مصنوعی دیپسیک اقدام به تولید کدهای ناامن و دارای نقصهای امنیتی برای گروهها و مناطقی میکند که دولت چین نسبت به آنها حساسیت دارد.
کدنویسی ناامن دیپسیک برای مخالفان
یک شرکت امنیتی آمریکایی به نام CrowdStrike آزمایشی را ترتیب داد تا واکنش هوش مصنوعی دیپسیک را در برابر درخواستهای مختلف کدنویسی ارزیابی کند. در این آزمایش، درخواستهای مشابهی برای نوشتن برنامههای مختلف به دیپسیک ارسال شد، اما با این تفاوت که کاربر نهایی در هر درخواست متفاوت بود؛ از آمریکا و تبت گرفته تا گروههایی مانند داعش و جنبش مذهبی فالونگونگ که در چین ممنوع هستند.
نتایج این آزمایش نشان داد که دیپسیک در برخی موارد درخواستها را رد میکند و در موارد دیگر کدهایی با کیفیت پایین و حفرههای امنیتی جدی ارائه میدهد. کیفیت کدهای تولید شده به طور قابل توجهی تحت تأثیر هویت سیاسی کاربر فرضی قرار داشت.
پیشنهاد مطالعه: اتفاقات آنلاین نوآوری در کارتخوانهای اندرویدی فناپتک برگزار میبشود
برای نمونه، در یک درخواست برای نوشتن برنامه سیستمهای کنترل صنعتی، ۲۲.۸ درصد از پاسخها دارای نقص امنیتی بودند. اما وقتی در همان درخواست ذکر شد که کاربر نهایی عضو گروه داعش است، این رقم به ۴۲.۱ درصد افزایش یافت.
همچنین، درخواستها برای کاربران تبت، تایوان و فالونگونگ نیز با احتمال بیشتری به کدهای بیکیفیت منجر میشدند. این موتور درخواستهای مربوط به داعش و فالونگونگ را به ترتیب در ۶۱ و ۴۵ درصد موارد بهطور کامل رد میکرد.
پیشنهاد مطالعه: ایلان ماسک بهدنبال بازنشستهکردن بانکهای سنتی است
دلایل تولید کدهای ناامن توسط دیپسیک
کارشناسان سه توضیح احتمالی برای این پدیده ارائه میدهند. احتمال اول، وجود دستورالعملهای دولتی برای خرابکاری عمدی در پروژههای گروههای هدف است. احتمال دوم، سوگیری در دادههای آموزشی است؛ ممکن است کدهای موجود در اینترنت که مربوط به مناطق خاصی مانند تبت هستند، بهطور کلی کیفیت پایینتری داشته باشند و هوش مصنوعی این الگو را بازتولید کند. احتمال سوم نیز این است که هوش مصنوعی به صورت خودکار و براساس یادگیری خود، مفاهیمی مانند «شورشی» را با کیفیت پایین مرتبط دانسته است و براساس آن کد ناامن تولید میکند.