شرکت OpenAI اعلام کرد که تعدادی از حسابهای کاربری مرتبط با چین را که از ChatGPT برای طراحی تبلیغات و پروژههای مربوط به ابزارهای رصد شبکههای اجتماعی استفاده میکردند، مسدود کرده است.
به گفته OpenAI، این حسابها از طریق VPN به ChatGPT متصل میشدند و گویا برای یک مشتری دولتی کار میکردند. ابزاری که آنها روی آن کار میکردند، به عنوان یک رصدکننده شبکههای اجتماعی توصیف شده است که به اپراتورها کمک میکند تا پلتفرمهایی مانند ایکس، فیسبوک، اینستاگرام، ردیت، تیکتاک و یوتوب را از نظر محتوای مرتبط با قومیت، مذهب یا سیاست پایش کنند.
اکانتهای مسدودشده ChatGPT احتمالاً به نهادی دولتی در چین وابسته بودهاند
OpenAI تاکید کرده است که حسابهای مسدود شده از مدلهای هوش مصنوعی این شرکت برای رصد شبکههای اجتماعی استفاده نکردهاند و این شرکت قادر نیست به طور مستقل تایید کند که آیا این ابزار واقعاً توسط نهادهای دولتی چین مورد استفاده قرار گرفته است یا خیر.
پیشنهاد مطالعه: قیمت هدست اپل ویژن پرو در بازار سیاه به ۵۰۰ میلیون تومان رسید
OpenAI همچنین یک حساب دیگر را مسدود کرده است که از ChatGPT برای تهیه پیشنهادی در مورد یک پروژه مرتبط با رصد تحرکات مسلمانان اویغور استفاده میکرد. گفته میشود این سیستم برای ردیابی جابهجایی اویغورها، تطبیق اطلاعات با سوابق پلیس و صدور هشدارهای زودهنگام بابت جابهجاییهای آنها طراحی شده بود.
گزارش منتشر شده توسط OpenAI همچنین جزئیات بیشتری درباره گروههای چینی، روسی و کرهای ارائه میدهد که ظاهراً در تلاش بودهاند از ChatGPT برای توسعه و بهبود بدافزارها از جمله تروجانهای دسترسی از راه دور، ابزارهای سرقت اطلاعات و نرمافزارهایی برای دورزدن فرایندهای شناسایی در سیستمها استفاده کنند.
پیشنهاد مطالعه: شگفتترین گجت دنیا؛ چرا همه دیوانه Rabbit R1 شدهاند
OpenAI همچنین شبکههای کلاهبرداری مستقر در کامبوج، میانمار و نیجریه را که سعی در سوءاستفاده از مدلهای این شرکت داشتند، شناسایی و مختل کرده است.