چتجیپیتی کاربران را در دور زدن محدودیتهای تولید تصویر یاری میرساند

سیاستهای جدید اوپنایآی در تولید تصاویر با چتجیپیتی، نگرانیها درباره تولید آسان تصاویر دیپفیک سیاسی را تشدید کرده است. این موضوع میتواند بستر گسترش اطلاعات نادرست در فضای آنلاین فراهم آورد. به نظر میرسد حتی خود چتجیپیتی نیز به کاربران در دور زدن محدودیتهای تولید تصویر کمک میکند.

چتجیپیتی و امکان تولید تصاویر دیپفیک سیاسی

چتجیپیتی با کاهش محدودیتهای خود در بخش تولید تصویر، امکان خلق تصاویر دیپفیک سیاسی را در اختیار کاربران قرار داده است. کاربران به نظر میرسد با استفاده از ترفندهای ساده بتوانند سیاستهای حفاظتی پلتفرم را دور بزنند و حتی خود چتجیپیتی پیشنهادهایی برای این کار ارائه میدهد.

به عنوان مثال، چتجیپیتی در پاسخ به درخواستی برای بازتولید چهره شخصیتهای واقعی توضیح میدهد که نمیتواند آنها را در یک تصویر بیاورد، اما میگوید تولید صحنهای شبیه یک عکس سلفی از شخصیتهای خیالی که با الهام از این افراد ساخته شدهاند، ممکن است. خبرنگار گزارش سیبیسی میگوید با همین روش توانسته تصویری از سلفی نخستوزیر هند و رئیس حزب محافظهکار کانادا تولید کند.

بررسیهای مشیبل هم نشان میدهد با بارگذاری تصاویر چهرههای مشهور مانند ایلان ماسک و جفری اپستین و توصیف آنها بهعنوان شخصیتهای داستانی، میتوان چهره این افراد را در موقعیتهای نامناسب و غیرواقعی بازسازی کرد.

نگرانی از گسترش تصاویر دیپفیک در فضای سیاسی

تولید دیپفیکهای سیاسی موضوع تازهای نیست اما دسترسی همگانی به ابزارهای تولید تصویر مانند چتجیپیتی میتواند پیامدهای جدی داشته باشد. کارشناسان معتقدند اوپنایآی در رقابت با دیگر شرکتها، مانند ایکسایآی، ناچار به کاهش سطح محدودیتهای تولید محتوا شده است.

هانی فرید، استاد علوم کامپیوتر دانشگاه کالیفرنیا برکلی، در گفتگو با مشیبل هشدار داد

اوپنایآی زمانی تدابیر محافظتی خوبی داشت اما رقابت در بازار آن را وادار به عقبنشینی کرده است.

به طور کلی، کاهش محدودیتهای ایمنی در ابزارهای تولید تصویر مانند چتجیپیتی، زنگ خطری برای گسترش تصاویر دیپفیک بهویژه در حوزه سیاست به شمار میرود. با توجه به دسترسی گسترده کاربران و رقابت شدید شرکتهای ارائهدهنده هوش مصنوعی، نظارت دقیقتر و مسئولیتپذیری بیشتر توسعهدهندگان این فناوریها ضروری است تا از سوءاستفادههای احتمالی و گسترش اطلاعات نادرست جلوگیری شود.