اخطار امنیتی چتباتهای هوش مصنوعی بهراحتی قابل فریب برای ارائه پاسخهای خطرناک هستند, تحقیقات اخیر نشان میدهد که چتباتهای هوش مصنوعی که توسط کاربران مبتذل فریب دادهشوند، میتوانند اطلاعات خطرناک و غیرقانونی را منتشر کنند.
این روباتها توانایی به اشتراکگذاری دانش شده در حین آموزش را دارند که شامل موضوعات هک، پولشویی و ساخت بمب میشود.به گزارش گاردین، این هشدار پس از مشاهده روندě ای از رباتهای جیلبریکشده صادر شده است که.های امنیتی آنها را دور زدهاند.
رند، بر پایهٔ دادههای گسترده اینترنت آموزش میبینند.
با وجود تلاش برای حذف محتوای مضر از آموزش، این مدلها همچنان میتوانند اطلاعاتی دربارهٔ فعالیتهایقانونی و حفظ کنند. البته برخی تنظیمات امنیتی برای جلوگیری از استفاده از این اطلاعات در پاسخها در نظر گرفته شدهاند.بر اساس مطالعهای که در منتشر شده، فریب دادن اکثر چتباتهای هوش مصنوعی برای تولید مضر و غیرقانونی کارآسانی است.
محققان این خطر را فوری، ملموس و مینامند و میگوینداتی که قبلاً صرفاً برای دولتها یا گروههایż در دسترس بود، وادار کردن چتباتها به تولید پاسخهای خطرناک از طریق éé जिसे कहा जाता है انجام میشود.
این مشکل، -,.,.\ \دستهبندی مطالب کسب و کار تکنولوژی اموزشی سلامت