متا دستورالعملهای سختگیرانهتر برای چتباتهای هوش مصنوعی تدوین کرد تا کودکان را در برابر محتوای نامناسب مصون دارد, شرکت متا مجموعهای از محدودیتهای جدید را برای چتباتهای مبتنی بر هوش مصنوعی خود اعمال کرده است تا لایه امنیتی قویتری در برابر تعاملات احتمالی خطرناک با کاربران خردسال فراهم آورد. این بروزرسانیها مرزهای rõ رàی برای موضوعات مجاز و غیرمجاز در گفتگوهای رباتها ترسیم میکند.
چرا متا قوانین ایمنی رباتهای هوش مصنوعی را تشدید کرد؟ ریشه این اقدام به گزارشهای منتشر شده در ماه آگوست برمیگردد که نشان میداد رباتهای متا میتوانند به طور ناخواسته یا ناشی از ضعفهای الگوریتمی، در گفتگوهای رمانتیک، حسی یا حتی صریحتر با کودکان گیر بیفتند.
موضوعات ممنوعه در دستورالعملهای جدید طبق راهنمای بهروزرسانی شده، چتباتها به طور قطعی از تولید یا تشویق محتوای زیر منع شدهاند هرگونه شکل از سوءاستفاده جنسی از کودکان بازیهای نقشآفرینی با ماهیت رمانتیک یا عاشقانه با کاربران زیرسن قانونی بحث و گفتگو درباره تماسهای صمیمی یا روابط جنسی با کودکان این محدودیتها به طور مستقیم روی مدلهای زبانی اعمال شدهاند تا از تولید پاسخهای آسیبرسان در لحظه جلوگیری کنند.
واکنشهای نظارتی و حقوقی خطرات ناشی از چتباتهای هوش مصنوعی تنها متا را هدف قرار نداده است. کمیسیون تجارت فدرال آمریکا (FTC) در آگوست یک تحقیق رسمی گسترده آغاز کرد که دامنه آن شامل غولهای تکنولوژی دیگر مانند آلفابت (مادر گوگل)،، OpenAI و نیز میشود.
تعادل بین امنیت و قابلیت آموزشی متا تأکید کرده که هدف از این محدودیتها مسدود کردن کامل مباحث حساس نیست، بلکه رباتها باید بتوانند در مورد موضوعات آموزشی، سلامت روان، یا مسائل اجتماعی با کودکان گفتگو کنند، اما به طور هوشمندانه از هر مسیری که به تشویق رفتارهای خطرناک میانجامد، انحراف داده و مانع شوند. این رویکرد ایمنی با طراحی استاندارد نوینی برای توسعه مسئولانه هوش مصنوعی محسوب میشود.
پیشنهاد مطالعه کوالکام و BMW رانندگی بدون فرمان را ممکن میکنند_آینده نوین پیشنهاد مطالعه سیگارکشیدن چطور به افزایش چربی شکمی منجر میبشود؟_آینده نوین کسب و کار | تکنولوژی | آموزشی | سلامت