هوش مصنوعی ریسک ۲۵ درصدی فاجعه یا فرصت ۷۵ درصدی پیشرفت؟ تحلیل دیدگاه مدیرعامل آنتروپیک, داریو آمودی، مدیرعامل شرکت پیشرو هوش مصنوعی آنتروپیک، در نشست AI + DC برآوردی دوطرفه و جنجالی از آینده این تکنولوژی ارائه داد. وی احتمال ۲۵ درصدی را برای بروز سناریوهای فاجعهبار و خروج کنترل از دست انسان اختصاص داد، در حالی که با اطمینان ۷۵ درصدی پیشبینی کرد که مسیر توسعه به نفع بشریت پیش خواهد رفت.
تحلیل سناریوی بدبینانه ۲۵ درصد احتمال فاجعه آمودی منظور از بد پیش رفتن را محدود به خطاهای جزئی نمیداند. وی به تهدیدهای سیستمی اشاره دارد که میتواند بنیانهای نظم اجتماعی را لرزاند.
پیش از این نیز او هشدار داده بود که اتوماسیون هوشمند میتواند نیمی از مشاغل اداری و ابتدایی را از بین ببرد و بر نوسانات ژئوپلیتیک ــ مانند کنترل صادرات تراشههای پیشرفته ــ تأکید کرده است. منطق خوشبینی ۷۵ درصد شانس برای سودآوری جمعی در سوی دیگر معادله، آمودی بر پتانسیلهای تحولآفرین هوش مصنوعی تأکید دارد.
لشهای جهانی چون تغییرات اقلیمی، نقشی محوری ایفا کند.
تحقیقات داخلی آنتروپیک نیز نشان میدهد که تقاضای بازار به سمت جایگزینی نیروی کار سنتی با مدلهای هوشمند سوق داده شده است، که میتواند موتور رشد اقتصادی جدیدی باشد. ضرورت مدیریت ریسک در توسعه مدلها هموجودی این دو احتمال متضاد، مسئولیت سنگینی را بر دوش شرکتهای پیشرو در حوزه هوش مصنوعی میگذارد.
وجود ریسک ۲۵ درصدی، حتی در برابر فرصت ۷۵ درصدی، الزام میکند که پروتکلهای ایمنی، شفافیت در آموزش مدلها و همکاریهای بینالمللی برای حاکمیت هوش مصنوعی، اولویت اول استراتژیهای توسعه باشد. آینده این تکنولوژی نه تنها به پیشرفت الگوریتمها، بلکه به حکمت در مدیریت قدرت آن بستگی دارد.