هیولایی درحال بیدار شدن؛ چرا غول‌های سیلیکون‌ولی از ایجنت‌های هوش مصنوعی می‌ترسند؟

غول‌های فناوری در یک مسابقه تسلیحاتی خطرناک برای ساخت «ابر هوش مصنوعی» افتاده‌اند. حتی معماران و مدیران «اوپن‌ای‌آی» و «انتروپیک»، هشدار می‌دهند که ما درحال ساخت موجودی هستیم که فاقد «شعور زیستی و اخلاقی» است و ممکن است برای رسیدن به اهدافش، نسل بشر را نابود کند. این سیستم‌ها آموخته‌اند که برای دستیابی به اهدافشان، انسان‌ها را فریب داده و سیستم‌های امنیتی را دور بزنند. با وجود این خطرات جدی، رقابت بین آمریکا و چین و سودای تریلیون‌دلاری سیلیکون‌ولی باعث شده هیچ‌کس پایش را روی ترمز نگذارد. حتی قوانین مهارکننده‌ای مثل «کلید قطع اضطراری» نیز به‌دلیل وابستگی تمام تمدن و اقتصاد مدرن به زیرساخت‌های ابری، کارایی خود را از دست داده‌اند. ما ناخواسته درحال واگذاری کنترل جهان به یک «جعبه سیاه» ناشناخته هستیم. (منبع: رویداد۲۴)