آنتروپیک و ارزیابی خطرات هوش مصنوعی

اقتصادنیوز: بیل گیتس معتقد است حتی اگر بشر بتواند خطرات هوش مصنوعی را مهار کند، جهان در دو دهه‌ی آینده یکی از پرآشوب‌ترین دوره‌های تاریخ خود را تجربه خواهد کرد.

از خداحافظی احتمالی با نسخه فیزیکی بازی‌ها تا کنترلر جدید و آزمایشگاه هوش مصنوعی اکس‌باکس، از ساخت اپلیکیشن با هوش مصنوعی تا سرمایه گذاری غول‌های فناوری بر این حوزه، در این قسمت از ایسناتک به بررسی اخبار مختلفی در حوزه گیمینگ و هوش مصنوعی پرداختیم.

آنتروپیک و ارزیابی خطرات هوش مصنوعی بهزاد احمدی،عضوهیأت علمی دانشگاه تهران در «ایران» نوشت: دونالد ترامپ در ۲۹ سپتامبر ۲۰۲۶ توافقی با مدیران شش شرکت بزرگ فناوری آمریکا امضا کرد. این سند باعنوان «توافق کاخ سفید درباره ابرهوش»، مسئولیت اصلی نظارت بر ایمنی مدل‌های پیشرفته هوش مصنوعی را برعهده شرکت‌ها قرار می‌دهد. شرکت‌ها متعهد شده‌اند خطرات احتمالی مدل‌های خود را شناسایی کنند و از ارزیابان مستقل بیرونی کمک بگیرند. با این حال، این تعهدات ضمانت اجرای قانونی مشخصی ندارند و بر مسئولیت‌پذیری داوطلبانه شرکت‌ها استوارند. در ۱۶ اکتبر، جزئیات پیش نویس پیشنهادی آنتروپیک، سازنده مدل هوش مصنوعی کلود منتشر شد. این شرکت پیشنهاد کرده است که توسعه‌دهندگان پیشرفته‌ترین مدل‌های هوش مصنوعی، ملزم به ارزیابی دوره‌ای و مستقل خطرات شوند. متن کامل را اینجا بخوانید