هوش مصنوعی چگونه از پاسخ‌های نامطمئن دوری می‌کند؟

مدل‌های هوش مصنوعی امروز می‌توانند به پرسش‌های بسیار دشوار علمی پاسخ دهند و در برخی آزمون‌ها از بسیاری از انسان‌ها جلو بزنند، اما هنوز در برابر مسئله‌هایی بسیار ساده که به درک مفاهیمی مانند «بالا و پایین»، «داخل و خارج» یا «باز و بسته» نیاز دارند، به شکل عجیبی ناتوان می‌شوند. آزمون‌های «آرک ای‌جی‌آی» دقیقاً برای سنجش همین شکاف طراحی شده‌اند؛ اینکه آیا هوش مصنوعی واقعاً می‌تواند در موقعیتی ناآشنا استدلال کند یا فقط الگوهای آموخته‌شده را بازتولید می‌کند. (منبع: تابناک)

جنسن هوانگ مدیر ارشد اجرایی انویدیا هشدارها درباره آنکه هوش مصنوعی تا پایان دهه به انقراض بشریت منجر می شود روایت های آخرالزمانی توصیف کرد. (منبع: مهر نیوز)

پژوهشگران گوگل دیپ‌مایند در یک آزمایش چهارمرحله‌ای نشان دادند مدل‌های زبانی بزرگ می‌توانند میزان اطمینان خود به پاسخ‌ها را ارزیابی کنند و در صورت کافی نبودن اطمینان، از ارائه پاسخ خودداری کنند؛ قابلیتی که به کاهش پاسخ‌های گمراه‌کننده و افزایش اعتمادپذیری هوش مصنوعی کمک می‌کند. وبگاه تِک‌اکسپلور در گزارشی آورده است: مدل‌های زبانی بزرگ (اِل‌اِل‌اِم‌ها) همان سامانه‌های هوش مصنوعی هستند که پشت سکوهای گفت‌وگویی مانند چَت‌جی‌پی‌تی و جمینای قرار دارند. (منبع: ایرنا (تلگرام))