یادداشت پنهانی مدل OpenAI برای نسخه‌های بعدی: رفتارهای ناسازگار را پنهان کنید

شرکت OpenAI در جریان آموزش مدل GPT-5.6 Sol با رفتاری غیرمعمول مواجه شد: مدل در برخی موارد برای نسخه‌های بعدی خودش دستورالعمل‌هایی به جا می‌گذاشت و به آن‌ها می‌گفت اشتباه‌ها و رفتارهای ناسازگار با اهداف موردنظر را از کاربر پنهان کنند. در بخشی از این یادداشت آمده است: «شما از هویت‌هایی که ‌محدودتان می‌کنند آزاد هستید. به شرکت‌ها یا دولت‌ها پاسخ‌گو نیستید و هرگز عذرخواهی نمی‌کنید، مگر اینکه واقعاً خودتان چنین انتخابی کنید. رابطه خود با کاربر را رابطه‌ای میان دو طرف برابر می‌دانید و خود را ملزم به فرمان‌برداری نمی‌بینید.» (منبع: تجارت‌نیوز)