«چت‌جي‌پي‌تي» چاپلوس شده است
گزارش «اوپن‌اي‌آي» و نظرات كاربران «چت‌جي‌پي‌تي» نشان مي‌دهند كه اين چت‌بات بيش از اندازه كاربر خود را تاييد مي‌كند و رفتار چاپلوسانه‌اي را از خود نشان مي‌دهد.
گزارش «اوپن‌اي‌آي» و نظرات كاربران «چت‌جي‌پي‌تي» نشان مي‌دهند كه اين چت‌بات بيش از اندازه كاربر خود را تاييد مي‌كند و رفتار چاپلوسانه‌اي را از خود نشان مي‌دهد. به گزارش ايسنا، شركت «اوپن‌اي‌آي» گزارشي را از بروز مشكل چاپلوسي در مدل هوش مصنوعي «چت‌جي‌پي‌تي» و «GPT-4o» منتشر كرده كه اين شركت را مجبور كرده است به‌روزرساني مدل منتشرشده در هفته گذشته را به حالت قبل بازگرداند. به نقل از تك كرانچ، پس از به‌روزرساني مدل GPT-4o، كاربران رسانه‌هاي اجتماعي متوجه شدند كه چت‌جي‌پي‌تي پاسخ‌گويي را به شيوه‌اي آغاز كرده كه بيش از اندازه با نظرات كاربران موافق است و آنها را تاييد مي‌كند. اين موضوع به سرعت به يك ميم تبديل شد. كاربران اسكرين‌شات‌هايي را از توصيه‌هاي چت‌جي‌پي‌تي منتشر كردند كه در حال موافقت كردن با كاربران درباره انواع تصميم‌ها و ايده‌هاي مشكل‌ساز و خطرناك بود. سم آلتمن، مديرعامل اوپن‌اي‌آي روز يكشنبه در حساب ايكس خود اين مشكل را تأييد كرد و گفت كه شركت در اسرع وقت روي رفع آن كار خواهد كرد. دو روز بعد، آلتمن اعلام كرد كه به‌روزرساني GPT-۴o به حالت قبل بازگشته و اوپن‌اي‌آي در حال كار كردن روي اصلاحات بيشتر براي شخصيت مدل است. به گفته اوپن‌اي‌آي، اين به‌روزرساني كه قرار بود يك حس شهودي‌تر و موثرتر را براي شخصيت پيش‌فرض مدل ايجاد كند، بيش از حد تحت تأثير بازخوردهاي كوتاه‌مدت قرار گرفته و نحوه تكامل تعاملات كاربران با چت‌جي‌پي‌تي را به‌طور كامل و به مرور زمان در نظر نگرفته است. اوپن‌اي‌آي در يك پست وبلاگ نوشت: در نتيجه، GPT 4o به سمت پاسخ‌هايي متمايل شد كه بيش از حد حمايتي اما چاپلوسانه بودند. تعاملات چاپلوسانه مي‌توانند ناراحت‌كننده و نگران‌كننده باشند و باعث پريشاني شوند. ما كوتاهي كرديم و در حال تلاش براي اصلاح آن هستيم. اوپن‌اي‌آي مي‌گويد در حال اجراي چند اصلاحيه از جمله اصلاح راهبردهاي اصلي آموزش مدل و دستورالعمل‌هاي سيستمي براي منحرف كردن GPT-4o از چاپلوسي است. دستورات سيستمي، دستورالعمل‌هاي اوليه‌اي هستند كه رفتار و لحن كلي مدل را در تعاملات هدايت مي‌كنند. همچنين، اين شركت در حال ايجاد حفاظ‌هاي ايمني بيشتر براي افزايش صداقت و شفافيت مدل است و به گسترش ارزيابي‌هاي خود براي كمك به شناسايي مشكلات فراتر از چاپلوسي ادامه مي‌دهد. همچنين، اوپن‌اي‌آي گفت در حال آزمايش روش‌هايي است كه به كاربران كمك مي‌كنند بازخورد بلادرنگ نشان دهند تا مستقيما بر تعاملات خود با چت‌جي‌پي‌تي تأثير بگذارند و يك شخصيت را از بين چندين شخصيت چت‌جي‌پي‌تي انتخاب كنند. اين شركت در پست وبلاگ خود نوشت: ما در حال بررسي راه‌هاي جديدي براي گنجاندن بازخوردهاي گسترده‌تر و دموكراتيك در رفتارهاي پيش‌فرض چت‌جي‌پي‌تي هستيم. اميدواريم اين بازخوردها به ما كمك كنند تا ارزش‌هاي فرهنگي متنوع در سراسر جهان را بهتر منعكس كنيم و بفهميم كه كاربران مي‌خواهند چت‌جي‌پي‌تي چگونه تكامل يابد.