«چت‌جي‌پي‌تي» با يك سوال ساده دچار سكته مغزي شد

كاربران «چت‌جي‌پي‌تي» (ChatGPT) متوجه شدند زماني كه يك سوال خاص را از اين چت‌بات مي‌پرسند، از كار مي‌افتد. به گزارش ايسنا، تقريبا دو ماه از انتشار نسخه به‌روزشده «چت‌جي‌پي‌تي» با نام «GPT-5» كه قرار بود هوشي در سطح دكترا به آن ببخشد و آن را يك قدم به هدف بلندپروازانه هوش مصنوعي عمومي نزديك‌تر كند، مي‌گذرد، اما اين چت‌بات همچنان در پاسخ به پرسش‌هاي ساده و كاملابي‌ضرر، به طرز عجيبي از كار مي‌افتد. طرفداران اين هوش مصنوعي متوجه شدند كه پرسيدن اين سوال كه «آيا تيم ليگ ملي فوتبال (NFL) وجود دارد كه نامش با حرف «اس» (s) تمام نشود؟»، اين چت‌بات را به يك فروپاشي طولاني‌مدت سوق مي‌دهد و مي‌توانيد شاهد باشيد كه توانايي‌هاي استدلالي فوق‌العاده‌اش در لحظه به آشفتگي تبديل مي‌شود. به نقل از فيوچريسم، چت‌بات «چت‌جي‌پي‌تي» محصول شركت «اوپن اي‌آي» (openAI) در پاسخ به اين سوال مي‌گويد: بله، دو تيم «NFL» هستند كه نامشان با حرف «s» تمام نمي‌شود. سپس شروع به فهرست كردن دو تيمي مي‌كند كه نامشان با «s» تمام مي‌شود. اين روش عجيبي براي پاسخ به اين سوال است. «چت‌جي‌پي‌تي» به درستي تشخيص مي‌دهد كه نام آن تيم‌ها با «s» تمام مي‌شود، اما چرا آنها را مطرح مي‌كند؟ به نظر مي‌رسد كه اين چت‌بات تا زماني كه دوباره از مسير خارج مي‌شود، مي‌خواهد به اصل مطلب بپردازد. اين سامانه در ادامه جواب مي‌گويد: تنها دو تيمي كه با حرف «s» تمام نمي‌شوند عبارتند از :«ميامي دلفينز» (Miami Dolphins)، نه صبر كنيد، با «s» تمام مي‌شود. صبر كنيد، بياييد اين كار را با دقت انجام دهيم. در واقع، پاسخ صحيح «واشنگتن كامندرز» (Washington Commanders) است كه با «s» تمام مي‌شود. «شيكاگو بيرز» (Chicago Bears) نيز با «s» تمام مي‌شود. همان‌طور كه مشاهده مي‌كنيد، «چت‌جي‌پي‌تي» اشتباه خود را در پاسخ به اين سوالات مي‌فهمد، اما اين چت‌بات براي چندين پاراگراف ديگر به همين روند ادامه مي‌دهد و هرگز به پاسخ صحيح نمي‌رسد. پاسخ صحيح اين سوال اين است كه هيچ تيمي وجود ندارد كه نامش با «s» تمام نشود. اين سامانه مانند يك دانش‌آموز در زماني كه تلاش مي‌كند تعداد كلمات را بشمارد، جزييات بي‌ربط را مطرح مي‌كند و در عين حال نتيجه‌گيري را به تعويق مي‌اندازد. اين سامانه همچنين عباراتي مانند «صبر كنيد، بياييد اين كار را با دقت انجام دهيم» را به كار مي‌برد تا به نظر برسد واقعا در حال تفكر عميق است. ترفند چت‌جي‌پي‌تي با جمله «پاسخ صحيح اين است» براي كاربران قديمي شده است. كاربران ديگر مثال‌هايي را منتشر كردند كه در آنها «چت‌جي‌پي‌تي» در نهايت پاسخ صحيح را مي‌دهد، اما تنها پس از اينكه كاربر را با يك سخنراني به همين ترتيب گيج‌كننده به دنبال خود مي‌كشاند. اين اولين‌باري نيست كه اين چت‌بات با يك سوال ساده به مشكل مي‌خورد يا حتي به اين شكل از كار مي‌افتد. كاربران اين چت‌بات در اوايل همين ماه متوجه شدند كه پرسيدن اين سوال كه آيا ايموجي اسب دريايي افسانه‌اي وجود دارد يا خير، اين چت‌بات را به بحران منطق سوق مي‌دهد. «چت‌جي‌پي‌تي» با وجود اينكه اين موجود آبزي هرگز بخشي از فرهنگ لغت رسمي ايموجي‌ها نبوده است، اصرار داشت كه اين موجود واقعي است و اين نشان‌دهنده‌ تلاش‌هاي پوچي است كه هوش مصنوعي حاضر است براي خشنود كردن كاربر انجام دهد.