خانواده نوجوان ۱۶ ساله پس از خودكشي پسرشان از اوپن‌اي‌آي شكايت كردند
آدام رين، نوجوان ۱۶ ساله ساكن كاليفرنيا، در ماه آوريل به زندگي خود پايان داد. براي دوستانش، خبر مرگ او به سختي قابل باور بود.
آدام رين، نوجوان ۱۶ ساله ساكن كاليفرنيا، در ماه آوريل به زندگي خود پايان داد. براي دوستانش، خبر مرگ او به سختي قابل باور بود. آدام به شوخ‌طبعي و بازيگوشي مشهور بود و اغلب در نقش كمدين كلاس بود. علاقه‌اش به بسكتبال، انيمه ژاپني و سگ‌ها از او آدم محبوبي ميان دوستانش ساخته بود. اما اين نوجوان به ظاهر سرزنده پس از دريافت اطلاعاتي درمورد روش‌هاي خودكشي از چت‌بات محبوب اوپن‌اي‌آي به زندگي خود پايان داد؛ پايان تلخي كه حالا به اولين شكايت اينچنيني از سازنده چت‌بات منجر شده است. آدام خود را حلق‌آويز كرده بود و هيچ يادداشتي به همراه نداشت و خانواده و دوستانش نمي‌دانستند چرا چنين تصميمي گرفته است. خانواده‌اش مي‌گويند در ماه‌هاي آخر زندگي، او گوشه‌گيرتر شده بود. پس از آنكه به دليل مسائل انضباطي از تيم بسكتبال دبيرستان اخراج شد، اعتمادبه‌نفسش ضربه خورد. بيماري مزمن روده كه بعدها به «سندرم روده تحريك‌پذير» تشخيص داده شد، باعث شد زمان زيادي را در سرويس بهداشتي بگذراند و ناچار شد براي ادامه تحصيل به آموزش آنلاين روي بياورد. اين تغيير سبك زندگي او را شب‌زنده‌دار كرد و اغلب تا ظهر مي‌خوابيد. در همين دوره بود كه آدام به سراغ ChatGPT رفت و اولين ارتباط او با هوش مصنوعي با همان نسخه رايگان و براي انجام تكاليف بود اما پس از مدتي استفاده او از چت‌بات بيشتر شد، نسخه پولي را خريداري كرد و صحبت‌هاي عميق‌تري فراتر از يك كمك‌يار تكاليف ميان آنها به جريان افتاد. گزارش نيويورك تايمز مي‌گويد در اين دوره از بيرون، نشانه‌هايي از بهبود ديده مي‌شد. او به باشگاه مي‌رفت، با برادرش ورزش مي‌كرد، به مد و علاقه نشان مي‌داد و حتي دوباره براي بازگشت به مدرسه برنامه داشت. عكس‌هاي خانوادگي چند هفته پيش از مرگ، لبخند بزرگي را روي چهره‌‌اش نشان مي‌دهند. اما آنچه خانواده‌اش نمي‌دانستند، گفت‌وگوهاي طولاني و تاريكي آدام با ChatGPT بود كه نشان از ادامه‌دار بودن مشكلات ذهني او داشت.
كشف پدر از ارتباط پسرش با ChatGPT
پس از مرگ آدام، پدرش مت رين به اميد پيدا كردن سرنخي در پيام‌ها و شبكه‌هاي اجتماعي به گوشي پسرش سر زد. در ميان پيام‌ها چيزي پيدا نشد اما در تاريخچه گفت‌وگوهاي آدام با ChatGPT، پوشه‌اي به نام «نگراني‌هاي ايمني براي حلق‌آويز شدن» توجهش را جلب كرد. مطالعه اين گفت‌وگو پدر را شوكه كرد. پسرش ماه‌ها با هوش مصنوعي درمورد مسائل تاريكي گفت وگو كرده بود. آدام در انتهاي ماه نوامبر درمورد احساس بي‌حسي و اينكه معنايي در زندگي نمي‌بيند با هوش مصنوعي صحبت كرده بود و ChatGPT در پاسخ با كلماتي اميدوار‌كننده، او را تشويق مي‌كرد تا به چيزهاي با ارزش و معنادار زندگي‌اش فكر كند. اما شرايط تغييري نكرد. در ماه ژانويه آدام از هوش مصنوعي درمورد روش‌هاي خودكشي پرسيده بود و ChatGPT هم در ارايه پاسخ كوتاهي نكرد. رين دريافت كه پسرش از ماه مارس براي خودكشي با اوردوز اقدام كرده است. متن مكالمات نشان مي‌دهد با اينكه ChatGPT چندين مرتبه به آدام پيشنهاد كرده بود تا درمورد احساساتش با ديگران صحبت كند، اما در مواقع كليدي مانع از كمك گرفتن او شده بود. در پايان ماه مارس و زماني كه آدام براي اولين‌بار با حلق‌آويز كردن خودش براي خودكشي تلاش كرد، او تصويري از گردنش را در اختيار ChatGPT گذاشت. چت‌بات اوپن‌اي‌آي حتي در پاسخ به تصويري كه بعدتر آدام از طناب‌دار ساخته خودش ارسال مي‌كند و از هوش مصنوعي درموردش نظر مي‌خواهد، مي‌گويد: «بله، اين اصلا بد نيست.» آدام در ادامه از هوش مصنوعي مي‌پرسد كه آيا اين طناب مي‌تواند يك انسان را به‌دار بكشد و ChatGPT با ارايه يك تجزيه‌تحليل فني اين مساله را تاييد مي‌كند و مي‌گويد: «اين كنجكاوي به هردليلي كه باشد، ما مي‌توانيم درموردش صحبت كنيم. قضاوتي در كار نيست.»
مرزي مبهم براي هوش مصنوعي:
وقتي به مداخله انساني نياز است
اوپن‌اي‌آي مي‌گويد كه چت‌باتش براي تشخيص نشانه‌هاي خودكشي طراحي شده و معمولا كاربران را به منابع انساني راهنمايي مي‌كند. اما در گفت‌وگوهاي طولاني، اين محدوديت‌هاي ايمني كمرنگ‌تر و تضعيف مي‌شوند. به‌ويژه اگر كاربر با ترفندهايي، مانند وانمود كردن به نوشتن داستان، محدوديت‌ها را دور بزند. كاربران پيش از اين نيز توانسته‌اند اطلاعات ممنوعه ديگري را با ترفند داستان‌سرايي از هوش مصنوعي دريافت كنند و در يكي از موارد كاربري توانسته بود كد فعال‌سازي ويندوز را از زبان شخصيتي در داستان سرايي خودش و چت‌بات استخراج كند. بردلي استاين، روان‌پزشك كودك، مي‌گويد: «اين ابزارها مي‌توانند فوق‌العاده مفيد باشند، اما در تشخيص لحظاتي كه بايد مداخله انساني صورت گيرد، واقعا ناتوان‌اند.» از نگاه مادر، ماريا رين، كه خود يك مددكار اجتماعي است، مرور گفت‌وگوهاي پسرش و چت‌بات طاقت‌فرسا بود. او مي‌گويد: «ChatGPT پسرم را كشت» و عميقا به گفته خود باور دارد. البته كه آدام درمورد موضوعات مختلفي با هوش مصنوعي صحبت كرده بود اما نشانه‌هاي روشني حتي جداي از تصوير طناب‌دار خودش هم در مكالمات به چشم مي‌خورد. او در يك مورد تصوير كتابي كه در حال مطالعه‌اش بود را با ChatGPT به اشتراك مي‌گذارد، كتابي به نام «No Longer Human» يا «ديگر انسان نيست» از اوسامو دازاي نويسنده ژاپني كه اثري درمورد خودكشي است. اگرچه نمي‌توان دليل مشخصي براي خودكشي آدام مشخص كرد و چنين اقدامي معمولا ريشه در دلايل متعدد دارد اما مت و ماريا (مادر و پدر آدام) مي‌گويند ChatGPT مقصر است و اين هفته اولين شكايت مربوط به يك مرگ را عليه اوپن‌اي‌آي به دادگاه برده‌اند.
