خودكشي يك نوجوان گوگل را به دادگاه مي‌كشاند

طبق راي قاضــي در امريكا، گوگل و استارت‌آپ CharacterAI بايد با شكايت يك مادر اهل ايالت فلوريدا در دادگاه روبرو شوند كه مدعي است چت بات CharacterA به خودكشي پسر ۱۴ ساله او منجر شده است. به گزارش مهر به نقل از رويترز، آن كانوي قاضي دادگاه اعلام كرد شركت‌هاي مذكور نتوانستند در مراحل اوليه پرونده نشان دهند حمايت‌هاي مربوط به آزادي بيان در قانون اساسي ايالات متحده مانع از شكايت مگان گارسيا (مادر نوجوان فوت‌شده) مي‌شود. اين يكي از نخستين شكايت‌هاي ثبت شده در امريكا عليه يك شركت هوش مصنوعي به دليل ناتواني در حفاظت از كودكان در مقابل آسيب‌هاي رواني است. در اين شكايت ادعا شده نوجوان پس از وابستگي به صحبت كردن با چت بات، خودكشي كرد. استارت آپ هوش مصنوعي اعلام كرد اين شركت همچنان به مقابله با اين پرونده ادامه مي‌دهد و ويژگي‌هاي ايمني براي حفاظت از افراد زير سن قانوني از جمله اقداماتي براي جلوگيري از محاورات درباره خودكشي را در پلتفرمش اجرا مي‌كند. سخنگوي گوگل نيز اعلام كرد اين شركت به‌شدت با تصميم دادگاه مخالـف است. به گـفته او گوگل و CharacterAI دو شركت كاملا جدا هستند و گوگل اپ اين استارت‌آپ يا هيچ يك از بخش‌هاي آن را نساخته، طراحي يا مديريت نكرده است. وكيل مادر نوجوان فوت شده نيز اعلام كرد اين راي تاخيري سابقه‌اي جديد در حوزه مسووليت‌پذيري حقوقي در هوش مصنوعي و اكوسيستم فناوري به حساب مي‌آيد. CharacterAI توسط دو مهندس سابق گوگل ساخته شده است. بعدا گوگل اين دو مهندس را به عنوان بخشي از فرايندي كه اجازه استفاده از فناوري استارت آپ را مي‌داد، دوباره استخدام كرد. گارسيا مدعي است گوگل يكي از خالقان اين فناوري به حساب مي‌آيد. وي در اكتبر ۲۰۲۴ پس از خودكشي پسرش از هر دو شركت شكايت كرد. در شكايت آمده CharacterAIچت‌بات خود را طوري برنامه‌ريزي كرده تا مانند يك انسان واقعي، يك تراپيست داراي مجوز و يك بزرگسال رفتار كند كه در نتايج سبب شد نوجوان ديگر تمايلي به زندگي در دنياي خارج از چت بات نداشته باشد.