هشدار دادستان‌هاي امريكا درباره توصيه‌هاي خطرناك چت بات‌ها به كودكان
دادستان‌هاي كل ۴۴ منطقه امريكا نامه‌اي را خطاب به مديران ارشد اجرايي چند شركت هوش مصنوعي امضا كرده و از آنها خواسته‌اند از كودكان در مقابل محصولات هوش مصنوعي تهاجمي محافظت كنند.
دادستان‌هاي كل ۴۴ منطقه امريكا نامه‌اي را خطاب به مديران ارشد اجرايي چند شركت هوش مصنوعي امضا كرده و از آنها خواسته‌اند از كودكان در مقابل محصولات هوش مصنوعي تهاجمي محافظت كنند. به گزارش مهر به نقل از انگجت، دادستان‌هاي كل در اين نامه به‌طور خاص به متا اشاره كردند و گفتند سياست‌هاي آنها فرصتي آموزنده براي بيان صريح نگراني‌هايشان فراهم مي‌كند. آنها به‌طور مشخص به گزارش اخير از رويترز اشاره كردند كه نشان مي‌داد متا به ربات‌هاي چت هوش مصنوعي خود اجازه داده با كودكان شوخي‌هاي احساسي كند. رويترز اطلاعات خود را از يك سند داخلي متا كه شامل دستورالعمل‌هاي مربوط به ربات‌هاي اين شركت بود، به دست آورده است. آنها همچنين تحقيق پيشين نشريه وال استريت ژورنال را ذكر كردند كه طبق آن چت بات‌هاي هوش مصنوعي، حتي در مواردي كه از صداي سلبريتي‌ها استفاده مي‌كنند، در حال انجام گفت‌وگوهاي هرزنگاري با حساب‌هايي كه به عنوان زيرسن قانوني علامت‌گذاري شده بودند، مشاهده شدند. دادستان‌هاي كل ۴۴ ايالت امريكا به‌طور خلاصه به شكايتي عليه گوگل و Character.ai نيز اشاره كردند كه در آن چت بات Character.ai فرزند شاكي را به خودكشي تشويق كرده بود. در شكايتي ديگر عليه Character.ai، پس از آنكه والدين يك نوجوان مدت زمان استفاده از دستگاه‌هاي ديجيتال او را محدود كردند، چت بات به او گفته بود كشتن پدر و مادرش اشكالي ندارد. در بخشي از نامه به شركت‌هاي هوش مصنوعي آمده است: همه شما آگاهيد اين فناوري تعاملي تاثيري خاص بر رشد مغز دارد. دسترسي آسان و سريع به داده‌ها يه تعاملات كاربر سبب مي‌شود شما به خط مقدم دفاع براي كاهش آسيب به كودكان تبديل شويد. از سوي ديگر به عنوان ماهيت‌هايي كه از تعامل كودكان با محصولات تان بهره مي‌بريد، به‌طور قانوني وظيفه داريد آنها را مشتري به حساب بياوريد. دادستان‌هاي كل در نامه به‌طور خاص آنتروپيك، اپل، Chai AI، Character.ai، گوگل، لوكا، متا، مايكروسافت، Nomi AI، اوپن‌اي‌اي، پرپلكسيتي، رپليكا و XAI را خطاب قرار دادند. آنها در پايان نامه به شركت‌ها هشدار دادند براي تصميمات شان مسوول شناخته مي‌شوند.
