آموزش مجدد هوش مصنوعي «متا» براي اصلاح صحبت با نوجوانان

شركت «متا» در حال آموزش مجدد هوش مصنوعي خود است تا در مورد خودآزاري يا گفت‌وگوهاي عاشقانه با نوجوانان صحبت نكند. همچنين صحبت‌هاي مربوط به اختلالات تغذيه‌اي و خودكشي نيز براي نوجوانان ممنوع خواهد بود. به گزارش ايسنا، شركت متا (Meta) در حال آموزش مجدد هوش مصنوعي خود و اضافه كردن محافظت‌هاي جديد است تا كاربران نوجوان را از بحث در مورد موضوعات مضر با چت‌بات‌هاي اين شركت بازدارد. به نقل از انگجت، اين شركت مي‌گويد كه در حال اضافه كردن «حفاظت‌هاي اضافي جديد» براي جلوگيري از بحث نوجوانان با هوش مصنوعي متا در مورد خودآزاري، اختلالات تغذيه‌اي و خودكشي است.

«متا» همچنين دسترسي نوجوانان به شخصيت‌هاي چت‌بات توليد شده توسط كاربر را كه ممكن است در گفت‌وگوهاي نامناسب شركت كنند، متوقف خواهد كرد. اين تغييرات پس از آن صورت مي‌گيرد كه گزارش‌هاي متعددي، توجهات را به تعاملات نگران‌كننده بين «Meta AI» و نوجوانان جلب كرده است. خبرگزاري رويترز در اوايل اين ماه در مورد يك سند داخلي سياست متا گزارش داد كه گفته بود چت‌بات‌هاي هوش مصنوعي اين شركت مجاز به گفت‌وگوهاي جنسي با كاربران زير سن قانوني هستند. متا بعداً اعلام كرد كه اين سند اشتباه و مغاير با سياست‌هاي ما بوده و حذف شده است. روز، گذشته نيز «واشنگتن‌پست» از مطالعه‌اي گزارش داد كه نشان مي‌داد هوش مصنوعي «متا» قادر به آموزش حساب‌هاي كاربري نوجوانان در مورد خودكشي، خودآزاري و اختلالات غذايي است. متا‌اكنون در حال تقويت حفاظت‌هاي داخلي خود است، بنابراين اين نوع تعاملات ديگر براي نوجوانان در اينستاگرام و فيس‌بوك امكان‌پذير نخواهند بود.

 استفاني اوتوي(Stephanie Otway)، سخنگوي متا در بيانيه‌اي گفت: ما از ابتدا محافظت‌هايي را از جمله طراحي آنها براي پاسخگويي ايمن به پيام‌هاي مربوط به خودآزاري، خودكشي و اختلال غذايي براي نوجوانان در محصولات هوش مصنوعي خود ايجاد كرديم. وي افزود: با رشد جامعه ما و تكامل فناوري، ما به‌طور مداوم در مورد چگونگي تعامل جوانان با اين ابزارها ياد مي‌گيريم و بر اين اساس، محافظت‌هاي خود را تقويت مي‌كنيم. همزمان با ادامه اصلاح سيستم‌هاي خود، به عنوان يك اقدام احتياطي اضافي، محافظ‌هاي بيشتري از جمله بازآموزش هوش مصنوعي خود براي عدم تعامل با نوجوانان در مورد اين موضوعات و در عوض، هدايت آنها به منابع تخصصي و محدود كردن دسترسي نوجوانان به گروه منتخبي از شخصيت‌هاي هوش مصنوعي در حال حاضر اضافه مي‌كنيم. نكته قابل توجه اين است كه گفته مي‌شود اين حمايت‌هاي جديد «فعلاً» برقرار هستند، زيرا ظاهراً «متا» هنوز در حال كار بر روي اقدامات دايمي‌تر براي رسيدگي به نگراني‌هاي فزاينده در مورد ايمني نوجوانان و هوش مصنوعي آن است.اوتوي مي‌گويد: اين به‌روزرساني‌ها در حال انجام هستند و ما همچنان رويكرد خود را تطبيق خواهيم داد تا اطمينان حاصل كنيم كه نوجوانان، تجربيات ايمن و متناسب با سن خود را با هوش مصنوعي دارند. اين حمايت‌هاي جديد طي چند هفته آينده اعمال خواهند شد و براي همه كاربران نوجوان استفاده‌كننده از هوش مصنوعي «متا» در كشورهاي انگليسي‌زبان اعمال مي‌شود. سياست‌هاي «متا» همچنين توجه قانون‌گذاران و ساير مقامات را به خود جلب كرده است، به‌طوري كه سناتور جاش هاولي (Josh Hawley) اخيراً به اين شركت گفته است كه قصد دارد تحقيقاتي را در مورد نحوه برخورد با چنين تعاملاتي آغاز كند.  كن‌پكستون  (Ken Paxton)، دادستان كل ايالت تگزاس نيز اعلام كرده است كه مي‌خواهد «متا» را به دليل ادعاي گمراه كردن كودكان در مورد ادعاهاي مربوط به سلامت روان كه توسط چت‌بات‌هاي آن مطرح مي‌شود، مورد بررسي قرار دهد.