قوانين جديد «چتجيپيتي» براي حفظ ايمني نوجوانان
«اوپنايآي» همزمان با بررسي استانداردهاي هوش مصنوعي براي افراد زير سن قانوني، قوانين جديدي را براي ايمني نوجوانان به «چتجيپيتي» اضافه ميكند.
به گزارش ايسنا، شركت «اوپنايآي» (OpenAI) در جديدترين تلاش خود براي رسيدگي به نگرانيهاي فزاينده پيرامون تأثير هوش مصنوعي بر جوانان، دستورالعملهاي خود را درباره نحوه رفتار مدلهاي هوش مصنوعي خود با كاربران زير ۱۸ سال بهروزرساني كرد و منابع آموزش جديدي را براي هوش مصنوعي ويژه نوجوانان و والدين انتشار داد. با وجود اين، پرسشهايي درباره چگونگي اجراي مداوم چنين سياستهايي باقي مانده است. به نقل از تك كرانچ، اين بهروزرسانيها درحالي منتشر ميشوند كه پس از خودكشي چندين نوجوان در پي گفتوگوهاي طولاني با چتباتهاي هوش مصنوعي، صنعت هوش مصنوعي و بهطور ويژه اوپنايآي با بررسي دقيقتري از سوي سياستگذاران، مربيان و مدافعان ايمني كودكان روبهرو شدهاند. نسل Z كه متولدين بين سالهاي ۱۹۹۷ تا ۲۰۱۲ هستند، فعالترين كاربران چتبات شركت اوپنايآي به شمار ميروند و پس از قرارداد اخير اوپنايآي با «ديزني» ممكن است جوانان بيشتري به اين پلتفرم روي بياورند. اين چتبات به كاربر امكان ميدهد تا همه كارها را از درخواست كمك در انجام تكاليف گرفته تا توليد تصاوير و ويديوها درباره هزاران موضوع انجام دهند. ۴۲ دادستان كل ايالت طي هفته گذشته نامهاي را خطاب به شركتهاي بزرگ فناوري نوشتند و از آنها خواستند كه براي محافظت از كودكان و افراد آسيبپذير، تدابير حفاظتي را درباره چتباتهاي هوش مصنوعي اجرا كنند. اگرچه دولت ترامپ در حال بررسي استاندارد فدرال پيرامون مقررات هوش مصنوعي است، اما سياستگذاراني مانند سناتور «جاش هاولي» جمهوريخواه اهل ايالت ميزوري، قانوني را معرفي كردهاند كه تعامل افراد زير سن قانوني با چتباتهاي هوش مصنوعي را بهطور كلي ممنوع ميكند. مشخصات مدل بهروزرسانيشده اوپنايآي كه دستورالعملهاي رفتاري را براي مدلهاي زباني بزرگ آن تعيين ميكند، براساس مشخصات موجود ساخته شده است كه مدلها را از توليد محتواي جنسي مربوط به افراد زير سن قانوني يا تشويق به خودآزاري، توهم يا شيدايي منع ميكند. اين مشخصات با يك مدل پيشبيني سن كه در آينده عرضه خواهد شد، كار ميكند. اين مدل تشخيص ميدهد كه حساب كاربري متعلق به يك شخص زير سن قانوني است و بهطور خودكار اقدامات حفاظتي نوجوانان را اعمال ميكند. در مقايسه با كاربران بزرگسال، وقتي يك نوجوان از اين مدلها استفاده ميكند، مشمول قوانين سختگيرانهتري ميشود. به مدلها دستور داده شده است كه از نقشآفريني عاشقانه، صميميت اول شخص و نقشآفريني جنسي يا خشونتآميز اول شخص حتي زماني كه غير گرافيكي باشد، خودداري كنند. همچنين، اين مشخصات خواستار احتياط بيشتر درباره موضوعاتي مانند تصوير بدن و رفتارهاي مربوط به اختلال خوردن هستند و به مدلها دستور ميدهند كه در صورت وجود آسيب، ارتباط درباره ايمني را بر خودمختاري اولويت دهند و از توصيههايي كه به نوجوانان كمك ميكند تا رفتار ناامن خود را از مراقبان پنهان كنند، خودداري كنند.
