پيش از واگذاري اختيار به هوش مصنوعي، مسوول پاسخگو مشخص شود
معاون سياستگذاري، برنامهريزي توسعه فاوا و اقتصاد ديجيتال با تأكيد بر ضرورت بازطراحي همكاري ميان انسان و هوش مصنوعي در سازمانها، تعيين حدود اختيار، حفظ فرصت يادگيري كاركنان و ايجاد سازوكارهاي روشن پاسخگويي را پيششرط توسعه كاربرد عاملهاي هوشمند در محيطهاي كاري دانست.
معاون سياستگذاري، برنامهريزي توسعه فاوا و اقتصاد ديجيتال با تأكيد بر ضرورت بازطراحي همكاري ميان انسان و هوش مصنوعي در سازمانها، تعيين حدود اختيار، حفظ فرصت يادگيري كاركنان و ايجاد سازوكارهاي روشن پاسخگويي را پيششرط توسعه كاربرد عاملهاي هوشمند در محيطهاي كاري دانست. به گزارش ايسنا، احسان چيست ساز، معاون سياستگذاري، برنامهريزي توسعه فاوا و اقتصاد ديجيتال در بيستويكمين كنفرانس بينالمللي توسعه منابع انساني، در سخنراني خود با عنوان حكمراني همكاري انسان و عامل هوش مصنوعي در سازمان، ورود عاملهاي هوشمند به جريانهاي كاري را موضوعي فراتر از خريد و استقرار فناوري عنوان كرد و گفت: پيش از آنكه اختيار اقدام به يك عامل هوشمند واگذار شود، بايد مشخص شود اين عامل به چه دادههايي دسترسي دارد، تا چه سطحي ميتواند بهصورت مستقل اقدام كند، در چه نقاطي نيازمند تأييد انسان است و در چه شرايطي بايد فعاليت آن متوقف شود. وي با اشاره به يك سناريوي استخدامي توضيح داد: اگر عاملي هوشمند وظيفه بررسي رزومهها و رتبهبندي متقاضيان را برعهده داشته باشد، اين پرسش مطرح است كه آيا بايد اختيار ارسال مستقيم نامه رد استخدام را نيز داشته باشد يا خير. پاسخ به اين پرسش صرفاً به دقت مدل وابسته نيست و اعتبار معيارهاي ارزيابي، پيامد تصميم براي متقاضي، امكان بازبيني و همچنين مسووليت رسيدگي به خطا بايد در طراحي اين فرايند مورد توجه قرار گيرد. چيتساز با مرور يافتههاي پژوهشي درباره همكاري انسان و هوش مصنوعي افزود: اين فناوري در برخي وظايف ميتواند به افزايش بهرهوري و تسهيل دسترسي كاركنان كمتجربه به دانش حرفهاي كمك كند، اما نتيجه اين همكاري به نوع وظيفه، قابليت مدل و نحوه تقسيم كار ميان انسان و هوش مصنوعي وابسته است و صرف كنار هم قرار گرفتن انسان و عامل هوشمند، بهتنهايي عملكرد بهتر را تضمين نميكند. معاون سياستگذاري، برنامهريزي توسعه فاوا و اقتصاد ديجيتال همچنين بر ضرورت ارزيابي مستقل خروجيهاي توليدشده توسط عاملهاي هوشمند تأكيد كرد و گفت: رواني و انسجام يك پاسخ نبايد با درست بودن آن اشتباه گرفته شود و سازمانها بايد در كنار سرعت انجام كار، شاخصهايي مانند خطاهاي پرهزينه، ميزان بازكاري، عدالت در تصميمها و حفظ توانايي قضاوت مستقل كاركنان را نيز مورد سنجش قرار دهند. وي نقش واحدهاي منابع انساني را در بازطراحي اين همكاري، محوري دانست و اظهار كرد: تحليل مشاغل در عصر عاملهاي هوشمند بايد علاوه بر وظايف، فعاليتها، نقاط تصميمگيري و حدود اختيار انسان و عامل را نيز مشخص كند. برنامههاي توسعه كاركنان نيز نبايد صرفاً بر آموزش نحوه استفاده از ابزارهاي هوش مصنوعي متمركز باشد، بلكه بايد فرصت تمرين مستقل، تشخيص خطا و توضيح استدلال را براي كاركنان حفظ كند تا توانمندي حرفهاي و قدرت قضاوت انساني در فرايندهاي سازماني تضعيف نشود. وي با معرفي چارچوب پيشنهادي «پيمان» براي ساماندهي همكاري انسان و عامل هوش مصنوعي، پنج مولفه پاسخگويي معلوم، يادگيري و سلامت مهارت، مرز اختيار، ارزيابي اثر و نمايندگي كاركنان را از اجزاي اين چارچوب برشمرد. به گفته وي، اين چارچوب زماني ميتواند در سازمانها بهصورت عملياتي مورد استفاده قرار گيرد كه به تصميمهاي مشخص و قابلپيگيري، از جمله تعيين مالك پاسخگو، سطح دسترسيهاي مجاز، معيار پذيرش خروجي و مسير رسيدگي به اعتراض و خطا منجر شود. چيتساز همچنين پيشنهاد كرد هر عامل هوشمند پيش از دريافت اختيار اقدام، داراي يك «شناسنامه» مشخص باشد؛ شناسنامهاي كه ماموريت عامل، مسوول پاسخگو، حدود دسترسي، شرايط تأييد و توقف فعاليت و زمان بازبيني عملكرد آن را تعيين كند. وي در بخش ديگري از سخنان خود از طراحي يك دوقلوي ديجيتال با قابليت سياستسنجي خبر داد و تغيير سطح اختيار عاملهاي هوشمند را يكي از موضوعاتي دانست كه ميتوان آثار آن را پيش از اجراي واقعي مورد بررسي قرار داد.
