بايدها و نبايدهاي استفاده از هوش مصنوعي
بهرغم آنكه هوش مصنوعي امروز به بخش جداييناپذير از زندگي روزمره انسانها و سازمانها تبديل شده اما استفاده نادرست، ناآگاهانه يا غيرمسوولانه از اين فناوري ميتواند پيامدهايي همچون نقض حريم خصوصي افراد، تصميمگيريهاي تبعيضآميز و انتشار اطلاعات نادرست را به دنبال داشته باشد.
بهرغم آنكه هوش مصنوعي امروز به بخش جداييناپذير از زندگي روزمره انسانها و سازمانها تبديل شده اما استفاده نادرست، ناآگاهانه يا غيرمسوولانه از اين فناوري ميتواند پيامدهايي همچون نقض حريم خصوصي افراد، تصميمگيريهاي تبعيضآميز و انتشار اطلاعات نادرست را به دنبال داشته باشد. به گزارش ايسنا، هوش مصنوعي طي يك دهه اخير از يك مفهوم آزمايشگاهي به ابزاري روزمره در زندگي فردي، آموزشي، سازماني و صنعتي تبديل شده و از دستيارهاي هوشمند گرفته تا سامانههاي تشخيص پزشكي، موتورهاي پيشنهاددهنده در پلتفرمهاي خريد و ابزارهاي توليد محتوا و كدنويسي را دربر گرفته است. هوش مصنوعي امروز بخشي جداييناپذير از فرآيندهاي تصميمگيري انساني و سازماني است و اين گسترش سريع، در كنار فرصتهاي بيسابقهاي كه ايجاد كرده، مجموعهاي از چالشها و مسووليتهاي تازه را نيز پيش روي كاربران، توسعهدهندگان، سازمانها و قانونگذاران قرار داده است. البته استفاده نادرست، ناآگاهانه يا غيرمسوولانه از اين فناوري ميتواند پيامدهايي نظير نقض حريم خصوصي، تصميمگيريهاي تبعيضآميز، انتشار اطلاعات نادرست و آسيب به اعتماد عمومي به همراه داشته باشد. در مقابل، استفاده اصولي، آگاهانه و مبتني بر چارچوبهاي اخلاقي ميتواند بهرهوري، كيفيت تصميمگيري و كيفيت زندگي را بهطور چشمگيري ارتقا دهد.
هوش مصنوعي چيست؟
هوش مصنوعي به مجموعهاي از فناوريها و روشهاي محاسباتي گفته ميشود كه به سامانههاي رايانهاي امكان ميدهند وظايفي را انجام بدهند كه معمولا نيازمند هوش انساني هستند؛ وظايفي مانند يادگيري از داده، تشخيص الگو، استدلال، تصميمگيري، درك زبان طبيعي و توليد محتوا. زيرشاخههاي اصلي اين حوزه شامل يادگيري ماشين، يادگيري عميق، پردازش زبان طبيعي، بينايي رايانهاي و سامانههاي مبتني بر قاعده است. در سالهاي اخير، ظهور مدلهاي زباني بزرگ و ابزارهاي هوش مصنوعي مولد، دسترسي عموم مردم به اين فناوري را بهطور بيسابقهاي افزايش داده است. اين تحول باعث شده كه موضوع استفاده مسوولانه از هوش مصنوعي ديگر صرفا دغدغه متخصصان فناوري نباشد، بلكه به موضوعي عمومي براي هر كاربر، دانشآموز، معلم، كارمند و مدير تبديل شود. هوش مصنوعي بر خلاف بسياري از فناوريهاي پيشين، مستقيماً در فرآيند تصميمگيري دخالت ميكند.سامانهاي كه تصميم ميگيرد كدام رزومه بررسي شود، كدام بيمار در اولويت درمان قرار گيرد يا كدام محتوا به كاربر پيشنهاد شود؛ به همين دليل رعايت اصول اخلاقي و فني در استفاده از اين فناوري صرفاً يك توصيه اختياري نيست، بلكه پيشنياز بهرهبرداري امن و پايدار از آن است.
چرا رعايت
اصول فني و اخلاقي ضروري است؟
دليل نخست، كاهش خطر آسيب به افراد و جامعه از طريق جلوگيري از تصميمهاي نادرست يا تبعيضآميز است. دليل دوم حفظ اعتماد عمومي به فناوري كه پيششرط پذيرش گسترده و پايدار آن است و سومين دليل، انطباق با الزامات قانوني و مقرراتي است كه در بسياري از كشورها به سرعت در حال شكلگيري هستند.
بايدهاي كليدي در استفاده از هوش مصنوعي
از مهمترين اصولي كه كاربران و سازمانها بايد هنگام استفاده از هوش مصنوعي رعايت كنند، حفاظت از دادههاي حساس، آموزش مستمر كاربران، راستيآزمايي خروجي، بهروز رساني دانش و استفاده هدفمند است.
نبايدهاي كليدي در استفاده از هوش مصنوعي
در مقابل بايدها، مجموعهاي از رفتارها و رويهها نيز وجود دارند كه بايد از آنها اجتناب كرد و اعتماد كوركورانه، ورود داده محرمانه بدون بررسي، واگذاري كامل تصميمهاي حساس و نقض حقوق مالكيت فكري ازجمله آنهاست. درحال حاضر رويكردهاي قانونگذاري در جهان نسبت به هوش مصنوعي متفاوت بوده و كشورها نسبت به تنظيمگري هوش مصنوعي شيوههاي متفاوتي را در پيش گرفتهاند. به عنوان مثال در اتحاديه اروپا، رويكرد مبتني بر ريسك با طبقهبندي كاربردها به سطوح ريسك مختلف و الزامات متناسب با هر سطح. در ايالات متحده امريكا، تركيبي از دستورالعملهاي فدرال، استانداردهاي داوطلبانه صنعتي و مقررات ايالتي پراكنده به عنوان رويكرد دنبال ميشود. در چين، رويكرد بر مبناي نظارت متمركز دولتي با تمركز بر محتواي توليدشده و الزامات ثبت الگوريتم است. سازمانهاي بينالمللي نيز تدوين اصول راهنما و چارچوبهاي داوطلبانه براي هماهنگي جهاني نظير اصول اخلاقي نهادهاي تخصصي سازمان ملل را در پيش ميگيرند. كارشناسان با اشاره به روند تحول هوش مصنوعي معتقدند اين فناوري در سالهاي آينده نقشي گستردهتر در تصميمگيريهاي فردي و سازماني خواهد داشت.اين موضوع، مسووليت مشتركي را ميان توسعهدهندگان فناوري، سازمانهاي به كارگيرنده، قانونگذاران و كاربران نهايي ايجاد ميكند.
حريم خصوصي و حفاظت از دادهها
بسياري از ابزارهاي هوش مصنوعي براي بهبود عملكرد خود از دادههاي ورودي كاربران استفاده ميكنند.اين موضوع در كنار مزاياي فني، ريسكهاي جدي براي حريم خصوصي ايجاد ميكند، به ويژه اگر كاربران بدون آگاهي كافي، اطلاعات حساس شخصي يا سازماني را وارد اين سامانهها كنند. در اين بين لازم است اصول كليدي حفاظت از دادهها رعايت شود مثلا پيش از استفاده از هر ابزار، سياست حريم خصوصي و شرايط استفاده از داده را مطالعه كنيد. در صورت امكان از گزينههاي غيرفعالسازي استفاده از داده براي آموزش مدل بهره ببريد و دادههاي شناساييكننده افراد را در صورت عدم ضرورت حذف يا ناشناسسازي كنيد.براي دادههاي سازماني حساس از ابزارهاي داراي گواهيهاي امنيتي و انطباق با استانداردهاي شناختهشده استفاده كنيد. نمونه آن خطر ورود اطلاعات حساس است. مثلا كارمندي كه براي تسريع در نوشتن گزارش مالي، ارقام محرمانه درآمد سازمان را در يك ابزار عمومي هوش مصنوعي وارد ميكند، ممكن است ناخواسته اين اطلاعات را در معرض ذخيرهسازي يا حتي استفاده در آموزش مدلهاي آينده قرار بدهد. رويه صحيح، استفاده از نسخههاي سازماني داراي تضمين حريم خصوصي يا حذف ارقام حساس پيش از ورود به سامانه است. سامانههاي هوش مصنوعي از دادههاي گذشته ميآموزند و بنابراين ميتوانند الگوهاي تبعيضآميز موجود در آن دادهها را باز توليد يا حتي تقويت كنند.اين پديده كه «سوگيري الگوريتمي» ناميده ميشود، ميتواند در حوزههايي مانند استخدام، اعطاي وام، تشخيص پزشكي و عدالت كيفري پيامدهاي جدي براي گروههاي مختلف اجتماعي داشته باشد. مقابله با سوگيري نيازمند رويكردي چندلايه است: بررسي منظم دادههاي آموزشي از نظر نمايندگي متوازن گروههاي مختلف، آزمون خروجي سامانه بر روي زيرگروههاي جمعيتي گوناگون و حفظ امكان بازبيني و اعتراض انساني نسبت به تصميمهاي الگوريتمي. نمونه آن سوگيري در فرآيند استخدام است. اگر دادههاي تاريخي يك شركت نشان دهد كه اكثر افراد استخدام شده در يك نقش خاص از يك جنسيت يا پيشينه خاص بودهاند سامانهاي كه بر پايه اين داده آموزش ديده ممكن است بهطور ناخواسته رزومههاي ساير گروهها را كمارزشتر ارزيابي كند، حتي اگر شايستگي يكساني داشته باشند.
امنيت سايبري و هوش مصنوعي
هوش مصنوعي هم ميتواند ابزاري براي تقويت امنيت سايبري باشد (مانند تشخيص ناهنجاري در ترافيك شبكه) و هم ميتواند خود هدف يا ابزار حملات سايبري قرار گيرد.حملاتي مانند «مسمومسازي داده» (دستكاري دادههاي آموزشي) يا «تزريق دستور» (فريب دادن مدل براي انجام رفتار ناخواسته) از جمله تهديدهاي نوظهور در اين حوزه هستند. دسترسي به سامانههاي هوش مصنوعي حساس را محدود و كنترلشده نگه داريد.وروديهاي كاربران را پيش از پردازش توسط مدل، پالايش و اعتبارسنجي كنيد و سامانهها را بهطور منظم از نظر آسيبپذيريهاي امنيتي ارزيابي كنيد. روند كلي پذيرش سازماني هوش مصنوعي طي سالهاي اخير صعودي بوده و اين روند، اهميت آموزش كاربران و تدوين سياستهاي مسوولانه استفاده را دوچندان ميكند.حريم خصوصي دادهها و صحت اطلاعات توليدشده از مهمترين دغدغههاي كاربران به شمار ميرود. استفاده مسوولانه از هوش مصنوعي يك اقدام يكباره نيست، بلكه يك چرخه مستمر است كه از جمعآوري داده آغاز ميشود و با نظارت مستمر و بازخورد انساني ادامه مييابد. در همين راستا علي اصغر زارعي، مدرس دانشگاه و كارشناس ارشد فناوري اطلاعات در گفتوگو با ايسنا، معتقد است كه استفاده مسوولانه از هوش مصنوعي يك اقدام يكباره نيست، بلكه يك چرخه مستمر است كه از جمعآوري داده آغاز ميشود و با نظارت مستمر و بازخورد انساني ادامه مييابد. به گفته وي بسياري از ابزارهاي هوش مصنوعي براي بهبود عملكرد خود از دادههاي ورودي كاربران استفاده ميكنند و اين موضوع در كنار مزاياي فني، ريسكهاي جدي براي حريم خصوصي ايجاد ميكند بهويژه اگر كاربران بدون آگاهي كافي، اطلاعات حساس شخصي يا سازماني را وارد اين سامانهها كنند. زارعي درباره اصول كليدي حفاظت از دادهها ميگويد: بايد پيش از استفاده از هر ابزار، سياست حريم خصوصي و شرايط استفاده از داده را مطالعه كرد و در صورت امكان از گزينههاي غيرفعالسازي استفاده از داده براي آموزش مدل بهره برد. همچنين دادههاي شناساييكننده افراد در صورت عدم ضرورت بايد حذف يا ناشناسسازي شود و براي دادههاي سازماني حساس، از ابزارهاي داراي گواهيهاي امنيتي و انطباق با استانداردهاي شناختهشده استفاده كرد. اين مدرس دانشگاه در ادامه اصول بايدها و نبايدها در ۴ حوزه سلامت، آموزش و كسب و كار و رسانه و محتوا را مورد تحليل و ارزيابي قرار داد و گفت: در حوزه سلامت، سامانههاي هوش مصنوعي در تشخيص تصاوير پزشكي، پيشبيني ريسك بيماري و مديريت پرونده بيماران كاربرد گستردهاي دارند. بايد كليدي در اين حوزه، حفظ نظارت پزشك متخصص بر تصميم نهايي است.در حوزه آموزش، در محيطهاي آموزشي، هوش مصنوعي ميتواند به شخصيسازي يادگيري و توليد محتواي آموزشي كمك كند. نبايد كليدي در اين حوزه، واگذاري كامل فرآيند ارزيابي يادگيري دانشآموز به سامانه بدون بازبيني معلم است زيرا اين كار ميتواند به قضاوتهاي نادرست درباره توانايي واقعي دانشآموز منجر شود. وي در مورد حوزه كسب و كار توضيح داد: در كسبوكارها، هوش مصنوعي در تحليل داده مشتري، اتوماسيون خدمات و تصميمگيري مالي بهكار ميرود. بايد كليدي، شفافسازي براي مشتريان درباره تعامل با سامانههاي خودكار مثل ربات گفتوگو و فراهم كردن مسير دسترسي به يك كارشناس انساني است. در حوزه رسانه و محتوا نيز هوش مصنوعي مولد امكان توليد سريع متن، تصوير و ويدئو را فراهم كرده است. نبايد كليدي، انتشار محتواي توليدشده توسط هوش مصنوعي به عنوان اثر كاملا انساني بدون افشاي منبع، به ويژه در گزارشهاي خبري و محتواي آموزشي است. به گزارش ايسنا، هوش مصنوعي ابزاري قدرتمند است كه در صورت استفاده صحيح ميتواند بهرهوري، دقت و كيفيت تصميمگيري را در حوزههاي گوناگون ارتقا دهد. با اين حال اين قدرت بدون رعايت اصول اخلاقي، شفافيت، حفاظت از حريم خصوصي و نظارت انساني ميتواند به منبع آسيب و بياعتمادي تبديل شود. طبعا رعايت بايدها و پرهيز از نبايدها گامي اساسي براي بهرهبرداري پايدار، ايمن و عادلانه از هوش مصنوعي است و موفقيت اين فناوري نه صرفا به پيشرفتهاي فني بلكه به ميزان مسووليتپذيري انسانهايي بستگي دارد كه آن را طراحي، مستقر و استفاده ميكنند.
