راهكاري براي عبور از بن‌بست دسترسي به ديتا در پروژه‌هاي هوش مصنوعي

از مجوز داده تا پردازش امن

۱۴۰۵/۰۶/۲۳ - ۰۰:۰۲:۴۴
کد خبر: ۴۰۳۰۵۹

سال‌هاست كمبود و دسترسي دشوار به داده به عنوان يكي از اصلي‌ترين موانع توسعه هوش مصنوعي در ايران مطرح مي‌شود؛ اما مساله لزوما  نبود داده نيست، بلكه چگونگي استفاده از آن است.

سال‌هاست كمبود و دسترسي دشوار به داده به عنوان يكي از اصلي‌ترين موانع توسعه هوش مصنوعي در ايران مطرح مي‌شود؛ اما مساله لزوما  نبود داده نيست، بلكه چگونگي استفاده از آن است. در بسياري از پروژه‌ها، دستگاه دولتي داده را در اختيار دارد اما نگران افشا و مسووليت حقوقي آن است و شركت توسعه‌دهنده نيز بدون دسترسي پايدار نمي‌تواند محصولي قابل اتكا بسازد. يك راهكار عملي مي‌تواند اين معادله را تغيير بدهد: پردازش داده در محيط حفاظت‌شده، بدون آنكه داده خام الزاما در اختيار انسان يا شركت مجري قرار بگيرد.

داده در ايران كم نيست؛ آنچه كم است، راهي براي استفاده از آن بدون تحويل‌دادن افسارگسيخته داده خام است. بسياري از پروژه‌هاي هوش مصنوعي نه به‌دليل ضعف فني، بلكه در نقطه‌اي متوقف مي‌شوند كه دستگاه دولتي بايد داده حساس خود را در اختيار يك شركت قرار بدهد. راه‌حل مي‌تواند تغيير همين نقطه شروع باشد: به‌جاي انتقال داده، امكان پردازش كنترل‌شده آن فراهم شود؛ به‌گونه‌اي كه شركت بتواند مدل خود را بسازد و ارزيابي كند، بدون آنكه الزاما داده خام را ببيند يا  در اختيار داشته باشد.

 

   اختيار اقدام از قبل  وجود  دارد

وقتي صحبت از گره داده در توسعه هوش مصنوعي مي‌شود، بخش قابل توجهي از بحث‌ها به اصلاح قوانين، تعارض منافع و همكاري نكردن دستگاه‌ها اختصاص پيدا مي‌كند. اين مسائل مهمند، اما براي شروع يك مسير اجرايي لزوما نيازي به انتظار براي تصويب قانون جديد يا ايجاد نهاد تازه نيست. بر اساس ماده ۷ اساسنامه سازمان فناوري اطلاعات، طراحي و اصلاح معماري فناوري اطلاعات، پيشنهاد ضوابط و استانداردها، مديريت مخاطرات و فراهم كردن ظرفيت مميزي فناوري‌ها و فرآيندها در حوزه فعاليت اين سازمان قرار دارد. آيين‌نامه استقرار چارچوب تعامل‌پذيري نيز اين نقش را مشخص‌تر كرده و سازمان را مسوول تأمين الزامات فني و ارزيابي بلوغ فني و انطباق‌سنجي مي‌داند. از سوي ديگر، در آيين‌نامه اجرايي بند «الف» ماده ۱۰۷ برنامه هفتم توسعه، زيرساخت اجراي و آموزش مدل‌هاي هوش مصنوعي بخشي از ابر دولت تعريف شده و تدوين ضوابط معماري، امنيت و حفاظت از داده نيز در چارچوب وزارت ارتباطات و همكاري وزارت اطلاعات قرار گرفته است. بنابراين، بخشي از ظرفيت حقوقي لازم براي طراحي الگوهاي استفاده امن از داده از پيش وجود دارد. مساله اصلي اين است كه اين اختيار تا چه اندازه به فرآيندي تبديل شده كه يك دستگاه و يك شركت بتوانند با اتكا به آن، يك پروژه واقعي هوش مصنوعي را اجرا كنند.

 

   به‌جاي تحويل داده، پردازش را مجاز كنيم

راهكار مي‌تواند از تغيير يك پيش‌فرض آغاز شود: براي اجراي يك پروژه هوش مصنوعي، الزاما نبايد داده خام در اختيار تيم توسعه قرار بگيرد. براي مثال، شركتي را در نظر بگيريم كه قرار است مدلي براي پيش‌بيني خرابي تجهيزات صنعتي طراحي كند. اين شركت به سابقه واقعي عملكرد تجهيزات نياز دارد، اما لزوما نيازي نيست كاركنان آن بتوانند تك‌تك داده‌هاي عملياتي را مشاهده كنند. مي‌توان داده را در يك محيط حفاظت‌شده نگهداري و پردازش كرد، مدل را همان‌جا آموزش داد و تنها نتايج مجاز ارزيابي يا خروجي مورد تأييد را در اختيار مجري قرار داد. در چنين معماري‌اي، «دريافت داده خام»، «اجراي پردازش»، «دريافت نتيجه» و «دريافت فايل مدل» اختيارهاي متفاوتي هستند و نبايد به‌صورت خودكار به يكديگر وابسته شوند. اين رويكرد كه مي‌توان آن را در قالب معماري «هوش مصنوعي بدون اعتماد» يا ZTAI دنبال كرد، حضور و دسترسي انساني به داده حساس را از ضرورت‌هاي معماري خارج مي‌كند. انسان همچنان هدف، سياست و حدود استفاده را تعيين مي‌كند و مسووليت دارد، اما اجراي روزمره پردازش مي‌تواند در محدوده مجوزهاي از پيش تعريف‌شده و به‌صورت كنترل‌شده انجام شود. نتيجه مي‌تواند آموزش مدل با داده واقعي بدون مشاهده داده توسط تيم توسعه، ارزيابي كيفيت مدل با داده محرمانه و ارايه صرفا نتيجه مجاز، ثبت سوابق فرآيند براي مميزي و حتي مشاركت چند دستگاه در يك تحليل مشترك بدون انتقال نسخه‌اي از داده خام باشد. البته چنين راهكاري مجوز قانوني جديد ايجاد نمي‌كند. قوانين مربوط به مديريت داده و اطلاعات ملي همچنان حدود پردازش، دسترسي و مسووليت حفاظت را تعيين مي‌كنند. موضوع اصلي، اجراي همان استفاده‌اي است كه مجاز شده، اما با دسترسي انساني محدودتر و امكان ارزيابي روشن‌تر رعايت حدود مجوز.

 

   سازمان فناوري اطلاعات

از معماري تا اجراي الگوي مرجع

نقطه اثرگذاري سازمان فناوري اطلاعات مي‌تواند تبديل اين امكان فني به «الگوي همكاري» براي دستگاه‌ها و شركت‌ها باشد. دستگاه دارنده داده نبايد براي هر پروژه مجبور شود تمام مسائل معماري، امنيت و مسووليت را از ابتدا حل كند و شركت نيز نبايد پيش از سرمايه‌گذاري، با ابهام درباره امكان استفاده از داده مواجه باشد. راهكار پيشنهادي، تدوين مجموعه‌اي از الگوهاي مرجع براي كاربست‌هاي مشخص است؛ الگوهايي كه ابتدا در يك پروژه واقعي آزمايش شوند و سپس با اعمال ملاحظات بخشي، در دستگاه‌هاي ديگر قابل استفاده باشند. در هر الگو بايد هدف مجاز، نوع داده، محيط پردازش، حدود خروجي، مسووليت طرفين و معيار ارزيابي مشخص باشد. اين الگوها مي‌توانند در چارچوب برنامه زيست‌بوم‌هاي دولت هوشمند و با مشاركت يك دستگاه ميزبان، شركت مجري و دانشگاه‌ها طراحي و آزموده شوند. به اين ترتيب، خروجي پروژه فقط يك محصول هوش مصنوعي نخواهد بود؛ بلكه معماري آزموده‌شده و روش مشخصي براي استفاده از داده نيز توليد مي‌شود. در اين تقسيم كار، سازمان فناوري اطلاعات مي‌تواند مسووليت تخصصي خود در معماري و ايجاد مسير پردازش حفاظت‌شده را دنبال كند. سازمان ملي هوش مصنوعي نيز در چارچوب ساختار جديد راهبري، مي‌تواند اولويت‌هاي مشترك را پيگيري و موانع ميان دستگاه‌ها را دنبال كند. معاونت علمي و ستاد هوش مصنوعي نيز ظرفيت ارتباط با شركت‌ها و دانشگاه‌ها و حمايت از اجراي آزمايشي پروژه‌ها را در اختيار دارند. حتي فراخوان‌هاي موجود براي پروژه‌هاي هوش مصنوعي در حوزه‌هايي مانند پولي و بانكي و حمل‌ونقل مي‌توانند محل مناسبي براي اجراي چنين الگوهايي باشند؛ به‌ويژه پروژه‌هايي كه مساله مشخص، مجري و بهره‌بردار دارند اما دسترسي به داده حساس مانع اجراي آنها شده است. در نهايت، موفقيت اين مسير بايد با شاخص‌هاي قابل اندازه‌گيري سنجيده شود: مدت زمان رسيدن از درخواست تا پردازش مجاز، هزينه همكاري، كيفيت خروجي و ميزان كاهش نياز به دسترسي انساني به داده. اگر يك پروژه واقعي بتواند نشان دهد كه داده حساس مي‌تواند بدون تحويل گسترده و غيرضروري، براي حل يك مساله واقعي به كار گرفته شود، همان پروژه مي‌تواند الگوي دستگاه‌هاي بعدي باشد. مساله داده در ايران شايد با يك قانون يا نهاد جديد حل نشود؛ اما مي‌توان از ظرفيت‌هاي موجود براي تبديل «اجازه دسترسي» به «امكان پردازش» استفاده كرد. گره اصلي، اكنون بيش از آنكه نبود اختيار باشد، نبود يك الگوي اجرايي آزموده‌شده است.

 

بیمه ملت