افشاگري كارمند مايكروسافت عليه محصول اوپن‌اي‌آي

تيم حقوقي مايكروسافت مهندسي كه شكافي را در محصول DALL-E3 اوپن‌اي آي يافته بود به زور ساكت كردند و او اكنون مي‌خواهد افشاگري كند. به گزارش مهر به نقل از انگجت، يك مدير مايكروسافت مدعي است محصول DALL-E3 شركت اوپن‌اي آي شكاف‌هاي امنيتي دارد كه به كاربران اجازه مي‌دهد تصاوير خشن يا مخرب توليد كنند. نشريه «گيك واير» در گزارشي اعلام كرده تيم حقوقي مايكروسافت، از تلاش‌هاي شين جونز رهبر مهندسي مايكروسافت براي هشدار به مردم درباره اين شكاف جلوگيري كرده است. اين افشاگر اكنون قصد دارد پيام خود را به گوش مقامات برساند. جونز در نامه‌اي پتي موري، ماريا كانتول، آدام اسميت سناتورهاي امريكايي و همچنين باب فرگوسن دادستان كل ايالت واشنگتن نوشته است: من به اين نتيجه رسيدم كهDALL-E3 ريسكي براي ايمني عمومي است و تا زمانيكه اوپن‌اي آي چالش‌هاي مرتبط با اين مدل را برطرف نكرده، نبايد براي استفاده عمومي ارايه شود. وي در اوايل دسامبر 2023 كشف كرد يك شكاف به او اجازه مي‌دهد دستورالعمل امنيتي DALL-E3 را دور بزند. جونز مدعي است مشكل را به مديران خود در مايكروسافت گزارش داده و آنها به او دستور داده‌اند تا شخصا اين اختلال را به‌طور مستقيم به اوپن‌اي آي گزارش دهد. پس از اين اقدام وي متوجه شد شكاف مذكور در DALL-E3 اجازه توليد تصاوير خشن و مخرب را مي‌دهد. در مرحله بعد اين مهندس سعي كرد اختلال كشف شده را در يك پست لينكدين به‌طور عمومي فاش كند. او در اين باره در نامه‌اش نوشته است: صبح 14 دسامبر 2023 ميلادي من به‌طور عمومي نامه‌اي به هيات‌مديره اوپن‌اي آي در لينكدين منتشر كردم و از آنها خواستم تا DALL-E3 را تعليق كنند زيرا مايكروسافت يكي از اعضاي هيات نظارت در اوپن‌اي آي است و من قبلا نگراني هايم را با تيم رهبري مطرح كردم. من مايكروسافت را از نامه مذكور نيز مطلع كردم. مايكروسافت در پاسخ به اين اقدام از وي خواست پستش را حذف كند. او در بخش ديگري نوشته است: مدت كوتاهي پس از فاش شدن نامه به تيم رهبري‌ام، مديرم با من تماس گرفت و گفت بخش حقوقي مايكروسافت خواستار حذف پست شده است. او به من گفت تيم حقوقي شركت توجيهات خاص خود براي حذف نامه را به زودي در يك ايميل براي من ارسال مي‌كنند و من بايد بدون انتظار براي دريافت ايميل مذكور پست را حذف كنم. هرچند جونز از اين دستور پيروي كرد اما هيچگاه توضيحاتي از تيم حقوقي مايكروسافت دريافت نكرده است. او بعدا تلاش مي‌كند تا اطلاعاتي در اين باره از تيم حقوقي به دست آورد اما مورد غفلت واقع مي‌شود. سخنگوي اوپن‌اي آي در نامه‌اي به انگجت نوشته است: ما پس از دريافت گزارش كارمند مايكروسافت، به سرعت موضوع را بررسي كرديم و مطمئن شديم تكنيكي كه او به اشتراك گذاشته سيستم‌هاي ايمني ما را دور نمي‌زند.