قول شفافيت بيشتر در مورد محتواي مضر هوش مصنوعي از سوي «اوپن‌اي‌آي»
شركت اوپن‌اي‌آي (OpenAI) كه توسعه‌دهنده هوش مصنوعي مشهور ChatGPT است، يك مركز ارزيابي ايمني جديد راه‌اندازي كرده است كه به‌طور منظم به‌روز مي‌شود تا شفافيت بيشتري در مورد توهمات و محتواي مضر هوش مصنوعي داشته باشد.
شركت اوپن‌اي‌آي (OpenAI) كه توسعه‌دهنده هوش مصنوعي مشهور ChatGPT است، يك مركز ارزيابي ايمني جديد راه‌اندازي كرده است كه به‌طور منظم به‌روز مي‌شود تا شفافيت بيشتري در مورد توهمات و محتواي مضر هوش مصنوعي داشته باشد. به گزارش ايسنا، شركت اوپن‌اي‌آي يك صفحه وب جديد به نام «مركز ارزيابي ايمني» راه‌اندازي كرده است تا به شكل عمومي، اطلاعات مربوط به مواردي مانند ميزان توهم مدل‌هاي خود را به اشتراك بگذارد. اين هاب همچنين اگر مدلي محتواي مضر توليد مي‌كند، نشان مي‌دهد كه چگونه طبق دستور عمل مي‌كند و سعي مي‌كند آن را اصلاح كند. اين شركت فناوري ادعا مي‌كند كه اين صفحه جديد شفافيت بيشتري را از جانب «اوپن‌اي‌آي» فراهم مي‌كند؛ شركتي كه همين الان هم با پرونده‌هاي قضايي متعددي مبني بر استفاده غيرقانوني از مطالب داراي حق نشر براي آموزش مدل‌هاي هوش مصنوعي خود مواجه است. اين «مركز ارزيابي ايمني» به منظور گسترش نظارت «اوپن‌اي‌آي» راه‌اندازي شده است كه به‌طور مداوم نيز به‌روزرساني مي‌شود. شركت «اوپن‌اي‌آي» در اعلاميه خود مي‌گويد: همانطور كه علم ارزيابي هوش مصنوعي در حال تكامل است، هدف ما اين است كه پيشرفت خود را در توسعه راه‌هاي مقياس‌پذيرتر براي اندازه‌گيري قابليت و ايمني مدل‌ها به اشتراك بگذاريم. با به اشتراك گذاشتن زيرمجموعه‌اي از نتايج ارزيابي ايمني خود در اينجا، اميدواريم اين امر نه تنها درك عملكرد ايمني سيستم‌هاي «اوپن‌اي‌آي» را در طول زمان آسان‌تر كند، بلكه از تلاش‌هاي جامعه براي افزايش شفافيت در سراسر زمينه نيز حمايت كند. اين شركت مي‌افزايد كه تلاش مي‌كند تا ارتباطات فعال‌تري در اين زمينه داشته باشد. علاقه‌مندان مي‌توانند به هر يك از بخش‌هاي اين هاب نگاه كنند و اطلاعات مربوط به مدل‌هاي مربوطه مانند «GPT-4.1» تا 4.5 را مشاهده كنند. «اوپن‌اي‌آي» خاطرنشان مي‌كند كه اطلاعات ارايه شده در اين مركز فقط يك «عكس فوري» است و افراد علاقه‌مند بايد به ارزيابي‌ها و ساير اطلاعات براي جزييات بيشتر نگاه كنند. يكي از نكات مهم كل «مركز ارزيابي ايمني» اين است كه «اوپن‌اي‌آي» نهادي است كه اين آزمايش‌ها را انجام مي‌دهد و انتخاب مي‌كند كه چه اطلاعاتي را به صورت عمومي به اشتراك بگذارد. در نتيجه، هيچ راهي براي تضمين اينكه اين شركت تمام مسائل يا نگراني‌ها را با مردم در ميان بگذارد، وجود ندارد.