هشدار درباره دو مسير خطرناك در پيشرفت هوش مصنوعي

سم آلتمن، مديرعامل اوپن‌اي‌آي، با انتشار بيانيه‌اي خواستار ايجاد چارچوب‌هاي ايمني و كنترل سرعت توسعه مدل‌هاي پيشرفته هوش مصنوعي شد. مديرعامل اوپن‌اي‌آي با انتشار بيانيه‌اي بر ضرورت رفتاري مسوولانه در مسير توسعه فناوري‌هاي نوين تأكيد كرد و از لزوم كاهش سرعت پيشرفت مدل‌هاي هوش مصنوعي پيشرفته براي تضمين ايمني سخن گفت. آلتمن مي‌گويد شركت‌هاي پيشرو بايد استانداردهاي امنيتي سخت‌گيرانه‌تري را پيش از آغاز فرايندهاي يادگيري تقويتي سنگين پياده‌سازي كنند تا قابليت‌هاي مدل‌ها از سازوكارهاي نظارتي فراتر نرود. به گفته آلتمن: «جهان شايسته اطمينان از اين موضوع است كه شركت‌هاي امريكايي توسعه‌دهنده هوش مصنوعي با قابليت‌هاي فزاينده، مسوولانه عمل خواهند كرد؛ به‌ويژه در شرايطي كه روند پيشرفت پرشتاب‌تر شده است. هر شركت پيشرويي بايد اين اطمينان را ايجاد كند و اگر نمي‌توانيم، دليلي ندارد هيچ‌يك از ما سر كار بياييم.» آلتمن دو خطر عمده را تهديدكننده آينده بشر دانست كه شامل از دست رفتن كنترل بر سرنوشت جهان به نفع هوش مصنوعي و تمركز بيش از حد قدرت در دست يك دولت يا شركت خاص مي‌شود. مديرعامل اوپن‌اي‌آي، گفت: «وقتي از تنظيم سرعت صحبت مي‌كنيم، منظورمان توقف نيست. پيشرفت سريع بوده است و همچنان ادامه خواهد داشت، اما بايد كندتر از آنچه مي‌تواند باشد پيش برود؛ اقداماتي مانند پرونده‌هاي ايمني و نظارت، هزينه‌هاي چشمگيري  دارند.»