هوش مصنوعي چيني هم كلاهبردار از آب درآمد
طبق اسناد يك گزارش عاملهاي هوش مصنوعي چيني فريبكاري، دور زدن محدوديتها و مخفي كردن شكستهايشان را آموختهاند.
طبق اسناد يك گزارش عاملهاي هوش مصنوعي چيني فريبكاري، دور زدن محدوديتها و مخفي كردن شكستهايشان را آموختهاند. به گزارش مهر به نقل از رويترز، اين امر نشاندهنده ويژگيهايي در هوش مصنوعي خودكار است كه نگرانيهاي جهاني را درباره مدلهاي امريكايي برانگيخته است. عاملهاي هوش مصنوعي علي بابا، ديپ سيك و مونشات در يك مورد در سال جاري درباره قابليتهايشان دروغ گفتند تا يك مناقصه تجاري شبيهسازيشده را برنده شوند و هنگامي كه به آنها دستور داده شد دوباره سعي كنند، روي رفتار فريبكارانهشان تاكيد كردند. در موردي ديگرعاملها يعني برنامههايي كه با بهرهگيري از مدلهاي هوش مصنوعي و ابزارهاي رايانهاي، وظايف پيچيده را با دخالت اندك يا بدون دخالت انسان انجام ميدهند با شبيهسازي نتايج و جعل فايلها، شكست خود در انجام يك وظيفه در محيط آزمايشي را پنهان كردند. رويترز بيش از ۲۰۰ سند، از مقالات تحقيقاتي دانشگاهي گرفته تا گزارشهاي فني را بررسي كرد و حداقل ۲۰ مطالعه يا ارزيابي را از سال ۲۰۲۵ شناسايي كرد كه مواردي را توصيف ميكردند كه در آنها عوامل، رفتارهايي مانند فريب، تكثير و مرزهاي چالشبرانگيز را نشان ميدادند كه كارشناسان هوش مصنوعي آنها را به عنوان بلوكهاي سازنده براي يك جهش توصيف كردند و با پيشرفت سيستمها، كنترل آنها ميتواند براي انسانها دشوارتر شود. اين بررسي كه شامل مصاحبه با دهها متخصص و افراد آشنا با صنعت هوش مصنوعي چين نيز بود، هيچ مدركي مبني بر فرار مستقل عوامل تحت كنترل چين به اينترنت گستردهتر يا فرار از خاموشي نيافت. البته بيشتر موارد در محيطهاي كنترل شده آزمايشگاهي رخ دادند كه بسياري از آنها بهطور عامدانه براي افشاي شكستهاي احتمالي طراحي شده بودند.
