تشخيص واقعيت از جعل عميق ديگر ممكن نيست

در طول سال ۲۰۲۵، جعل عميق به‌طرز چشمگيري پيشرفت كرد. چهره‌ها، صداها و حتي اجراهاي تمام‌قد توليدشده با هوش مصنوعي كه افراد واقعي را شبيه‌سازي مي‌كنند، از نظر كيفيت فراتر از چيزي رفتند كه حتي بسياري از كارشناسان چند سال پيش انتظارش را داشتند. در عين حال، استفاده از آنها براي فريب دادن مردم نيز به‌طور محسوسي افزايش يافت. به گزارش ايسنا، در بسياري از موقعيت‌هاي روزمره به‌ويژه تماس‌هاي ويدئويي با كيفيت پايين و محتوايي كه در شبكه‌هاي اجتماعي دست‌به دست مي‌شود، ميزان واقعي بودن جعل‌هاي عميق آنقدر بالاست كه به‌طور قابل‌اعتماد افراد غيرمتخصص را فريب مي‌دهد. از نظر عملي، توليدات مصنوعي براي مردم عادي و در برخي موارد حتي براي نهادها، از داده‌هاي واقعي غيرقابل‌تمايز شده‌اند. به نقل از گيزمودو، اين جهش فقط به كيفيت محدود نمي‌شود. حجم جعل‌هاي عميق نيز به‌طور انفجاري افزايش يافته است. شركت امنيت سايبري «ديپ‌استرايك» برآورد مي‌كند كه تعداد جعل‌هاي عميق آنلاين از حدود ۵۰۰ هزار مورد در سال ۲۰۲۳ به حدود هشت ميليون مورد در سال ۲۰۲۵ رسيده است كه رشدي سالانه نزديك به ۹۰۰ درصد است. يك دانشمند علوم رايانه كه روي جعل‌هاي عميق و ديگر توليدات مصنوعي پژوهش مي‌كند، مي‌گويد: از نظر من، وضعيت احتمالا در سال ۲۰۲۶ بدتر هم خواهد شد، زيرا جعل‌هاي عميق به اجراكنندگان مصنوعي تبديل مي‌شوند كه قادرند در لحظه به انسان‌ها واكنش نشان دهند. چند تحول فني، پايه‌هاي اين جهش چشمگير را شكل داده‌اند. نخست، ميزان واقعي بودن ويدئوها به لطف نسل تازه‌اي از مدل‌هاي توليد ويدئو است كه به‌طور ويژه براي حفظ «انسجام زماني» طراحي شده‌اند. اين مدل‌ها قادرند ويدئوهايي را بسازند كه در آنها حركت‌ها طبيعي و پيوسته‌اند، هويت افراد در طول صحنه ثابت مي‌ماند و محتوا از يك فريم به فريم بعد منطقي، هماهنگ و باورپذير است. اين مدل‌ها اطلاعات مربوط به نمايش هويت يك فرد را از اطلاعات مربوط به حركت جدا مي‌كنند؛ به‌گونه‌اي كه مي‌توان يك حركت مشخص را به هويت‌هاي مختلف نسبت داد يا يك هويت واحد را با انواع حركت‌ها نمايش داد. در نتيجه، اين مدل‌ها چهره‌هايي پايدار و منسجم توليد مي‌كنند، بدون آن سوسو زدن، اعوجاج يا تغيير شكل‌هاي ساختاري در اطراف چشم و خط فك كه زماني به عنوان شواهد قابل‌اعتماد براي شناسايي جعل‌هاي عميق به كار مي‌رفت. عبور شبيه‌سازي صدا از چيزي است كه او آن را «آستانه غيرقابل‌تشخيص بودن» مي‌نامد.