اطلاعات پزشكي خطرناك در چكيده‌هاي هوش مصنوعي گوگل

تحقيقي از روزنامه گاردين نشان مي‌دهد قابليت  «AI Overviews» يا چكيده‌هاي هوش مصنوعي گوگل كه در بخش جست‌وجو‌ها نمايش داده مي‌شوند، در برخي موارد اطلاعات پزشكي نادرست و حتي خطرناكي را در صدر نتايج جست‌وجو در اختيار كاربر مي‌گذارند. اين مساله به گفته متخصصان سلامت مي‌تواند كاربران را در معرض آسيب جدي قرار دهد. به گزارش پيوست، گاردين در بررسي‌هاي خود به چندين نمونه از توصيه‌هاي پزشكي غلط اشاره دارد كه توسط خلاصه‌هاي هوش مصنوعي گوگل توليد و در اختيار كاربران قرار گرفته است. در يكي از نگران‌كننده‌ترين موارد، اين سيستم به بيماران مبتلا به سرطان لوزالمعده توصيه مي‌كند تا از مصرف غذاهاي پرچرب پرهيز كنند؛ در حالي كه اين توصيه برخلاف راهنمايي‌هاي پزشكي رايج است و مي‌تواند توان بيمار براي تحمل شيمي‌درماني يا جراحي‌هاي حياتي را به خطر بيندازد. آنا جول، كارشناس پژوهش و پشتيباني در موسسه Pancreatic Cancer UK، در اين باره گفت پيروي از چنين توصيه‌اي مي‌تواند مانع دريافت كالري كافي و افزايش وزن بيماران شود و در نتيجه امكان ادامه درمان‌هاي نجات‌بخش را از آنها بگيرد.

اين تحقيق پس از آن انجام گرفته است كه سازمان‌هاي سلامت، خيريه‌ها و پزشكان نگراني‌هاي خود را درباره دقت چكيده‌هاي هوش مصنوعي گوگل مطرح كردند. در يكي از نمونه‌ها، جست‌وجوي مربوط به علائم و آزمايش‌هاي سرطان واژن، به اشتباه تست پاپ‌اسمير را به عنوان روش تشخيصي اين سرطان معرفي كرده بود؛ در حالي كه پاپ‌اسمير در واقع براي غربالگري سرطان دهانه رحم به كار مي‌رود. خيريه The Eve Appeal اين اطلاعات را «كاملا غلط» توصيف كرده است. موارد ديگري نيز شناسايي شده كه شامل تفسير نادرست نتايج آزمايش‌هاي كبدي بدون در نظر گرفتن عواملي مانند سن، جنسيت، قوميت يا مليت است؛ موضوعي كه مي‌تواند باعث شود افراد مبتلا به بيماري‌هاي جدي كبدي به اشتباه تصور كنند سالم هستند. همچنين گزارش‌هايي از توصيه‌هاي گمراه‌كننده درباره مشكلات سلامت روان از جمله روان‌پريشي و اختلالات خوردن مطرح شده است. سوفي رندال، مدير انجمن Patient Information Forum در بريتانيا، در اين رابطه هشدار داده و مي‌گويد اين يافته‌ها نشان مي‌دهد كه نفوذ اطلاعات نادرست پزشكي در بالاترين جايگاه نتايج جست‌وجو مي‌تواند سلامت كاربران را به خطر بيندازد. با اين حال گوگل در واكنش به اين گزارش، اعلام كرده است كه اين شركت سرمايه‌گذاري قابل‌توجهي براي ارتقاي كيفيت AI Overviews در موضوعات سلامت انجام داده و «اكثريت قريب به اتفاق» اين خلاصه‌ها اطلاعات دقيقي ارايه مي‌كنند. گوگل همچنين تاكيد كرده است كه برخي از نمونه‌هاي ارايه شده در اين گزارش «اسكرين‌شات‌هاي ناقص» هستند و پاسخ‌ها معمولا به منابع معتبر پيوند داده و كاربران را به مشورت با متخصصان توصيه مي‌كنند. اين گزارش در ادامه موج فزاينده نگراني‌ها درباره محتواي توليدشده توسط هوش مصنوعي منتشر شده است. پيش‌تر نيز مطالعاتي نشان داده بودند كه چت‌بات‌هاي هوش مصنوعي در حوزه‌هايي مانند مشاوره مالي و خلاصه‌سازي اخبار، اطلاعات نادقيق يا گمراه‌كننده ارايه كرده‌اند و يكي از موارد مشهور آن خلاصه‌هاي اشتباه هوش مصنوعي اپل از رسانه بي‌بي‌سي بود كه با واكنش اين رسانه باعث غيرفعال شدن آن شد. انتشار گزارش جديد روزنامه گاردين در اين باره پرسش‌هاي تازه‌اي را پيرامون اطمينان و اتكاي فناوري‌ هوش مصنوعي در حوزه‌هاي حساس ايجاد كرده است. با اينكه شركت‌هاي هوش مصنوعي همواره در محصولات خود به احتمال اشتباه اشاره دارند و پديده‌اي چون‌توهم  هوش مصنوعي همچنان حل نشده باقي مانده است، چكيده‌هاي هوش مصنوعي گوگل به دليل استفاده طيف گسترده‌اي از كاربران از اين موتور جست‌وجو از اهميت ويژه‌اي در اطلاعاتي دارد كه به مردم منتقل خواهد شد.