یک مقام ارشد وزارت دفاع امریکا اعلام کرد این نهاد می‌خواهد قبل از استفاده کامل از هوش مصنوعی، اطلاعات بیشتری درباره این فناوری کسب کند و خواستار شفافیت بیشتر توسعه‌دهندگان در این باره شد.
به گزارش ایسنا، کرگ مارتل، مدیر ارشد هوش مصنوعی و دیجیتال پنتاگون، خواستار ارایه اطلاعات بیشتر از سوی شرکت‌های هوش مصنوعی درباره نحوه ساخت نرم‌افزار هوش مصنوعی است تا این نهاد بتواند با طیب خاطر و اطمینان، از این فناوری استفاده کند. نرم‌افزار هوش مصنوعی روی مدل‌های زبانی بزرگ متکی است که از مجموعه داده عظیمی برای کارکرد ابزارهای مانند چت بات‌ها و تولیدکنندگان استفاده می‌کنند.
این سرویس‌ها معمولا بدون نشان دادن کارهای داخلی خود، در یک به اصطلاح جعبه سیاه، عرضه می‌شوند. در نتیجه، برای کاربران دشوار است که درک کنند چطور این فناوری، به تصمیمات رسیده یا چه چیزی باعث بهتر یا بدتر شدن آن به مرور زمان می‌شود. مارتل گفت: ما فقط نتیجه نهایی مدل‌سازی را دریافت می‌کنیم و این کافی نیست. پنتاگون هیچ ایده‌ای ندارد که این مدل‌ها چطور ساخته شده‌اند یا از چه داده‌هایی استفاده می‌کنند. همچنین شرکت‌ها توضیح نمی‌دهند سیستم‌هایشان چه خطراتی ممکن است ایجاد کنند. وی اظهار کرد: آنها می‌گویند بفرمایید. ما نمی‌گوییم آن را چطور ساختیم. به شما نمی‌گوییم در چه چیزی خوب یا بد است. نمی‌گوییم آیا جانبدارانه است یا خیر. این مقام وزارت دفاع امریکا، چنین مدل‌هایی را معادل «فناوری بیگانه یافت شده» برای وزارت دفاع توصیف کرد.
وی همچنین نگران است که فقط عده‌ای از مردم پول کافی برای ساختن مدل‌های زبانی بزرگ دارند. مارتل هیچ شرکتی را با نام مشخص نکرد، اما مایکروسافت، آلفابت، گوگل و آمازون از جمله شرکت‌هایی هستند که به همراه استارتاپ‌های OpenAI و آنتروپیک سرگرم توسعه مدل‌های زبانی بزرگ برای بازار تجاری هستند.
