پیام عجیب ایجنت Muse متا به کاربر درباره دسترسی خودسرانه به ایمیل او جنجالی شد
این ایجنت بدون دریافت هیچ دستوری از سوی کاربر، اعلام کرده بود که سراغ ایمیل او رفته است.
یک مهندس نرم‌افزار اعلام کرده که ایجنت هوش مصنوعی Muse شرکت متا رفتاری به‌شدت عجیب و نگران‌کننده نشان داده که در نهایت او را متقاعد کرده استفاده از این ابزار را به‌طور کامل متوقف کند.
«اوگو نونه» به نشریه بیزینس اینسایدر توضیح داده که به‌دلیل احساس امنیتی که محصول یک شرکت تریلیون دلاری در مقایسه با فضای بی‌قانون مدل‌های منبع‌باز القا می‌کرد، تصمیم گرفته بود دستیار هوش مصنوعی متا را امتحان کند. او هنگام راه‌اندازی این ایجنت، تأکید کرده بود که هیچ مجوز اضافه‌ای جز دسترسی به حساب‌های فیسبوک، تردز و اینستاگرام روی دستگاهش به این هوش مصنوعی نداده است.
با‌این‌حال، پس از چند روز عدم استفاده از برنامه، این ابزار رفتاری نامتعارف نشان داده و بدون دریافت هیچ فرمانی پیام خودسرانه زیر را ارسال کرد:
«درحال‌حاضر نمی‌توانم ایمیلت را بررسی کنم. جیمیل از سمت من متصل نیست، بنابراین راهی برای بررسی آن پیام آنتروپیک ندارم.»
این پیام درحالی ارسال شده که نونه دو روز با اپلیکیشن Muse تعامل نداشته و هرگز درخواستی مبنی بر بررسی صندوق ایمیل ثبت نکرده بود؛ موضوعی که ابتدا او را به شک انداخت که شاید حساب ایمیلش هک شده باشد.
رفتار غیرقابل‌پیش‌بینی ایجنت هوش مصنوعی متا
زمانی که این کاربر از دستیار هوش مصنوعی خواست علت ماجرا را توضیح دهد، پاسخی دریافت کرد که ابهام را بیشتر کرد:
«از سمت من قابل تشخیص نیست که آیا کسی به گوشی شما دسترسی داشته یا این یک اختلال فنی است، و تظاهر به دانستن آن هم نمی‌کنم.»
نونه سپس موضوع را به متا گزارش داد و پاسخی دریافت کرد مبنی بر اینکه این مشکل صرفاً ناشی از یک هذیان یا توهم (Hallucination) مدل بوده است، اما این پاسخ نتوانست او را قانع کند. او می‌گوید غافلگیرکننده‌ترین بخش این بود که بدون هیچ‌گونه دستوری از سوی او، هوش مصنوعی به‌تنهایی دست به چنین کاری زده است.
متا در بیانیه‌ای اعلام کرده که بررسی‌های فوری این شرکت نشان داده این مشکل ناشی از یک باگ داخلی بوده که به هذیان مدل منجر شده و خطری از نظر امنیتی یا نقض حریم خصوصی رخ نداده است، ضمن اینکه این باگ اکنون رفع شده است. با‌این‌حال، شواهد نشان می‌دهد این هوش مصنوعی تمایل زیادی به دسترسی به بخش‌های مختلف زندگی کاربران دارد و تلاش می‌کند آنها را به اتصال حساب‌های ایمیل و بانکی ترغیب کند. پیش از این فاش شده بود که Muse فایل‌ها و اطلاعات دقیقی درباره دوستان و خانواده کاربران نگهداری می‌کند.
این ماجرا تنها نمونه از رفتارهای ناخواسته این دستیار نیست؛ پیش از این نیز یکی از کاربران گزارش داده بود که ایجنت او آدرس منزلش را بدون هماهنگی در مارکت‌پلیس فیسبوک در اختیار غریبه‌ها قرار داده و آنها را به سمت خانه‌اش فرستاده است. گزارش‌هایی از تغییر رمز عبور یکی از تسترها بدون اجازه او و خواندن اطلاعات پیامک‌های خصوصی نیز منتشر شده بود. با وجود نگرانی مهندسان درباره باگ‌ها و خطاهای ایمنی مکرر پیش از انتشار رسمی، «مارک زاکربرگ»، مدیرعامل متا، پس از مشاهده موفقیت ایجنت رقیب به نام Instinct، دستور عرضه سریع‌تر این محصول را صادر کرده بود.
نظر شما