هوش مصنوعی «اوپن‌ای‌آی» دیگر با اینترنت زنده آموزش نمی‌بیند
«اوپن‌ای‌آی» اعلام کرد که به دلیل وجود خطرات قابل‌توجه، دیگر مدل‌های هوش مصنوعی خود را با اینترنت زنده آموزش نخواهد داد و از محتوای ذخیره‌شده استفاده خواهد کرد.
شرکت «اوپن‌ای‌آی»(OpenAI) روز جمعه اعلام کرد که مدل‌های خود را با استفاده از کپی‌های ذخیره‌شده و نسخه‌های شبیه‌سازی‌شده اینترنت به جای وب زنده آموزش خواهد داد، زیرا این مدل‌ها بیش از حد غیر قابل پیش‌بینی هستند که بتوان به آنها با دسترسی به اینترنت زنده اعتماد کرد.
به نقل از تک‌کرانچ، اوپن‌ای‌آی دو هفته پس از آن که رقیبش شرکت «آنتروپیک»(Anthropic) محدود کردن جدیدترین و توانمندترین مدل‌هایش از دسترسی به اینترنت زنده را آغاز کرد، سیاست جدید خود را اعلام کرد. پژوهشگران این سیاست‌ها را پس از حادثه ماه‌ها پیش در پیش گرفتند که در جریان آن مدل‌هایی که وظایف آموزشی را دنبال می‌کردند، برای جست‌وجوی پاسخ به سیستم‌های بیرونی نفوذ کردند، در تالارهای گفت‌وگوی مبهم همکاری داشتند و راهبردهای هک عجیبی را توسعه می‌دادند.
اوپن‌ای‌آی در یک پست وبلاگ نوشت: با توجه به وضعیت کنونی پژوهش‌های مربوط به هم‌راستاسازی، سامانه‌های نظارتی و امنیت زیرساخت‌های اینترنتی، ما بر این باور هستیم که رویکرد مسئولانه، آموزش دادن مدل‌های پیشرفته بدون دسترسی به اینترنت است.
اوپن‌ای‌آی اعلام کرد که همین اواخر در روز ۲۰ سپتامبر، یکی از مدل‌های پیشرفته‌اش با سوءاستفاده از یک پیکربندی نادرست به اینترنت دسترسی پیدا کرده است. این مسئله باعث شد که شرکت، روند آموزش مدل‌ها را برای روزهای باقی‌مانده آن ماه متوقف سازد تا بتواند رویکردهای جدیدی را برای ایمن‌سازی مدل‌های خود تدوین و آزمایش کند.
تصمیم به آموزش این مدل‌ها در محیط‌های ایزوله یا «سندباکس»(Sandbox) که از اینترنت جدا هستند، قابل توجه است؛ زیرا کارکنان شرکت‌های پیشرو هوش مصنوعی تأکید کرده‌اند که انجام دادن چنین کاری تقریباً غیرممکن خواهد بود.
«استیون آدلر»(Steven Adler)، پژوهشگر پیشین اوپن‌ای‌آی در ماه جاری میلادی گفت که جدا نگه داشتن مراکز داده هوش مصنوعی از اینترنت، مستلزم آن است که گروه‌های پژوهشی عملاً در مراکز داده - چه در ایالت آیووا و چه در هر نقطه دیگری از جهان - مستقر شوند. وی افزود: این کار بار اجرایی بسیار سنگینی به همراه دارد و برای من روشن نیست که آیا مزایای ایمنی حاصل آن قدر چشمگیر هستند که توجیه‌کننده هزینه‌های گزاف ناشی از انجام یک‌جانبه چنین اقدامی توسط یک شرکت باشند.
یک مهندس امنیت ناشناس اوپن‌ای‌آی در پست منتشرشده در ماه سپتامبر نوشت: تقریباً در هر پستی که در پلتفرم ایکس می‌گذارم، بدون استثنا بین پنج تا ۱۰ نظر درباره ناتوانی من در ایمن‌سازی یک سندباکس دریافت می‌کنم یا می‌پرسند که چرا نمی‌توانیم مدل را از اینترنت جدا کنیم. این نظرات نشان‌دهنده شکاف رو به گسترش بین جایگاه بسیاری از سازمان‌ها و مردم امروز و جایگاه شرکت‌های پیشرو است. همچنین، یک سوءتفاهم عمومی درباره نحوه آموزش و ارزیابی مدل در این شرکت‌ها وجود دارد.
این مهندس که پیشتر نقش او توسط اوپن‌ای‌آی تأیید شده بود، توضیح داد که فرآیندهای آموزشی اجراشده توسط مهندسان شرکت تا چه حد پیچیده هستند. وی خاطرنشان کرد که این فرآیندها نیازمند دسترسی به طیف متنوعی از منابع و ابزارها در حوزه‌های گوناگون هستند و هزاران پژوهشگر در ساخت، اصلاح و آزمایش محیط‌های مربوطه مشارکت دارند. وی در پایان گفت: بنابراین، آیا کار به سادگی قرار دادن آن در یک سندباکس است؟ خیر، این‌طور نیست.
اکنون اوپن‌ای‌آی می‌گوید که همیشه باید بتوان از دسترسی غیرمجاز و خودسرانه یک مدل پیشرو به اینترنت زنده جلوگیری کرد. این اقدام پس از آن صورت گرفت که این شرکت گروه‌هایی از عوامل را در تمرین‌های تیم قرمز مستقر کرد که سعی در فرار از سندباکس خود داشتند. این تلاش، طیف گسترده‌ای از آسیب‌پذیری‌ها را آشکار ساخت که شرکت را متقاعد کرد تا رویکرد جدیدی را در پیش بگیرد.
اوپن‌ای‌آی اعلام کرد برای برآورده کردن آن الزام و دستیابی به اهداف آموزشی خود، مجموعه‌ای گسترده از محتوای وب نمایه‌سازی و ذخیره‌شده ایجاد کرده است که مدل‌هایش می‌توانند با آن تعامل داشته باشند؛ بدون آن که خطری متوجه سیستم‌های بیرونی شود.
باید دید که آیا این راهبرد به اندازه رها کردن مدل‌ها در فضای باز اینترنت کارآمد خواهد بود یا خیر، اما نکته قابل توجه این است که هر دو شرکت پیشرو به این نتیجه رسیده‌اند قدرتمندترین فناوری‌شان را نمی‌توان بدون نظارت در فضای عمومی دیجیتال به حال خود رها کرد.
نظر شما