آموزش دادن تاکسیهای رباتیک با هوش مصنوعی امنیت دارد؟
«ویمو» در حال آموزش دادن تاکسیهای رباتیک در جهانهای ساختهشده توسط هوش مصنوعی است، اما باید دید چه کسی امنیت آنها را بررسی میکند.
شرکت «ویمو»(Waymo) به تازگی ۱۶ میلیارد دلار برای راهاندازی تاکسیهای رباتیک در بیش از ۲۰ شهر آمریکا جمعآوری کرده، اما در حال حاضر هوش مصنوعی خود را درباره سناریوهایی که وجود ندارند مانند گردبادها، سیلها، فیلهای در حال عبور از بزرگراهها آموزش میدهد که با تایپ کردن متنهای درخواستی در یک شبیهساز ایجاد میشوند.
به نقل از یوسی استراتژیز، «مدل جهانی ویمو»(Waymo World Model) به مهندسان امکان میدهد تا موارد مرزی غیرممکن را در مقیاس بزرگ ایجاد کنند و سالها یادگیری را به صورت فشرده در ماهها آزمایش مجازی ارائه دهند. سرمایهگذاران ۱۲۶ میلیارد دلار شرط میبندند که شبیهسازی کارآیی خواهد داشت اما مشکلی وجود دارد که هیچکس درباره آن صحبت نمیکند. هیچ نهاد نظارتی تأیید نکرده است که آیا یک گردباد ساختگی، ایمنی واقعی را آموزش میدهد.
ویمو ادعا میکند که در مقایسه با رانندگان انسان، ۹۰ درصد کاهش را در تصادفات منجر به آسیب جدی تجربه کرده، اما این رکورد ایمنی با یک نکته مثبت دیگر نیز همراه است. این شرکت اکنون مسافتهای بسیار بیشتری را در شبیهسازی نسبت به جادههای واقعی طی میکند. تا روز ۹ ژانویه، بیش از ۱۲۷ میلیون مایل رانندگی خودکار در واقعیت ثبت شده است، اما ویمو میلیاردها مایل را در دنیای مجازی تخمین میزند. این نسبت پنج تا ۱۰ برابر به نفع شبیهسازی است.
مدل جهانی ویمو سناریوهایی را تولید میکند که به تصویر کشیدن آنها در مقیاس واقعی تقریباً غیرممکن است، اما این سناریوها از مدلهای پایهای ساخته شدهاند که براساس ویدیوهای اینترنتی و فیلمهای واقعی رانندگی آموزش دیدهاند، نه فیزیک واقعیت میدانی.
این همان ساختار مدل بنیادین است که به عوامل هوش مصنوعی خودران قدرت میدهد؛ با این تفاوت که اکنون در سرعت ۶۵ مایل در ساعت و در کسری از ثانیه تصمیمگیری میکند. در هیچ یک از اطلاعیههای ویمو هیچ اشارهای به الزامات اعتبارسنجی «اداره ملی ایمنی ترافیک بزرگراهها»(NHTSA) یا آزمایش ایمنی مستقل برای انتقال شبیهسازی به واقعیت نشده است.
اگر تجربه تاکسی رباتیک با یک بزرگراه آبگرفته ساخت هوش مصنوعی باشد که الگوهای آبوهوایی را از یوتیوب یاد گرفته است، وقتی واقعاً باران میبارد، چقدر میتوان به آن اطمینان داشت؟
بیشتر مردم تصور میکنند که خودروهای خودران در درجه اول از مسافتهای طیشده در جاده یاد میگیرند. ویمو این نسبت را معکوس کرده است.
این شرکت میلیاردها مایل شبیهسازیشده را در برابر ۱۲۷ میلیون مایل واقعی تخمین میزند؛ به این معنی که بیشتر تجربه رانندگی از سناریوهای تولیدشده توسط هوش مصنوعی به دست میآید، نه حسگرهای موجود در جادههای واقعی. مدل جهانی ویمو از خروجی چندوجهی دوربین + لیدار به طور همزمان استفاده میکند، اما تبدیل ویدیوی دوبعدی به دادههای لیدار سهبعدی به آموزش تخصصی پس از آموزش اولیه نیاز دارد. این یک تنگنای فنی است که ویمو اذعان میکند بیاهمیت نیست. این شرکت نمیگوید که این کار به ایجاد خطا منجر میشود، اما این واقعیت که چنین مشکلی را مطرح میکند، نشان میدهد که مشکل هنوز حل نشده است.
این موضوع در عمل به این معناست که یک مهندس میتواند عبارت «فیلی که هنگام غروب آفتاب از بزرگراه عبور میکند» را تایپ کند و در عرض چند دقیقه یک سناریوی واقعگرایانه به دست بیاورد، اما واقعگرایانه بودن به معنای دقت فیزیکی نیست. این روش نشان میدهد که مدلهای هوش مصنوعی آموزشدیده براساس دادههای مصنوعی چگونه میتوانند با جایگزینهای گرانقیمت مطابقت داشته باشند. اما در رانندگی خودکار، این توانایی به اندازه کافی خوب نیست. شبیهساز فقط میتواند به اندازه دادههای آموزشی و مهندسی سریع خود خوب باشد.
شکستهای دنیای واقعی نشان میدهند که شبیهسازی نقطه کور دارد
سابقه ایمنی ویمو بیعیبونقص نیست و برخی از شکستها نشان میدهند که شبیهسازیها به برخی از شکافها توجه نکردهاند.
شرکت ویمو در دسامبر ۲۰۲۵ به دنبال بیش از ۱۹ مورد تصادف غیرقانونی تاکسیهای رباتیک با اتوبوسهای مدرسه متوقفشده در آستین و آتلانتا بین سپتامبر تا اکتبر ۲۰۲۵، نرمافزار خود را متوقف کرد. اداره ملی ایمنی ترافیک بزرگراهها نیز تحقیقاتی را پیرامون این حوادث آغاز کرد. همچنین، تاکسی رباتیک این شرکت در سانتا مونیکا با کودکی تصادف کرد و باعث شد تحقیقات فدرال درباره ایمنی منطقه مدارس آغاز شود.
این موارد مشکلات حاشیهای نیستند که بتوان شبیهسازی آنها را فراموش کرد، بلکه سناریوهای اساسی قانون راهنمایی و رانندگی هستند. همان طور که هوش مصنوعی بیسروصدا زیرساختها را در سراسر اینترنت تغییر میدهد، شبیهسازی نیز در حال تغییر دادن نحوه یادگیری وسایل نقلیه خودران بدون راه انداختن بحث عمومی درباره بدهبستانهاست. اگر شبیهسازی نتوانسته دستور «از اتوبوس مدرسهای که چراغ چشمکزن دارد، سبقت نگیر» را انجام دهد، ممکن است دستورات دیگری را نیز انجام نداده باشد.
ویمو در سال ۲۰۲۶ به بیش از ۲۰ شهر گسترش خواهد یافت، اما در حال حاضر تنها پنج شهر عملیاتی هستند. شکاف بین مقیاس اعلام شده و ایمنی اثباتشده در حال افزایش است.
فناوری شبیهسازی ویمو واقعاً چشمگیر است، زیرا تولید دادههای لیدار از پیامهای متنی، یک دستاورد پیشرو برای هوش مصنوعی به شمار میرود، اما این پرسش ناراحتکننده به وجود میآید که اگر یک شرکت ۱۲۶ میلیارد دلاری نتواند ثابت کند که آموزش مجازی آن به ایمنی در دنیای واقعی میانجامد و نهادهای نظارتی برای مطالبه این مدرک وارد عمل نشدهاند، چه کسی واقعاً تضمین میکند که تاکسی رباتیک میتواند تفاوت بین یک گردباد شبیهسازیشده و یک گردباد واقعی را تشخیص دهد؟
همان نقصهایی که هوش مصنوعی در امنیت سایبری از دست میدهد و انسانها از آنها غافل هستند، اکنون سناریوهای آموزشی را برای تاکسیهای رباتیک آینده ایجاد میکنند و هیچکس اعتبار این سناریوها را مورد بررسی قرار نمیدهد. اگر شبیهسازی به روش آموزشی اصلی برای وسایل نقلیه خودران در سراسر صنعت تبدیل شود، آیا ما در شرف استقرار میلیونها خودروی آموزشدیده براساس سناریوهای تولیدشده توسط هوش مصنوعی هستیم که واقعی به نظر میرسند، اما واقعی رفتار نمیکنند؟
نظر شما