انفجار ویدیوهای جعلی هوش مصنوعی در روزهای جنگ
ویدیوها و تصاویر ماهوارهای ساخته شده با هوش مصنوعی درباره حمله آمریکا و اسرائیل به ایران به سرعت در اینترنت در حال افزایش است. سازندگان محتوا با استفاده از ابزارهای جدید، محتوای گمراه کننده تولید میکنند که میلیونها بازدید میگیرد و از طریق سیستمهای درآمدزایی شبکههای اجتماعی برای آنها درآمد نیز به همراه دارد.
تیموتی گراهام، کارشناس رسانههای دیجیتال در دانشگاه فناوری کوئینزلند میگوید: مقیاس این پدیده واقعا نگران کننده است و این جنگ باعث شده دیگر نتوان آن را نادیده گرفت. او میافزاید: آن چه که قبلا نیازمند تولید حرفهای ویدیو بود، حالا با ابزارهای هوش مصنوعی در چند دقیقه قابل انجام است. عملا مانعی که برای تولید تصاویر جعلی اما قانع کننده از جنگ وجود داشت، فرو ریخته است.
آمریکا و اسرائیل از روز ۲۸ فوریه حملات خود به ایران را آغاز کردند. در پاسخ، ایران حملات پهپادی و موشکی به اسرائیل و همچنین به چند کشور خلیج فارس و داراییهای نظامی آمریکا در منطقه انجام داده است.
در این مدت بسیاری از مردم برای یافتن آخرین اطلاعات و درک بهتر تحولات سریع جنگ، به شبکههای اجتماعی روی آوردهاند.
پلتفرم ایکس این هفته اعلام کرد اگر سازندگان محتوا، ویدیوهای جنگی تولید شده با هوش مصنوعی را بدون برچسب منتشر کنند، به طور موقت آنها را از برنامه درآمدزایی خود تعلیق خواهد کرد. این برنامه به کاربران واجد شرایط که پستهایشان بازدید، لایک، اشتراکگذاری و نظر زیادی دریافت کند، پرداخت مالی انجام میدهد.
مهسا علیمردانی، پژوهشگر حوزه ایران در مؤسسه اینترنت آکسفورد میگوید: این اقدام نشانه مهمی است که نشان میدهد آنها متوجه شدهاند این مسئله یک مشکل بزرگ است. ما از تیک تاک و شرکت متا مالک فیسبوک و اینستاگرام پرسیدیم آیا قصد دارند اقدام مشابهی انجام دهند یا نه، اما آنها به درخواست ما برای اظهار نظر پاسخ ندادند.
ابزارهای هوش مصنوعی گوگل، از جمله مولد ویدیوی Veo، اکنون در فهرست رو به رشد پلتفرمهای محبوب هوش مصنوعی قرار دارند؛ در کنار مدل سورا از اوپن ایآی، اپلیکیشن چینی Seedance و گروک که در ایکس قرار دارد.
هنری اجدر، کارشناس هوش مصنوعی مولد میگوید: تعداد ابزارهایی که اکنون برای ساخت انواع دستکاریهای بسیار واقعگرایانه با هوش مصنوعی در دسترس هستند، بیسابقه است. او میافزاید: هرگز ندیده بودیم این ابزارها تا این حد در دسترس، آسان و ارزان باشند.
به گفته ویکتور ریو، مدیر اجرایی سازمان غیرانتفاعی سیاست فناوری، این موضوع باعث افزایش شدید محتوای تولید شده با هوش مصنوعی در اینترنت شده است، زیرا مسیر انتشار در شبکههای اجتماعی اکنون تقریبا میتواند کاملا خودکار باشد.
کارشناسان میگویند که هرچند بسیاری از شرکتهای شبکههای اجتماعی میگویند در تلاشاند سیستمهای نظارت و شناسایی خود را برای مقابله با سرعت و مقیاس انتشار محتوای تولیدشده با هوش مصنوعی تغییر دهند، اما راهحل سادهای برای این مشکل وجود ندارد.
گراهام میگوید: مشکل عمیقتر این است که درآمدزایی با تعامل کاربران با اطلاعات دقیق، اساسا در تضاد است و هیچ پلتفرمی هنوز این تضاد را کاملاً حل نکرده است؛ شاید هم هرگز نتواند حل کند.
نظر شما