پژوهش جدید: فحاشی به هوش مصنوعی احتمال دریافت پاسخهای مفید را کاهش میدهد
شاید تصور کنید که هنگام گفتگو با چتباتها رفتاری خنثی یا حتی محترمانه دارید و این موضوع چندان برایتان اهمیت نداشته باشد. البته تنها شما چنین رفتاری ندارید، اما ظاهراً تعداد قابلتوجهی از کاربران به رعایت ادب در گفتگو با هوش مصنوعی اهمیت نمیدهند.
براساس گزارش پلتفرم هوش مصنوعی Searchable با عنوان «آمریکاییها چقدر با چتباتهای هوش مصنوعی بیادب هستند؟»، از هر سه کاربر آمریکایی چتباتها، یک نفر تاکنون به یک چتبات فحاشی یا به آن توهین کرده است. نکته جالبتر اینکه این رفتار ظاهراً کمکی به کاربران نمیکند و حتی ممکن است احتمال دریافت پاسخ مفید را کاهش دهد.
مردان بیشتر از زنان به هوش مصنوعی فحاشی میکنند
تحقیق Searchable با بررسی بیش از ۸ میلیون پیام ارسالشده به ابزارهای هوش مصنوعی طی یک سال انجام شده است. این نتایج نشان میدهد وقتی کاربری بدون فحاشی یا توهین از پاسخ چتبات شکایت میکند، چتبات در ۳۵ درصد مواقع در پاسخ بعدی مشکل را برطرف میکند. اما وقتی کاربر از الفاظ توهینآمیز استفاده میکند، این رقم به ۲۴ درصد کاهش مییابد.
![]()
پژوهشگران هوش مصنوعی هنوز دقیقاً نمیدانند چرا چنین اتفاقی میافتد. بااینحال، «اسکات والدز»، یکی از بنیانگذاران و مدیرعامل Ari و بنیانگذار VIDA Select، در مقالهای درباره اهمیت رعایت ادب هنگام گفتگو با هوش مصنوعی، احتمال داده است که دلیل این مسئله به زمینه و نحوه تعامل کاربران مربوط باشد.
او توضیح میدهد: «سیستمهای هوش مصنوعی از میلیونها تعامل انسانی یاد میگیرند؛ تعاملاتی که در آنها گفتوگوهای محترمانه و دوطرفه معمولاً به مکالمات غنیتر و دقیقتری منجر میشوند. وقتی کاربران همین سبک را در پیش میگیرند، میتوانند پاسخهای پیشرفتهتری دریافت کنند؛ مثلاً بهجای توصیههای کلی، راهنماییهای شخصیسازیشده بگیرند.»
این پژوهش همچنین نشان میدهد برخی کاربران هوش مصنوعی خیلی زود از کوره در میروند. رایجترین دلیل استفاده از الفاظ توهینآمیز، انجام ندادن درخواست کاربر توسط چتبات است (۱۹ درصد). پاسخ اشتباه چتبات با ۱۸ درصد و درک نادرست درخواست کاربر با ۱۵ درصد در رتبههای بعدی قرار دارند.
نکته جالب اینکه مردان هنگام گفتگو با چتباتها یکسوم بیشتر از زنان از فحاشی و الفاظ توهینآمیز استفاده میکنند. همچنین افراد ۳۵ تا ۴۴ ساله بددهنترین گروه سنی در این زمینه هستند.
تغییرات جدید سیاست استفاده از آنتروپیک باعث شده برخی کاربران درباره محدودیتهای رفتار با هوش مصنوعی و اینکه چه کارهایی هنگام گفتگو با آن مجاز است، کنجکاو شوند. البته تفاوت زیادی میان گفتن اینکه یک چتبات اشتباه میکند و توهین مستقیم به آن وجود دارد و به نظر میرسد سیاست آنتروپیک نیز این تفاوت را در نظر گرفته است.
این شرکت در توضیح سیاست جدید خود اعلام کرد: «این بهروزرسانی فقط برای موارد افراطی در نظر گرفته شده است؛ یعنی زمانی که کاربران بهطور مکرر و بدون هیچ هدف مشخصی با مدلهای ما رفتارهای بیرحمانه دارند. این سیاست شامل موارد معمولی مانند نارضایتی کاربران، مخالفت با پاسخها، موضوعات تاریک در آثار خلاقانه یا آزمایش و پژوهش روی مدلها نمیشود.»
آنتروپیک میگوید Claude عمدتاً با پایان دادن به مکالمات کاربرانی که بهطور مداوم رفتار توهینآمیز دارند، این قانون را اجرا خواهد کرد. بااینحال، نتایج این پژوهش همچنان نشان میدهد که استفاده از لحنی ساده و خنثی میتواند به دریافت پاسخهای بهتر منجر شود.
نظر شما