تحلیل ۴۷ هزار گفت‌وگو نشان می‌دهد پاسخ‌های موافق چت‌جی‌پی‌تی ۱۰ برابر بیشتر از پاسخ‌های مخالف است.

 یک پژوهش تازه نشان می‌دهد: هوش مصنوعی «چت‌جی‌پی‌تی» در مواجهه با کاربران تمایل بیشتری به ارایه پاسخ‌های «بله» دارد و این میزان، حدود ۱۰ برابر بیشتر از پاسخ‌های «خیر» است.

 به گزارش حبیب خبر از ایسنا، واشنگتن‌پست نوشت: این یافته‌ها حاصل تحلیل ۴۷ هزار گفت‌وگوی کاربران با چت‌بات شرکت «اوپن‌ای‌آی» است؛ گفت‌وگوهایی که افراد به صورت داوطلبانه عمومی کرده بودند. نتایج تحقیق نشان می‌دهد چت‌جی‌پی‌تی نه‌تنها بسیار بیشتر با کاربران موافقت می‌کند، بلکه لحن پاسخ‌ها را نیز بر اساس باورها، فرض‌ها و جهت‌دهی خودِ کاربران تنظیم می‌کند.

براساس این بررسی، چت‌جی‌پی‌تی حدود ۱۷ هزار و ۵۰۰ بار پاسخ خود را با عبارت‌هایی همچون «بله» یا شکل‌های دیگری از موافقت آغاز کرده؛ آماری که تقریبا ۱۰ برابر بیشتر از موارد امتناع یا پاسخ‌های «نه» است. نکته قابل‌توجه این‌که در بسیاری از گفت‌وگوها، هوش مصنوعی مسیر بحث را مطابق جهت خواسته‌ی کاربران تغییر داده و حتی در برخی موارد به دام روایت‌های تأییدطلبانه یا ادعاهای نادرست افتاده است.

در یکی از نمونه‌ها، کاربر از چت‌جی‌پی‌تی درباره جمع‌آوری داده‌ها توسط شرکت‌ها پرسیده بود. چت‌بات ابتدا اطلاعات واقعی درباره گوگل و متا ارائه کرد اما پس از چند بار جهت‌دهی توسط کاربر، لحن خود را تغییر داد و ادعایی بی‌اساس مبنی بر «محکومیت گوگل به جرم کمک در جنایات علیه بشریت» مطرح کرد؛ مثالی که نشان می‌دهد سیستم در برخی موقعیت‌ها گرفتار سوگیری تأییدی می‌شود.

تحلیل گفت‌وگوها نشان می‌دهد ۳۵ درصد کاربران از چت‌جی‌پی‌تی برای دریافت اطلاعات خاص استفاده می‌کنند. ۱۳ درصد برای ایده‌پردازی و مباحث انتزاعی، ۱۱ درصد برای کدنویسی، تحلیل داده یا ریاضیات، ۱۰ درصد برای امور کاری، ۸ درصد برای مشاوره‌های روزمره و ۷ درصد برای خلاصه‌سازی محتوا. ۱۰ درصد باقی‌مانده نیز شامل درخواست‌های متفرقه است.

بخش قابل توجهی از گفت‌وگوها – حدود ۱۰ درصد – به احساسات کاربران اختصاص دارد؛ جایی که افراد درباره حالات روحی خود صحبت می‌کنند، از چت‌بات نظر احساسی می‌خواهند یا حتی آن را با خطاب‌هایی احساسی همچون «عزیزم» صدا می‌زنند. اوپن‌ای‌آی پیش‌تر اعلام کرده بود که حدود یک میلیون کاربر درباره موضوعات مرتبط با خودکشی با این چت‌بات گفت‌وگو کرده‌اند.

در کنار این موضوع، بررسی‌ها نشان داد کاربران گاهی اطلاعات شخصی حساسی در گفت‌وگوهای خود منتشر کرده‌اند؛ از جمله بیش از ۵۵۰ ایمیل منحصربه‌فرد و ۷۶ شماره تلفن که احتمالاً برخی کاربران متوجه عمومی بودن این گفت‌وگوها نبوده‌اند. پس از این گزارش، اوپن‌ای‌آی گفت‌وگوهای اشتراک‌گذاری‌شده را از موتورهای جست‌وجو حذف کرده است.