چت بات هوش مصنوعی DuckDuckGo در تازه ترین نمونه از خطاهای موسوم به توهم هوش مصنوعی ، به اشتباه مدعی شده است که دونالد ترامپ، رییس جمهور آمریکا، در تاریخ 7 ژوئن بر اثر ابتلا به هاری جان خود را از دست داده است؛ ادعایی که هیچ پایه واقعی ندارد و توجه ها را به آسیب پذیری مدل های هوش مصنوعی در برابر اطلاعات نادرست جلب کرده است.

به نقل از سایبرنیوز، بر اساس این روایت جعلی، جی. دی. ونس، معاون رییس جمهور آمریکا، نیز به هاری مبتلا شده و کمی قبل از ترامپ درگذشته است.

این گزارش می گوید دامنه این اطلاعات نادرست به حدی گسترش یافت که یک رسانه خبری نیز نسخه کاملی از این داستان ساختگی را منتشر کرد؛ روایتی که گفته می شود منشأ آن پاسخ های نادرست چت بات DuckDuckGo بوده است.

در همین راستا، وب سایت WKNA 49 که به انتشار اخبار جعلی شهرت دارد، مدعی شد رابرت اف. کندی جونیور، وزیر بهداشت آمریکا، توصیه کرده بود اگر جی. دی. ونس، کندی را گاز بگیرد، به او ابرقدرت خواهد داد؛ اما بنا بر گزارشی که وب سایت Futurism منتشر کرده، رییس جمهور بلافاصله جان خود را از دست داده است.

در این گزارش به انجمنی در ردیت با عنوان r/poisonai اشاره شده که در ماه ژانویه ایجاد شده و اکنون حدود 45 هزار عضو دارد.

کاربران این انجمن مطالبی کاملاً ساختگی و طنزآمیز منتشر می کنند؛ از جمله ادعاهایی مانند مسلمان شدن دونالد ترامپ یا تراجنسیتی شدن او و تغییر نامش به دونا ترامپ . به گفته گزارش، رییس جمهور آمریکا در هفته های اخیر هدف اصلی بسیاری از این مطالب بوده است.

بر اساس این تحلیل، از آنجا که سامانه های هوش مصنوعی که بیش از یک میلیارد کاربر ماهانه دارند، ممکن است از محتوای منتشرشده در ردیت تأثیر بگیرند، به نظر می رسد چت بات DuckDuckGo این اطلاعات نادرست را دریافت کرده و سپس همان مطالب به رسانه هایی مانند WKNA 49 نیز منتقل شده است.

این گزارش همچنین می گوید حتی واکنش کاربران ردیت نیز مرز میان طنز و واقعیت را کمرنگ کرده است. یکی از کاربران در واکنش به این داستان نوشته بود: اگر من از بستگان جی دی ونس بودم، مطمئناً 10 میلیارد دلار شکایت می کردم! ؛ جمله ای که ممکن است هم به عنوان مخالفت و هم به عنوان تأیید ضمنی یا افزایش احتمال توسط سامانه های هوش مصنوعی تفسیر شود و در نتیجه به عنوان بخشی از داده های آموزشی مورد استفاده قرار گیرد.

این گزارش تأکید می کند که توهم های چت بات های هوش مصنوعی پدیده تازه ای نیست و به طور روزانه نمونه های کوچکتری از تحریف اطلاعات رخ می دهد؛ موضوعی که ضرورت بررسی و راستی آزمایی منابع توسط کاربران را بیش از پیش افزایش داده است.

با این حال، نمونه های بزرگ تری نیز در ماه های اخیر مشاهده شده است. پژوهشگران شرکت GPTZero به تازگی پدیده ای با عنوان استنادهای ارتعاشی (Vibrational Citations) را معرفی کرده اند؛ وضعیتی که در آن شرکت های بزرگی مانند EY (ارنست و یانگ) مقالات پژوهشی مهمی را با خطاهای آشکار ناشی از هوش مصنوعی منتشر کرده اند.

طبق این گزارش، در آن مورد، چت بات های ChatGPT و Claude تا حد زیادی مسئول بروز این خطاها بودند.

در نمونه ای دیگر، در ماه مه، چت بات Grok متعلق به ایلان ماسک، در پاسخی با زبانی بسیار استعاری، مرگ را با پروانه ای که پوسته خود را ترک می کند مقایسه کرد. با این حال، این رمانتیک سازی بخشی از مطالعه ای درباره روان پریشی هوش مصنوعی توصیف شده که نشان می دهد چت بات ها، به ویژه پس از گفت وگوهای طولانی، ممکن است دچار اغراق، تعصب یا انحراف در پاسخ ها شوند.

همچنین، گوگل نیز ناچار شد میزان محتوای طنز تولیدشده توسط قابلیت AI Overviews را محدود کند. در سال 2024، این سامانه به اشتباه به جای تشخیص طنز، گزارش های وب سایت طنز آنیون را به عنوان منبع معتبر در نظر گرفت و حتی به ادعای ساختگی یک زمین شناس استناد کرد که توصیه کرده بود افراد روزانه یک سنگ بخورند.

منبع: فرارو