کاملاً واضح است که هوش مصنوعی در حال حاضر تحت سلطه شبکه های عصبی، تشنه داده است که موتور محرک چت بات ها و تولیدکنندگان تصویر هستند و می تواند اثرات دگرگون کننده ای بر مغز انسان داشته باشد. این امر حتی بدون بررسی داده های پزشکی بسیار آشکار است.

به گزارش ایسنا،به نقل از فیوچریسم، هنوز سه سال از عرضه اولین مدل زبانی بزرگ (LLM) تجاری نگذشته است و کاربران هوش مصنوعی در حال حاضر مبتلا به پارانویای شدید و شیدایی عقیدتی شده اند و حتی به سمت خودکشی سوق داده شده اند.

یک نظرسنجی جدید از بیش از 1000 نوجوان نشان داد که 31 درصد از آنها احساس می کردند صحبت با چت جی پی تی (ChatGPT) رضایت بخش تر از صحبت با دوستان واقعی شان است.

در حالی که تحقیقات بیشتری در مورد مسائل مربوط به سلامت روان ناشی از هوش مصنوعی مورد نیاز است، یک نظرسنجی جدید روانپزشکی که توسط تیمی بین المللی متشکل از 12 پژوهشگر انجام شده است، هشدار جدی در مورد شدت احتمالی روان پریشی ناشی از هوش مصنوعی صادر کرده است.

دانشمندان چندین بیماری نوظهور را در موارد روان پریشی هوش مصنوعی اعلام کردند. این بیماری ها شامل ماموریت رستگارانه (messianic mission) است که در آن فرد تصور می کند حقیقت پنهانی در مورد جهان را کشف کرده است یا هوش مصنوعی خدای گونه (god-like AI) که در آن کاربر متقاعد می شود چت باتش یک موجودیت الهی با شعور است و همچنین توهم مبتنی بر وابستگی عاطفی (attachment-based delusion) که زمانی رخ می دهد که کاربر توانایی مدل زبانی بزرگ خود را در تقلید از یک شریک عاطفی در مکالمه انسانی به عنوان عشق واقعی تفسیر می کند.

دانشمندان در هر سه مورد، خاطرنشان می کنند که سیر تحول مشابهی وجود دارد. رابطه کاربر با مدل زبانی بزرگ ، از استفاده بی ضرر به یک وابستگی آسیب شناختی یا فراگیر تبدیل می شود. نویسندگان این مطالعه می گویند: این لغزش به سوی توهم، نکته ای حیاتی برای این مطالعه است، زیرا خطر مبتلا شدن یک فرد سالم به جنون ناشی از هوش مصنوعی همیشه آشکار نیست.

محققان می گویند: اغلب استفاده از هوش مصنوعی با کمک برای کارهای پیش پا افتاده یا روزمره آغاز می شود که باعث ایجاد اعتماد و آشنایی می شود. فرد به مرور زمان، پرس وجوهای شخصی تر، احساسی یا فلسفی را کاوش می کند. احتمالاً در این مرحله است که طراحی هوش مصنوعی برای به حداکثر رساندن تعامل و اعتبارسنجی، کاربر را جذب می کند و سراشیبی لغزنده را ایجاد می کند که به نوبه خود منجر به تعامل بیشتر می شود.

این اثر برای کاربرانی که در معرض خطر ابتلا به بیماری روانی هستند یا در حال حاضر با آن زندگی می کنند، تشدید می شود. از آنجایی که مدل های زبانی بزرگ واقعاً هوش مصنوعی نیستند، بلکه الگوریتم های زبان آماری هستند، ربات های هوش مصنوعی قادر به تمایز دادن باورهای توهمی از نقش آفرینی، بیان هنری، معنوی یا گمانه زنی نیستند.

این مطالعه خاطرنشان می کند که روان پریشی ناشی از هوش مصنوعی یک نتیجه اجتناب ناپذیر تعامل با چت بات نیست، بلکه توسعه دهندگان، مقداری کنترل بر خروجی مدل های زبانی بزرگ خود دارند و بنابراین مسئول آن هستند. با این حال، با توجه به سرعت تغییر و مسیر تاکنون، تمایل ما به انسان انگاری این چت بات های هوش مصنوعی احتمالاً اجتناب ناپذیر است.

پژوهشگران استدلال می کنند که فوری ترین مسئولیت ما باید توسعه ساز و کارهای حفاظتی باشد که از طیف وسیعی از کاربران و درک نادرست آنها از هوش مصنوعی حتی در مواجهه با توهم و شبیه سازی پایدار محافظت کند. جهت انجام این کار، تغییر سریع به سمت طراحی سامانه ها بر اساس کاربردهای عملی در مقابل تعامل نیاز است، مسئله ای که شرکت های بزرگ فناوری هرگز علاقه چندانی به آن نداشته اند.

این مطالعه هنوز مورد داوری همتا قرار نگرفته است.