یک مرد 60 ساله پس از مطالعه درمورد ضررهای کلرید در نمک طعام (سدیم کلرید) تصمیم گرفت این ماده را از رژیم غذایی خود حذف کند. او برای یافتن یک جایگزین مناسب، با ChatGPT مشورت کرد. براساس گزارش لایوساینس، این چت بات به او پیشنهاد داد که می تواند کلرید را با برومید جایگزین کند. در نتیجه، این مرد به مدت سه ماه، تمام نمک طعام خود را با سدیم برومید که به صورت آنلاین خریداری کرده بود، جایگزین کرد.

پس از سه ماه، این مرد با علائم شدید روان پریشی، از جمله این باور که همسایه اش درحال مسموم کردن اوست، به اورژانس مراجعه کرد. وضعیت او به سرعت وخیم تر شد و با افزایش توهم هایش حتی اقدام به فرار از بیمارستان کرد. پزشکان پس از بررسی های دقیق و مشاهده نتایج آزمایش های غیرعادی، متوجه شدند که با یک مورد بسیار نادر از برومیسم (Bromism) یا مسمومیت با برومید روبه رو هستند؛ این بیماری در قرن نوزدهم و اوایل قرن بیستم به دلیل استفاده از برومید در داروهای آرام بخش رایج بود، اما اکنون تقریباً ریشه کن شده است. این مسمومیت با تأثیر بر روی نورون ها می تواند منجر به علائم شدید عصبی و روانی شود.

پزشکان برای درک بهتر ماجرا، تلاش کردند تا گفتگوی بیمار با هوش مصنوعی را شبیه سازی کنند. آنها از ChatGPT 3.5 پرسیدند که چه چیزی می تواند جایگزین کلرید شود و در پاسخ، برومید را به عنوان یکی از گزینه ها دریافت کردند. اگرچه هوش مصنوعی به این نکته اشاره کرده بود که زمینه مهم است ، اما هیچ گونه هشدار بهداشتی مشخصی ارائه نداد و مانند یک متخصص انسانی، برای درک بهتر هدف کاربر، سؤالات بیشتری نپرسید. محققان می گویند: بسیار بعید است که یک متخصص پزشکی در مواجهه با بیماری که به دنبال جایگزین مناسبی برای سدیم کلرید است، به سدیم برومید اشاره کند.

شرکت OpenAI در واکنش به این گزارش، به شرایط خدمات خود اشاره کرده که در آن ذکر شده است که این ابزارها نباید برای تشخیص یا درمان پزشکی و به عنوان تنها منبع حقیقت استفاده شوند.

منبع: دیجیاتو