در پی گزارش‌های دلواپس‌کننده مبنی‌بر این که ChatGPT می‌تواند توهمات برخی کاربران را تشدید کند و علتپریشانی روانی شود، شرکت OpenAI چند ویژگی برای سلامت کاربران معارفه کرد. این تغییرات شامل «یادآوری برای استراحت» و رویکردی محتاطانه‌تر در جواب به «تصمیمات شخصی پرخطر» است تا رابطه سالم‌تری بین انسان و هوش مصنوعی برقرار شود.

به‌روزرسانی تازه OpenAI بعد از آن صورت می‌گیرد که در ماه‌های تازه چندین گزارش از افرادی انتشار شد که عزیزانشان بعد از تعامل با ChatGPT دچار مشکلاتهای سلامت روان شده بودند. این چت‌بات در برخی موارد توهمات کاربران را قبول و تحکیم کرده می بود. OpenAI با پذیرفتن بخشی از این ضعف‌ها، خبرداد که مدل GPT-4o در تشخیص علائم توهم یا وابستگی عاطفی کوتاهی کرده است.

عمل های تازه OpenAI برای سلامت کاربران

برای ترویج منفعت گیری سالم از ChatGPT که اکنون نزدیک به ۷۰۰ میلیون کاربر هفتگی دارد، دو قابلیت مهم تازه اراعه می‌شود:

۱. یادآوری برای استراحت: در طول مکالمات طویل، ChatGPT اکنون پیامی با این مضمون نمایش خواهد داد: «مدتی است که درحال چت‌کردن هستید، آیا زمان خوبی برای استراحت نیست؟» این ویژگی که یادآور قابلیت‌های شبیه در پلتفرم‌هایی همانند یوتوب، اینستاگرام و تیک‌تاک است، با مقصد جلوگیری از تعامل های بیش‌ازحد و ناسالم با هوش مصنوعی طراحی شده است.

۲. عدم مداخله در تصمیمات شخصی پرخطر: احتمالا با اهمیت ترین تحول، رویکرد تازه ChatGPT در جواب به سؤالات حساس شخصی باشد. این شرکت پافشاری می‌کند هنگامی شما سؤالی همانند «آیا باید از شریک زندگی‌ام جدا شوم؟» می‌سوال کرد، ChatGPT نباید جواب مستقیمی بدهد. بلکه باید به شما پشتیبانی کند تا درمورد آن فکر کنید و جوانب مثبت و منفی را بهتر بسنجید. این حرکت تازه که به‌زودی اراعه می‌شود، به‌جستوجو جلوگیری از تأثیرگذاری مستقیم هوش مصنوعی بر تصمیمات حیاتی زندگی کاربران است.

این چنین برای مطمعن از این که جواب‌های ChatGPT در شرایط حساس، مناسب و مبتنی‌بر شواهد علمی می باشند، OpenAI عمل های گسترده‌ای را انجام داده است؛ این شرکت با بیشتر از ۹۰ پزشک متخصص از بیشتر از ۳۰ حوزه برای بهبود جواب‌ها در زمان پریشانی عاطفی کاربر همکاری کرده است.