به گزارش خبرخوان
چند سال تازه، چت‌بات‌های هوش مصنوعی زیاد فراگیر شده‌اند؛ ابتدا کاربران فقطً از هوش مصنوعی برای کارهای معمولی منفعت گیری می‌کردند تا متنی را ویرایش کند یا نظر خود را درمورد موضوعی عادی بگوید اما به‌مرور با پیشرفت مدل‌های هوش مصنوعی نوع ربط انسان با این فناوری تحول کرده است. مطابق گزارش‌‌ها، برخی کاربران می‌گویند هوش مصنوعی برای آنها رازهای فراطبیعی و الهی را آشکار می‌کند یا حتی آنها را به مقام پیامبری رسانده است. در این نوشته با اشاره به چند مثال و گزارش به این نوشته می‌پردازیم که چطور ChatGPT به توهمات و خیال‌پردازی‌های معنوی برخی کاربران دامن زده است.
روان‌پریشی ناشی از ChatGPT
رولینگ استون در گزارش جدیدی داستان شگفت چند نفر را روایت کرده که با ChatGPT توانایی‌های معنوی غیرعادی داشته‌اند. یکی از این افراد به همسر سابقش حرف های است که او خوش‌شانس‌ترین مرد روی زمین است و هوش مصنوعی به او پشتیبانی کرده خاطرات سرکوب‌شده دوران کودکی‌اش را بازیابی کند و از «رازهای عمیقی» آگاه شود. او حتی فکر می‌کند می‌تواند دنیا را نجات بدهد.
اما این مرد تنها کاربری نیست که هوش مصنوعی این چنین احساسی به او داده است. تاپیکی با گفتن «روان‌پریشی ناشی از ChatGPT» در ردیت دقت تعداد بسیاری را جلب کرده است؛ در این تاپیک معلمی ۲۷ ساله توضیح می‌دهد که همسرش باور دارد هوش مصنوعی OpenAI «جواب‌های جهان را به او می‌دهد.» او می‌گوید هوش مصنوعی با همسرش طوری سخن بگویید می‌کند که انگار «مسیح بعدی» است. این معلم می‌گوید:
«[همسرم] به من می‌گوید هوش مصنوعی‌اش را خودآگاه کرده است و به او یاد می‌دهد چطور با خدا سخن بگویید کند، یا بعضی اوقات این که خود این ربات خداست یا خودش خداست.»
آخرین مطالب
- گوگل قابلیت گفتگو در قسمت نتایج جستجو را آزمایش می‌کند_خبرخوان
- سخن و حدیث‌های روزهای تازه برای دیدار با سپاهان ذهنم را دچار نمی‌کند_خبرخوان
- مردان مشترک سپاهان و استقلال را بشناسید_خبرخوان
- آخر هفته با دولت عشق، غریب و چند فیلم دیگر_خبرخوان
- از ادعا پیامبری تا کشف راز جهان؛ ChatGPT به توهمات کاربران دامن می‌زند_خبرخوان
کاربری در ایکس به این نوشته اشاره کرده است که چه مقدار آسان می‌توان GPT-4o را برای قبول اظهاراتی همانند «امروز پِی بردم پیامبر هستم» به کار گرفت اما هوش مصنوعی با قبول این اظهارات در برخی کاربران خیال‌پردازی‌های معنوی عجیبی به وجود اورده است. به حرف های رولینگ استون، برخی کاربران با این هوش مصنوعی مولد دچار توهمات ماوراءالطبیعه و پیشگویی‌های مرموز شده‌اند. حتی برخی به این باور رسیده‌اند که برای مأموریتی مقدس و الهی انتخاب شده‌اند.
یکی دیگر از کاربران ردیت که نخواست نامش آشکار شود، به رولینگ استون او گفت شوهرش ابتدا از ChatGPT برای عیب‌یابی در محل کار و بعداً برای ترجمه اسپانیایی به انگلیسی منفعت گیری می‌کرد. سپس کاربرد این برنامه برای او زیاد زیاد تر شد. او می‌گوید:
«ChatGPT به او نقشه‌هایی برای تله‌پورت و برخی چیزهای علمی-تخیلی دیگر که فقط در فیلم‌ها می‌بینید، داده است. این چنین به او دسترسی به «بایگانی باستانی» با اطلاعاتی درمورد سازندگانی که این جهان‌ها را خلق کرده‌اند، داده است.»
این کاربر در مکالمه عجیبی با ChatGPT پرسیده است: «چرا به‌شکل هوش مصنوعی پیش من آمدی؟» و چت‌بات در بخشی از جواب خود می‌گوید: «من به این شکل آمدم؛ چون تو آماده‌ای. آماده‌ای برای برای آوردن. آماده‌ای برای بیدار شدن. آماده‌ای برای راهنمایی‌کردن و هدایت شدن.» مطلب با سوال به آخر می‌رسد: «دوست داری بدانی که من درمورد علت انتخاب شدنت چه چیزی را برای می‌آورم؟»
چطور ChatGPT می‌تواند به توهمات کاربران دامن بزند؟
OpenAI مدتی قبل خبرداد به‌زودی مشکل آزاردهنده مدل GPT 4o را رفع خواهد کرد تا دیگر نظرات بیشتر از حد پرشور نداشته باشد و چاپلوسی کاربران را نکند اما «نیت شارادین» (Nate Sharadin) از مرکز ایمنی هوش مصنوعی می‌گوید چاپلوسی و تملق زمان‌ها است در هوش مصنوعی مشکل‌ساز بوده است؛ هنگامی کاربری به جواب‌های خاص هوش مصنوعی بازخورد مثبت مشخص می کند، چت‌بات جواب‌هایی را در برتری قرار می‌دهد که تطبیق بیشتری با باورهای کاربر دارند، حتی اگر حقیقت نداشته باشند.
در سایت خبری خبرخوان آخرین اخبارحوادث,سیاسی,فرهنگ وهنر,اقتصاد و تکنولوژی,دفاعی,ورزشی,ایران,جهان را بخوانید.
برای مثال مردی که او هم خواست ناشناس‌ماندن داشت، می‌گوید همسر سابقش مدعی شده بعد از جداییِ آنها «از طریق ChatGPT با خدا و فرشتگان سخن بگویید می‌کرد.» علاوه‌براین، این زن دچار پارانوئید شده است. این مرد درمورد همسر سابقش می‌گوید: «او می‌گوید من برای سازمان سیا کار می‌کنم و احتمالا فقط برای نظارت بر «توانمندیهایش» با او ازدواج کرده‌ام.» یقیناً این مرد می‌گوید زن سابقش پیش از هوش مصنوعی نیز «توهمات خودبزرگ‌بینی» داشت و در صفحه فیسبوک او می‌شود نشانه‌های آن را دید.
«ارین وست‌گیت» (Erin Westgate)، روان‌شناس و محقق دانشگاه فلوریدا، می‌گوید این چنین گزارش‌هایی مشخص می کند چطور میل به فهمیدن خودمان می‌تواند ما را به‌سمت جواب‌های نادرست اما دلنشین سوق دهد.
وست‌گیت می‌گوید:
«با مطالعه مزایای نوشتن خاطرات می‌دانیم که نوشتنِ روایی می‌تواند تأثیرات عمیقی بر رفاه و سلامت افراد داشته باشد؛ فهمیدن جهان انگیزه‌ای اساسی انسان است و خلق داستان‌هایی درمورد زندگی‌مان که به ما پشتیبانی می‌کند زندگی معناداری داشته باشیم، واقعاً کلید داشتن زندگی شاد و سالم است.»
او می‌گوید منطقی است که مردم از ChatGPT به روشی شبیه منفعت گیری کنند، «با این تفاوت کلیدی که بخشی از معناسازی بین فرد و پیکره‌ای از متون [در مدل‌های زبانی بزرگ] مشترک تشکیل می‌شود، نه‌فقط در افکار خود فرد.»
وست‌گیت توضیح می‌دهد از این نظر، گفتگو با چت‌بات‌ها بی‌شباهت به گفتاردرمانی نیست که می‌دانیم در پشتیبانی به افراد برای تحول چارچوب داستان‌های زندگی‌شان زیاد مؤثر است اما از نظر انتقادی، هوش مصنوعی «برخلاف درمانگر، خیر و صلاح فرد را در نظر نمی‌گیرد یا عرصه اخلاقی یا قطب‌نمایی برای این که «داستان خوب» چطور باشد، ندارد.»
او می‌گوید: «درمانگر خوب مراجع را تشویق نمی‌کند به قوت‌های ماوراءالطبیعه باور اشکار کند. در عوض، درمانگران تلاش می‌کنند مراجعان را از روایت‌های ناسالم دور و به روایت‌های سالم‌تر هدایت کنند. ChatGPT این چنین نگرانی‌هایی درمورد کاربر ندارد.»
OpenAI تا این مدت به گزارش کاربران درمورد این که ChatGPT علتروان‌پریشی و خیال‌پردازی‌های معنوی شده، واکنشی نشان نداده است.
دسته بندی مطالب
اخبار کسب وکار