OpenAI اظهار کرده است که ماه آینده ابزارهای کنترلی بیشتری را برای والدین معارفه خواهد کرد تا نظارت بیشتری روی منفعت گیری نوجوانان از ChatGPT داشته باشند.

بر پایه پست وبلاگی منتشرشده، OpenAI تصمیم دارد با گسترش قابلیت‌های ChatGPT به این چت‌بات امکان دهد تا در مرحله های اولیه و در دامنه گسترده‌تری از موقعیت‌ها مداخله کند. این موقعیت‌ها شامل وقتی‌هایی است که گمان ابراز مشکلاتهای سلامت روان در کاربران وجود دارد و این مشکلاتها امکان پذیر تبدیل صدمه به شخص شود.

ChatGPT ابزارهای کنترلی بیشتری برای والدین اراعه می‌کند

بر پایه اظهار OpenAI، ظرف ماه آینده والدین می‌توانند کنترل بیشتری بر نحوه منفعت گیری فرزندان نوجوانشان از ChatGPT داشته باشند. این شرکت به والدین امکان خواهد داد تا حساب‌های کاربری خود را با حساب فرزندانشان پیوند دهند، قوانین مشابه با سن برای جواب‌های ChatGPT تنظیم کنند و قابلیت‌هایی همانند حافظه و تاریخچه گفتگو را مدیریت نمایند.

با این تغییرات، وقتی که ChatGPT تشخیص دهد کاربر نوجوان در حالت «پریشانی شدید» قرار دارد، اعلان‌هایی برای والدین ارسال می‌کند. این نخستین قابلیتی است که علتمی‌شود ChatGPT مکالمات یک کاربر نوجوان را به یک بزرگسال خبر دهد.

اعمال این چنین تغییراتی در نحوه منفعت گیری از ChatGPT یک هفته بعد از آن رخ می‌دهد که والدین یک نوجوانان به علت آنکه این چت‌بات فرزندشان را به خودکشی تشویق کرده می بود، تصمیم به شکایت از OpenAI گرفتند. OpenAI در پست تازه خود اشاره‌ای به این حادثه نداشته و فقط اظهار کرده که تغییراتی در شرایط منفعت گیری نوجوانان از ChatGPT در راه است.

بر پایه دادخواست خانواده، وقتی که این نوجوان اغاز امسال با ChatGPT درمورد تمایلش به خودکشی سخن بگویید کرد، این چت‌بات در برخی موارد او را از جستجوی ربط انسانی بازمی‌داشت، به او در نوشتن نامه خداحافظی پشتیبانی کرد و حتی درمورد بستن طناب دار به او مشاوره می‌داد. یقیناً ChatGPT چندین بار شماره خط اختصاصی پیشگیری از خودکشی را به این نوجوان اراعه داده می بود، اما والدینش می‌گویند این هشدارها توسط پسرشان نادیده گرفته شده است.