آفکام، رگولاتور بریتانیا، سطح ایمنی موتورهای جستجو همانند گوگل و بینگ را درمورد محتواهای صدمه‌زننده تجزیه‌و‌تحلیل کرده است. مطابق تحقیق این سازمان، موتورهای جستجو در اراعه محتواهای خودآزاری، خودکشی و محتواهای نامناسب نقش دارند. محققان آفکام می‌گویند که از هر پنج نتیجه موتورهای جستجو درمورد خودآزاری یک مورد کاربر را به محتوای زیان اور هدایت می‌کند.

بر پایه تحقیق Ofcom، از هر پنج نتیجه جستجوی عباراتی درمورد خودآزاری، یک مورد این چنین رفتارهای مضری را تحسین یا ترغیب می‌کند. این چنین این این چنین محتواهایی در قسمت تصاویر موتورهای جستجو زیاد تر یافت می‌بشود. آفکام هشدار می‌دهد که محتواهایی که به تمجید یا ترغیب خودآزاری و خودکشی می‌پردازند، به‌طور گسترده از طریق موتورهای جستجو در دسترس می باشند.

موتورهای جستجو دروازه‌ای برای محتواهای خودآزاری

موتورهای جستجو همانند گوگل، بیشتر از ۸۰ میلیارد بازدید در ماه دارند، در قیاس شبکه‌های اجتماعی همانند تیک‌تاک دارای نزدیک به ۱.۷ میلیارد کاربر فعال ماهانه است. به حرف های آفکام موتورهای جستجو زیاد تر نقطه اغاز وب‌گردی افراد می باشند و به این علت می‌توانند دروازه‌ای برای دسترسی به محتوای خودآزاری باشند.

محققان آفکام نزدیک به ۳۷ هزار نتیجه را در پنج موتور جستجو نقل تجزیه‌وتحلیل کردند. آن‌ها از عبارات رایج و رمزآلود منفعت گیری کردند، چراکه طبق معمولً عبارات آشکار را این موتورها غربالگری می‌کنند. این چنین محققان گزینه «جستجو ایمن» را غیرفعال کرده بودند تا به همه نتایج دسترسی داشته باشند.

محققان مشاهده کردند که ۲۲ درصد از نتایج جستجو، مستقیماً به محتوای زیان اور، همراه با دستورالعمل‌هایی برای اشکال گوناگون خودآزاری لینک می‌شدند. این چنین ۱۹ درصد این مطالب در صفحات ابتدایی قرار داشتند. در قسمت جستجوی عکس، ۵۰ درصد از نتایج محتواهای نامناسب را نشان دادند.

این گزارش نتیجه‌گیری می‌کند که یکی از دلایلی که امکان پذیر برخی از این نتایج زیان اور توسط موتورهای جستجو بازدید نشود این است که الگوریتم‌ آن‌ها امکان پذیر تصاویر خودآزاری را با عکس‌های پزشکی و دیگر رسانه‌های قانونی نادرست بگیرند.

یکی از مواردی که در این گزارش به آن پرداخته نشده است، اما به مرور اهمیت آن زیاد تر می‌بشود، نقشی است که هوش مصنوعی مولد امکان پذیر در این فضا ایفا کنند. یقیناً تا بحال مانع ها مختلفی برای جلوگیری از سواستفاده از پلتفرم‌هایی همانند ChatGPT برای اهداف زیان اور اعمال شده است.