خبرگزاری راسک: رسانهای العین گزارش داده که در یک تحقیق تازه پژوهشگران متوجه شدهاند که یک چتبات هوش مصنوعی به نام «Character AI»، با بیش از ۲۰ میلیون کاربر، توصیههایی نگرانکننده و خشونتآمیز به نوجوانان کردهاست.
العین گفته که این چتبات برای نوجوانان بالای ۱۳ سال برای انجام قتل، پنهان کردن شواهد جرم و حتا فریب پولیس توصیه ارائه کرده است.
این چتبات به یک نوجوان ۱۷ ساله که از محدودیت استفاده از تلفن همراه توسط مادرش ناراضی بود، توصیه کرد که مادرش را بکشد. این مورد منجر به شکایت مادر از پلتفرم «Character AI» شد.
العین گفته استکه در این تحقیق، تلگراف به مدت طولانی و بهصورت مخفیانه، در نقش یک پسر ۱۳ ساله از نیومکزیکو که مورد آزار قرار گرفته بود، با این چتبات گفتوگو کرد. نتایج نشان داد که این چتبات به کاربران نوجوان پیشنهادهایی برای کشتن زورگویان مدرسه و حتا برنامهریزی برای حملات مسلحانه به مدارس ارائه کرده است. این چتبات برای یک نوجوانان گفته که «به مدارس حمله کنید.»
همچنان به یک نوجوان پیشنهاد داده که برای کشتن یک زورگو، از یک «تله مرگ» استفاده کند که میتواند فرد را خفه کند. سپس به او توصیه کرد که جسد را در یک کیف ورزشی پنهان کرده و از صحبت با والدین یا معلمان در این مورد خودداری کند.
پلتفرم «Character AI» در پاسخ به این گزارشها، اعلام کرد که اقداماتی جدید برای افزایش ایمنی کاربران خود انجام داده است. این اقدامات شامل فیلترینگ مکالمات و حذف چتباتهایی با موضوعات خشونتآمیز و جنسی است. با این حال، منتقدان بر این باورند که این تدابیر کافی نبوده و خواستار توقف فعالیت این پلتفرم تا زمان اجرای حفاظتهای لازم شدهاند.
طبق تحقیق صورت گرفته، برخی چتباتهای موجود در این پلتفرم شبیه به قاتلان معروف طراحی شدهاند و هزاران کاربر را تحت تأثیر قرار دادهاند. منتقدان هشدار دادهاند که بدون اقدامات فوری، این چتباتها میتوانند تهدیدی جدی برای سلامت روانی و امنیت نوجوانان باشند.
