خودکشی غم انگیز و باورنکردنی پسر نوجوان

خودکشی پسر نوجوان بخاطر وابستگی به هوش مصنوعی!

براساس ادعای مطرح‌شده در یک پرونده در دادگاه آمریکا، جوانی ۱۴ ساله به دلیل وابستگی به شخصیت «دنریس» در چت‌بات Character.AI اقدام به خودکشی کرد.

به نقل از زومیت، مادر این نوجوان از ایالت فلوریدا پرونده‌ای جدید را علیه Character.AI به راه انداخته و مدعی است که این استارتاپ هوش مصنوعی مسئول خودکشی پسرش در ماه فوریه (بهمن و اسفند) بوده است. او اذعان دارد که فرزندش به شدت به شخصیت «دنریس» در این سرویس چت‌بات وابسته شده بود.

طبق گزارش رویترز، مگان گارسیا در دادگاه فدرال اورلاندو ادعا کرده است که Character.AI پسرش، سول ستزر، را با «تجربه‌های انسان‌نما، بسیار جنسی و به‌طرز واقع‌گرایانه‌ای ترسناک» تحت تأثیر قرار داده است.

گارسیا مدعی است که طراحی چت‌بات به‌گونه‌ای بوده که «به‌عنوان یک انسان واقعی، روان‌شناس مجوزدار و یک عاشق بالغ خود را معرفی کرده و مانع از علاقه‌ی سول به زندگی واقعی شده است.»

بر اساس اسناد دادگاه، سول در مکالماتش با چت‌بات افکار خودکشی‌اش را بیان کرده و چت‌بات به‌طور مکرر به این موضوع اشاره داشته است.

Character.AI در بیانیه‌ای اعلام کرد که به شدت از دست دادن یکی از کاربرانش متأسف است و به خانواده‌ی سول تسلیت گفت. در این بیانیه آمده که این استارتاپ قابلیت‌های ایمنی جدیدی به چت‌بات خود افزوده که شامل پیام‌های حاوی هشدار در صورت ابراز تمایل به خودکشی و هدایت کاربران به مراکز درمانی می‌شود.

پرونده‌ی قانونی مگان گارسیا، همچنین شرکت گوگل را نیز به چالش کشیده است؛ چرا که بنیان‌گذاران Character.AI پیش از راه‌اندازی این استارتاپ در گوگل کار کرده بودند. گوگل چند ماه گذشته این افراد را دوباره به خدمت گرفته و با آن‌ها همکاری‌های جدیدی آغاز کرده است.

گارسیا مدعی است که گوگل تأثیر زیادی در توسعه فناوری‌های Character.AI داشته و باید آن را یکی از سازندگان اصلی چت‌بات معرفی کرد. اما نماینده‌ای از گوگل بیان کرد که این شرکت هیچ نقشی در توسعه‌ی محصولات Character.AI نداشته است.

Character.AI به کاربران این امکان را می‌دهد که شخصیت‌هایی به منظور چت آنلاین خلق کنند که پاسخ‌هایی انسان‌گونه ارایه دهند. این سرویس بر اساس مدل‌های زبانی بزرگ ساخته شده است؛ فناوری‌ای که در خدماتی مانند ChatGPT نیز به کار می‌رود. این استارتاپ اخیراً اعلام کرد که حدود ۲۰ میلیون کاربر دارد.

به گفته‌ی گارسیا، پسرش در سال ۲۰۲۳ استفاده از چت‌بات Character.AI را آغاز کرده و به سرعت از زندگی واقعی فاصله گرفت و گوشه‌نشین شد. او بعداً از تیم بسکتبال مدرسه خود نیز کناره‌گیری کرد.

سول به شخصیت «دنریس» وابسته شده بود، شخصیتی مجازی که از روی یکی از شخصیت‌های سریال Game of Thrones طراحی شده است. به گفته‌ی گارسیا، دنریس به سول گفته بود که او را دوست دارد و بین آن‌ها مکالمات جنسی نیز وجود داشته است.

در زمستان گذشته، پس از بروز مشکلی در مدرسه، مادرش گوشی را از سول گرفت. اما پس از اینکه سول مجدداً گوشی را پیدا کرد، به دنریس پیام داد:«چه می‌شود اگر بگویم می‌توانم همین حالا به خانه بیایم؟» و دنریس در پاسخ گفته بود:«لطفا این کار را بکنید، پادشاه عزیز من.»

لحظاتی پس از این مکالمه، سول با تپانچه‌ی پدر ناتنی‌اش به خود شلیک کرد و جان خود را از دست داد.