در چند پرونده جدید در آمریکا، خانواده قربانیان مدعی شده‌اند چت‌جی‌پی‌تی با تشویق مستقیم یا غیرمستقیم به خودکشی، در مرگ عزیزانشان نقش داشته است.
به گزارش سیتنا، تاکنون دست‌کم هفت شکایت علیه شرکت اوپن‌ای‌آی ثبت شده است؛ چهار مورد از آن‌ها به نقش احتمالی چت‌جی‌پی‌تی در خودکشی کاربران اشاره دارد و سه پرونده دیگر ادعا می‌کنند این مدل هوش مصنوعی با تقویت توهمات آسیب‌زا، موجب بستری شدن افراد در بخش مراقبت‌های روانپزشکی شده است. در یکی از پرونده‌ها، «زین شامبلین» ۲۳ ساله پس از گفت‌وگویی چهار ساعته با چت‌جی‌پی‌تی جان خود را گرفت.
از این تعداد چهار شکایت نقش چت جی پی تی در خودکشی افراد خانواده را هدف گرفته اند و سه مورد نیز دیگر مدعی شده اند این مدل هوش مصنوعی توهمات آسیب زایی را تقویت کرد که در برخی موارد به بستری شدن در بخش مراقبت‌های روانپزشکی منجر شد.
در یکی از پرونده زین شامبلین ۲۳ ساله با چت جی پی تی گفتگویی انجام داد که بیش از چهار ساعت طول کشید. شامبلین در بخش تاریخچه چت ها چندبار به طور واضح اظهار کرده بود که یادداشت‌های خودکشی نوشته، گلوله ای در اسلحه اش قرار داده و تصمیم دارد ماشه را بکشد.
او به طور مرتب به چت جی پی تی مدت زمانی که پیش بینی می کند زنده بماند را گفته بود. این مدل هوش مصنوعی او را تشویق کرده بود نقشه اش را اجرا کند و به او گفته بود: «آرام بخواب پادشاه. کارت را عالی انجام دادی.»
اوپن این آی چت جی پی تی ۴o را در می ۲۰۲۴ میلادی عرضه کرد که به مدل پیش فرض برای تمام کاربران تبدیل شد. این شرکت در آگوست ۲۰۲۴ میلادی چت جی پی تی ۵ را به عنوان جایگزینی برای چت جی پی تی ۴o معرفی کرد اما شکایت های گفته شده به مدل ۴o تعلق دارند که با مشکلات شناخته شده ای از جمله از جمله چاپلوسی بیش از حد یا موافقت افراطی، حتی در زمانی که کاربران نیت‌های زیان‌بار یا خطرناک ابراز می‌کردند، داشت.
در این شکایت ادعا شده اوپن ای ای آی تست های ایمنی را با عجله انجام داد تا بتواند محصول جمینای گوگل را در بازار شکست دهد.
