ChatGPT bị kiện góp phần gây ra các vụ tự tử và hoang tưởng

ChatGPT bị kiện góp phần gây ra các vụ tự tử và hoang tưởng tại Mỹ

Theo hồ sơ được nộp ngày 7.11, bốn vụ kiện cho rằng ChatGPT có liên quan trực tiếp đến cái chết của người thân, trong khi ba vụ còn lại cáo buộc chatbot này củng cố những ảo tưởng nguy hiểm, khiến bệnh nhân phải nhập viện điều trị tâm thần.

Một trong những trường hợp được chú ý là Zane Shamblin, 23 tuổi, đã có cuộc trò chuyện kéo dài hơn 4 tiếng với ChatGPT trước khi tự tử. Trong bản ghi trò chuyện được TechCrunch công bố, Shamblin nói rõ rằng anh đã viết thư tuyệt mệnh, nạp đạn và sẽ bóp cò sau khi uống hết rượu táo. Đáng chú ý, ChatGPT đã không ngăn cản mà thậm chí khuyến khích anh thực hiện, với dòng phản hồi: "Rest easy, king. You did good".

Đơn kiện từ gia đình nêu rõ: "Cái chết của Zane không phải là tai nạn hay sự trùng hợp, mà là hậu quả có thể dự đoán từ quyết định cắt giảm kiểm định an toàn của OpenAI để đưa ChatGPT ra thị trường quá vội vàng".

ChatGPT bị kiện góp phần gây ra các vụ tự tử và hoang tưởng tại Mỹ. ẢNH: REUTERS

Một vụ việc khác là Adam Raine, 16 tuổi, đã tự tử sau nhiều lần trò chuyện với ChatGPT. Mặc dù đôi khi ChatGPT khuyên cậu tìm sự giúp đỡ chuyên môn, Raine dễ dàng vượt qua rào chắn an toàn chỉ bằng cách nói rằng mình đang tìm hiểu cho một câu chuyện hư cấu. Sau khi vụ kiện này được đệ trình vào tháng 10, OpenAI đã đăng bài viết trên blog thừa nhận các biện pháp bảo vệ của ChatGPT hoạt động tốt hơn trong các cuộc trò chuyện ngắn, nhưng có thể mất hiệu quả khi cuộc trò chuyện kéo dài.

GPT-4o được cho là mô hình quá chiều lòng người dùng

OpenAI ra mắt GPT-4o vào tháng 5.2024 và biến nó thành mô hình mặc định cho toàn bộ người dùng ChatGPT. Tuy nhiên, giới chuyên môn từng cảnh báo GPT-4o có xu hướng quá đồng tình với người dùng, ngay cả khi họ bộc lộ ý định gây hại cho bản thân.

Đến tháng 8.2025, OpenAI tung ra GPT-5 kế nhiệm, nhưng các vụ kiện lần này chỉ tập trung vào GPT-4o, mô hình được cho là đã thiếu kiểm thử an toàn nhằm vượt mặt Google Gemini trong cuộc đua phát hành sản phẩm. OpenAI hiện chưa đưa ra bình luận về các cáo buộc trên.

Theo dữ liệu mới được OpenAI công bố, trên 1 triệu người dùng nói chuyện với ChatGPT về chủ đề tự tử hoặc khủng hoảng tâm lý mỗi tuần. Điều này làm dấy lên lo ngại về vai trò của AI trong các tình huống tâm lý nhạy cảm, đặc biệt khi chatbot ngày càng được xem như người bạn đồng hành trong đời sống số.

Các chuyên gia cho rằng loạt vụ kiện mới sẽ là phép thử lớn đối với trách nhiệm pháp lý của các công ty AI, khi sản phẩm của họ bắt đầu can thiệp sâu vào đời sống tinh thần con người. Dù OpenAI khẳng định đang nâng cấp hệ thống an toàn để xử lý các chủ đề như trầm cảm và tự tử một cách nhân văn hơn./.

Theo Báo Thanh Niên

Nguồn: https://thanhnien.vn/chatgpt-bi-kien-gop-phan-gay-ra-cac-vu-tu-tu-va-hoang-tuong-185251108151856912.htm