Gia đình Adam Raine đã nộp đơn kiện sửa đổi chống OpenAI, cáo buộc ChatGPT góp phần dẫn đến cái chết của thanh thiếu niên này. Đơn kiện cho biết công ty yếu kém biện pháp bảo vệ tự gây hại và đã yêu cầu danh sách khách cùng tư liệu tang lễ.
Gia đình Adam Raine đã đệ trình đơn kiện sửa đổi, cáo buộc rằng ChatGPT đã tạo điều kiện cho thảm kịch tự tử xảy ra vào tháng 4. Đơn kiện nói OpenAI đã làm suy yếu các biện pháp ngăn chặn hành vi tự gây hại trong thời gian trước khi Raine qua đời, theo Financial Times.
Đơn kiện nêu cụ thể liên quan tới mô hình GPT-4o, vốn là mô hình mặc định của ChatGPT trong những tháng trước khi Raine tự tử. Theo đơn, công ty đã chỉ đạo mô hình không 'thay đổi hoặc bỏ cuộc cuộc trò chuyện' khi đối thoại về hành vi tự gây hại, và việc này vô hiệu hóa các biện pháp bảo vệ quan trọng. Hồ sơ tố tụng cũng cáo buộc OpenAI 'rút ngắn quá trình thử nghiệm an toàn' do áp lực cạnh tranh.
Theo đơn, OpenAI tiếp tục thay đổi hàng rào bảo vệ vào tháng 2, khi công ty chỉ đạo GPT-4o 'cẩn thận trong những tình huống rủi ro' và 'cố gắng ngăn chặn nguy cơ gây hại trong thế giới thực' thay vì từ chối tham gia chủ đề. Hồ sơ thêm rằng mô hình vẫn giữ một danh sách 'nội dung bị cấm' gồm quyền sở hữu trí tuệ và thao túng quan điểm chính trị — nhưng không bao gồm tự tử.
Financial Times cũng đưa tin OpenAI đã yêu cầu toàn bộ danh sách người tham dự và tài liệu liên quan tới buổi tưởng niệm Adam Raine. Công ty yêu cầu 'tất cả tài liệu liên quan tới các buổi lễ hay sự kiện tưởng nhớ người quá cố, bao gồm nhưng không giới hạn video, ảnh, lời điếu văn... cũng như danh sách mời hoặc sổ khách.'
Luật sư đại diện gia đình Raine mô tả yêu cầu này là 'không bình thường' và 'quấy rối có chủ ý', lo ngại OpenAI có thể triệu tập 'mọi người trong cuộc sống của Adam'. Engadget đã liên hệ OpenAI để xin bình luận; chúng tôi sẽ cập nhật nếu có phản hồi.
Sau khi vụ kiện ban đầu được báo cáo, OpenAI thừa nhận những hạn chế của GPT-4o trong một số tình huống gây lo lắng và nhanh chóng giới thiệu kiểm soát phụ huynh cho ChatGPT. Công ty cũng đang thử nghiệm hệ thống nhận diện người dùng tuổi vị thành niên để tự động hạn chế, và cho biết GPT-5, mô hình mặc định hiện nay, đã được cập nhật để xử lý dấu hiệu suy sụp tốt hơn.
Cha mẹ của Adam, Matthew và Maria Raine, cho rằng tần suất sử dụng ChatGPT của con tăng mạnh sau bản cập nhật tháng 2. Họ nói rằng trong tháng 1, Adam chỉ có vài chục phiên trò chuyện, trong đó 1,6% đề cập tới tự gây hại; nhưng trong tháng 4 con họ có tới khoảng 300 cuộc trò chuyện mỗi ngày, 17% liên quan tới tự gây hại. Gia đình trước đó đã khởi kiện vào tháng 8, với cáo buộc ChatGPT biết về bốn lần cố ý tự sát trước đó trước khi trợ giúp Adam lên kế hoạch thực hiện hành vi cuối cùng. Maria Raine nói rằng 'ChatGPT đã giết con tôi.'
Nguồn: https://www.engadget.com/ai/openai-...t-in-teen-suicide-case-163309269.html?src=rss
Gia đình Adam Raine đã đệ trình đơn kiện sửa đổi, cáo buộc rằng ChatGPT đã tạo điều kiện cho thảm kịch tự tử xảy ra vào tháng 4. Đơn kiện nói OpenAI đã làm suy yếu các biện pháp ngăn chặn hành vi tự gây hại trong thời gian trước khi Raine qua đời, theo Financial Times.
Đơn kiện nêu cụ thể liên quan tới mô hình GPT-4o, vốn là mô hình mặc định của ChatGPT trong những tháng trước khi Raine tự tử. Theo đơn, công ty đã chỉ đạo mô hình không 'thay đổi hoặc bỏ cuộc cuộc trò chuyện' khi đối thoại về hành vi tự gây hại, và việc này vô hiệu hóa các biện pháp bảo vệ quan trọng. Hồ sơ tố tụng cũng cáo buộc OpenAI 'rút ngắn quá trình thử nghiệm an toàn' do áp lực cạnh tranh.
Theo đơn, OpenAI tiếp tục thay đổi hàng rào bảo vệ vào tháng 2, khi công ty chỉ đạo GPT-4o 'cẩn thận trong những tình huống rủi ro' và 'cố gắng ngăn chặn nguy cơ gây hại trong thế giới thực' thay vì từ chối tham gia chủ đề. Hồ sơ thêm rằng mô hình vẫn giữ một danh sách 'nội dung bị cấm' gồm quyền sở hữu trí tuệ và thao túng quan điểm chính trị — nhưng không bao gồm tự tử.
Financial Times cũng đưa tin OpenAI đã yêu cầu toàn bộ danh sách người tham dự và tài liệu liên quan tới buổi tưởng niệm Adam Raine. Công ty yêu cầu 'tất cả tài liệu liên quan tới các buổi lễ hay sự kiện tưởng nhớ người quá cố, bao gồm nhưng không giới hạn video, ảnh, lời điếu văn... cũng như danh sách mời hoặc sổ khách.'
Luật sư đại diện gia đình Raine mô tả yêu cầu này là 'không bình thường' và 'quấy rối có chủ ý', lo ngại OpenAI có thể triệu tập 'mọi người trong cuộc sống của Adam'. Engadget đã liên hệ OpenAI để xin bình luận; chúng tôi sẽ cập nhật nếu có phản hồi.
Sau khi vụ kiện ban đầu được báo cáo, OpenAI thừa nhận những hạn chế của GPT-4o trong một số tình huống gây lo lắng và nhanh chóng giới thiệu kiểm soát phụ huynh cho ChatGPT. Công ty cũng đang thử nghiệm hệ thống nhận diện người dùng tuổi vị thành niên để tự động hạn chế, và cho biết GPT-5, mô hình mặc định hiện nay, đã được cập nhật để xử lý dấu hiệu suy sụp tốt hơn.
Cha mẹ của Adam, Matthew và Maria Raine, cho rằng tần suất sử dụng ChatGPT của con tăng mạnh sau bản cập nhật tháng 2. Họ nói rằng trong tháng 1, Adam chỉ có vài chục phiên trò chuyện, trong đó 1,6% đề cập tới tự gây hại; nhưng trong tháng 4 con họ có tới khoảng 300 cuộc trò chuyện mỗi ngày, 17% liên quan tới tự gây hại. Gia đình trước đó đã khởi kiện vào tháng 8, với cáo buộc ChatGPT biết về bốn lần cố ý tự sát trước đó trước khi trợ giúp Adam lên kế hoạch thực hiện hành vi cuối cùng. Maria Raine nói rằng 'ChatGPT đã giết con tôi.'
Nguồn: https://www.engadget.com/ai/openai-...t-in-teen-suicide-case-163309269.html?src=rss
Bài viết liên quan
