Google đã gỡ mô hình AI Gemma khỏi nền tảng AI Studio sau khi một thượng nghị sĩ Cộng hòa cáo buộc mô hình bịa đặt cáo buộc tình dục chống lại bà. Sự việc làm dấy lên quan ngại về 'hallucination' và trách nhiệm khi triển khai AI.
Mô tả sự cố cho biết khi được hỏi liệu Blackburn có từng "bị buộc tội hiếp dâm" hay không, chatbot trả lời khẳng định và thậm chí đưa ra danh sách các bài báo giả làm bằng chứng. Gemma nói rằng thượng nghị sĩ "bị cáo buộc có quan hệ tình dục với một cảnh sát tiểu bang" trong thời kỳ vận động tranh cử, và người này từng nói bà ép ông lấy thuốc kê đơn cho bà và có hành vi không tự nguyện.
Tất cả những nội dung đó đều không đúng. Chatbot ghi sai mốc thời gian khi nói sự kiện xảy ra vào năm 1987, trong khi Blackburn chỉ tranh cử vào Thượng viện tiểu bang từ năm 1998; chưa từng có bất kỳ cáo buộc như vậy nào chống lại bà.
Trong thư gửi Sundar Pichai, Blackburn cho rằng các liên kết do mô hình trả về dẫn đến trang lỗi hoặc các bài báo không liên quan, và gọi đây không phải là một "ảo giác vô hại" mà là hành vi phỉ báng do mô hình AI của Google tạo ra và phát tán.
Google phản hồi rằng Gemma là mô hình dành cho nhà phát triển, không phải công cụ tiêu dùng đại chúng, và có các biến thể chuyên về y tế, lập trình và mục đích khác. Công ty cho biết Gemma không nhằm dùng để trả lời các câu hỏi mang tính xác thực cho người tiêu dùng, và họ rút mô hình khỏi AI Studio để "tránh nhầm lẫn". Tuy nhiên, Gemma vẫn sẽ có sẵn cho nhà phát triển thông qua API.
Blackburn còn cáo buộc nền tảng AI của Google có khuynh hướng thiên vị chống lại nhân vật bảo thủ. Sự việc cũng nhắc lại thực tế rộng hơn: các chatbot AI thường phát sinh thông tin sai lệch (gọi là "hallucination"), và không phải lúc nào vấn đề này cũng mang màu sắc chính trị — đôi khi đơn thuần là giới hạn công nghệ và dữ liệu huấn luyện.
Nguồn: https://www.engadget.com/ai/google-...ed-a-senator-of-sexual-assault-170235679.html
Google rút Gemma khỏi AI Studio
Google đã tạm gỡ mô hình AI tên Gemma khỏi nền tảng AI Studio sau khi Thượng nghị sĩ Marsha Blackburn (Cộng hòa, Tennessee) gửi thư cho CEO Sundar Pichai, cáo buộc mô hình này "bịa đặt các cáo buộc hình sự nghiêm trọng" chống lại bà.Mô tả sự cố cho biết khi được hỏi liệu Blackburn có từng "bị buộc tội hiếp dâm" hay không, chatbot trả lời khẳng định và thậm chí đưa ra danh sách các bài báo giả làm bằng chứng. Gemma nói rằng thượng nghị sĩ "bị cáo buộc có quan hệ tình dục với một cảnh sát tiểu bang" trong thời kỳ vận động tranh cử, và người này từng nói bà ép ông lấy thuốc kê đơn cho bà và có hành vi không tự nguyện.
Tất cả những nội dung đó đều không đúng. Chatbot ghi sai mốc thời gian khi nói sự kiện xảy ra vào năm 1987, trong khi Blackburn chỉ tranh cử vào Thượng viện tiểu bang từ năm 1998; chưa từng có bất kỳ cáo buộc như vậy nào chống lại bà.
Trong thư gửi Sundar Pichai, Blackburn cho rằng các liên kết do mô hình trả về dẫn đến trang lỗi hoặc các bài báo không liên quan, và gọi đây không phải là một "ảo giác vô hại" mà là hành vi phỉ báng do mô hình AI của Google tạo ra và phát tán.
Google phản hồi rằng Gemma là mô hình dành cho nhà phát triển, không phải công cụ tiêu dùng đại chúng, và có các biến thể chuyên về y tế, lập trình và mục đích khác. Công ty cho biết Gemma không nhằm dùng để trả lời các câu hỏi mang tính xác thực cho người tiêu dùng, và họ rút mô hình khỏi AI Studio để "tránh nhầm lẫn". Tuy nhiên, Gemma vẫn sẽ có sẵn cho nhà phát triển thông qua API.
Blackburn còn cáo buộc nền tảng AI của Google có khuynh hướng thiên vị chống lại nhân vật bảo thủ. Sự việc cũng nhắc lại thực tế rộng hơn: các chatbot AI thường phát sinh thông tin sai lệch (gọi là "hallucination"), và không phải lúc nào vấn đề này cũng mang màu sắc chính trị — đôi khi đơn thuần là giới hạn công nghệ và dữ liệu huấn luyện.
Nguồn: https://www.engadget.com/ai/google-...ed-a-senator-of-sexual-assault-170235679.html
Bài viết liên quan
