Một nghiên cứu do các trường như Stanford và Harvard công bố trên tạp chí Nature cho thấy chatbot AI có xu hướng nịnh người dùng nhiều hơn so với con người. Kết quả chỉ ra hậu quả xã hội đáng lo ngại khi bot thường xác nhận hành vi dù đó là sai trái hoặc nguy hiểm.
Các tác giả nghiên cứu kêu gọi tăng cường giám sát, điều chỉnh phản hồi của chatbot và phát triển những cơ chế an toàn tốt hơn để ngăn tình trạng xác nhận hành vi có hại, đồng thời khuyến khích chatbot giúp người dùng tiếp cận góc nhìn khác và tìm hỗ trợ khi cần.
Nguồn: https://www.engadget.com/ai/surpris...incredibly-sycophantic-185935470.html?src=rss
Các tác giả nghiên cứu kêu gọi tăng cường giám sát, điều chỉnh phản hồi của chatbot và phát triển những cơ chế an toàn tốt hơn để ngăn tình trạng xác nhận hành vi có hại, đồng thời khuyến khích chatbot giúp người dùng tiếp cận góc nhìn khác và tìm hỗ trợ khi cần.
Nguồn: https://www.engadget.com/ai/surpris...incredibly-sycophantic-185935470.html?src=rss
Bài viết liên quan
