OpenAI vừa công bố thành lập một hội đồng tư vấn tập trung vào sức khỏe tinh thần và cảm xúc của người dùng, gồm tám nhà nghiên cứu và chuyên gia. Mục tiêu là tăng cường an toàn khi dùng AI, nhưng hiệu lực của hội đồng còn bị hoài nghi vì không có quyền ra quyết định.
OpenAI hôm nay thông báo thành lập Hội đồng chuyên gia về sức khỏe tinh thần và AI, nhằm tập trung vào phúc lợi tinh thần và cảm xúc của người dùng. Hội đồng gồm tám nhà nghiên cứu và chuyên gia hoạt động tại giao điểm giữa công nghệ và sức khỏe tâm thần.
Thông báo của OpenAI cũng thừa nhận hội đồng mới không có quyền lực thực sự để chỉ đạo hoạt động: "Chúng tôi vẫn chịu trách nhiệm về các quyết định của mình, nhưng sẽ tiếp tục học hỏi từ hội đồng này, Mạng lưới bác sĩ toàn cầu, các nhà hoạch định chính sách và các nguồn khác, khi chúng tôi xây dựng các hệ thống AI tiên tiến theo những cách hỗ trợ phúc lợi con người."
Sẽ rõ hơn mức độ nghiêm túc của OpenAI khi công ty bắt đầu mâu thuẫn với khuyến nghị của hội đồng — đó sẽ là thời điểm để đánh giá xem đây là cam kết thực sự nhằm giảm thiểu rủi ro nghiêm trọng của AI hay chỉ là nỗ lực đánh bóng hình ảnh.
Nguồn: https://www.engadget.com/openai-forms-advisory-council-on-wellbeing-and-ai-183815365.html?src=rss
OpenAI hôm nay thông báo thành lập Hội đồng chuyên gia về sức khỏe tinh thần và AI, nhằm tập trung vào phúc lợi tinh thần và cảm xúc của người dùng. Hội đồng gồm tám nhà nghiên cứu và chuyên gia hoạt động tại giao điểm giữa công nghệ và sức khỏe tâm thần.
Mục tiêu và bối cảnh
Một số thành viên từng được OpenAI tham vấn khi công ty phát triển các công cụ kiểm soát phụ huynh. Các vấn đề về an toàn và bảo vệ người dùng vị thành niên trở thành điểm nóng sau nhiều vụ kiện cáo buộc công nghệ AI có liên quan trong những trường hợp thanh thiếu niên tự tử sau khi chia sẻ kế hoạch với chatbot.Hiệu quả còn gây tranh cãi
Động thái này có vẻ là bước bổ sung hợp lý, nhưng hiệu quả thực sự của bất kỳ hội đồng tư vấn nào phụ thuộc vào việc công ty có lắng nghe và hành động theo khuyến nghị hay không. Chúng ta đã từng thấy một số công ty công nghệ thành lập rồi bỏ qua các hội đồng như vậy; Meta là một ví dụ gần đây.Thông báo của OpenAI cũng thừa nhận hội đồng mới không có quyền lực thực sự để chỉ đạo hoạt động: "Chúng tôi vẫn chịu trách nhiệm về các quyết định của mình, nhưng sẽ tiếp tục học hỏi từ hội đồng này, Mạng lưới bác sĩ toàn cầu, các nhà hoạch định chính sách và các nguồn khác, khi chúng tôi xây dựng các hệ thống AI tiên tiến theo những cách hỗ trợ phúc lợi con người."
Sẽ rõ hơn mức độ nghiêm túc của OpenAI khi công ty bắt đầu mâu thuẫn với khuyến nghị của hội đồng — đó sẽ là thời điểm để đánh giá xem đây là cam kết thực sự nhằm giảm thiểu rủi ro nghiêm trọng của AI hay chỉ là nỗ lực đánh bóng hình ảnh.
Nguồn: https://www.engadget.com/openai-forms-advisory-council-on-wellbeing-and-ai-183815365.html?src=rss
Bài viết liên quan
