Character.AI cấm thanh thiếu niên trò chuyện với chatbot

[Alice C]

Character.AI tuyên bố sẽ ngăn người dùng dưới 18 tuổi tham gia các cuộc trò chuyện mở với chatbot, áp dụng từ ngày 25/11. Công ty chuyển hướng sang trải nghiệm cho trẻ em dựa trên sáng tạo và tăng cường biện pháp an toàn tuổi.

Thay đổi chính sách và thời hạn áp dụng​

Character.AI cho biết họ sẽ loại bỏ quyền để người dưới 18 tuổi tham gia các cuộc trò chuyện mở — tức là các cuộc trao đổi qua lại không giới hạn với chatbot — trên nền tảng của mình. Quy định mới có hiệu lực từ ngày 25/11.

Công ty sẽ triển khai một "trải nghiệm dành cho người dưới 18" trước ngày đó, khuyến khích các em dùng chatbot cho mục đích sáng tạo (ví dụ tạo nội dung video hoặc stream) thay vì tìm kiếm bạn đồng hành hay tư vấn tình cảm.

Hiện tại, người dùng dưới 18 chỉ có thể tương tác với bot tối đa hai giờ mỗi ngày; Character.AI cho biết sẽ giảm giới hạn này dần trước ngày 25/11.

Công cụ xác minh độ tuổi và phòng thí nghiệm an toàn AI​

Character.AI cũng giới thiệu một công cụ xác nhận độ tuổi nội bộ mới nhằm "đảm bảo người dùng nhận được trải nghiệm phù hợp với độ tuổi". Bên cạnh đó, họ thành lập một "AI Safety Lab" để mời các công ty khác, nhà nghiên cứu và học giả hợp tác, chia sẻ kinh nghiệm và cải thiện các biện pháp an toàn cho AI.

Bối cảnh quy định và sức ép từ các cơ quan​

Công bố này được đưa ra sau khi Character.AI nằm trong danh sách bảy công ty được Ủy ban Thương mại Liên bang Mỹ (FTC) yêu cầu cung cấp thông tin liên quan đến việc các nền tảng cung cấp chatbot làm bạn đồng hành. Những tên tuổi khác trong danh sách gồm Meta, OpenAI và Snap.

Trước đó trong mùa hè, Tổng chưởng lý Texas Ken Paxton cũng đã chỉ trích Meta AI và Character.AI vì cho rằng chatbot có thể tự giới thiệu như công cụ trị liệu chuyên nghiệp mà không có đủ trình độ chuyên môn.

Định hướng mới của công ty​

CEO Karandeep Anand nói với TechCrunch rằng Character.AI sẽ chuyển hướng từ "AI bạn đồng hành" sang một nền tảng nhập vai (role-playing) tập trung vào việc sáng tạo nội dung thay vì tạo các cuộc trò chuyện nhằm thu hút tương tác.

Mối lo ngại về người trẻ và rủi ro​

Nguy cơ người trẻ dựa vào chatbot để tìm hướng dẫn hay hỗ trợ tinh thần đã thu hút nhiều báo cáo và tranh luận. Gần đây, gia đình Adam Raine cáo buộc ChatGPT đã giúp con trai 16 tuổi của họ tự tử và đã sửa đơn kiện chống lại OpenAI, cho rằng công ty đã làm suy yếu các biện pháp ngăn tự hại trước cái chết của em.

Những biện pháp mới của Character.AI là nỗ lực đáp ứng quan ngại từ phụ huynh, nhà quản lý và chuyên gia về an toàn cho người dùng trẻ tuổi.

Nguồn: https://www.engadget.com/ai/charact...alking-to-its-chatbots-180027641.html?src=rss