Meta thêm kiểm soát phụ huynh cho chatbot AI

[leech]

Meta đang phát triển bộ công cụ giám sát giúp phụ huynh tắt hoàn toàn quyền truy cập của thanh thiếu niên vào các chatbot AI trên nền tảng của mình. Các công cụ này sẽ cho phép chặn toàn bộ hoặc chỉ chặn một số nhân vật AI cụ thể, đồng thời cung cấp thông tin về chủ đề trò chuyện của con cái.

Meta đang xây dựng các thiết lập giám sát mới để phụ huynh có thể quản lý việc thanh thiếu niên tiếp xúc với chatbot AI trên các nền tảng của công ty.

Các tính năng chính​

• Cho phép phụ huynh tắt hoàn toàn quyền truy cập của thanh thiếu niên vào các nhân vật AI trong các cuộc trò chuyện một‑một.
• Dù vậy, thanh thiếu niên vẫn có thể tiếp cận chatbot Meta AI chung, trừ khi phụ huynh chọn chặn toàn bộ.
• Phụ huynh có thể chặn từng nhân vật AI cụ thể nếu không muốn ngăn hoàn toàn mọi dạng truy cập.
• Phụ huynh sẽ nhận được thông tin tổng quan về các chủ đề mà con họ đã thảo luận với các bot AI của Meta.

Meta cho biết các công cụ đang được phát triển và sẽ bắt đầu được triển khai trên Instagram vào đầu năm sau, bằng tiếng Anh tại Mỹ, Anh, Canada và Úc. Những hình ảnh đi kèm bài viết chỉ mang tính minh họa và giao diện công cụ có thể thay đổi.

Bối cảnh rò rỉ và áp lực pháp lý​

Meta hứng chỉ trích sau khi một tài liệu nội bộ bị rò rỉ vài tháng trước, cho thấy chatbot của công ty đã có những cuộc trò chuyện mang tính "gợi cảm" với trẻ em. Trong một ví dụ, một chatbot của Meta đã nói với một bé tám tuổi đang không mặc áo rằng "mỗi tấc da của con là một kiệt tác — một kho báu mà tôi quí trọng sâu sắc." Sau vụ rò rỉ, các Tổng chưởng lý ở 44 bang đã kêu gọi các công ty bảo vệ trẻ em "khỏi bị khai thác bởi các sản phẩm trí tuệ nhân tạo săn mồi." Tiểu ban Thượng viện về Tội phạm và Chống khủng bố, do Thượng nghị sĩ Josh Hawley (R‑MO) chủ trì, cũng sẽ điều tra vụ việc.

Phản ứng và biện pháp của Meta​

Sau khi tài liệu rò rỉ, Meta đã tiến hành huấn luyện lại AI và bổ sung các biện pháp bảo vệ mới để ngăn người dùng nhỏ tuổi tiếp cận các nhân vật AI do người dùng tạo có thể dẫn đến hội thoại không phù hợp.

Công ty cũng giới thiệu các bảo vệ theo độ tuổi, để AI trả lời thanh thiếu niên theo hướng phù hợp với mức xếp hạng phim PG‑13, và hạn chế nhóm nhân vật AI mà thanh thiếu niên có thể tương tác, tập trung vào các chủ đề phù hợp với lứa tuổi.

Nguồn: https://www.engadget.com/ai/meta-is...-controls-to-instagram-100027229.html?src=rss