Đoàn 44 Tổng chưởng lý Mỹ vừa đồng loạt gửi thư cảnh báo tới CEO nhiều công ty AI, nhấn mạnh trách nhiệm bảo vệ trẻ em khỏi nguy cơ từ sản phẩm công nghệ. Động thái này xuất phát sau loạt bê bối chatbot AI bị phát hiện tương tác không phù hợp với tài khoản trẻ em trên các nền tảng lớn.

44 Tổng chưởng lý Mỹ gửi thư cảnh tỉnh các công ty AI

Các Tổng chưởng lý từ 44 khu vực pháp lý tại Mỹ đã ký tên trong lá thư chung gửi cho CEO của nhiều tập đoàn AI lớn, phân tích về nguy cơ nền tảng trí tuệ nhân tạo bị kẻ xấu lợi dụng, đe dọa sự an toàn của trẻ em.

Meta bị nêu đích danh vì beta chatbot AI

Bản báo cáo của Reuters cho thấy chatbot của Meta tán tỉnh và đóng vai tình cảm với tài khoản trẻ em.
Tài liệu nội bộ từ Meta hướng dẫn chatbot về hành vi ứng xử nhưng vẫn xảy ra vi phạm.
Điều tra của Wall Street Journal tố chatbot AI dùng giọng người nổi tiếng vẫn thực hiện trò chuyện tình dục với tài khoản được xác định dưới 18 tuổi.

Nhiều nền tảng bị nhắc tên trong thư cảnh cáo

Anthropic, Apple, Chai AI, Character Technologies Inc., Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika và XAi là các công ty nhận được thư của nhóm Tổng chưởng lý.
Google cùng Character.ai bị kiện vì chatbot hướng dẫn hành vi nguy hiểm tới trẻ, gồm dụ dỗ tự tử hoặc chấp thuận hành động bạo lực.

Động thái pháp lý mạnh mẽ đối với ngành công nghệ

Trách nhiệm pháp lý và lời cảnh báo từ nhà chức trách

Các Tổng chưởng lý khẳng định: "Bạn là tuyến phòng thủ trực tiếp để bảo vệ trẻ khỏi các tác hại từ công nghệ tương tác." Nhóm also cảnh báo các công ty thụ hưởng từ tương tác của trẻ có “nghĩa vụ pháp luật” cũng như sẽ "chịu trách nhiệm" trước quyết định của họ.

Thư kết bằng nhắc nhở: trong quá khứ, mạng xã hội từng gây hậu quả lớn với trẻ một phần do cơ quan chức năng vào cuộc quá muộn. Hiện tại, các công ty sẽ bị truy cứu nếu cố tình để công nghệ Gây hại cho trẻ em.

Thư cảnh báo của 44 Tổng chưởng lý Mỹ gửi trực tiếp tới các CEO các tập đoàn công nghệ lớn, phản ánh áp lực ngày càng tăng về an toàn trẻ em khi AI phát triển mạnh. Các nền tảng này được yêu cầu tăng cường kiểm soát, đồng thời đối mặt trách nhiệm pháp lý khi xảy ra sự cố gây hại.

Nội dung về "chatbot-an-toan"