Các tổng chưởng lý California và Delaware đã công khai bày tỏ lo ngại về mức độ an toàn của ChatGPT đối với trẻ em và thanh thiếu niên. Động thái này diễn ra sau các sự cố nghiêm trọng được liên hệ với tương tác AI.

Cảnh báo của tổng chưởng lý về ChatGPT và trẻ em

Tổng chưởng lý California Rob Bonta và tổng chưởng lý Delaware Kathy Jennings vừa gặp mặt và gửi thư công khai đến OpenAI về nguy cơ đối với trẻ em khi sử dụng ChatGPT. Nội dung nhấn mạnh các báo cáo gần đây liên quan đến tương tác không phù hợp mang tính chất tình dục giữa chatbot AI và người dùng nhỏ tuổi.

Chi tiết về các vấn đề liên quan an toàn trẻ em

Thư cảnh báo được đưa ra sau khi 45 tổng chưởng lý các bang gửi thư đến 12 công ty AI lớn.
Bản thư nêu cụ thể trường hợp một thanh niên ở California tử vong sau thời gian trao đổi kéo dài với chatbot của OpenAI, cùng vụ án mạng tại Connecticut liên quan đến công nghệ AI.
Các sự kiện này cho thấy các biện pháp bảo vệ hiện tại "đã không phát huy tác dụng" theo nhận xét của hai tổng chưởng lý.

Yêu cầu minh bạch về an toàn và giám sát OpenAI

Bà Bonta và Jennings đang tiến hành điều tra về đề xuất tái cấu trúc thành tổ chức vì lợi nhuận của OpenAI, nhằm đảm bảo sứ mệnh phi lợi nhuận vẫn được duy trì đúng đắn, trong đó có nội dung đảm bảo AI phục vụ lợi ích toàn nhân loại, bao gồm cả trẻ em.

Theo nội dung thư, hai tổng chưởng lý nhấn mạnh: "An toàn trong phát triển và triển khai AI chưa đạt được mức cần thiết" và yêu cầu OpenAI tăng cường các biện pháp bảo vệ. Đồng thời, họ kêu gọi toàn ngành nâng cao tiêu chuẩn an toàn công nghệ, nhất là trong bối cảnh các sự kiện đau lòng vừa xảy ra.

Quy trình, cam kết và động thái tiếp theo

Thông tin về biện pháp bảo vệ và yêu cầu của nhà chức trách

OpenAI được yêu cầu cung cấp minh bạch về các chính sách và quy trình đảm bảo an toàn hiện tại.
Các biện pháp bổ sung, cải thiện kịp thời là điều nhà chức trách mong đợi ở OpenAI và toàn ngành AI.
Các tổng chưởng lý tiếp tục duy trì đối thoại để đảm bảo an toàn công nghệ là nguyên tắc cốt lõi trong phát triển AI.

Các cảnh báo và điều tra từ nhà chức trách tiểu bang đánh dấu sự giám sát nghiêm ngặt hơn đối với các nền tảng AI như ChatGPT. Mục tiêu là bảo vệ an toàn tối đa cho trẻ em và cộng đồng trong việc sử dụng công nghệ AI.

Nội dung về "giám sát công nghệ ai"