CEO OpenAI, Sam Altman, đã bày tỏ sự lo ngại sâu sắc về nguy cơ AI giả mạo con người, nhưng đồng thời OpenAI lại thúc đẩy mong muốn nới lỏng giám sát từ phía chính phủ Mỹ. Những đề xuất mới đưa ra tập trung vào việc cân bằng giữa phát triển công nghệ và bảo vệ người dùng.

Sam Altman nêu lo ngại về AI giả mạo tại Washington

Tuần này, CEO OpenAI Sam Altman đã tới Washington, D.C. để vận động chính phủ Mỹ xây dựng khung pháp lý thuận lợi cho AI. Altman nhấn mạnh công cụ ChatGPT ngày càng quan trọng với người dùng Mỹ và quốc tế, nhưng không quên đề cập các rủi ro liên quan đến thất nghiệp cũng như nguy cơ AI bị lạm dụng.

Nguy cơ AI giả mạo giọng nói và hình ảnh

Altman đặc biệt quan ngại về khả năng AI giả mạo giọng nói và hình ảnh, dẫn tới 'khủng hoảng lừa đảo AI' trên diện rộng.
Nhiều tổ chức tài chính vẫn dùng xác thực bằng giọng nói, dễ bị AI đánh bại.
Các mô hình AI mở (open-source) có thể bị tận dụng để tạo ra các cuộc tấn công giả mạo công phu.

Lời khuyên và các cảnh báo cho người dùng

Các vụ lừa đảo sử dụng AI để giả mạo giọng nói và hình ảnh đã xuất hiện.
Không nên chuyển tiền hoặc chia sẻ thông tin cá nhân cho ai chỉ dựa vào liên lạc qua điện thoại hoặc ứng dụng nếu chưa xác thực rõ ràng.
Các nền tảng như PayPal đã tích hợp AI để phòng chống lừa đảo qua các thanh toán điện tử.

OpenAI muốn giảm bớt quy định thay vì siết chặt

Mặc dù nhận diện rõ nguy cơ, OpenAI không đề xuất thắt chặt kiểm soát mà ngược lại kêu gọi chính phủ Mỹ xây dựng chính sách linh hoạt hơn cho doanh nghiệp AI nội địa.

Đề xuất chính từ phía OpenAI

Tạo cơ chế hợp tác tự nguyện giữa chính phủ liên bang và doanh nghiệp tư nhân.
Cho phép đào tạo các mô hình AI lớn với dữ liệu có bản quyền, đồng thời đảm bảo quyền lợi tác giả.
Tăng kiểm soát xuất khẩu công nghệ AI, hỗ trợ cơ sở hạ tầng hiện đại, và khuyến khích sử dụng AI trong các hoạt động của chính phủ.

Giải pháp xác minh con người giữa thời đại AI

Altman nhấn mạnh tầm quan trọng của việc phát triển công cụ xác thực danh tính trong thế giới AI, điển hình là giải pháp The Orb mà ông ủng hộ, giúp xác minh con người đối với các tổ chức tài chính và y tế.

Sam Altman cảnh báo nguy cơ AI bị lạm dụng để giả mạo con người nhưng OpenAI vẫn chủ trương giảm bớt rào cản pháp lý cho ngành AI ở Mỹ. Người dùng cần chủ động xác minh thông tin khi giao tiếp trực tuyến, đồng thời theo dõi sát sao những tiến triển bảo mật AI trong tương lai.

Nội dung về "ai giả mạo"