Clearwater Analytics đã triển khai các giải pháp bảo mật mới nhằm đối phó với Shadow AI, bảo vệ khối tài sản 8,8 nghìn tỷ USD khỏi nguy cơ lộ dữ liệu từ các ứng dụng AI không kiểm soát. Sam Evans, CISO của công ty, chia sẻ với VentureBeat về chiến lược dùng trình duyệt doanh nghiệp và đẩy mạnh đào tạo an ninh mạng cho nhân viên.

Clearwater Analytics tăng cường phòng thủ trước Shadow AI

Kể từ tháng 10/2023, Clearwater Analytics – công ty quản lý tài sản lên tới 8,8 nghìn tỷ USD – phải ứng phó với nguy cơ nhân viên vô tình làm rò rỉ dữ liệu qua các công cụ AI bên ngoài kiểm soát của tổ chức. Theo ông Sam Evans, CISO của công ty, mối đe dọa lớn nhất chính là việc nhân viên sử dụng AI để giải quyết công việc mà không nhận thức được rủi ro bảo mật, từ đó có thể khiến dữ liệu khách hàng bị sử dụng để huấn luyện mô hình trí tuệ nhân tạo.

Triển khai AI cho phòng thủ và trình duyệt doanh nghiệp Island

Clearwater tích hợp AI vào hệ thống vận hành an ninh (SOC, Security Operations Center) để sàng lọc các sự cố và nâng cao khả năng phát hiện mối nguy.
AI cải thiện tỷ lệ xác định nguy cơ của hệ thống EDR (Extended Detection and Response), vượt mức 85% theo các công cụ truyền thống.
Từ tháng 4/2024, trình duyệt doanh nghiệp Island được triển khai nhằm hạn chế dữ liệu chia sẻ với ứng dụng AI không được phép.
Island giúp kiểm soát, quản lý truy cập vào các dịch vụ AI, giảm nguy cơ xuất hiện Shadow AI.

Đào tạo nhận thức và chiến lược phòng chống Deepfake

Sam Evans cho biết, song hành với giải pháp công nghệ, đào tạo nhận thức an ninh mạng giúp nhân viên cảnh giác hơn với các hình thức tấn công mới như Deepfake – trong đó kẻ tấn công giả mạo hình ảnh/video lãnh đạo yêu cầu chuyển tiền. Chương trình đào tạo chú trọng ứng dụng "thường thức" và cảnh báo đến mọi nhân viên.

Ngành công nghệ đối mặt xu hướng Shadow AI toàn cầu

Nhiều doanh nghiệp tăng tốc ứng phó với Shadow AI

Theo đánh giá từ các chuyên gia, tốc độ phát triển các ứng dụng Shadow AI đặt ra thách thức lớn cho bảo mật doanh nghiệp. Các nhà cung cấp giải pháp, như trình duyệt doanh nghiệp, đang nhanh chóng phát triển công cụ mới giúp kiểm soát và quản lý nguy cơ an ninh từ AI chưa được phê duyệt trong nội bộ doanh nghiệp.

Bảo mật dữ liệu trước nguy cơ Shadow AI trở thành ưu tiên hàng đầu với Clearwater Analytics. Sự phối hợp giữa giải pháp công nghệ (như Island) và đào tạo nhân viên giúp công ty giảm thiểu rủi ro, duy trì an toàn cho khối tài sản lớn. Giới doanh nghiệp và các chuyên gia công nghệ cũng đồng loạt quan tâm tới các giải pháp chủ động kiểm soát mối đe dọa từ các ứng dụng AI ngoài phạm vi quản lý.

Nội dung về "phòng-chống-deepfake"