Một startup mới mang tên Artificial Intelligence Underwriting Company (AIUC) vừa gọi vốn thành công 15 triệu USD với sứ mệnh giúp doanh nghiệp triển khai AI agent an toàn. Giải pháp của AIUC là kết hợp bảo hiểm rủi ro và kiểm định an toàn độc lập dành cho hệ thống AI tự động.

AIUC cung cấp bảo hiểm và chứng nhận kiểm định cho AI agent doanh nghiệp

Theo thông tin công bố, AIUC do cựu nhân sự của Anthropic sáng lập, đã huy động 15 triệu USD trong vòng seed, dẫn dắt bởi Nat Friedman (NFDG), cùng sự tham gia của Emergence Capital, Terrain và các angel investor như Ben Mann (đồng sáng lập Anthropic), cựu lãnh đạo bảo mật từ Google Cloud, MongoDB.

Bộ tiêu chuẩn AIUC-1: "SOC 2 cho AI agent"

AIUC xây dựng một framework bảo mật, an toàn và quản trị rủi ro dành riêng cho hệ thống AI, lấy cảm hứng từ SOC 2 – tiêu chuẩn bảo mật doanh nghiệp phổ biến hiện nay.
Bộ tiêu chuẩn AIUC-1 chú trọng 6 hạng mục: an toàn, bảo mật, độ tin cậy, trách nhiệm, bảo mật dữ liệu và rủi ro xã hội.
Quy trình gồm kiểm thử các agent với hàng nghìn kịch bản thực tiễn như lộ lọt dữ liệu khách hàng, phản hồi sai chính sách hoàn tiền, phát biểu phân biệt chủng tộc, cho phép kiểm tra độc lập.

Mô hình bảo hiểm tiên phong, tận dụng sức mạnh thị trường

AIUC cấp bảo hiểm cho rủi ro AI như vi phạm dữ liệu, kỳ thị tuyển dụng, xâm phạm bản quyền, quyết định tự động sai.
Chi phí bảo hiểm dựa trên mức độ rủi ro được phát hiện qua quá trình "tấn công" kiểm thử trên hệ thống AI.
Chính sách bảo hiểm của AIUC được bảo lãnh bởi các công ty bảo hiểm lớn, giảm nguy cơ về khả năng thực thi nghĩa vụ tài chính.
Lấy cảm hứng từ mô hình bảo hiểm lịch sử như sáng kiến phòng cháy chữa cháy của Benjamin Franklin.

Hệ sinh thái đối tác và tiêu chuẩn phát triển linh hoạt

Đối tác chiến lược và ứng dụng thực tiễn

AIUC đang hợp tác với các startup AI nổi bật như Ada (chăm sóc khách hàng), Cognition (tự động hóa coding), từng giúp mở khóa hợp đồng lớn nhờ kiểm định rủi ro độc lập. Những thỏa thuận này giúp khách hàng doanh nghiệp yên tâm tích hợp AI vào quy trình kinh doanh.

Liên kết với các tổ chức kiểm định và chuyên gia hàng đầu

AIUC phối hợp với PwC (Big Four accounting), Orrick (hãng luật AI), các học giả Stanford, MIT và các chuyên gia nhiều kinh nghiệm về đánh giá rủi ro công nghệ lẫn bảo hiểm.

Cập nhật tiêu chuẩn nhanh theo tốc độ AI

Khác với khung pháp lý truyền thống phải mất nhiều năm để cập nhật, bộ tiêu chuẩn của AIUC được điều chỉnh theo quý, nhằm đảm bảo phù hợp với tiến bộ nhanh của công nghệ này.

Tầm nhìn: Đảm bảo an toàn AI trong kỷ nguyên kinh doanh số

Đội ngũ sáng lập và định hướng tương lai

AIUC được sáng lập bởi Rune Kvist (từng là sản phẩm & thị trường đầu tiên Anthropic, thành viên hội đồng Center for AI Safety), Brandon Wang (Thiel Fellow, startup underwriting), Rajiv Dattani (cựu McKinsey, COO METR). Mục tiêu của họ là xây dựng hạ tầng bảo hiểm – linh hoạt, minh bạch – cho kỷ nguyên AI tự động hóa trong doanh nghiệp.

AIUC đặt nền móng cho cách tiếp cận an toàn AI dựa vào sức mạnh thị trường thay vì chờ đợi luật pháp hoàn thiện. Mô hình này giúp doanh nghiệp triển khai AI agent tự tin và linh hoạt, giảm rủi ro vận hành, bảo vệ dữ liệu cũng như danh tiếng trước các sự cố khó lường liên quan đến AI.

Nội dung về "kiểm định an toàn ai"