Databricks và Noma Security vừa công bố hợp tác nhằm tăng cường bảo mật AI cho doanh nghiệp, tập trung trực tiếp vào giai đoạn AI inference - nơi các mối đe doạ như prompt injection, rò rỉ dữ liệu, jailbreak AI phát sinh nhiều nhất. Giải pháp tích hợp bảo vệ runtime, phân tích mối đe doạ thời gian thực và red teaming chủ động dành cho quy trình AI của doanh nghiệp.
Giải pháp bảo mật AI inference Databricks - Noma: Tối ưu quy mô và an toàn triển khai doanh nghiệp
Giai đoạn inference (suy luận) là điểm yếu lớn nhất đối với bảo mật AI doanh nghiệp. Đây là nơi các mô hình AI hoạt động thực tế, tiếp nhận dữ liệu thực tế, nên đặc biệt dễ gặp các nguy cơ prompt injection, rò rỉ dữ liệu, jailbreak mô hình. Databricks Ventures cùng Noma Security chính thức hợp tác xây dựng hệ thống bảo vệ chuyên biệt dành cho AI inference, ngay sau khi Noma gọi vốn thành công vòng Series A với 32 triệu USD do Ballistic Ventures và Glilot Capital dẫn đầu.
Hệ thống bảo vệ AI inference toàn diện: Từ phân tích mối đe dọa đến kiểm thử red teaming
- Tích hợp phân tích mối đe doạ thời gian thực vào workflow AI để cảnh báo và chặn sớm các tấn công.
- Triển khai bảo vệ runtime chuyên sâu với nhiều lớp kiểm soát, phù hợp cả với mô hình AI phức tạp, đặc biệt là generative AI.
- Red teaming chủ động: Kiểm thử tấn công trước khi mô hình đi vào sản xuất, phát hiện sớm lỗ hổng, tối ưu bảo mật từ giai đoạn phát triển.
Bổ sung quản trị và tuân thủ bảo mật chuyên sâu
Theo Gartner, hơn 80% sự cố AI trái phép đến từ nội bộ, làm nổi bật tầm quan trọng của quản trị và kiểm soát bảo mật ngay trong vận hành AI. Bộ giải pháp dùng chuẩn AI TRiSM (Trust, Risk, Security Management) cùng loạt tiêu chuẩn quốc tế như OWASP, MITRE ATLAS, EU AI Act để đảm bảo tuân thủ và minh bạch.
Nhận diện và phòng chống 6 mối đe dọa lớn với AI inference
Đội ngũ Databricks và Noma triển khai các biện pháp bảo vệ trực tiếp với từng loại tấn công chủ đạo sau:
- Prompt Injection: Chặn chỉ thị độc hại ghi đè lệnh mô hình bằng bộ quét prompt nhiều lớp (Noma), DASF 2.0 input validation (Databricks).
- Sensitive Data Leakage: Dò quét và che ẩn dữ liệu nhạy cảm realtime (Noma), Unity Catalog, mã hóa (Databricks).
- Model Jailbreaking: Phát hiện, chặn jailbreak AI lúc runtime (Noma); MLflow model governance (Databricks).
- Agent Tool Exploitation: Theo dõi realtime các agent, quản lý triển khai môi trường an toàn.
- Agent Memory Poisoning: Kiểm tra integrity AI-SPM, bảo mật bộ nhớ (Noma), Delta Lake versioning (Databricks).
- Indirect Prompt Injection: Phát hiện prompt độc hại trong dữ liệu tin cậy, pipeline ingestion an toàn.
Nền tảng Databricks Lakehouse bảo vệ AI từ gốc
Lakehouse architecture của Databricks kết hợp quản trị và phân tích trên một nền tảng duy nhất, bảo vệ dữ liệu và mô hình qua mọi giai đoạn. Hệ thống này đồng bộ với các tiêu chuẩn quốc tế và tuân thủ các chính sách từ EU AI Act tới ISO 42001, giúp doanh nghiệp triển khai AI lớn mà vẫn đảm bảo minh bạch, kiểm soát và an toàn.
Databricks và Noma Security hợp lực cung cấp hệ thống bảo mật AI chuyên sâu, ngay tại giai đoạn inference – điểm nóng về rủi ro đối với doanh nghiệp. Việc tích hợp phân tích mối đe dọa realtime, bảo vệ runtime và red teaming chủ động giúp doanh nghiệp yên tâm hơn khi mở rộng ứng dụng AI.