Startup Multiverse Computing (Tây Ban Nha) vừa gọi vốn thành công 215 triệu USD để phát triển CompactifAI – công nghệ nén AI lấy ý tưởng từ quantum computing, giúp giảm đáng kể kích thước mô hình LLM mà không ảnh hưởng đến hiệu năng.
Công nghệ CompactifAI cắt giảm mạnh chi phí AI
Theo Multiverse Computing, CompactifAI cho phép nén các mô hình ngôn ngữ lớn (LLM) lên tới 95% mà không làm giảm hiệu suất sử dụng, nhờ cảm hứng từ quantum computing.
Chi tiết về các mô hình hỗ trợ
- Hiện hỗ trợ nhiều LLM mã nguồn mở phổ biến: Llama 4 Scout, Llama 3.3 70B, Llama 3.1 8B, Mistral Small 3.1
- Sắp tới bổ sung DeepSeek R1 và nhiều mô hình reasoning khác
- Lưu ý: Công nghệ này không áp dụng cho các mô hình đóng như của OpenAI
Hiệu năng và tiết kiệm chi phí vận hành
- Theo công bố, mô hình nén hoạt động nhanh hơn từ 4 đến 12 lần so với bản gốc
- Giúp giảm chi phí inferencing (kết xuất đầu ra) từ 50% đến 80%
- Ví dụ: Llama 4 Scout Slim chỉ tốn 10 cent/1 triệu tokens trên AWS thay vì 14 cent như bản gốc
Tính ứng dụng thực tiễn rất rộng
- Mô hình nén có thể chạy trên nhiều nền tảng: cloud (AWS), doanh nghiệp, PC cá nhân, điện thoại, xe hơi, drone, Raspberry PI
- Phù hợp cho cả mô hình AI enterprise lẫn các thiết bị tiết kiệm năng lượng
Hậu thuẫn từ đội ngũ chuyên gia và đối tác toàn cầu
Công nghệ CompactifAI được đồng sáng lập bởi CTO Román Orús, giáo sư tại Trung tâm Vật lý Quốc tế Donostia. Ông nổi tiếng với nghiên cứu về tensor networks – công cụ toán học giúp nén và tối ưu mô hình AI dựa trên nguyên lý mô phỏng quantum computer trên máy tính cổ điển.
Năng lực sở hữu trí tuệ và đối tác lớn
- Multiverse Computing đã nắm trong tay 160 bằng sáng chế
- Có hơn 100 khách hàng toàn cầu gồm Iberdrola, Bosch, Ngân hàng Canada
Vòng gọi vốn lớn và các quỹ tham gia
- Được dẫn dắt bởi Bullhound Capital, với sự tham gia của HP Tech Ventures, SETT, Forgepoint Capital International, CDP Venture Capital, Santander Climate VC, Toshiba, Capital Riesgo de Euskadi – Grupo SPR
- Tổng vốn huy động của Multiverse cho tới nay đạt khoảng 250 triệu USD
Multiverse Computing vừa huy động thêm 215 triệu USD nhờ công nghệ nén mô hình AI CompactifAI, giúp giảm mạnh chi phí vận hành và mở rộng ứng dụng AI cả trên đám mây lẫn thiết bị cá nhân. Doanh nghiệp cũng như tổ chức có thể tận dụng sức mạnh AI hiệu quả hơn với giải pháp này.