Startup Multiverse Computing (Tây Ban Nha) vừa gọi vốn thành công 215 triệu USD để phát triển CompactifAI – công nghệ nén AI lấy ý tưởng từ quantum computing, giúp giảm đáng kể kích thước mô hình LLM mà không ảnh hưởng đến hiệu năng.

Công nghệ CompactifAI cắt giảm mạnh chi phí AI

Theo Multiverse Computing, CompactifAI cho phép nén các mô hình ngôn ngữ lớn (LLM) lên tới 95% mà không làm giảm hiệu suất sử dụng, nhờ cảm hứng từ quantum computing.

Chi tiết về các mô hình hỗ trợ

Hiện hỗ trợ nhiều LLM mã nguồn mở phổ biến: Llama 4 Scout, Llama 3.3 70B, Llama 3.1 8B, Mistral Small 3.1
Sắp tới bổ sung DeepSeek R1 và nhiều mô hình reasoning khác
Lưu ý: Công nghệ này không áp dụng cho các mô hình đóng như của OpenAI

Hiệu năng và tiết kiệm chi phí vận hành

Theo công bố, mô hình nén hoạt động nhanh hơn từ 4 đến 12 lần so với bản gốc
Giúp giảm chi phí inferencing (kết xuất đầu ra) từ 50% đến 80%
Ví dụ: Llama 4 Scout Slim chỉ tốn 10 cent/1 triệu tokens trên AWS thay vì 14 cent như bản gốc

Tính ứng dụng thực tiễn rất rộng

Mô hình nén có thể chạy trên nhiều nền tảng: cloud (AWS), doanh nghiệp, PC cá nhân, điện thoại, xe hơi, drone, Raspberry PI
Phù hợp cho cả mô hình AI enterprise lẫn các thiết bị tiết kiệm năng lượng

Hậu thuẫn từ đội ngũ chuyên gia và đối tác toàn cầu

Công nghệ CompactifAI được đồng sáng lập bởi CTO Román Orús, giáo sư tại Trung tâm Vật lý Quốc tế Donostia. Ông nổi tiếng với nghiên cứu về tensor networks – công cụ toán học giúp nén và tối ưu mô hình AI dựa trên nguyên lý mô phỏng quantum computer trên máy tính cổ điển.

Năng lực sở hữu trí tuệ và đối tác lớn

Multiverse Computing đã nắm trong tay 160 bằng sáng chế
Có hơn 100 khách hàng toàn cầu gồm Iberdrola, Bosch, Ngân hàng Canada

Vòng gọi vốn lớn và các quỹ tham gia

Được dẫn dắt bởi Bullhound Capital, với sự tham gia của HP Tech Ventures, SETT, Forgepoint Capital International, CDP Venture Capital, Santander Climate VC, Toshiba, Capital Riesgo de Euskadi – Grupo SPR
Tổng vốn huy động của Multiverse cho tới nay đạt khoảng 250 triệu USD

Multiverse Computing vừa huy động thêm 215 triệu USD nhờ công nghệ nén mô hình AI CompactifAI, giúp giảm mạnh chi phí vận hành và mở rộng ứng dụng AI cả trên đám mây lẫn thiết bị cá nhân. Doanh nghiệp cũng như tổ chức có thể tận dụng sức mạnh AI hiệu quả hơn với giải pháp này.

Nội dung về "aws-cloud"