Multiverse Computing, startup AI hàng đầu châu Âu, vừa giới thiệu hai mô hình AI siêu nhỏ mới mang tên SuperFly và ChickBrain. Những mô hình này có thể chạy trực tiếp trên các thiết bị IoT, smartphone và PC mà không cần internet.
Multiverse Computing giới thiệu mô hình AI nhỏ nhất hiệu năng cao
Multiverse Computing, startup AI của Tây Ban Nha, vừa công bố hai mô hình AI nén cực nhỏ giúp mở rộng khả năng tích hợp AI vào nhiều thiết bị thông minh. Được gọi là SuperFly và ChickBrain, cả hai đều được thiết kế để hoạt động trực tiếp trên các thiết bị mà không cần kết nối internet.
Siêu nén nhờ CompactifAI
- Công nghệ nén CompactifAI lấy cảm hứng từ quantum computing
- Rút gọn mô hình AI mà không làm giảm hiệu năng
- Đã thương mại hóa nhiều phiên bản nén của Llama 4 Scout, Mistral Small 3.1 và OpenAI
Chi tiết về SuperFly và ChickBrain
- SuperFly: Phiên bản nén của SmolLM2 135 trên Hugging Face, giảm còn 94 triệu parameters (so với 135 triệu gốc). Có thể đào tạo trên tập dữ liệu hạn chế và nhúng trực tiếp vào thiết bị đơn giản như Arduino.
- ChickBrain: Phiên bản nén của Meta Llama 3.1 8B, chỉ còn 3,2 tỷ parameters nhưng lại vượt trội trên nhiều bảng xếp hạng benchmark bao gồm MMLU-Pro, Math 500, GSM8K và GPQA Diamond.
Các ứng dụng và đối tác doanh nghiệp lớn
Khả năng ứng dụng rộng rãi
- AI có thể chạy offline trên PC, MacBook, smartphone hoặc thiết bị IoT
- Tích hợp tiếng nói điều khiển thiết bị gia dụng, hỏi đáp troubleshooting trực tiếp
- Cung cấp API trên AWS; token fee thấp hơn đa số đối thủ
Đối tác và khách hàng lớn
- Đang thảo luận hợp tác với Apple, Samsung, Sony, HP (HP là nhà đầu tư vòng gần nhất), Toshiba
- Các khách hàng doanh nghiệp như BASF, Ally, Moody’s, Bosch đã sử dụng dịch vụ nén mô hình AI từ Multiverse
SuperFly và ChickBrain là hai mô hình AI nhỏ gọn nhất hiện nay mà vẫn giữ hiệu quả vượt trội. Công nghệ CompactifAI mở ra khả năng đưa AI ra khỏi các server trung tâm, vận hành trực tiếp trên thiết bị cá nhân và IoT, qua đó mở rộng cơ hội cho nhiều doanh nghiệp cũng như nhà phát triển tiếp cận AI hiệu năng cao với chi phí thấp hơn.