Multiverse Computing, startup AI hàng đầu châu Âu, vừa giới thiệu hai mô hình AI siêu nhỏ mới mang tên SuperFly và ChickBrain. Những mô hình này có thể chạy trực tiếp trên các thiết bị IoT, smartphone và PC mà không cần internet.

Multiverse Computing giới thiệu mô hình AI nhỏ nhất hiệu năng cao

Multiverse Computing, startup AI của Tây Ban Nha, vừa công bố hai mô hình AI nén cực nhỏ giúp mở rộng khả năng tích hợp AI vào nhiều thiết bị thông minh. Được gọi là SuperFly và ChickBrain, cả hai đều được thiết kế để hoạt động trực tiếp trên các thiết bị mà không cần kết nối internet.

Siêu nén nhờ CompactifAI

Công nghệ nén CompactifAI lấy cảm hứng từ quantum computing
Rút gọn mô hình AI mà không làm giảm hiệu năng
Đã thương mại hóa nhiều phiên bản nén của Llama 4 Scout, Mistral Small 3.1 và OpenAI

Chi tiết về SuperFly và ChickBrain

SuperFly: Phiên bản nén của SmolLM2 135 trên Hugging Face, giảm còn 94 triệu parameters (so với 135 triệu gốc). Có thể đào tạo trên tập dữ liệu hạn chế và nhúng trực tiếp vào thiết bị đơn giản như Arduino.
ChickBrain: Phiên bản nén của Meta Llama 3.1 8B, chỉ còn 3,2 tỷ parameters nhưng lại vượt trội trên nhiều bảng xếp hạng benchmark bao gồm MMLU-Pro, Math 500, GSM8K và GPQA Diamond.

Các ứng dụng và đối tác doanh nghiệp lớn

Khả năng ứng dụng rộng rãi

AI có thể chạy offline trên PC, MacBook, smartphone hoặc thiết bị IoT
Tích hợp tiếng nói điều khiển thiết bị gia dụng, hỏi đáp troubleshooting trực tiếp
Cung cấp API trên AWS; token fee thấp hơn đa số đối thủ

Đối tác và khách hàng lớn

Đang thảo luận hợp tác với Apple, Samsung, Sony, HP (HP là nhà đầu tư vòng gần nhất), Toshiba
Các khách hàng doanh nghiệp như BASF, Ally, Moody’s, Bosch đã sử dụng dịch vụ nén mô hình AI từ Multiverse

SuperFly và ChickBrain là hai mô hình AI nhỏ gọn nhất hiện nay mà vẫn giữ hiệu quả vượt trội. Công nghệ CompactifAI mở ra khả năng đưa AI ra khỏi các server trung tâm, vận hành trực tiếp trên thiết bị cá nhân và IoT, qua đó mở rộng cơ hội cho nhiều doanh nghiệp cũng như nhà phát triển tiếp cận AI hiệu năng cao với chi phí thấp hơn.

Nội dung về "ai offline devices"