Apple vừa công bố Foundation Models framework, mang đến khả năng tích hợp AI cục bộ mạnh mẽ, miễn phí cho các nhà phát triển bên thứ ba trên thiết bị Apple. Theo Apple, các mô hình AI mới này nổi bật ở khả năng xử lý nhanh, bảo mật và hiệu quả, mở đường cho làn sóng tính năng AI hữu ích không cần đám mây.

Foundation Models: Nền tảng AI cục bộ Apple dành cho mọi nhà phát triển

Apple giới thiệu Foundation Models framework tại WWDC, lần đầu tiên mở quyền truy cập AI trên thiết bị (on-device AI) cho các ứng dụng bên thứ ba. Ngay từ thời điểm này, nhà phát triển có thể xây dựng các tính năng AI ngay trên nền tảng mà các ứng dụng gốc của Apple cũng sử dụng.

Những lợi ích nổi bật của Foundation Models framework

Tích hợp các chức năng AI như tóm tắt văn bản, trích xuất thông tin, tạo nội dung cấu trúc ngay trên thiết bị, không cần internet.
Tiết kiệm chi phí API: Giảm hoàn toàn chi phí gọi API vì xử lý trực tiếp trên máy.
Đảm bảo quyền riêng tư và bảo mật: Không cần truyền dữ liệu cá nhân lên đám mây.

Khả năng cạnh tranh của mô hình AI Apple so với thị trường

Mẫu mô hình ~3B tham số của Apple vượt trội so với những mô hình thị giác-ngôn ngữ cùng phân khúc về nhận diện ảnh, đạt tỉ lệ chiến thắng trên 46% và 50% ở các tiêu chí.
Ở các bài kiểm tra ngôn ngữ, mô hình Apple ngang ngửa, thậm chí nhỉnh hơn một số mô hình lớn về hiểu văn bản ở nhiều ngôn ngữ (Anh quốc tế, Bồ Đào Nha, Pháp, Nhật Bản...).
Mô hình server của Apple cũng được đánh giá tốt về xử lý hình ảnh, tuy nhiên GPT-4o vẫn dẫn đầu toàn diện.

Tích hợp AI linh hoạt, tiết kiệm dung lượng ứng dụng

Giảm tải trên ứng dụng nhờ AI tích hợp sẵn

Nhà phát triển không phải nhúng những mô hình ngôn ngữ lớn trực tiếp vào ứng dụng.
Ứng dụng nhẹ hơn, không cần giải quyết bài toán fall-back về đám mây.
Nâng trải nghiệm AI riêng tư, không phát sinh chi phí API cho các tác vụ phổ biến.

Kiểm soát chặt AI đầu ra bằng guided generation

Các mô hình được tối ưu cho xuất dữ liệu cấu trúc với tính năng Swift-native “guided generation”.
Lập trình viên có thể kiểm soát đầu ra AI khớp logic ứng dụng.
Tiện lợi cho các ứng dụng giáo dục, năng suất, giao tiếp… tận dụng sức mạnh ngôn ngữ tự nhiên nhưng vẫn an toàn và tiết kiệm.

AI cục bộ: Ưu tiên sự tiện dụng và bảo mật thay vì sức mạnh tuyệt đối

Hiệu quả thực tiễn trên thiết bị

Apple không chạy đua theo kích thước mô hình mà hướng tới tối ưu hiệu năng, tốc độ, tích hợp sâu trên thiết bị người dùng.
Việc AI miễn phí, cục bộ, và mở cho mọi nhà phát triển báo hiệu sự xuất hiện của hàng loạt tính năng AI hữu ích trên iOS mà không phụ thuộc vào kết nối mạng.

Các mô hình Foundation Models, theo đánh giá nội bộ Apple, mang lại hiệu năng ấn tượng ở cả xử lý hình ảnh và văn bản trong đa dạng ngôn ngữ. Việc tích hợp AI cục bộ miễn phí, bảo mật giúp phát triển ứng dụng linh hoạt và thân thiện hơn với người dùng.

Nội dung về "on-device ai"