Microsoft vừa bổ sung mô hình AI mã nguồn mở GPT-OSS-20B của OpenAI lên nền tảng Windows AI Foundry. Đây là lần đầu tiên người dùng Windows có thể chạy trực tiếp AI của OpenAI trên máy tính cá nhân, yêu cầu tối thiểu 16GB VRAM.

Microsoft triển khai GPT-OSS-20B trên Windows AI Foundry

OpenAI mới ra mắt mô hình GPT-OSS-20B miễn phí và mã nguồn mở, có thể chạy trực tiếp trên PC. Ngay sau đó, Microsoft đã đưa mô hình này vào Windows AI Foundry nhằm hỗ trợ người dùng Windows dễ dàng trải nghiệm trí tuệ nhân tạo AI ngay trên thiết bị cá nhân.

Yêu cầu phần cứng để sử dụng GPT-OSS-20B

Máy tính cần có RAM đồ họa (VRAM) tối thiểu 16GB.
Hỗ trợ các GPU cao cấp của Nvidia hoặc các dòng Radeon đáp ứng đủ VRAM.
Sẽ sớm hỗ trợ trên macOS, mở rộng tính khả dụng nhiều thiết bị khác.

Tính năng nổi bật của mô hình GPT-OSS-20B

Được tối ưu hóa để chạy inference (diễn giải dữ liệu) tại chỗ (local).
Phù hợp xây dựng các trợ lý tự động và tích hợp AI vào quy trình thực tiễn.
Vận hành tốt ngay cả trong môi trường hạn chế băng thông.
Khả năng tối ưu hóa dành riêng cho Windows giúp tận dụng tốt tài nguyên phần cứng.

Mối quan hệ cạnh tranh và mở rộng hợp tác AI

Động thái của các đối thủ lớn trong lĩnh vực đám mây

Microsoft nhanh chóng bổ sung mô hình GPT-OSS-20B vào hệ sinh thái Windows chỉ sau ít ngày OpenAI công bố. Đồng thời, Amazon cũng nhanh tay tích hợp mô hình này vào dịch vụ cloud, tạo nên bối cảnh cạnh tranh trực tiếp trên thị trường AI giữa Microsoft và đối thủ lớn nhất Amazon.

Ý nghĩa của việc hỗ trợ mô hình AI mở trên Windows

Lần đầu tiên Microsoft mang đến khả năng chạy mô hình AI của OpenAI ngay trên hệ điều hành Windows mà không cần đến dịch vụ đám mây. Điều này gia tăng tính linh hoạt và giảm phụ thuộc vào băng thông internet cho người dùng, đồng thời mở ra hướng phát triển các sản phẩm và quy trình AI ngay trên thiết bị cá nhân hoặc doanh nghiệp.

Việc Microsoft tích hợp GPT-OSS-20B vào Windows AI Foundry đánh dấu bước phát triển mới cho AI mã nguồn mở hoạt động trực tiếp trên PC. Người dùng Windows giờ đây đã có thêm lựa chọn tận dụng các mô hình AI mạnh mẽ từ OpenAI mà không cần kết nối internet liên tục.

Nội dung về "inference-local"