Một phần mềm AI do DOGE xây dựng đã được sử dụng để phân tích và đề xuất những hợp đồng nên cắt giảm tại Bộ Cựu chiến binh Mỹ trong năm nay. Công cụ này gặp nhiều lỗi nghiêm trọng, tạo ra đề xuất cắt giảm nhiều dịch vụ thiết yếu.
Công cụ AI của DOGE và quá trình xác định hợp đồng "munchable"
Khi Bộ Cựu chiến binh Mỹ (VA) đối mặt với áp lực phải cắt giảm hợp đồng thời chính quyền Trump, các quan chức đã sử dụng một công cụ do kỹ sư phần mềm Sahil Lavingia phát triển cho Department of Government Efficiency (DOGE). Người này không có kinh nghiệm về y tế hoặc các dự án chính phủ. Chỉ trong hai ngày, Lavingia xây dựng xong công cụ AI để xác định hợp đồng "munchable" (có thể cắt giảm) dựa trên dữ liệu hợp đồng.
Những lỗi nghiêm trọng của hệ thống "munching"
- AI sử dụng mô hình ngôn ngữ cũ và rẻ tiền dẫn đến các lỗi phóng đại trị giá hợp đồng, ví dụ một số hợp đồng chỉ 35.000 USD bị ghi nhầm thành 34 triệu USD.
- Công cụ này đã gắn mác "munchable" cho hơn 2.000 hợp đồng, bao gồm các dịch vụ thiết yếu như bảo trì máy giải trình tự gen và phân tích mẫu máu cho các dự án nghiên cứu.
- Mã lệnh AI chỉ đọc phần tóm tắt (2.500 từ đầu) nên dễ bỏ qua thông tin chuyên sâu về nội dung và vai trò của hợp đồng với việc chăm sóc cựu chiến binh.
- Các lỗi sai còn đến từ việc sử dụng AI để trích xuất thông tin quan trọng như số hợp đồng, giá trị tổng khiến đầu ra không chính xác.
Ý kiến các chuyên gia và phản hồi của Bộ Cựu chiến binh Mỹ
- Các chuyên gia về AI và mua sắm đều cho rằng công cụ này không đáng tin cậy để quyết định ngân sách quan trọng như của VA.
- Waldo Jaquith, cựu quan chức Bộ Ngân khố Mỹ, khẳng định "AI là lựa chọn hoàn toàn sai cho công việc này".
- Bộ này khẳng định vẫn có vòng phê duyệt của nhân sự sau các đề xuất từ AI. Chưa có thông tin rõ ràng số hợp đồng thực tế đã bị huỷ dựa theo đề xuất của AI.
Thông tin bổ sung về quá trình phát triển và sử dụng công cụ AI
Kỹ sư phát triển và quy trình kiểm tra
Sahil Lavingia, nhà sáng lập Gumroad và cựu kỹ sư Pinterest, cho biết chỉ mất 2 ngày viết xong công cụ và sử dụng AI hỗ trợ lập trình. Các hợp đồng VA được tải về máy để xử lý. Lavingia cũng xác nhận AI tạo ra nhiều lỗi nên khuyến nghị không làm theo 100% đầu ra của mã lệnh.
Quy trình đánh giá hợp đồng tại VA
- Các quyết định huỷ hoặc giảm quy mô hợp đồng luôn trải qua nhiều lần xem xét bởi các chuyên gia hợp đồng và lãnh đạo VA.
- Các hợp đồng phục vụ chăm sóc cựu chiến binh sẽ không bị cắt nếu không có phương án thay thế tương xứng.
- Nhiều nhân sự VA cho biết quy trình xét duyệt rất thiếu minh bạch và nhiều khi họ chỉ có vài giờ để phản hồi giữ lại dịch vụ.
Các diễn biến liên quan đến DOGE và các bên liên quan
Minh bạch và hậu quả
Cuối tháng 3, Lavingia đã đăng mã nguồn "munchable" công khai trên GitHub sau khi được sự đồng ý của Elon Musk (CEO DOGE lúc đó), nhằm tăng minh bạch cho cộng đồng. Tuy vậy, anh bị sa thải khỏi DOGE không lâu sau khi chia sẻ công khai về quá trình này trên truyền thông.
Bộ Cựu chiến binh chưa công bố có tiếp tục sử dụng công cụ AI này trong thời gian tới hay không. Tương lai, AI có thể được đề xuất tích hợp mạnh hơn vào vận hành VA, thay thế con người ở quy trình thẩm định hợp đồng.
Công cụ AI của DOGE đã để lại không ít tranh cãi vì lỗi nghiêm trọng trong việc phân tích hợp đồng tại Bộ Cựu chiến binh Mỹ. Việc sử dụng AI cho mục tiêu tiết kiệm ngân sách cần đánh giá kỹ lưỡng từ cả phía công nghệ lẫn trách nhiệm với các dịch vụ thiết yếu dành cho cựu chiến binh.