Các nhân viên hiện tại và cựu nhân viên của FDA chia sẻ với CNN về những rủi ro khi sử dụng công cụ AI Elsa. Elsa từng tạo ra nghiên cứu không có thật hoặc mô tả sai sự thật, khiến nhiều chuyên gia lo ngại về độ tin cậy của công cụ này trong quá trình xét duyệt lâm sàng.

FDA đối mặt cảnh báo về sai lệch từ AI Elsa

Công cụ Elsa do FDA phát triển được kỳ vọng giúp tăng tốc quá trình rà soát lâm sàng, hỗ trợ việc ra quyết định chính xác nhằm phục vụ lợi ích bệnh nhân. Tuy nhiên, theo CNN, một số nhân viên hiện tại và cựu nhân viên của FDA cho biết Elsa có thể "não hóa" ra các kết quả nghiên cứu không tồn tại hoặc chỉnh sửa sai các nghiên cứu thực tế. Điều này dẫn tới nguy cơ ảnh hưởng lớn đến tính xác thực khi chưa được kiểm tra lại thông tin.

Nhiều vấn đề nổi bật của Elsa được nêu ra

Ba nhân viên FDA xác nhận Elsa từng tạo nghiên cứu giả hoặc báo cáo sai lạc về tài liệu thực tế
Một nguồn tin nhận định: "Nếu bạn không có thời gian kiểm tra lại, Elsa là không đáng tin cậy"
AI này "não hóa" kết luận một cách đầy tự tin, gây khó khăn trong việc phân biệt thật - giả

Lãnh đạo FDA nói gì về các sự cố với Elsa?

FDA Commissioner Marty Makary trả lời CNN rằng ông chưa từng nghe những phản hồi cụ thể đó. Ông khẳng định việc sử dụng Elsa cũng như chương trình tập huấn liên quan đến Elsa tại FDA đều đang giữ tính tự nguyện.

Khung pháp lý AI và phản hồi từ Nhà Trắng

Nhà Trắng công bố AI Action Plan cùng lúc với các cảnh báo về Elsa

Chính phủ Mỹ nhấn mạnh AI là "cuộc đua công nghệ" cần chiến thắng
Kế hoạch này hướng tới việc loại bỏ các rào cản pháp lý để tăng tốc phát triển AI
AI Action Plan cũng đòi hỏi đảm bảo AI không chịu "thiên kiến tư tưởng", loại bỏ chủ đề khí hậu, thông tin sai lệch và DEI (đa dạng, công bằng và hòa nhập)

Lo ngại tác động tới sức khỏe cộng đồng

Dù các chủ đề như biến đổi khí hậu, misinformation và đa dạng đều có liên quan trực tiếp tới sức khỏe cộng đồng, khả năng của Elsa trong việc mang lại lợi ích thực tiễn cho FDA và bệnh nhân Mỹ bị hoài nghi.

Trước loạt cảnh báo từ nội bộ, công cụ AI Elsa của FDA vẫn còn nhiều tranh cãi về độ tin cậy trong hỗ trợ xét duyệt lâm sàng. Cùng thời điểm này, Nhà Trắng đưa ra các chỉ đạo mới cho lĩnh vực AI, nhấn mạnh nhu cầu phát triển nhanh và giảm bớt kiểm soát pháp lý.

Nội dung về "misinformation-ai"