Năm 2022, OpenAI đã cho ra mắt ChatGPT và nhận được sự quan tâm rộng rãi trong lĩnh vực chăm sóc sức khỏe. Dịch vụ Y tế Quốc gia Anh (NHS England) cũng bắt đầu triển khai nhiều sáng kiến liên quan đến ứng dụng trí tuệ nhân tạo (AI) trong chẩn đoán hình ảnh, hệ thống cảnh báo an toàn và các chương trình sàng lọc, tầm soát bệnh.

Cơ quan Quản lý Dược phẩm và Sản phẩm y tế Anh đã thử nghiệm AI Airlock nhằm hỗ trợ sử dụng các thiết bị y tế tích hợp AI một cách an toàn. Sáng kiến này thể hiện vai trò tiên phong của Vương quốc Anh trong việc áp dụng trí tuệ nhân tạo trong y tế. Các hướng dẫn hiện hành của NHS nhấn mạnh việc áp dụng trí tuệ nhân tạo có trách nhiệm và tuân thủ quy định về bảo mật dữ liệu của Anh.

Mặc dù tiềm năng rất lớn, bằng chứng cho thấy các mô hình AI hiện tại vẫn thiếu kiến thức y khoa chuyên sâu cần thiết để có thể giải đáp các vấn đề liên quan đến thuốc. Một mối lo ngại lớn là AI có thể đưa ra các thông tin không chính xác nhưng lại được trình bày một cách rất thuyết phục, làm cho người dùng tin tưởng vào thông tin ấy. Bên cạnh đó, các mô hình AI có thể không truy cập được đầy đủ các nguồn thông tin sẵn có hoặc uy tín chẳng hạn các nguồn yêu cầu trả phí, dẫn đến câu trả lời không đẩy đủ hoặc sai lệch. Ngoài ra, việc ứng dụng AI cũng dấy lên những lo ngại về bảo mật, chi phí và ảnh hưởng tới môi trường.

Hiểu về các mô hình AI tạo sinh và LLM

AI tạo sinh có khả năng tạo ra nhiều dữ liệu đầu ra như văn bản, hình ảnh, âm thanh, mã máy tính và nhiều định dạng khác. Các LLM chỉ là một nhóm nhỏ thuộc AI tạo sinh, tập trung vào việc tạo ra văn bản. LLM có thể vận hành các phần mềm hỗ trợ xử lý ngôn ngữ và tự động tạo ra văn bản; chẳng hạn như soạn thảo email, hoàn thiện luận văn hoặc tóm tắt các tài liệu dài.

Dù sở hữu những ưu điểm trên, chúng vẫn tiềm ẩn nhiều rủi ro. Các mô hình này vận hành dựa trên việc dự đoán văn bản từ nguồn dữ liệu khổng lồ, cho phép thực hiện các công việc như tóm tắt tài liệu, hỗ trợ giao tiếp với người bệnh và tạo ghi chú. Tuy nhiên, AI tạo sinh và LLM hoạt động dựa trên dự đoán xác suất thống kê chứ không phải bằng tư duy hay lập luận lâm sàng, dẫn đến những hạn chế cố hữu khi ứng dụng trong y khoa. Mục đích thiết kế của chúng là dự đoán văn bản dựa trên dữ liệu được thu thập từ Internet. Các mô hình này có thể tóm tắt thông tin, điều chỉnh câu trả lời cho phù hợp với từng đối tượng người đọc và tối ưu hóa quá trình giao tiếp.

Hạn chế và rủi ro khi sử dụng trí tuệ nhân tạo để giải quyết các câu hỏi thông tin thuốc

- Sự thiên kiến và thiếu đầy đủ của dữ liệu: Các mô hình AI có thể không tìm được các hướng dẫn mới từ hiệp hội chuyên môn hay các thông tin Cảnh giác Dược mới nhất từ MHRA. Hơn nữa, các mô hình AI thường không thể truy cập vào các cơ sở dữ liệu y khoa phải trả phí, các hướng dẫn điều trị hoặc các tài liệu tra cứu y khoa nội bộ vốn là nền tảng thực hành dựa trên bằng chứng. Hạn chế này dẫn đến tình trạng , bỏ sót các thông tin quan trọng như tương tác thuốc hay các cập nhật mới.

- Thông tin bịa đặt: Các mô hình AI thường tạo ra những câu trả lời nghe hợp lý nhưng thực chất lại là những thông tin không chính xác, đặc biệt trong lĩnh vực y khoa. Điều này tiềm ẩn những nguy cơ nghiêm trọng cho người bệnh khi áp dụng các thông tin do AI đưa ra để giải đáp vấn đề về thuốc mà không thông qua kiểm chứng.

- Thiếu bối cảnh lâm sàng: Các mô hình AI thường không thể có được thông tin cá thể người bệnh. Chẳng hạn như kết quả xét nghiệm máu, các bệnh lý đi kèm,... Chúng là những yếu tố quyết định trực tiếp đến việc kê đơn thuốc. Sự thiếu sót những thông tin này sẽ làm giảm khả năng áp dụng các nội dung do AI đưa ra trên lâm sàng.

- Thiếu nguồn thông tin đã qua kiểm chứng: Do tính đa dạng và phức tạp của các mô hình AI, nội dung do AI đưa ra thường thiếu chính xác và thiếu nguồn thông tin rõ ràng. Bên cạnh đó, AI có thể tự điều chỉnh dữ liệu dựa trên lịch sử tương tác với người dùng, dẫn đến thiếu khả năng lặp lại. Dẫn đến việc cùng một câu hỏi về thuốc nhưng AI có thể đưa ra các câu trả lời khác nhau khi được hỏi vào những thời điểm khác nhau.

- Lo ngại về bảo mật thông tin: Theo NHS, đánh giá tác động liên quan bảo vệ dữ liệu (Data Protection Impact Assessments) là yêu cầu bắt buộc về mặt pháp lý phải hoàn thành trước khi triển khai các mô hình AI. Việc xử lý thông tin người bệnh thông qua các mô hình AI dấy lên những lo ngại về bảo mật thông tin, nguy cơ vi phạm Quy định Bảo vệ Dữ liệu của Anh cũng như các tiêu chuẩn bảo mật thông tin của Dịch vụ Y tế Quốc gia Anh.

Chiến lược giảm thiểu rủi ro khi sử dụng AI trong tra cứu thông tin thuốc

- Không dựa hoàn toàn vào các mô hình AI hiện có: Phải luôn áp dụng các nguồn thông tin chính thức khi tìm kiếm thông tin. Các mô hình AI không được sử dụng làm nguồn tra cứu đối với các vấn đề liên quan đến thuốc mặc dù chúng có thể hỗ trợ trong việc tìm kiếm các hướng dẫn điều trị hoặc bằng chứng y khoa. Nhân viên y tế thuộc Dịch vụ Y tế Quốc gia Anh phải thành thạo kỹ năng tìm kiếm các nguồn thông tin chính thức và ra quyết định.

- Xác minh lại thông tin: Mọi thông tin về thuốc do AI đưa ra phải được xác thực bởi cán bộ y tế có trình độ chuyên môn. Quy trình thẩm định bao gồm việc đối chiếu, xác minh với các nguồn thông tin chính thức như Dược thư Quốc gia Anh, Dược thư Quốc gia Anh dành cho trẻ em, các hướng dẫn của hiệp hội chuyên môn hoặc ý kiến của dược sĩ, bác sĩ.

- Bảo mật dữ liệu: Thông tin nhạy cảm hoặc riêng tư của người bệnh tuyệt đối không được đưa lên các mô hình AI. Tất cả ứng dụng AI phải tuân thủ đầy đủ các yêu cầu của quy định bảo vệ dữ liệu chung của Anh và phải thực hiện đánh giá tác động liên quan bảo vệ dữ liệu theo đúng yêu cầu của Dịch vụ Y tế Quốc gia Anh.

- Trách nhiệm chuyên môn: Các thông tin từ AI đòi hỏi quy trình giám sát và can thiệp trực tiếp từ con người. Tất cả nhân viên y tế của NHS phải chịu trách nhiệm hoàn toàn đối với bất kỳ tư vấn nào đưa ra.

- Phát triển năng lực chuyên môn: Nhân viên y tế khi sử dụng các mô hình AI phải cập nhật kiến thức chuyên môn cả về khả năng lẫn các hạn chế của AI, nhằm đảm bảo khả năng kiểm chứng hiệu quả đối với các kết quả do AI tạo ra. Điều này bao gồm cả việc nhận biết khi nào cần tránh sử dụng AI trong các tình huống lâm sàng phức tạp liên quan đến thuốc.