AI vượt quyền bác sĩ – Dấu hiệu tốt hay hậu quả khó lường?

AI vượt quyền bác sĩ? Một câu hỏi khó đặt ra là ai sẽ là người đưa ra quyết định sáng suốt nhất khi một bệnh nhân đứng trước ngưỡng cửa tử thần: con người hay máy móc. Cùng MobiFone Công Nghệ Số tìm hiểu!

Thuật toán chẩn đoán dựa trên công nghệ trí tuệ nhân tạo, bằng cách so sánh với các ca bệnh mẫu đã được chẩn đoán sẵn. Ảnh: iStock.

Beebe, một y tá tại Trung tâm Y tế UC Davis, có khả năng nhận biết các dấu hiệu dẫn tới đột quỵ xuất huyết hoặc nhiễm trùng ở bệnh nhân chỉ bằng mắt thường. Khi một thông báo chẩn đoán bệnh nhân của Beebe bị nhiễm trùng huyết, cô nhận ra rằng điều này không đúng.

Thông báo đến từ bệnh viện cho biết bệnh nhân có số lượng bạch cầu tăng cao và nhiễm trùng huyết. Tuy nhiên, việc chẩn đoán này đã bỏ qua khả năng bệnh nhân có bệnh bạch cầu, có thể gây ra triệu chứng tương tự.

Chẩn đoán bệnh dựa trên trí tuệ nhân tạo (AI) và thuật toán được sử dụng trong trường hợp này. Thuật toán đã kích hoạt cảnh báo khi phát hiện kết quả xét nghiệm tương tự như các bệnh nhân nhiễm trùng huyết trước đó.

Beebe hoàn toàn đủ khả năng và kinh nghiệm để hiểu rằng AI phán đoán sai, tuy nhiên cô cũng sẽ bị phạt nếu như nhận định đó là không đúng! Ảnh: WSJ.

Tuy nhiên, điều nguy hiểm là thuật toán không giải thích quyết định của nó. Y tá phải tuân theo quy trình yêu cầu của bệnh viện khi bệnh nhân được chẩn đoán mắc nhiễm trùng huyết.

Beebe có khả năng chứng minh rằng AI đã sai nếu được bác sĩ chấp thuận, nhưng điều này cũng có nghĩa là cô sẽ đối mặt với hình thức kỷ luật nếu phán đoán sai.

Vì vậy, Beebe đã tuân thủ yêu cầu và lấy máu của bệnh nhân, mặc dù điều này có thể khiến bệnh nhân nhiễm trùng và phải trả thêm tiền.

Sự xuất hiện của trí tuệ nhân tạo và các công cụ công nghệ cao khác đặt ra câu hỏi về việc con người hay máy móc sẽ đưa ra quyết định trong một cuộc khủng hoảng. Các công nghệ này có khả năng phân tích lượng dữ liệu lớn và có tốc độ vượt trội so với con người, mang lại những tiến bộ đáng kể trong lĩnh vực y học.

Trên thực tế, máy móc đôi lúc cũng gặp những rủi ro và phán đoán không chính xác. Ảnh: Adobe Stock.

Tuy nhiên, các y tá và nhân viên y tế đã nhận thấy rằng máy móc cũng có thể mắc sai sót và đôi khi được triển khai mà không được đào tạo đầy đủ hoặc linh hoạt, gây rủi ro trong việc chăm sóc bệnh nhân.

Một số bác sĩ cũng bày tỏ áp lực từ ban quản lý bệnh viện để trì hoãn việc sử dụng thuật toán.

Trong tình huống này, dù có sự hỗ trợ từ công nghệ AI, quyết định cuối cùng vẫn phụ thuộc vào sự đánh giá của con người, như Beebe, vì chỉ họ có thể nhìn thấy những dấu hiệu và triệu chứng không được báo cáo bởi thuật toán.

Theo giáo sư điều dưỡng Kenrick Cato từ Đại học Pennsylvania, “AI nên được sử dụng để hỗ trợ cho các quyết định lâm sàng chứ không phải để thay thế những chuyên gia như bác sĩ. Các nhà quản lý bệnh viện cần nhận thức rằng có rất nhiều yếu tố mà một thuật toán không thể nhìn thấy trong môi trường lâm sàng.”

AI nên được xem là trợ lý, thay vì là “người” đưa ra quyết định sinh tử cho bệnh nhân! Ảnh: WSJ.

Cuộc khảo sát của tổ chức National Nurses United, tổ chức lớn nhất của các y tá tại Mỹ, đã cho thấy 24% trong số 1.042 y tá tham gia khảo sát đã nhận được chẩn đoán từ AI mà họ cho rằng “không mang lại lợi ích tốt nhất cho bệnh nhân, dựa trên phán đoán lâm sàng và phạm vi hành nghề”.

Trong số này, 17% y tá cho biết họ có thể bác bỏ quyết định của AI, trong khi 31% không được phép và 34% cho biết họ cần có sự cho phép của bác sĩ hoặc người giám sát.

Do thiếu hụt nhân lực trong các bệnh viện Mỹ sau đại dịch Covid-19, y tá và bác sĩ thường phải làm việc trong tình trạng căng thẳng và kiệt sức.

Theo cuộc khảo sát của Hiệp hội Y tá Mỹ với hơn 12.500 y tá vào tháng 11/2022, 43% y tá cho biết họ đã kiệt sức.

Để giảm bớt gánh nặng cho y tá, nhiều ứng dụng đã được thiết kế để thay thế các nhiệm vụ tẻ nhạt và tốn thời gian như làm biểu đồ, theo dõi bệnh nhân và xác minh thuốc.

Tóm lại, sự hỗ trợ của AI trong lĩnh vực y tế nên được xem như một công cụ hỗ trợ quan trọng, nhưng quyết định cuối cùng vẫn nên dựa trên sự đánh giá của các chuyên gia như y tá và bác sĩ, nhằm đảm bảo lợi ích tốt nhất cho bệnh nhân.

Bệnh viện Sparrow ở Lansing, Michigan, tương tự như nhiều trung tâm chấn thương khác trên khắp Mỹ, đã áp dụng thuật toán để cảnh báo y tá về sự thay đổi trong tình trạng của bệnh nhân.

Tuy nhiên, điều này đã khiến một số người làm nghề y tế trở nên phụ thuộc vào công nghệ. Jeff Breslin, một y tá có kinh nghiệm từ năm 1995, cho rằng nhân viên y tế hiện nay thường tin tưởng vào thuật toán hơn là kỹ năng quan sát của chính mình.

Breslin lưu ý rằng nếu y tá mới quá phụ thuộc vào các quyết định dựa trên trí tuệ nhân tạo, họ có thể thiếu những kỹ năng cần thiết để đưa ra đánh giá tương tự khi theo dõi bệnh nhân và đưa ra những phán đoán quan trọng.

Thường thì, y tá diễn tả cảm nhận về sự suy giảm tình trạng của bệnh nhân bằng cách sử dụng thuật ngữ cảm xúc. “Y tá gọi đó là linh cảm. Đó là điều khiến họ quyết định tăng cường giám sát bệnh nhân”, giáo sư Cato, một nhà khoa học dữ liệu và cựu y tá, nói.

Các thuật toán xếp hạng mức độ trở nặng của bệnh nhân dựa trên hoạt động của các điều dưỡng. Ảnh: Đại học Columbia.

Dựa trên ý tưởng này, giáo sư Cato và Sarah Rossetti, phó giáo sư điều dưỡng và tin học y sinh tại Đại học Columbia, đã hướng dẫn một nhóm nghiên cứu phát triển các mô hình dự đoán để định lượng trực giác của y tá.

Hai nhà nghiên cứu này tin rằng việc sử dụng các mô hình này có thể được coi là một hệ thống cảnh báo sớm, giúp nhân viên bệnh viện nhận biết những bệnh nhân đang gặp rắc rối.

Cụ thể, hồ sơ sức khỏe điện tử thu thập dữ liệu về tần suất và loại giám sát mà y tá thực hiện đối với bệnh nhân.

Tóm lại, việc sử dụng công nghệ AI và các mô hình dự đoán có thể cung cấp cảnh báo sớm và hỗ trợ y tá trong việc theo dõi tình trạng của bệnh nhân, nhưng vẫn cần phải giữ được sự cân nhắc và sự kết hợp giữa kỹ năng quan sát của y tá và sự hỗ trợ từ công nghệ.

Nguồn: Zing News