服務提供者焦點：Northwell Health運用以人為中心的設計倡導負責任的人工智慧
Dr. Susan Beane, MD，第一保健執行醫療總監
Emily Kagan Trenchard，Northwell Health資深副總裁暨消費者數位服務長
Susan Beane醫學博士導言
人工智慧（AI）曾經被視為是未來的東西，但如今已經被全國各地的醫療保健機構廣為使用。
第一保健使用人工智慧技術深入瞭解會員的健康行為，甚至可預測會員的需求以優先安排外展活動。
我們的服務提供者合作夥伴也研究人工智慧在醫療保健領域的使用案例，以全新和令人振奮的方式使用此項技術，為最需要的人提供更好的照護！在接下來的數週中，Advance Perspectives部落格將介紹我們的服務提供者如何致力於將最新技術融入他們的系統中。
Northwell Health資深副總裁暨消費者數位服務長，Emily Kagan Trenchard，將是我們部落格的第一位客座作者。她在貼文中闡述醫療保健（以及醫療保健所服務的患者）最能善用人工智慧的地方、可能引起疑慮之處，以及如何確保人工智慧工具的設計、培訓和使用都能為大眾創造更多福祉。
人工智慧固然有許多優點，但也不乏隱憂
在探討人工智慧應該或不應該應用在醫療保健之前，我們必須先瞭解人工智慧的起源。人工智慧不是一個新的概念，而是資料科學的延伸，這個領域的根源可追溯至1960年代，並且早在那之前就一直是科幻小說的焦點。
人工智慧看似一種新概念的原因有兩個。疫情期間對啟用人工智慧技術的使用暴增，許多人原本不會參與數位活動，不論是個人還是職業原因，卻因此而花費大量時間在數位環境中。大型語言模型（LLM）近期的進階發展，讓電腦可以從大數據集中學習並且處理自然語言。隨著像ChatGPT這類現在已與其他的生成式人工智慧結合以產生圖像與聲音之後，前所未有的強大功能不僅存在，更透過易於使用的工具而達到了大眾化。人工智慧讓我們在日常生活中享盡各種好處，從音樂串流服務中推薦新歌，到讓我們可有效管理收件匣的垃圾郵件篩選器。但是，我們也必須要謹慎。讓機器不假思索就決定用吸塵器清潔客廳的最佳路線是一回事。但是讓機器決定我們應該在哪裡購屋、送孩子去上學或接受醫療護理，則是另一回事。
若未加以檢查，人工智慧可擴大公平性的缺口
在醫療保健方面，人工智慧在醫療編碼、臨床文件和患者參與等工作領域取得了重大進展。患者參與一直是Northwell Health的重大關注領域：當我們準備好工具以協助病患尋找資源、安排約診或管理他們健康的某些方面時，我們是在賦予他們更能掌控自己健康的能力，還可減輕我們工作人員透過電話或電子郵件聯絡病患的負擔。
同時，我們必須確保我們的人工智慧工具不會擴大醫療保健公平性的缺口。 如同一篇評論所述，演算法「常常建立在有偏差的規則及同質性資料集之上，無法反映出全體的患者人口。」 第二篇討論提到，演算法偏差可出現在建立演算過程中的任何階段 - 研究設計、資料收集、資料輸入、預測性模型的開發及設置。
有偏差的演算法對病患照護產生影響的例子在研究中處處可見。一個高知名度的研究發現，黑人患者比較不可能透過演算法獲得高風險醫療管理的轉診。我的紐約市健康醫療總局的同仁強調，偏差演算法如何造成較少的黑人患者被轉診到腎臟專科以及較多的高風險剖腹產轉診。
以人為中心設計的優點
解決問題並不容易，因為需要重新思考演算法本身，以及如何運用在臨床環境中，特別是有些演算法已經行之多年。
我的看法是，以人為中心的設計是解決方案中的重要部分。在以人為中心的設計中，最終使用產品或服務並且受惠的人，都是從設計過程的一開始就參與其中者。如上所述，在建立演算法的任何階段都可出現偏差，但透過設置正確的防護機制，偏差可以被去除而得到更為公平、精確的產品，為其所服務的人群帶來利益。
我們也可以說，在醫療保健的環境中，以人為中心的設計需要包括一個更大的面向。醫師、其他的臨床人員及行政人員、社區健康工作人員，甚至病患等都需要參與對話。話雖如此，但是人工智慧在協助我們檢查我們更有問題的人類行為時扮演著重要的角色，例如可導致判斷錯誤及不公平治療的無意識偏見等。 Pew Research Center最近的一項研究發現，介於30%至40%之間的美國人認為，將人工智慧運用在醫療保健上將可降低醫療錯誤，並為所有種族及族裔建立一個照護品質的更公平分配。但同一個研究中還發現，幾乎60%的美國人擔心引進人工智慧工具將進一步擾亂醫病關係。
不可諱言，教育這些利益相關群體需要時間和精力，讓他們瞭解人工智慧是如何開發而來、人工智慧如何存在缺陷和為何存在缺陷，以及它如何能夠提供更好的醫療護理服務。這麼一種有條不紊的過程也可能與軟體開發的快節奏相衝突。但是，為了能有一個公平照護的未來，採取正確的步驟以確保我們能以負責任的態度使用人工智慧至關重要，而且如果醫療保健中受到人工智慧影響最大的族群無法在開發過程中表達意見，則這個理想終將無法實現。