來源：至頂網(wǎng)

隨著AI越來越多融入我們的日常生活,，它對醫(yī)療保健及醫(yī)學研究的影響也必然覆蓋每一個人，以或直接,、或間接的方式引領我們進入AI醫(yī)療新時代。那么,，我們該如何確保以負責任的方式實施AI,，在實現(xiàn)其大部分積極收益的同時，最大限度減少潛在的負面影響？

在2024年3月召開的SXSW（西南偏南）2024大會上,，美國醫(yī)學會（AMA）主席Jesse Ehrenfeld醫(yī)生發(fā)表了題為《AI,、醫(yī)療保健與醫(yī)學的奇異未來》的演講。在AI Today播客的后續(xù)采訪中,，Ehrenfeld博士進一步延伸了演講內(nèi)容,，并分享了更多關于AI影響醫(yī)學領域的見解。

主持人：您如何看待AI對于醫(yī)學的影響,？美國醫(yī)學會最近為什么要發(fā)布一整套AI原則,？

Jesse Ehrenfeld醫(yī)生：我是一名執(zhí)業(yè)醫(yī)生和麻醉師，實際上,，前幾天我還剛剛為病人進行過診療服務。我在威斯康星州密爾沃基的威斯康星醫(yī)學院工作,，已經(jīng)擁有約20年的執(zhí)業(yè)經(jīng)歷,。我是美國醫(yī)學會的現(xiàn)任主席，代表著全美規(guī)模最大,、最具影響力的醫(yī)生團體,。醫(yī)學會成立于1847年，是醫(yī)學道德準則與一系列指導當今美國醫(yī)生提供診療服務的原則的傳播機構,。我本人擁有麻醉學與臨床信息學方面的委員會認證,，也是首個被任命為醫(yī)學會主席的信息學家成員。除了這個相對較新的專業(yè)身份之外,，我還在海軍服役了十年,。總而言之,，我所做的一切都是為了了解該如何為患者提供高質量的醫(yī)療服務,，并通過我的親身工作與積極實踐將其推廣給更多受眾。

其實大家可以想見,，如今的醫(yī)生們?nèi)员池撝芏喑林厍伊淤|的技術債務,，這些技術不僅沒有積極作用、甚至不能算是有價值的資產(chǎn),。我們絕不能讓這樣的情況重演,，特別是不能在AI時代下重演。為此,，美國醫(yī)學會于2023年11月發(fā)布了一套AI開發(fā),、部署與使用原則，旨在回應我們從醫(yī)生和公眾那里收集到的擔憂和疑慮,。

公眾對這些AI系統(tǒng)抱有很多疑問,。這些系統(tǒng)是干什么用的？他們能不能信任AI,？安全到底有沒有保障,？面對此類問題,，我們需要用原則指導每一項工作，并與聯(lián)邦政府,、國會,、各級地方政府以及行業(yè)開展合作，確保這些技術能夠在護理服務系統(tǒng)的開發(fā),、部署和最終使用階段發(fā)揮作用,。

自2018年以來，我們就一直在研究AI政策,。但在最新幾輪迭代中,，我們呼吁政府對AI采取全面的治理方法，包括必須確保降低患者風險并盡可能提升技術效用,。這些原則希望能將主題專家,、醫(yī)生、信息學家和國家級專業(yè)團體匯聚起來以完成各項工作,，原則的具體條款也越發(fā)豐富,。

主持人：您能不能概述一下這些AI原則？

Jesse Ehrenfeld醫(yī)生：最重要的一點,，就是我們希望保證以道德,、公平、負責任且透明的方式,，完成醫(yī)療保健AI的設計,、開發(fā)與部署工作。我們的愿景和立場非常明確：必須嚴格遵守國家提出的治理政策,，以符合道德且負責任的方式開發(fā)AI方案,。單憑自愿協(xié)議與自愿遵守的承諾還不夠，我們必須介入監(jiān)管并采取基于風險的管理方法,。審查與驗證監(jiān)督的程度,，應該與AI系統(tǒng)可能帶來的潛在危害或后果成正比。也就是說,，對于支持診斷和調(diào)度操作的兩類AI方案來講,，其可能將對應不同的監(jiān)管級別。

我們對全美各地的醫(yī)生進行了大量調(diào)查,，希望了解當今實踐中發(fā)生的情況,，結果也的確表明AI技術在醫(yī)學領域的使用正在增加。結果令人興奮,，但我認為這也應該對開發(fā)商膛監(jiān)管機構起到一點警示作用,。醫(yī)生普遍對AI在醫(yī)療保健領域的潛在非常看好。從全美調(diào)查樣本來看,，65%的受訪美國醫(yī)生認為AI的實踐應用具備一定優(yōu)勢,，例如幫助記錄文檔、翻譯文檔,、協(xié)助診斷,，以及通過預授權等自動化方式減輕行政工作負擔等。

但他們也抱有一定擔憂,。41%的受訪醫(yī)生表示,，他們對AI技術既興奮又害怕。此外,，人們還擔心AI技術會影響患者隱私以及醫(yī)患關系,。歸根結底，我們希望未來上市的產(chǎn)品都能安全可靠,。這是我們從醫(yī)生和消費者群體中獲取信息的前提,，也是我們長期堅守的原則在支持高質量、經(jīng)過臨床驗證的AI開發(fā)中的實際體現(xiàn),。

主持人：那么您具體關注哪些數(shù)據(jù)和健康隱私問題呢,？

Jesse Ehrenfeld醫(yī)生：我發(fā)現(xiàn)患者和消費者對數(shù)據(jù)和AI仍抱有諸多疑問,，比如醫(yī)療保健應用到底有什么用,？里面的數(shù)據(jù)去哪了？他們能使用或者分享這些信息嗎,？遺憾的是,，聯(lián)邦政府并沒能真正保障數(shù)據(jù)流向的透明度。舉個最極端的例子,，高能一家公司,、一家開發(fā)商和一款應用軟件。這款軟件被標記為“符合HIPAA”,，那么在普通人看來,，這就意味著自己存放在其中的數(shù)據(jù)是安全、私密且有保障的,。然而應用軟件本身并不屬于HIPAA涵蓋的實體,，而HIPAA條款只能約束公司和開發(fā)商。因此對于根本不在保障范圍之內(nèi)的應用軟件,，所謂“符合HIPAA”完全是一種誤導,，我們也不該允許這種情況發(fā)生。

人們對于健康數(shù)據(jù)的去向也存在很多擔憂,，這顯然影響到患者對于AI技術的接納度,。94%的受訪患者告訴我們，他們希望出臺強有力的法律來管理醫(yī)療數(shù)據(jù)的使用方式。如果患者不了解數(shù)字工具的隱私設計與影響因素,，他們就很可能拒絕使用數(shù)字工具,。另外，雖然作為監(jiān)管方的我們有很多工作要做,，但AI開發(fā)者那邊也可以做出一系列努力,，保證即使沒有法律要求、也愿意盡可能加強AI數(shù)據(jù)的可信度,。

以各位最熟悉的大型科技企業(yè)為例,，你愿意把自己的醫(yī)療保健數(shù)據(jù)交給他們嗎？如果發(fā)生數(shù)據(jù)泄露該怎么辦,？您是否會將身體部位的敏感照片上傳至他們的服務器,，以便對方能為我們提供一些潛在的病變分析與防治建議？一旦出現(xiàn)數(shù)據(jù)問題,，您又會怎么做,？會打電話給誰？總而言之,，我認為應當在數(shù)據(jù)收集和流向方面提高透明度,，讓普通消費者也能了解如何拒絕共享自己的數(shù)據(jù)。

但遺憾的是,，HIPAA并沒能解決所有這些問題,。實際上，許多此類應用軟件壓根就不在HIPAA的管控范疇之內(nèi),。我們需要采取更多措施來確保醫(yī)療數(shù)據(jù)的安全性和隱私性,。

主持人：您認為AI將在哪些方面、以及將如何對醫(yī)療保健和醫(yī)學產(chǎn)生積極影響,？

Jesse Ehrenfeld醫(yī)生：我們別無選擇,，必須使用AI等先進技術。要想解決當今醫(yī)療保健領域所面臨的勞動力危機,，擁抱新興技術已經(jīng)是不二之選,。而且不僅限于美國，這已經(jīng)成為一個全球性的問題,。美國有8300萬民眾連最基本的醫(yī)療保健服務都得不到,，就是因為這里沒有充足的醫(yī)生。如果我們繼續(xù)以同樣的方式工作并提供護理服務,，就永遠不可能開設足夠多的醫(yī)學院,、培養(yǎng)出足夠多的住院醫(yī)師來滿足這些需求。

而在從美國醫(yī)學會的角度討論AI時,，我們實際上更喜歡使用“增強智能”的表述,，而非人工智能,。因為它終究要回歸一項基本原則：工具的意義應該是提高我們醫(yī)療團隊、醫(yī)生,、護士乃至每位相關人員的能力,，以便其更有效也更高效地提供診療服務。目前最大的問題,，就是缺少統(tǒng)一的平臺,。我們已經(jīng)獲得了不少碎片化的解決方案，但它們彼此之間沒有能整合起來,，但好消息是已經(jīng)有企業(yè)在迅速朝著這個方向邁進,。很明顯，我們希望這種趨勢也能出現(xiàn)在醫(yī)療領域,。

我們正在嘗試多種不同途徑,，以確保我們在整個設計和開發(fā)過程中擁有發(fā)言權。我們建立起醫(yī)生創(chuàng)新網(wǎng)絡,，這是一套免費的在線平臺,，能夠將醫(yī)療領域的企業(yè)家匯聚起來幫助推動變革與創(chuàng)新,，并為市場帶來更好的產(chǎn)品,。醫(yī)療企業(yè)正在尋求臨床投入,，臨床醫(yī)生也積極與企業(yè)家建立聯(lián)系,。我們在硅谷還設立了科技孵化項目Health2047，基于醫(yī)學會的見解孕育出十幾家公司,。

歸根結底,，我們需要建立起一套監(jiān)管框架,，確保只有經(jīng)過臨床驗證的產(chǎn)品才能進入市場,。我們必須確保這些工具能夠真正兌現(xiàn)其承諾,，使其成為提升效率的資產(chǎn),、而非“沒事找事”的負擔,。

我認為AI技術并不會取代醫(yī)生，但那些善于運用AI的醫(yī)生會取代那些不懂如何使用AI的醫(yī)生,。AI方案有著巨大的應用潛力,，有望減輕醫(yī)生和論據(jù)的管理負擔。最終,，預計我們在病患護理中直接引入AI的方式將會取得巨大成功,。其中有著大量令人興奮的用例，但我們還需要保證借工具與技術之力,，妥善解決種族偏見,、危害性錯誤、安全,、隱私以及健康信息威脅等現(xiàn)實挑戰(zhàn),。所以在盲目擴大AI工具的應用范圍之前,，首先應保證醫(yī)生了解如何管理這些風險、如何承擔起肩上的這份責任,。