來(lái)源：至頂網(wǎng)

隨著AI越來(lái)越多融入我們的日常生活，它對(duì)醫(yī)療保健及醫(yī)學(xué)研究的影響也必然覆蓋每一個(gè)人,，以或直接,、或間接的方式引領(lǐng)我們進(jìn)入AI醫(yī)療新時(shí)代。那么,，我們?cè)撊绾未_保以負(fù)責(zé)任的方式實(shí)施AI,，在實(shí)現(xiàn)其大部分積極收益的同時(shí)，最大限度減少潛在的負(fù)面影響,？

在2024年3月召開的SXSW（西南偏南）2024大會(huì)上,，美國(guó)醫(yī)學(xué)會(huì)（AMA）主席Jesse Ehrenfeld醫(yī)生發(fā)表了題為《AI、醫(yī)療保健與醫(yī)學(xué)的奇異未來(lái)》的演講,。在AI Today播客的后續(xù)采訪中,，Ehrenfeld博士進(jìn)一步延伸了演講內(nèi)容，并分享了更多關(guān)于AI影響醫(yī)學(xué)領(lǐng)域的見(jiàn)解,。

主持人：您如何看待AI對(duì)于醫(yī)學(xué)的影響,？美國(guó)醫(yī)學(xué)會(huì)最近為什么要發(fā)布一整套AI原則？

Jesse Ehrenfeld醫(yī)生：我是一名執(zhí)業(yè)醫(yī)生和麻醉師,，實(shí)際上,，前幾天我還剛剛為病人進(jìn)行過(guò)診療服務(wù)。我在威斯康星州密爾沃基的威斯康星醫(yī)學(xué)院工作,，已經(jīng)擁有約20年的執(zhí)業(yè)經(jīng)歷,。我是美國(guó)醫(yī)學(xué)會(huì)的現(xiàn)任主席，代表著全美規(guī)模最大,、最具影響力的醫(yī)生團(tuán)體,。醫(yī)學(xué)會(huì)成立于1847年，是醫(yī)學(xué)道德準(zhǔn)則與一系列指導(dǎo)當(dāng)今美國(guó)醫(yī)生提供診療服務(wù)的原則的傳播機(jī)構(gòu),。我本人擁有麻醉學(xué)與臨床信息學(xué)方面的委員會(huì)認(rèn)證,，也是首個(gè)被任命為醫(yī)學(xué)會(huì)主席的信息學(xué)家成員,。除了這個(gè)相對(duì)較新的專業(yè)身份之外，我還在海軍服役了十年,?？偠灾宜龅囊磺卸际菫榱肆私庠撊绾螢榛颊咛峁└哔|(zhì)量的醫(yī)療服務(wù),，并通過(guò)我的親身工作與積極實(shí)踐將其推廣給更多受眾,。

其實(shí)大家可以想見(jiàn)，如今的醫(yī)生們?nèi)员池?fù)著很多沉重且劣質(zhì)的技術(shù)債務(wù),，這些技術(shù)不僅沒(méi)有積極作用,、甚至不能算是有價(jià)值的資產(chǎn)。我們絕不能讓這樣的情況重演,，特別是不能在AI時(shí)代下重演,。為此，美國(guó)醫(yī)學(xué)會(huì)于2023年11月發(fā)布了一套AI開發(fā),、部署與使用原則,，旨在回應(yīng)我們從醫(yī)生和公眾那里收集到的擔(dān)憂和疑慮。

公眾對(duì)這些AI系統(tǒng)抱有很多疑問(wèn),。這些系統(tǒng)是干什么用的,？他們能不能信任AI？安全到底有沒(méi)有保障,？面對(duì)此類問(wèn)題,，我們需要用原則指導(dǎo)每一項(xiàng)工作，并與聯(lián)邦政府,、國(guó)會(huì),、各級(jí)地方政府以及行業(yè)開展合作，確保這些技術(shù)能夠在護(hù)理服務(wù)系統(tǒng)的開發(fā),、部署和最終使用階段發(fā)揮作用,。

自2018年以來(lái)，我們就一直在研究AI政策,。但在最新幾輪迭代中,，我們呼吁政府對(duì)AI采取全面的治理方法，包括必須確保降低患者風(fēng)險(xiǎn)并盡可能提升技術(shù)效用,。這些原則希望能將主題專家,、醫(yī)生、信息學(xué)家和國(guó)家級(jí)專業(yè)團(tuán)體匯聚起來(lái)以完成各項(xiàng)工作,，原則的具體條款也越發(fā)豐富,。

主持人：您能不能概述一下這些AI原則？

Jesse Ehrenfeld醫(yī)生：最重要的一點(diǎn)，就是我們希望保證以道德,、公平,、負(fù)責(zé)任且透明的方式，完成醫(yī)療保健AI的設(shè)計(jì),、開發(fā)與部署工作,。我們的愿景和立場(chǎng)非常明確：必須嚴(yán)格遵守國(guó)家提出的治理政策，以符合道德且負(fù)責(zé)任的方式開發(fā)AI方案,。單憑自愿協(xié)議與自愿遵守的承諾還不夠，我們必須介入監(jiān)管并采取基于風(fēng)險(xiǎn)的管理方法,。審查與驗(yàn)證監(jiān)督的程度,，應(yīng)該與AI系統(tǒng)可能帶來(lái)的潛在危害或后果成正比。也就是說(shuō),，對(duì)于支持診斷和調(diào)度操作的兩類AI方案來(lái)講,，其可能將對(duì)應(yīng)不同的監(jiān)管級(jí)別。

我們對(duì)全美各地的醫(yī)生進(jìn)行了大量調(diào)查,，希望了解當(dāng)今實(shí)踐中發(fā)生的情況,，結(jié)果也的確表明AI技術(shù)在醫(yī)學(xué)領(lǐng)域的使用正在增加。結(jié)果令人興奮,，但我認(rèn)為這也應(yīng)該對(duì)開發(fā)商膛監(jiān)管機(jī)構(gòu)起到一點(diǎn)警示作用,。醫(yī)生普遍對(duì)AI在醫(yī)療保健領(lǐng)域的潛在非常看好,。從全美調(diào)查樣本來(lái)看,，65%的受訪美國(guó)醫(yī)生認(rèn)為AI的實(shí)踐應(yīng)用具備一定優(yōu)勢(shì)，例如幫助記錄文檔,、翻譯文檔,、協(xié)助診斷，以及通過(guò)預(yù)授權(quán)等自動(dòng)化方式減輕行政工作負(fù)擔(dān)等,。

但他們也抱有一定擔(dān)憂,。41%的受訪醫(yī)生表示，他們對(duì)AI技術(shù)既興奮又害怕,。此外,，人們還擔(dān)心AI技術(shù)會(huì)影響患者隱私以及醫(yī)患關(guān)系。歸根結(jié)底,，我們希望未來(lái)上市的產(chǎn)品都能安全可靠,。這是我們從醫(yī)生和消費(fèi)者群體中獲取信息的前提，也是我們長(zhǎng)期堅(jiān)守的原則在支持高質(zhì)量,、經(jīng)過(guò)臨床驗(yàn)證的AI開發(fā)中的實(shí)際體現(xiàn),。

主持人：那么您具體關(guān)注哪些數(shù)據(jù)和健康隱私問(wèn)題呢？

Jesse Ehrenfeld醫(yī)生：我發(fā)現(xiàn)患者和消費(fèi)者對(duì)數(shù)據(jù)和AI仍抱有諸多疑問(wèn)，比如醫(yī)療保健應(yīng)用到底有什么用,？里面的數(shù)據(jù)去哪了,？他們能使用或者分享這些信息嗎？遺憾的是,，聯(lián)邦政府并沒(méi)能真正保障數(shù)據(jù)流向的透明度,。舉個(gè)最極端的例子，高能一家公司,、一家開發(fā)商和一款應(yīng)用軟件,。這款軟件被標(biāo)記為“符合HIPAA”，那么在普通人看來(lái),，這就意味著自己存放在其中的數(shù)據(jù)是安全,、私密且有保障的。然而應(yīng)用軟件本身并不屬于HIPAA涵蓋的實(shí)體,，而HIPAA條款只能約束公司和開發(fā)商,。因此對(duì)于根本不在保障范圍之內(nèi)的應(yīng)用軟件，所謂“符合HIPAA”完全是一種誤導(dǎo),，我們也不該允許這種情況發(fā)生,。

人們對(duì)于健康數(shù)據(jù)的去向也存在很多擔(dān)憂，這顯然影響到患者對(duì)于AI技術(shù)的接納度,。94%的受訪患者告訴我們,，他們希望出臺(tái)強(qiáng)有力的法律來(lái)管理醫(yī)療數(shù)據(jù)的使用方式。如果患者不了解數(shù)字工具的隱私設(shè)計(jì)與影響因素,，他們就很可能拒絕使用數(shù)字工具,。另外，雖然作為監(jiān)管方的我們有很多工作要做,，但AI開發(fā)者那邊也可以做出一系列努力,，保證即使沒(méi)有法律要求、也愿意盡可能加強(qiáng)AI數(shù)據(jù)的可信度,。

以各位最熟悉的大型科技企業(yè)為例,，你愿意把自己的醫(yī)療保健數(shù)據(jù)交給他們嗎？如果發(fā)生數(shù)據(jù)泄露該怎么辦,？您是否會(huì)將身體部位的敏感照片上傳至他們的服務(wù)器,，以便對(duì)方能為我們提供一些潛在的病變分析與防治建議？一旦出現(xiàn)數(shù)據(jù)問(wèn)題,，您又會(huì)怎么做,？會(huì)打電話給誰(shuí)？總而言之,，我認(rèn)為應(yīng)當(dāng)在數(shù)據(jù)收集和流向方面提高透明度,，讓普通消費(fèi)者也能了解如何拒絕共享自己的數(shù)據(jù)。

但遺憾的是，HIPAA并沒(méi)能解決所有這些問(wèn)題,。實(shí)際上,，許多此類應(yīng)用軟件壓根就不在HIPAA的管控范疇之內(nèi)。我們需要采取更多措施來(lái)確保醫(yī)療數(shù)據(jù)的安全性和隱私性,。

主持人：您認(rèn)為AI將在哪些方面,、以及將如何對(duì)醫(yī)療保健和醫(yī)學(xué)產(chǎn)生積極影響？

Jesse Ehrenfeld醫(yī)生：我們別無(wú)選擇,，必須使用AI等先進(jìn)技術(shù),。要想解決當(dāng)今醫(yī)療保健領(lǐng)域所面臨的勞動(dòng)力危機(jī)，擁抱新興技術(shù)已經(jīng)是不二之選,。而且不僅限于美國(guó),，這已經(jīng)成為一個(gè)全球性的問(wèn)題。美國(guó)有8300萬(wàn)民眾連最基本的醫(yī)療保健服務(wù)都得不到,，就是因?yàn)檫@里沒(méi)有充足的醫(yī)生,。如果我們繼續(xù)以同樣的方式工作并提供護(hù)理服務(wù),，就永遠(yuǎn)不可能開設(shè)足夠多的醫(yī)學(xué)院,、培養(yǎng)出足夠多的住院醫(yī)師來(lái)滿足這些需求。

而在從美國(guó)醫(yī)學(xué)會(huì)的角度討論AI時(shí),，我們實(shí)際上更喜歡使用“增強(qiáng)智能”的表述,，而非人工智能。因?yàn)樗K究要回歸一項(xiàng)基本原則：工具的意義應(yīng)該是提高我們醫(yī)療團(tuán)隊(duì),、醫(yī)生,、護(hù)士乃至每位相關(guān)人員的能力，以便其更有效也更高效地提供診療服務(wù),。目前最大的問(wèn)題,，就是缺少統(tǒng)一的平臺(tái)。我們已經(jīng)獲得了不少碎片化的解決方案,，但它們彼此之間沒(méi)有能整合起來(lái),，但好消息是已經(jīng)有企業(yè)在迅速朝著這個(gè)方向邁進(jìn)。很明顯,，我們希望這種趨勢(shì)也能出現(xiàn)在醫(yī)療領(lǐng)域,。

我們正在嘗試多種不同途徑，以確保我們?cè)谡麄€(gè)設(shè)計(jì)和開發(fā)過(guò)程中擁有發(fā)言權(quán),。我們建立起醫(yī)生創(chuàng)新網(wǎng)絡(luò),，這是一套免費(fèi)的在線平臺(tái)，能夠?qū)⑨t(yī)療領(lǐng)域的企業(yè)家匯聚起來(lái)幫助推動(dòng)變革與創(chuàng)新,，并為市場(chǎng)帶來(lái)更好的產(chǎn)品,。醫(yī)療企業(yè)正在尋求臨床投入，臨床醫(yī)生也積極與企業(yè)家建立聯(lián)系。我們?cè)诠韫冗€設(shè)立了科技孵化項(xiàng)目Health2047,，基于醫(yī)學(xué)會(huì)的見(jiàn)解孕育出十幾家公司,。

歸根結(jié)底，我們需要建立起一套監(jiān)管框架,，確保只有經(jīng)過(guò)臨床驗(yàn)證的產(chǎn)品才能進(jìn)入市場(chǎng),。我們必須確保這些工具能夠真正兌現(xiàn)其承諾，使其成為提升效率的資產(chǎn),、而非“沒(méi)事找事”的負(fù)擔(dān),。

我認(rèn)為AI技術(shù)并不會(huì)取代醫(yī)生，但那些善于運(yùn)用AI的醫(yī)生會(huì)取代那些不懂如何使用AI的醫(yī)生,。AI方案有著巨大的應(yīng)用潛力,，有望減輕醫(yī)生和論據(jù)的管理負(fù)擔(dān)。最終,，預(yù)計(jì)我們?cè)诓』甲o(hù)理中直接引入AI的方式將會(huì)取得巨大成功,。其中有著大量令人興奮的用例，但我們還需要保證借工具與技術(shù)之力,，妥善解決種族偏見(jiàn),、危害性錯(cuò)誤、安全,、隱私以及健康信息威脅等現(xiàn)實(shí)挑戰(zhàn),。所以在盲目擴(kuò)大AI工具的應(yīng)用范圍之前，首先應(yīng)保證醫(yī)生了解如何管理這些風(fēng)險(xiǎn),、如何承擔(dān)起肩上的這份責(zé)任,。