來源：至頂網(wǎng)

隨著AI越來越多融入我們的日常生活,，它對(duì)醫(yī)療保健及醫(yī)學(xué)研究的影響也必然覆蓋每一個(gè)人,，以或直接、或間接的方式引領(lǐng)我們進(jìn)入AI醫(yī)療新時(shí)代,。那么，我們?cè)撊绾未_保以負(fù)責(zé)任的方式實(shí)施AI,，在實(shí)現(xiàn)其大部分積極收益的同時(shí),，最大限度減少潛在的負(fù)面影響？

在2024年3月召開的SXSW（西南偏南）2024大會(huì)上,，美國醫(yī)學(xué)會(huì)（AMA）主席Jesse Ehrenfeld醫(yī)生發(fā)表了題為《AI,、醫(yī)療保健與醫(yī)學(xué)的奇異未來》的演講,。在AI Today播客的后續(xù)采訪中，Ehrenfeld博士進(jìn)一步延伸了演講內(nèi)容,，并分享了更多關(guān)于AI影響醫(yī)學(xué)領(lǐng)域的見解,。

主持人：您如何看待AI對(duì)于醫(yī)學(xué)的影響？美國醫(yī)學(xué)會(huì)最近為什么要發(fā)布一整套AI原則,？

Jesse Ehrenfeld醫(yī)生：我是一名執(zhí)業(yè)醫(yī)生和麻醉師,，實(shí)際上，前幾天我還剛剛為病人進(jìn)行過診療服務(wù),。我在威斯康星州密爾沃基的威斯康星醫(yī)學(xué)院工作,，已經(jīng)擁有約20年的執(zhí)業(yè)經(jīng)歷。我是美國醫(yī)學(xué)會(huì)的現(xiàn)任主席,，代表著全美規(guī)模最大,、最具影響力的醫(yī)生團(tuán)體。醫(yī)學(xué)會(huì)成立于1847年,，是醫(yī)學(xué)道德準(zhǔn)則與一系列指導(dǎo)當(dāng)今美國醫(yī)生提供診療服務(wù)的原則的傳播機(jī)構(gòu),。我本人擁有麻醉學(xué)與臨床信息學(xué)方面的委員會(huì)認(rèn)證，也是首個(gè)被任命為醫(yī)學(xué)會(huì)主席的信息學(xué)家成員,。除了這個(gè)相對(duì)較新的專業(yè)身份之外,，我還在海軍服役了十年?？偠灾?，我所做的一切都是為了了解該如何為患者提供高質(zhì)量的醫(yī)療服務(wù)，并通過我的親身工作與積極實(shí)踐將其推廣給更多受眾,。

其實(shí)大家可以想見,，如今的醫(yī)生們?nèi)员池?fù)著很多沉重且劣質(zhì)的技術(shù)債務(wù)，這些技術(shù)不僅沒有積極作用,、甚至不能算是有價(jià)值的資產(chǎn),。我們絕不能讓這樣的情況重演，特別是不能在AI時(shí)代下重演,。為此,，美國醫(yī)學(xué)會(huì)于2023年11月發(fā)布了一套AI開發(fā)、部署與使用原則,，旨在回應(yīng)我們從醫(yī)生和公眾那里收集到的擔(dān)憂和疑慮,。

公眾對(duì)這些AI系統(tǒng)抱有很多疑問。這些系統(tǒng)是干什么用的,？他們能不能信任AI,？安全到底有沒有保障？面對(duì)此類問題,，我們需要用原則指導(dǎo)每一項(xiàng)工作,，并與聯(lián)邦政府,、國會(huì)、各級(jí)地方政府以及行業(yè)開展合作,，確保這些技術(shù)能夠在護(hù)理服務(wù)系統(tǒng)的開發(fā),、部署和最終使用階段發(fā)揮作用。

自2018年以來,，我們就一直在研究AI政策,。但在最新幾輪迭代中，我們呼吁政府對(duì)AI采取全面的治理方法,，包括必須確保降低患者風(fēng)險(xiǎn)并盡可能提升技術(shù)效用,。這些原則希望能將主題專家、醫(yī)生,、信息學(xué)家和國家級(jí)專業(yè)團(tuán)體匯聚起來以完成各項(xiàng)工作,，原則的具體條款也越發(fā)豐富。

主持人：您能不能概述一下這些AI原則,？

Jesse Ehrenfeld醫(yī)生：最重要的一點(diǎn),，就是我們希望保證以道德、公平,、負(fù)責(zé)任且透明的方式,，完成醫(yī)療保健AI的設(shè)計(jì)、開發(fā)與部署工作,。我們的愿景和立場(chǎng)非常明確：必須嚴(yán)格遵守國家提出的治理政策,，以符合道德且負(fù)責(zé)任的方式開發(fā)AI方案。單憑自愿協(xié)議與自愿遵守的承諾還不夠,，我們必須介入監(jiān)管并采取基于風(fēng)險(xiǎn)的管理方法,。審查與驗(yàn)證監(jiān)督的程度，應(yīng)該與AI系統(tǒng)可能帶來的潛在危害或后果成正比,。也就是說,，對(duì)于支持診斷和調(diào)度操作的兩類AI方案來講，其可能將對(duì)應(yīng)不同的監(jiān)管級(jí)別,。

我們對(duì)全美各地的醫(yī)生進(jìn)行了大量調(diào)查,，希望了解當(dāng)今實(shí)踐中發(fā)生的情況，結(jié)果也的確表明AI技術(shù)在醫(yī)學(xué)領(lǐng)域的使用正在增加,。結(jié)果令人興奮，但我認(rèn)為這也應(yīng)該對(duì)開發(fā)商膛監(jiān)管機(jī)構(gòu)起到一點(diǎn)警示作用,。醫(yī)生普遍對(duì)AI在醫(yī)療保健領(lǐng)域的潛在非?？春谩娜勒{(diào)查樣本來看,，65%的受訪美國醫(yī)生認(rèn)為AI的實(shí)踐應(yīng)用具備一定優(yōu)勢(shì),，例如幫助記錄文檔,、翻譯文檔、協(xié)助診斷,，以及通過預(yù)授權(quán)等自動(dòng)化方式減輕行政工作負(fù)擔(dān)等,。

但他們也抱有一定擔(dān)憂。41%的受訪醫(yī)生表示,，他們對(duì)AI技術(shù)既興奮又害怕,。此外，人們還擔(dān)心AI技術(shù)會(huì)影響患者隱私以及醫(yī)患關(guān)系,。歸根結(jié)底,，我們希望未來上市的產(chǎn)品都能安全可靠。這是我們從醫(yī)生和消費(fèi)者群體中獲取信息的前提,，也是我們長期堅(jiān)守的原則在支持高質(zhì)量,、經(jīng)過臨床驗(yàn)證的AI開發(fā)中的實(shí)際體現(xiàn)。

主持人：那么您具體關(guān)注哪些數(shù)據(jù)和健康隱私問題呢,？

Jesse Ehrenfeld醫(yī)生：我發(fā)現(xiàn)患者和消費(fèi)者對(duì)數(shù)據(jù)和AI仍抱有諸多疑問,，比如醫(yī)療保健應(yīng)用到底有什么用？里面的數(shù)據(jù)去哪了,？他們能使用或者分享這些信息嗎,？遺憾的是，聯(lián)邦政府并沒能真正保障數(shù)據(jù)流向的透明度,。舉個(gè)最極端的例子,，高能一家公司、一家開發(fā)商和一款應(yīng)用軟件,。這款軟件被標(biāo)記為“符合HIPAA”,，那么在普通人看來，這就意味著自己存放在其中的數(shù)據(jù)是安全,、私密且有保障的,。然而應(yīng)用軟件本身并不屬于HIPAA涵蓋的實(shí)體，而HIPAA條款只能約束公司和開發(fā)商,。因此對(duì)于根本不在保障范圍之內(nèi)的應(yīng)用軟件,，所謂“符合HIPAA”完全是一種誤導(dǎo)，我們也不該允許這種情況發(fā)生,。

人們對(duì)于健康數(shù)據(jù)的去向也存在很多擔(dān)憂,，這顯然影響到患者對(duì)于AI技術(shù)的接納度。94%的受訪患者告訴我們,，他們希望出臺(tái)強(qiáng)有力的法律來管理醫(yī)療數(shù)據(jù)的使用方式,。如果患者不了解數(shù)字工具的隱私設(shè)計(jì)與影響因素，他們就很可能拒絕使用數(shù)字工具。另外,，雖然作為監(jiān)管方的我們有很多工作要做,，但AI開發(fā)者那邊也可以做出一系列努力，保證即使沒有法律要求,、也愿意盡可能加強(qiáng)AI數(shù)據(jù)的可信度,。

以各位最熟悉的大型科技企業(yè)為例，你愿意把自己的醫(yī)療保健數(shù)據(jù)交給他們嗎,？如果發(fā)生數(shù)據(jù)泄露該怎么辦,？您是否會(huì)將身體部位的敏感照片上傳至他們的服務(wù)器，以便對(duì)方能為我們提供一些潛在的病變分析與防治建議,？一旦出現(xiàn)數(shù)據(jù)問題,，您又會(huì)怎么做？會(huì)打電話給誰,？總而言之,，我認(rèn)為應(yīng)當(dāng)在數(shù)據(jù)收集和流向方面提高透明度，讓普通消費(fèi)者也能了解如何拒絕共享自己的數(shù)據(jù),。

但遺憾的是,，HIPAA并沒能解決所有這些問題。實(shí)際上,，許多此類應(yīng)用軟件壓根就不在HIPAA的管控范疇之內(nèi),。我們需要采取更多措施來確保醫(yī)療數(shù)據(jù)的安全性和隱私性。

主持人：您認(rèn)為AI將在哪些方面,、以及將如何對(duì)醫(yī)療保健和醫(yī)學(xué)產(chǎn)生積極影響,？

Jesse Ehrenfeld醫(yī)生：我們別無選擇，必須使用AI等先進(jìn)技術(shù),。要想解決當(dāng)今醫(yī)療保健領(lǐng)域所面臨的勞動(dòng)力危機(jī),，擁抱新興技術(shù)已經(jīng)是不二之選。而且不僅限于美國,，這已經(jīng)成為一個(gè)全球性的問題,。美國有8300萬民眾連最基本的醫(yī)療保健服務(wù)都得不到，就是因?yàn)檫@里沒有充足的醫(yī)生,。如果我們繼續(xù)以同樣的方式工作并提供護(hù)理服務(wù),，就永遠(yuǎn)不可能開設(shè)足夠多的醫(yī)學(xué)院、培養(yǎng)出足夠多的住院醫(yī)師來滿足這些需求,。

而在從美國醫(yī)學(xué)會(huì)的角度討論AI時(shí),，我們實(shí)際上更喜歡使用“增強(qiáng)智能”的表述，而非人工智能,。因?yàn)樗K究要回歸一項(xiàng)基本原則：工具的意義應(yīng)該是提高我們醫(yī)療團(tuán)隊(duì),、醫(yī)生,、護(hù)士乃至每位相關(guān)人員的能力，以便其更有效也更高效地提供診療服務(wù),。目前最大的問題，就是缺少統(tǒng)一的平臺(tái),。我們已經(jīng)獲得了不少碎片化的解決方案,，但它們彼此之間沒有能整合起來，但好消息是已經(jīng)有企業(yè)在迅速朝著這個(gè)方向邁進(jìn),。很明顯,，我們希望這種趨勢(shì)也能出現(xiàn)在醫(yī)療領(lǐng)域。

我們正在嘗試多種不同途徑,，以確保我們?cè)谡麄€(gè)設(shè)計(jì)和開發(fā)過程中擁有發(fā)言權(quán),。我們建立起醫(yī)生創(chuàng)新網(wǎng)絡(luò)，這是一套免費(fèi)的在線平臺(tái),，能夠?qū)⑨t(yī)療領(lǐng)域的企業(yè)家匯聚起來幫助推動(dòng)變革與創(chuàng)新,，并為市場(chǎng)帶來更好的產(chǎn)品。醫(yī)療企業(yè)正在尋求臨床投入,，臨床醫(yī)生也積極與企業(yè)家建立聯(lián)系,。我們?cè)诠韫冗€設(shè)立了科技孵化項(xiàng)目Health2047，基于醫(yī)學(xué)會(huì)的見解孕育出十幾家公司,。

歸根結(jié)底,，我們需要建立起一套監(jiān)管框架，確保只有經(jīng)過臨床驗(yàn)證的產(chǎn)品才能進(jìn)入市場(chǎng),。我們必須確保這些工具能夠真正兌現(xiàn)其承諾,，使其成為提升效率的資產(chǎn)、而非“沒事找事”的負(fù)擔(dān),。

我認(rèn)為AI技術(shù)并不會(huì)取代醫(yī)生,，但那些善于運(yùn)用AI的醫(yī)生會(huì)取代那些不懂如何使用AI的醫(yī)生。AI方案有著巨大的應(yīng)用潛力,，有望減輕醫(yī)生和論據(jù)的管理負(fù)擔(dān),。最終，預(yù)計(jì)我們?cè)诓』甲o(hù)理中直接引入AI的方式將會(huì)取得巨大成功,。其中有著大量令人興奮的用例,，但我們還需要保證借工具與技術(shù)之力，妥善解決種族偏見,、危害性錯(cuò)誤,、安全、隱私以及健康信息威脅等現(xiàn)實(shí)挑戰(zhàn),。所以在盲目擴(kuò)大AI工具的應(yīng)用范圍之前,，首先應(yīng)保證醫(yī)生了解如何管理這些風(fēng)險(xiǎn)、如何承擔(dān)起肩上的這份責(zé)任。