● ● ●
“當(dāng)一個無人駕駛汽車剎車失靈，是往左轉(zhuǎn)撞死一個人，還是往右轉(zhuǎn)撞死五個人？這個時候是否人類文明的倫理適用于人工智能？”11月22日，北京大學(xué)健康醫(yī)療大數(shù)據(jù)研究中心副主任王海波用倫理學(xué)的經(jīng)典電車難題，引出了智慧醫(yī)療的一個核心議題——
人工智能當(dāng)前的一個非常大的特點(diǎn)是，它有不可解釋性，讓人不明覺厲，但在醫(yī)療領(lǐng)域則可能面臨巨大的倫理挑戰(zhàn)。當(dāng)醫(yī)療AI對的時候，所有人皆大歡喜；當(dāng)醫(yī)療AI犯了錯，盡管概率很小，但錯的時候，誰來負(fù)這個責(zé)任。是醫(yī)生嗎？是寫程序的程序員？還是簽字買這個醫(yī)療AI的院長？
在當(dāng)天由“知識分子”和北京大學(xué)健康醫(yī)療大數(shù)據(jù)國家研究院聯(lián)合主辦的“智慧醫(yī)療：潛力與挑戰(zhàn)”論壇上，三位來自醫(yī)學(xué)、人工智能、倫理學(xué)領(lǐng)域的嘉賓，就人類智慧和人工智能在真實(shí)醫(yī)療情境下的發(fā)展，展開了精彩對話。
當(dāng)前，在需求、政策、資本和技術(shù)的共同驅(qū)動下，中國的智慧醫(yī)療產(chǎn)業(yè)正進(jìn)入高速發(fā)展期。這是一個人口規(guī)模巨大的健康醫(yī)療市場。
北京大學(xué)常務(wù)副校長、北大醫(yī)學(xué)部主任、中國工程院院士詹啟敏
民生的需求是排在第一位的。北京大學(xué)常務(wù)副校長、北大醫(yī)學(xué)部主任、中國工程院院士詹啟敏在此次論壇中表示，當(dāng)前中國醫(yī)療健康面臨惡性腫瘤、心腦血管等重大疾病，醫(yī)療手段有限，臨床實(shí)踐大量依靠人力，以及醫(yī)療資源分布不均衡、發(fā)展不充分等多重挑戰(zhàn)，智慧醫(yī)療作為新的醫(yī)療模式，有望提供快捷、精準(zhǔn)、有效，而且價格合適的醫(yī)療健康服務(wù)，從而解決老百姓的健康需求。
中國工程院院士、清華大學(xué)臨床醫(yī)學(xué)院院長董家鴻引用《柳葉刀》的數(shù)據(jù)指出，中國的醫(yī)療支出僅占GDP的6.5%，這僅相當(dāng)于全球衛(wèi)生資源投入的2%，不到美國和歐洲的1/3、1/2，卻負(fù)擔(dān)了全球20%人口的健康醫(yī)療，這是一個巨大的驚人的成就，但同時醫(yī)務(wù)工作者也作出了巨大的風(fēng)險(xiǎn)和犧牲。
“全國只有360萬醫(yī)生，但中國老齡人口已經(jīng)達(dá)到2.48億，確診為慢病患者的人數(shù)超過3億，相對于整個社會的健康醫(yī)療服務(wù)需求，中國的醫(yī)療資源供應(yīng)不足，基層和邊遠(yuǎn)地區(qū)更是十分匱乏，而且資源配置嚴(yán)重不均衡、結(jié)構(gòu)嚴(yán)重不合理的問題十分突出?！倍银櫛硎荆爸腔坩t(yī)療有望成為解決醫(yī)療供需矛盾，提高成本效益的新的策略”。
巨大的需求，同時意味著巨大的市場。董家鴻表示，近年來國家連續(xù)出臺政策推動智慧醫(yī)療發(fā)展，同時中國的前沿科技發(fā)展，尤其是智能技術(shù)的發(fā)展和應(yīng)用，意味著未來中國數(shù)字化醫(yī)療和智慧醫(yī)療產(chǎn)業(yè)發(fā)展面臨重大機(jī)遇。他披露的一項(xiàng)分析數(shù)據(jù)顯示，2030年，智慧醫(yī)療的技術(shù)應(yīng)用可能高達(dá)2萬億~7萬億元市場規(guī)模。
在眾說紛紜的智慧醫(yī)療定義中，大數(shù)據(jù)、人工智能、物聯(lián)網(wǎng)、互聯(lián)網(wǎng)和云計(jì)算等核心技術(shù)的支撐，都是不可或缺的。董家鴻倡導(dǎo)將“智慧醫(yī)療”定義為現(xiàn)代科技賦能于傳統(tǒng)的健康醫(yī)療服務(wù)，形成最優(yōu)化的大健康體系。
他在演講中特別列舉了國內(nèi)目前在智慧醫(yī)療領(lǐng)域取得的關(guān)鍵技術(shù)突破。包括國產(chǎn)腦起搏器通過精準(zhǔn)定位和電磁刺激來治療帕金森病、覆蓋13個部位的骨科手術(shù)機(jī)器人系統(tǒng)、智能化精準(zhǔn)肝膽手術(shù)系統(tǒng)、前列腺癌全程智能化精準(zhǔn)醫(yī)療，等等。而在人工智能方面，包括智能藥物研發(fā)、智能診斷、醫(yī)療機(jī)器人、智能影像識別和智能健康管理，將助力健康醫(yī)療產(chǎn)業(yè)的提質(zhì)增效。
在全球范圍內(nèi)，人工智能也早已應(yīng)用于醫(yī)療領(lǐng)域。騰訊優(yōu)圖實(shí)驗(yàn)室醫(yī)療AI總監(jiān)鄭冶楓在演講中介紹，1990年芝加哥大學(xué)醫(yī)學(xué)院首次證明計(jì)算機(jī)輔助診斷和醫(yī)生的結(jié)合，能提高醫(yī)生診斷的準(zhǔn)確率。而2016年谷歌研發(fā)的眼底糖網(wǎng)分類技術(shù)和2017年斯坦福大學(xué)研發(fā)的皮膚癌診斷技術(shù)，證明了在特定任務(wù)下人工智能甚至超越醫(yī)生。
鄭冶楓所在團(tuán)隊(duì)專注于深度學(xué)習(xí)在醫(yī)學(xué)影像領(lǐng)域的應(yīng)用。2017年8月騰訊推出了輔助疾病早期篩查的AI醫(yī)學(xué)影像產(chǎn)品騰訊覓影，目前已經(jīng)覆蓋了食管癌、肺癌等六個病種，還有更多病種在實(shí)驗(yàn)室研發(fā)階段。鄭冶楓指出，中國醫(yī)療影像存在供給不平衡的現(xiàn)狀，隨著影像設(shè)備（CT、MRI）數(shù)量迅速上升，影像數(shù)據(jù)每年增長30%，但影像醫(yī)生每年的增長為4%，短期內(nèi)難以大量增加。同時，基層醫(yī)生的誤診、漏診率高，以食管癌早篩為例，檢出率不足10%。他認(rèn)為，通過計(jì)算機(jī)輔助診斷是解決供需不平衡的方向。
智慧醫(yī)療的標(biāo)志性方向就是人工智能的應(yīng)用。盡管人工智能在醫(yī)療中的應(yīng)用已經(jīng)取得一些進(jìn)展，但在數(shù)據(jù)資源共享、技術(shù)發(fā)展、醫(yī)生訓(xùn)練、倫理風(fēng)險(xiǎn)等方面，依然是一個充滿挑戰(zhàn)的新的領(lǐng)域。
醫(yī)療健康資源，包括大數(shù)據(jù)的共享問題首當(dāng)其沖。詹啟敏認(rèn)為，智慧醫(yī)療推進(jìn)過程中的挑戰(zhàn)在于大數(shù)據(jù)的標(biāo)準(zhǔn)、儲存、安全和共享，涉及到個人隱私和知識產(chǎn)權(quán)。
“醫(yī)療資源共享遠(yuǎn)遠(yuǎn)不能實(shí)現(xiàn)，即使是一個大學(xué)的附屬各個醫(yī)院之間也不能共享，這個問題亟待解決”，董家鴻深有同感。他表示，醫(yī)療資源共享，一是可以避免醫(yī)療資源浪費(fèi)，二是可以推動更好的醫(yī)療衛(wèi)生決策，以及幫助包括人工智能在內(nèi)的研究。德國有全國性醫(yī)療資源共享系統(tǒng)，美國實(shí)現(xiàn)了區(qū)域性的醫(yī)療資源共享，希望中國也能建成全民健康檔案，但是難度非常大。
“表面上看數(shù)據(jù)融合比較困難，它的本質(zhì)是利益格局的融合?！蓖鹾２ㄕf道，“本身數(shù)據(jù)是資產(chǎn)，信息流動在不同醫(yī)院里有自己的利益格局，怎么處理？這不單單是技術(shù)的問題，而是社會治理的問題?！?/span>
而技術(shù)的發(fā)展在當(dāng)前也面臨挑戰(zhàn)。鄭冶楓談到，人工智能應(yīng)用于醫(yī)學(xué)影像本質(zhì)上是圖像識別問題，但當(dāng)前“缺乏大量標(biāo)定好的數(shù)據(jù)樣本”。跟其他圖像不同的是，醫(yī)學(xué)影像數(shù)據(jù)面臨著三大困難：數(shù)據(jù)獲取對專業(yè)設(shè)備有要求，還會涉及患者隱私、罕見疾病及數(shù)據(jù)標(biāo)注門檻高，需要專業(yè)醫(yī)生才能標(biāo)注準(zhǔn)確。
騰訊優(yōu)圖實(shí)驗(yàn)室醫(yī)療AI總監(jiān)鄭冶楓
為解決數(shù)據(jù)共享和訓(xùn)練樣本不足的問題，鄭冶楓介紹了“遷移學(xué)習(xí)”和建設(shè)開源平臺“Med3D”（注：“Med3D”即構(gòu)建三維影像的ImageNet）兩種辦法。前者是在有大量數(shù)據(jù)集的源域上訓(xùn)練模型，將模型遷移到小量數(shù)據(jù)集的目標(biāo)域上，從而減少對訓(xùn)練樣本的需求。后者則希望通過開源的辦法，建立共享數(shù)據(jù)平臺。
“現(xiàn)在人工智能的實(shí)現(xiàn)是在一個非常窄的領(lǐng)域，有海量的數(shù)據(jù)，有非常清晰的界定應(yīng)用場景下，它才能做得跟人一樣，甚至比人好?！蓖鹾２ㄕf，但是為了解決共享數(shù)據(jù)不足的現(xiàn)實(shí)問題，出現(xiàn)的小樣本、遷移學(xué)習(xí)的模式也可能帶來如適應(yīng)癥偏移等新的風(fēng)險(xiǎn)。
針對技術(shù)發(fā)展帶來的不確定性，董家鴻認(rèn)為人機(jī)協(xié)同是未來的必然選擇。他闡釋道，醫(yī)學(xué)和工科的合作，就是從不確定性的事件中尋找確定性，AI能夠給醫(yī)生提供的最大幫助也在于此。某一類人群、某一類疾病里面有確定性的東西，但是病人和病人之間有很大的個體差異，這就是不確定性。這種不確定性總是存在的，最終還是要靠醫(yī)生的智慧。
真實(shí)的場景總是更為復(fù)雜。北京大學(xué)醫(yī)學(xué)人文學(xué)院醫(yī)學(xué)倫理與法律系主任叢亞麗指出，中國的問題是醫(yī)生水平參差不齊，人工智能最能幫助的是水平有待提高的醫(yī)生，尤其真正提高基層和邊遠(yuǎn)地區(qū)醫(yī)生的水平。
北京大學(xué)醫(yī)學(xué)人文學(xué)院醫(yī)學(xué)倫理與法律系主任叢亞麗
“人工智能技術(shù)應(yīng)用肯定要包含對于不同場景的描述，因?yàn)槲覀円矒?dān)心它被用錯了”，鄭冶楓表示，“AI作為新的工具，不可能不經(jīng)培訓(xùn)就拿來用。醫(yī)生的培訓(xùn)非常重要。它的診斷準(zhǔn)確率看起來比較高，但也會犯錯。所以醫(yī)生要花一定時間摸清楚它犯錯的規(guī)律，這樣才能真正有所幫助。另外流程上醫(yī)生應(yīng)該先讀片子，再看AI的診斷，然后再去比較和綜合。”
北京大學(xué)醫(yī)學(xué)部副主任肖淵就此補(bǔ)充道，一個國家全民的健康應(yīng)該有一個完整的醫(yī)療體系。其中要有分層、要有分類指導(dǎo)，要有不同發(fā)展階段的推動。從實(shí)踐來看，當(dāng)前這個體系還不完善，怎么更好地發(fā)揮AI技術(shù)的作用，各個地區(qū)也在做不同的探索。比如社會經(jīng)濟(jì)發(fā)展比較好的地區(qū)，像深圳就用醫(yī)聯(lián)體的方式，在互聯(lián)網(wǎng)上構(gòu)架了一個比較均衡化的醫(yī)療服務(wù)水準(zhǔn)和平臺。而寧夏采用的是另一種方式，他們是建立醫(yī)學(xué)中心，通過互聯(lián)網(wǎng)技術(shù)把心電圖、X光片中的影像學(xué)等比較好傳送的基礎(chǔ)診斷上傳到上一層的醫(yī)療中心。在社會經(jīng)濟(jì)發(fā)展不平衡的狀態(tài)下，用技術(shù)分類指導(dǎo)推動醫(yī)療更好地服務(wù)于人、服務(wù)于整個民眾的健康是很有必要的。
在論壇圓桌討論環(huán)節(jié)，嘉賓們從各自經(jīng)驗(yàn)出發(fā)對“人工智能會超過人嗎？”“人工智能是否會傷害人類？”“人工智能發(fā)展的邊界在哪里？該如何制定規(guī)則”等問題進(jìn)行深入探討。
在人工智能與人的比較上，叢亞麗表達(dá)了深切憂慮，“我覺得人類智慧在AI面前會失能，AI會大大勝出”，因?yàn)锳I不會感到疼痛和失去。
“我覺得現(xiàn)在還處于非常初步的階段”，鄭冶楓認(rèn)為，“人工智能替代人類，那是50年后、100年后的事情，現(xiàn)在要著眼于各個具體的問題，把算法的準(zhǔn)確率提高，使其跟醫(yī)生協(xié)同合作，改善醫(yī)療環(huán)境?！?/span>
在董家鴻看來，在某些方面人工智能可以超過人，但在總體的智慧上，機(jī)器永遠(yuǎn)不可能超過人類。
“技術(shù)是服務(wù)于人的，人工智能的發(fā)展是為了為人類提供更好的健康服務(wù)。”董家鴻說，“我們要認(rèn)識到是醫(yī)生的AI，而不是AI醫(yī)生?！?/span>
從醫(yī)療服務(wù)診斷的感知、認(rèn)知、決策、干預(yù)幾個主要流程上，他進(jìn)一步分析道，人工智能可以在感知方面超越人的極限，在認(rèn)知方面也可以在某種程度上超越人，為醫(yī)生提供輔助決策支持。包括對于腫瘤發(fā)生機(jī)理的研究，未來如果在算法上無法取得突破，則對于腫瘤本質(zhì)的認(rèn)識和防治策略不可能有突破。但是個體疾病復(fù)雜的變異性，常態(tài)的個體差異，一定還需要醫(yī)生的智慧。如果要求醫(yī)生遵從機(jī)器的決策，那會出很多問題。而從干預(yù)方面，機(jī)器可以提高手術(shù)操作的精度和可控性，但必須要由醫(yī)生做出判斷和控制機(jī)器人，否則要出問題。
董家鴻認(rèn)為，當(dāng)前醫(yī)療AI風(fēng)險(xiǎn)在于不可解釋性，那就是為什么人工智能能夠作出準(zhǔn)確的判斷，如果沒有明晰的原理可解釋，在實(shí)際使用過程中醫(yī)生心里不踏實(shí)，患者接受起來也有疑慮?！叭绻粋€醫(yī)生犯了錯，受損害的是一個病人。如果人工智能機(jī)器人出了錯，將會損害一批病人?！币虼?，董家鴻主張將機(jī)器人作為輔助，讓它處理確定性的事件，由醫(yī)生來處理不確定性事件，并承擔(dān)起法律上的責(zé)任。
對此，鄭冶楓則認(rèn)為人工智能“不可解釋性的問題被夸大了”，“如果把AI想象成藥物（有效但機(jī)理暫未明確），就不會苛求它的解釋性了，有解釋性當(dāng)然是錦上添花?！彼鲝?，把AI限制在固定場景下應(yīng)用，且確實(shí)證明有效即可。
“醫(yī)學(xué)里確實(shí)有很多東西背后的原理和機(jī)制還沒有搞清楚，也不能等待原理機(jī)制都搞清楚了再去應(yīng)用”，董家鴻就此表示，對于不可解釋的藥物、人工智能技術(shù)，應(yīng)該嚴(yán)格限定它的應(yīng)用邊界。如果可解釋，人就可以有更大的發(fā)揮，懂得它的機(jī)制可以舉一反三。不可解釋的情況下，如果在某個領(lǐng)域被證明是有效的，則可以允許使用。
那么，當(dāng)醫(yī)生的決策依賴于AI，這意味著什么？王海波提到自己參與的一項(xiàng)研究顯示，盡管AI只是提供輔助決策的功能，但實(shí)際操作中，也可能產(chǎn)生對醫(yī)生自主性的侵蝕。“在中國醫(yī)療資源供需失衡的情況下，當(dāng)面對大量的病人和很高的工作強(qiáng)度，醫(yī)生很可能會過度依賴人工智能決策，這種自主性被侵蝕，對醫(yī)生意味著什么，對病人意味著什么，對整個醫(yī)療又意味著什么？”
董家鴻認(rèn)為，問題需要從科學(xué)和倫理兩個層面考慮。首先，人體和疾病都是極其復(fù)雜的，因此在人類的健康醫(yī)療服務(wù)中是不可能不出錯誤的。從醫(yī)學(xué)的角度來看，它的發(fā)展本身就是一個不斷試錯和校正的過程，先進(jìn)的科技手段確實(shí)能夠幫助醫(yī)生做出更正確的判斷，做更精準(zhǔn)的干預(yù)，但仍然不可能完全避免出錯，最終主導(dǎo)的主體仍然是醫(yī)生。醫(yī)生也應(yīng)該加強(qiáng)培訓(xùn)和學(xué)習(xí)，更好地理解人工智能帶來的輔助決策的支持和它的局限性，從而讓人類站在更高的智慧水平上更好更準(zhǔn)確地利用人工智能。
而從倫理的角度，參與對話的專家表示，智慧醫(yī)療的目的不是方法，不是人工智能，而是為了健康，根本還是為了人。因此，需要工程、醫(yī)學(xué)、倫理、法律共同探討，最終還是在人類的健康福祉準(zhǔn)則下，共同制定倫理法規(guī)。
北京大學(xué)健康醫(yī)療大數(shù)據(jù)研究中心副主任王海波
王海波以回應(yīng)開場的倫理學(xué)電車難題作為總結(jié)，“當(dāng)時我的回答是人工智能怎么選擇都是錯的。這個時候，人工智能應(yīng)該把決定權(quán)交給車上的人。同樣，智慧醫(yī)療也是，當(dāng)機(jī)器作出判斷的時候，最終診斷的決策權(quán)、治療干預(yù)的決策權(quán)應(yīng)該交給醫(yī)生。”
聯(lián)系客服
