谷歌（google）旗下的英國人工智能研究公司DeepMind在《自然》（Nature）雜志上發(fā)表了一篇研究報告，其中討論了一種深度學習模型的性能，該模型可以持續(xù)預測患者未來罹患一種名為急性腎損傷（AKI）的危及生命的疾病的可能性。

該公司表示，其模型能夠準確預測患者將在48小時前“在臨床可操作的窗口內”發(fā)展成AKI。

DeepMind在一篇鼓吹該研究的博客文章中稱，這是一項突破——該論文表明，人工智能能夠在“可避免的患者傷害的主要原因之一”發(fā)生前兩天預測出它。

“這是我們團隊迄今為止在醫(yī)療保健研究方面取得的最大突破，”報告補充道，“證明了我們不僅能夠更有效地發(fā)現(xiàn)病情惡化，而且能夠在惡化發(fā)生之前就做出預測�！�

不過，即便是表面上看一下這份報紙，也會提出一些主要的警告。

尤其重要的是，用于訓練模型的數(shù)據(jù)絕大多數(shù)是男性：93．6％。這是因為DeepMind的人工智能使用的是美國退伍軍人事務部（VA）提供的病人數(shù)據(jù)。

研究報告指出，在培訓數(shù)據(jù)集中，女性僅占患者的6．38％。

本文還納入了數(shù)據(jù)集統(tǒng)計的匯總，顯示18．9％的患者為黑人，雖然黑人女性在培訓數(shù)據(jù)集中所占比例沒有突破（邏輯上認為可能低于6．38％）。沒有其他種族被打破。

當被問及該模型的跨性別和不同種族的表現(xiàn)能力時，DeepMind的一位女發(fā)言人告訴我們：“在女性中，它預測在所有已知性別的AKI患者中，早期有44．8％（男性56％）患有AKI�！狈且崦绹�患者的模型表現(xiàn)更高——早期檢測到的AKIs中有60．4％是非洲裔美國人，而其他所有種族的總檢出率為54．1％�！�

“這項研究只是第一步，”她證實。“要使該模型適用于一般人群，還需要進行進一步的研究，在模型所依據(jù)的數(shù)據(jù)中使用更有代表性的一般人群樣本�！�

數(shù)據(jù)集代表退伍軍人管理局的人口，我們承認這個樣本不能代表美國人口。就像所有的深度學習模型一樣，在更廣泛地使用之前，它還需要來自其他來源的代表性數(shù)據(jù)。

“我們的下一步將是與（退伍軍人管理局）密切合作，通過回顧性和前瞻性觀察研究安全地驗證該模型，然后有希望探索我們如何進行前瞻性干預研究，以了解預測如何在臨床環(huán)境中影響護理結果�！�

“要做這類工作，我們需要正確的數(shù)據(jù)，”她補充說�！巴宋檐娙斯芾砭衷谄渌�有醫(yī)院和站點使用相同的電子病歷系統(tǒng)（被廣泛認為是最全面的電子病歷之一），這意味著數(shù)據(jù)集也非常全面、干凈、結構良好。”

因此，DeepMind的“突破性”研究論文明確強調的是人工智能輸出與訓練輸入之間的反射關系。

在醫(yī)療保健的環(huán)境中，有指導意義的輸出可能是生與死的區(qū)別，而不是技術才是王道；關鍵是對代表性數(shù)據(jù)集的訪問——這才是真正的價值所在。

這表明，擁有納稅人資助的公共醫(yī)療系統(tǒng)的國家，有巨大的機會構建并釋放其掌握的民眾醫(yī)療數(shù)據(jù)所包含的價值，從而開發(fā)自己的公共醫(yī)療人工智能。

事實上，這是英國2017年產業(yè)戰(zhàn)略評估的建議之一的生命科學部門。

領導這項研究的牛津大學的約翰·貝爾爵士在給《衛(wèi)報》的評論中總結道：“大部分價值在于數(shù)據(jù)。我們能做的最糟糕的事就是免費送人�！�

Streams app評估

DeepMind也一直在研究英國的醫(yī)療數(shù)據(jù)。

自2015年以來，減少臨床醫(yī)生識別患者發(fā)生AKI的時間一直是一個應用程序開發(fā)項目的重點，該項目與英國國民健康服務（NHS）的醫(yī)生合作開發(fā)一款警報和臨床任務管理應用程序。

這款名為Streams的應用程序利用NHS的算法檢測AKI，已經(jīng)在NHS的幾家醫(yī)院部署。同樣在今天，DeepMind及其應用程序開發(fā)合作伙伴NHS trust發(fā)布了一份由倫敦大學學院（University College London）牽頭的流媒體績效評估報告。

該評估結果發(fā)表在《自然數(shù)字醫(yī)學》和《醫(yī)學互聯(lián)網(wǎng)研究雜志》兩篇論文中。

在其博客DeepMind索賠評估顯示，應用“改善了病人的護理質量加快檢測和防止遺漏病例”，進一步要求臨床醫(yī)生”能夠應對緊急阿基病例14分鐘或更少”，這表明使用現(xiàn)有系統(tǒng)“可能已經(jīng)幾個小時”。

該機構還聲稱，NHS的醫(yī)療費用將從11772英鎊降至9761英鎊，為AKI患者提供住院治療。

盡管值得強調的是，根據(jù)目前與NHS信托公司簽訂的合同，DeepMind免費提供Streams服務。因此，任何降低成本的索賠都伴隨著一些主要的警告。

簡而言之：我們不知道數(shù)據(jù)驅動、數(shù)字化提供的醫(yī)療服務未來的成本——因為業(yè)務模型還沒有定義。（盡管DeepMind此前曾提出，定價可以基于臨床結果。）

DeepMind還在談到Streams時寫道：“根據(jù)評估結果，該應用程序改善了負責治療AKI的臨床醫(yī)生的體驗，為他們節(jié)省了原本要花在瀏覽紙張、尋呼機提醒和多個桌面系統(tǒng)上的時間�！�

然而，討論中包含評價論文包含更警告比DeepMind的公關，萎靡不振的一大串計數(shù)器考慮，如培訓成本和信息過載的風險（和over－alerting）使它更加難以分類和管理保健需求，以及認為需要更多的研究來確定應用程序使用的更廣泛的臨床影響。

以下是其中一篇論文的結論，該論文的題目是《二次護理中數(shù)字化護理途徑的用戶體驗的定性評估》：

數(shù)字技術使早期發(fā)現(xiàn)不良事件和有惡化危險的患者成為可能，并有可能改善結果。它們還可能提高衛(wèi)生保健專業(yè)人員的工作效率。然而，在規(guī)劃和實施衛(wèi)生保健領域的數(shù)字信息創(chuàng)新時，還應考慮以下因素：提供臨床培訓以有效管理早期檢測，提供資源以應付額外的工作量，支持管理感知到的信息過載，優(yōu)化算法以盡量減少不必要的警報。

第二篇研究Streams對臨床結果和相關醫(yī)療成本的影響的論文得出的結論是，“數(shù)字化的臨床干預手段能夠檢測和治療住院患者的AKI，從而降低了醫(yī)療成本，并可能降低了心臟驟停率”。

“它對其他臨床結果的影響，以及對該通路活性成分的識別，需要通過跨多個位點的評估來澄清，”它補充說。

需要說明的是，目前用于管理AKI警報的Streams應用程序不包括人工智能作為預測工具。今天發(fā)布的評估報告是關于臨床醫(yī)生使用該應用程序作為任務管理和推送由NHS算法驅動的通知式警報的工具。

但Streams應用程序是DeepMind及其母公司谷歌希望用來將人工智能診斷和預測應用到醫(yī)院病房的工具。

因此，DeepMind也與美國的數(shù)據(jù)集合作，試圖為AKI開發(fā)一個預測人工智能模型。（在意識到需要獲得英國監(jiān)管機構的額外批準后，該公司放棄了早期嘗試，即使用流患者數(shù)據(jù)訓練人工智能。）

現(xiàn)在每個醫(yī)生都有一部智能手機。因此，應用程序顯然是轉換在紙面尋呼機上運行時間超過谷歌存在時間的服務的阻力最小的途徑。

DeepMind與倫敦皇家自由NHS信托（Royal Free NHS Trust）合作開發(fā)應用的更廣泛意圖，在早期就已表明——建立“強大的通用學習算法”，這一雄心在兩家公司之間的諒解備忘錄中得到了表達。

我們在2016年和2017年對這一丑聞進行了廣泛報道，丑聞的背景是，大約160萬皇家免費NHS信托（Royal Free NHS Trust）患者的醫(yī)療記錄在Streams的開發(fā)階段被悄悄轉交給了DeepMind。后來證明，沒有數(shù)據(jù)共享的有效法律基礎。

谷歌并未要求患者同意將敏感的醫(yī)療數(shù)據(jù)與谷歌共享。監(jiān)管機構得出的結論是，他們不會對自己的醫(yī)療數(shù)據(jù)最終落在那里有合理的預期。

信托公司受命審計該項目——盡管最初引發(fā)爭議的最初數(shù)據(jù)共享安排并非如此。該公司沒有被命令刪除DeepMind對數(shù)據(jù)的訪問權限。

在app評估階段，NHS的數(shù)據(jù)通過流的患者也沒有要求他們同意參與倫敦大學學院／DeepMind／Royal Free研究；評估文件中關于“道德認可”的一份說明指出，倫敦大學學院認為它屬于服務評估（而非研究）的范疇，因此“不需要參與者同意”。

至少可以說，這是對流附加的基本同意失敗的不幸回應。

盡管如此，Royal Free和DeepMind仍在繼續(xù)推進他們的數(shù)據(jù)共享應用合作。事實上，DeepMind正在加速前進，努力超越NHS的AKI算法。

皇家自由倫敦的首席醫(yī)療官兼副首席執(zhí)行官克里斯·斯特里瑟（Chris Streather）博士在DeepMind公關發(fā)表的一份聲明中熱情洋溢地表示：“Streams評估的結果令人鼓舞，我們很高興與DeepMind Health的合作改善了患者的治療效果。

“數(shù)字技術是NHS前進的方向。就像我們可以通過移動設備接收交通和天氣警報一樣，醫(yī)生和護士也應該受益于能夠直接將可能拯救生命的信息送到他們手中的工具。

“在未來的幾個月里，我們將向Barnet醫(yī)院的臨床醫(yī)生介紹這款應用，并探索開發(fā)其他危及生命的疾病（如敗血癥）的解決方案的可能性。”

對NHS數(shù)據(jù)的爭奪

不過，谷歌－ deepmind流媒體計劃的下一階段可能會遇到更大的阻礙。

去年，DeepMind宣布將把這款應用程序轉交給母公司，作為谷歌自身數(shù)字健康推廣的一部分。因此，這與DeepMind自己的說法相矛盾。該公司曾表示，谷歌不會獲得人們的醫(yī)療記錄。

更像是：“在谷歌擁有所有數(shù)據(jù)和IP之前沒有訪問權限”，然后……

正如我們當時所說，這是一場信任危機。

從那以后，從DeepMind到谷歌的Streams應用程序似乎一直處于暫停狀態(tài)。

去年，皇家自由信托表示，沒有它的批準，這是不可能發(fā)生的。

當被問及是否會與谷歌簽訂新的流媒體合同時，一位發(fā)言人告訴我們：“目前，皇家自由倫敦與DeepMind的合同沒有變化。與所有與供應商的合同協(xié)議一樣，任何變更或未來的合同都將遵循信息治理和數(shù)據(jù)保護法規(guī)。信托公司將繼續(xù)在任何時候擔任數(shù)據(jù)控制器，這意味著它將負責所有病人的信息�！�

該信托基金拒絕回答其他問題，包括是否打算在NHS醫(yī)院部署一個包含預測人工智能模型的流版本；以及患者是否可以選擇退出他們的數(shù)據(jù)與谷歌共享。

目前還不清楚它的計劃是什么。盡管DeepMind和谷歌顯然是要讓Streams成為預測人工智能進入NHS病房的管道。它的博客積極推動向流媒體添加人工智能。

為了炒作前者，甚至不惜貶低后者。DeepMind Health的銷售說辭正在從“你需要這個應用程序”演變?yōu)椤澳阈枰�這個人工智能”……接著是“給我們你的數(shù)據(jù)”。

“至關重要的是，皇家自由的這些早期發(fā)現(xiàn)表明，為了進一步改善患者的預后，臨床醫(yī)生需要能夠在當前的NHS算法檢測到AKI之前進行干預——這就是為什么我們對AKI的研究如此有前景，”它寫道�！斑@些結果構成了我們預防性醫(yī)療長期愿景的基石，幫助醫(yī)生以積極而非被動的方式進行干預。

“目前Streams還沒有使用人工智能，但該團隊現(xiàn)在打算尋找將預測人工智能模型安全集成到Streams中的方法，以便為臨床醫(yī)生提供對患者病情惡化的智能洞察�！�

在其博客DeepMind也重申的溪流將并入谷歌－寫：“我們在2018年11月宣布，溪流團隊，和同事在轉化研究醫(yī)療工作，將加入谷歌為了在全球范圍內產生積極的影響。”

“合并后的經(jīng)驗，基礎設施和專業(yè)知識DeepMind衛(wèi)生團隊與谷歌將幫助我們繼續(xù)開發(fā)移動工具，可以支持更多的臨床醫(yī)生，解決關鍵的患者安全問題，可能，我們希望，全球拯救成千上萬的生命，”它補充說，結束其慣常的“希望”，其技術將拯救生命——但仍沒有任何硬數(shù)據(jù)來證明所有的大聲稱，它使得AI－powered預測醫(yī)療的潛力。

正如我們之前說過的，它的預測人工智能提供任何有價值的谷歌真的需要訪問NHS持有的數(shù)據(jù)。因此，公共關系受到了大力推動。對NHS數(shù)據(jù)的認同壓倒一切。

在回應DeepMind的消息時，健康數(shù)據(jù)隱私保護組織medConfidential的協(xié)調員薩姆？史密斯（Sam Smith）告訴我們：“機會主義者利用醫(yī)生利用病人來增進自身利益的歷史，只要是骯臟的就行。有些傳奇故事流傳多年。谷歌利用他們在國際上的影響力，利用美國軍方的數(shù)據(jù)，他們說他們將在英國做什么他們誤導了英國監(jiān)管機構，違反了英國法律。”

該組織在一篇博客中補充道：“最近幾周，谷歌和YouTube、Facebook和Instagram等科技公司承受著越來越大的壓力，要求它們接受對用戶負有照顧義務。谷歌DeepMind能否說明，它與Royal Free的合作項目如何尊重每一個NHS機構對患者的信任義務？他們所使用的退伍軍人事務部患者數(shù)據(jù)與RFH所見患者的特征如何對應？

“谷歌DeepMind接受了160萬名患者的RFH數(shù)據(jù)——長達10年的醫(yī)院治療。我們希望它的新聞稿能確認這160萬人中有多少人的數(shù)據(jù)在應用程序中顯示，以及他們是否與美國軍方的數(shù)據(jù)一起被用于測試�！�