研究人員發現非典型藥物訂單識別算法有缺陷！

算法能否比人類更準確地識別出異常的用藥順序或特徵？未必了。蒙特利爾拉瓦爾大學和聖胡斯汀大學的研究人員合著的一項研究發現，曾經用來篩選患者的模型醫生在某些方面表現不佳！該研究提醒人們，未經審查的 AI 和機器學習可能會對醫學成果產生負面影響。

[the_ad_placement id=”ad2″]

藥劑師會為他們所護理的患者復查有效藥物清單，即藥理資料。此過程旨在確定可能被濫用的藥物，但是大多數藥物訂單竟並未顯示與藥物相關的問題！十多年前的出版物說明了技術通過執行諸如審查訂單之類的任務來幫助藥劑師簡化工作流程的潛力。但是，儘管最近的研究調查了 AI 在藥理學方面的潛力，但很少有研究證明其功效。

[the_ad_placement id=”ad2″]

這項最新研究的合著者研究了一個在今年 4 月至 8 月期間在三級護理母子學術醫院中部署的模型。該模型在 2005 年至 2018 年的 2,846,502 份藥物訂單數據集上進行了訓練。這些數據已被提取從藥房數據庫中提取並預處理為 1,063,173 個人資料。在收集數據之前，每個月都要使用數據庫中 10 年的最新數據對模型進行重新訓練，以最大程度地減少因模型失去預測能力而發生的漂移。

[the_ad_placement id=”ad2″]

在遵守預測之前，學術醫院的藥劑師將數據庫中的藥物訂單定為「典型」或「非典型」。僅對患者進行了一次評估，以最大程度地降低包含藥劑師先前評估的資料的風險。根據藥劑師的專業知識，非典型處方被定義為與通常的處方模式不符的處方，而如果其中至少有一個藥物訂購被標記為非典型，則概況被認為是非典型的。

該模型的概況預測已提供給藥劑師，藥劑師指出他們是否同意或不同意每個預測。總共向來自學術醫院七個部門的 25 位藥劑師顯示了 12,471 份藥物訂單和 1,356 份藥物概況。

[the_ad_placement id=”ad2″]

研究人員報告指模型在用藥順序方面表現不佳，得分為 0.30（越低越差）。另一方面，該模型的配置文件預測獲得了較「令人滿意」的效果，得分為 0.59。

該模型的性能問題的一個原因可能是缺乏代表性數據。研究表明，有偏見的診斷算法可能會使不平等長期存在。一組科學家最近發現，幾乎所有的眼疾數據集都來自北美，歐洲和中國的患者，這意味著眼疾診斷算法不太適用於代表性不足國家的種族群體。在另一項研究中，斯坦福大學的研究人員聲稱，美國有關 AI 醫學用途的研究數據大多數來自加利福尼亞，紐約和馬薩諸塞州。