合作媒體

川普政府擬鬆綁AI醫療工具監管 業界憂患者安全與透明度

商傳媒|葉安庭/綜合外電報導

美國醫院正迅速採用人工智慧(AI)軟體,以期透過自動化臨床記錄摘要來減輕醫護人員的行政負擔。例如,AI公司Abridge便推出能快速摘要病患就診紀錄的筆記軟體。一項發表於《美國醫學會雜誌》的研究指出,高度使用AI筆記工具的醫師,一年後每天可節省超過半小時的工作時間。

然而,此趨勢也引發醫療從業人員與患者安全倡議者的嚴重關切。部分臨床醫師反映,AI筆記工具「不甚實用」,常需人工修正,因其在掌握「臨床細微之處」與「情緒語氣」方面有所欠缺。MedStar Health的研究員拉瓦尼(Raj Ratwani)指出,聯邦層級目前缺乏針對AI記錄軟體的審查機制,並擔憂現有保障措施恐進一步放寬。

美國衛生及公共服務部(HHS)部長小羅伯特·弗朗西斯·肯尼迪(Robert F. Kennedy Jr.)旗下的國家衛生資訊科技協調辦公室(Office of the National Coordinator for Health IT)正研擬相關規定。這些擬議中的規範將可能弱化對醫療紀錄清晰度、易用性以及AI應用透明度的要求。據報導,歐巴馬政府時期鼓勵的「以使用者為中心設計」測試,以及要求AI工具公司提高透明度的規定,在最新的擬議法規中遭到取消。

批評者指出,川普政府鬆綁紀錄要求的提案過於寬泛,可能移除旨在確保紀錄安全與保護敏感醫療資料隱私的法規,並大幅修改資料傳輸格式標準。雖然政府聲稱此舉能透過增加競爭,提供臨床醫師「更多符合需求的健康資訊科技選擇」,但許多產業團體對此表達疑慮。美國醫院協會(American Hospital Association)的代表霍洛曼(Jennifer Holloman)提到,醫院和醫療系統長期以來因部分AI工具的「黑箱性質」而面臨挑戰,在AI工具充斥市場的今日,透明度更顯關鍵。美國醫師協會(American College of Physicians)也警告,資訊不透明可能破壞臨床醫師的信任、增加責任風險並損害醫病關係。

Leavitt Partners等部分業者支持鬆綁,認為舊有法規對電子健康紀錄系統造成過重負擔。但亦有產業人士如Altera Digital Health的政策與公共事務副總裁伯切爾(Leigh Burchell)質疑,當局混淆地取消了實境使用者測試的要求,雖規定公司仍需測試,卻不強制向聯邦政府呈報結果。此外,拜登政府時期旨在提高AI透明度的「模型卡片」概念也被現任政府終止,理由是此工具在推行一年後鮮少被利用。

一項針對退伍軍人健康管理局(Veterans Health Administration)11款AI記錄工具的最新研究發現,在五個模擬情境中,這些軟體的表現普遍遜於人類,尤其在資訊遺漏方面令人擔憂,恐影響後續醫療照護。有凱撒醫療集團(Kaiser Permanente)的心理治療師擔憂,管理階層可能因AI預期的時間節省而增加病患排程,屆時他將需花更多時間修正軟體錯誤,反而適得其反。凱撒醫療集團發言人表示,該機構不強制臨床醫師使用AI工具。