人工智慧正快速融入醫院與診所，AI帶來益處的同時也產生新的病人安全風險，並引發「出問題時該由誰負責」的議題，傳統上醫療照護中責任劃分相當明確，一旦發生傷害，法院或監管機構能清晰釐清責任。目前AI工具主要被用為輔助工具，並由人員進行審查與確認，其運作方式與其他醫療器材大致相似。但在未來幾年，AI輔助臨床工具將從單純整合與彙整資料進一步發展到直接根據資料採取行動，而人類介入的程度則會愈來愈少。這些工具將能夠進行診斷、制定治療計畫，以及做出病人管理決策，而臨床醫師參與部分很少，甚至沒有。目前許多工具所產生的結果仍具有一定程度的可理解性。更先進的工具可能會採用黑箱深度學習模型（black-box deep learning）。即使某些演算法能夠針對其判斷結果提供部分解釋，臨床醫師仍將無法完全理解這些工具是如何推導出其判斷結果。由於許多進階深度學習模型屬於「黑箱」，其推理過程難以被臨床醫師重現或完全理解。當人機共同決策發生疏失時，以現有的醫療責任法律架構中，受到傷害的人可能落入責任缺口中。
在航空器與自駕車領域，監管機關已經採用分級制度，明確規定不同層級的系統必須執行哪些任務、系統可以在多大程度上獨立運作，以及在什麼情況下必須由人類接手。同樣地，醫療AI系統應建立類似的分級制度，將有助於監管機關、政府、法院以及醫療專業機構，提前因應即將到來的新一代醫療 AI 工具。本文根據三項因素：自主程度（autonomy）、自動化程度（automation）以及運作範圍（operational scope）將 AI 的能力劃分為七個層級。
AI 系統沒有自主性，自動化程度不一，且運作範圍狹窄。這類系統依照人類設定的規則，負責儲存、傳輸及呈現資料。這類系統的演算法行為具有透明性，其產出結果也可以由其他方式獨立驗證。監管機關可以評估這些工具是否可靠，以及是否提供足夠的資安與資料保護措施。法院則可以依照傳統標準來判定責任歸屬。
AI 系統具有低自主程度、低至中度的自動化程度，運作範圍窄。這類系統可以執行單一且明確定義的任務，並由臨床醫師進行監督。這類工具會被視為診斷輔助工具，醫院必須確保醫療人員了解這些工具的功能限制；使用者則應準確判斷 AI 所發出的警示是否具有臨床意義。
AI 工具具有低自主程度、低至中度的自動化程度，以及中等的運作範圍。這類系統可以整合多種資料來源，例如症狀、過去病史、醫學影像資料以及目前的臨床指引。此類工具可以產生診斷結果與治療計畫、撰寫詳細的出院摘要，以及風險評分。醫師握有最終決定權，但需防止醫師因時間壓力而過度依賴建議。法院則必須判斷，在特定情境下，臨床醫師採用某項AI建議是否屬於合理的行為。
AI 系統具有中等程度的自主性與自動化程度，以及中等的運作範圍。在這個層級中，決策者不再是臨床醫師，而是AI系統本身。臨床醫師負責選擇哪些病人使用這套系統，只有在發現異常情況時才介入。在這類系統下：
² 醫師可能因為讓不適合的病人使用系統、未對設備警報做出反應，或不了解系統的限制，而受到責難。
² 醫療機構可能需要對其如何選擇、驗證及監測這項技術接受檢視。
² 製造商則可能在設計缺陷或軟體更新造成傷害的情況下，承擔法律責任。
AI工具具有中度至高度的自主程度與自動化程度，以及廣泛的運作範圍。例如系統會持續監測病人的狀況並調整治療方式，根據多項生理指標，在呼吸器設定與鎮靜劑參數進行平衡與調整。當系統偵測到異常情況時，還會啟動備援處置程序，發出警報召喚醫療團隊。由於臨床醫師實際上沒有足夠的機會逐一審查這些系統所採取的行動，因此當發生不良結果時，法院可能很難判斷，這究竟是源自於：醫療疏失、隱藏性的系統缺陷、或只是醫療本身固有的風險。
這類 AI 系統具有高度的自主程度與自動化程度，以及廣泛的運作範圍。第 5 級工具可能可以蒐集病人的病史、安排並解讀各項檢查、開立處方、進行完整的臨床決策；目前現實世界中還沒有任何系統真正接近第 5 級。
如果一套系統：已經通過適當的監管核准；被部署於核准的適應症範圍內；使用方式符合原本設計目的；且其建議符合當前的臨床指引；那麼，即使最終產生了不良且無法預見的結果，也未必能認定這是系統缺陷或任何人的過失所造成。
這類系統具有極高的自主程度與自動化程度，以及廣泛的運作範圍。如果這類工具未來真的能夠被開發出來，它們可能做到目前人類醫療專業人員尚未能完全實現的事情，例如：發現新的疾病亞型、設計新的藥物治療方案、開發或提出從未在人類身上進行過試驗的治療方法。
第 6 級 AI 所帶來的根本性法律問題：當 AI 能夠自主學習、更新醫療方法，甚至創造人類從未嘗試過的治療方式時，傳統以「人為過失」為核心的責任制度，可能已經無法有效處理由 AI 所造成的醫療傷害。