香港人工智能醫療儀器 (AI-MD)：TR-008 指南

人工智能在醫療保健領域的崛起：香港人工智能醫療儀器的監管 – 我們的見解

您有沒有注意到人工智能 (AI) 和機器學習 (ML) 對醫療保健產生了多大的影響？ 根據我們的觀察，這些技術正在迅速改變醫療儀器領域，為增強診斷、個性化治療並最終改善病人預後提供了前所未有的潛力。

香港醫療儀器行政管理制度 (MDACS) 意識到這些先進技術所帶來的獨特複雜性和潛在風險，因此採取了行動。他們發布了技術參考文件 TR-008，專門題為《人工智能醫療儀器 (AI-MD)》。根據我們的理解，這份文件非常重要！ 它為尋求在香港上市的 香港人工智能醫療儀器 (AI-MD) 製造商和本地負責人 (LRP) 提供了急需的清晰度與指導，明確了具體的要求。

根據我們的經驗，TR-008 與他們現有的醫療儀器軟件指南 (TR-007) 緊密配合。 它的主要目標是在促進創新和確保病人安全之間取得平衡，以應對這個快速發展的領域。這對於香港醫療儀器規管至關重要。

到底什麼是人工智能醫療儀器 (AI-MD)？讓我們來揭開它的神秘面紗！

那麼，當我們談論 AI-MD 時，我們到底在說些什麼呢？

根據我們的理解，人工智能醫療儀器 (AI-MD) 本質上是一種整合了人工智能軟件的醫療儀器。這包括任何利用 AI 算法或模型來執行醫療任務、學習新行為、做出決策，甚至生成預測的儀器。如果 AI 是醫療儀器中的軟件 (SiMD) 或醫療儀器軟件 (SaMD) 的一部分，那麼它就屬於 AI-MD 的範疇。

TR-008 真正強調的一個關鍵區別是「持續學習能力 (CLC)」的概念。

什麼是 CLC？ 根據我們的經驗，CLC 意味著 AI-MD 在臨床環境中部署後，可以根據它遇到的新數據，實際改變其行為或更新其算法。想想看： 具有 CLC 的儀器總是在不斷發展，由於其動態性質，這帶來了一些額外的監管考量。這對於香港 AI-MD 合規來說是一個重要領域。

AI-MD 的獨特監管考量：它們有何不同之處？

與傳統醫療儀器相比，AI-MD 帶來了一些全新的挑戰。您是否曾想過監管機構如何應對這些挑戰？ TR-008 側重於幾個需要特別關注的關鍵領域：

1. 數據管理：AI 的燃料！

數據集描述： 根據我們所見，製造商必須提供用於「訓練」和檢查 AI 模型的大量詳細資訊。 這包括數據來源、數據大小，以及訓練、驗證和測試數據集（例如，診斷影像、病人病史、病人生理測量）的歸屬。為什麼這如此重要？ 因為 AI 的表現取決於它學習的數據品質！
數據預處理和偏差： 如果數據在使用前需要進行任何「清理」，那麼這個過程必須非常清晰。根據我們的經驗，這是為了確保數據不會引入任何意外的偏差，並且使用的真實世界數據與原始訓練數據集一致。這對於公平和準確的 AI 至關重要！
數據完整性、可靠性和有效性： 根據我們的理解，確保用於學習的數據質量高且值得信賴是絕對關鍵的。

2. AI 模型描述：了解儀器的大腦！

製造商需要對他們使用的機器學習模型提供一個非常全面的描述。這包括它的架構（它是如何構建的）、它使用的算法，以及它是如何產生其輸出的。這就像提供 AI「大腦」的藍圖一樣。

3. 性能和臨床評估：它真的在現實生活中起作用嗎？

證明儀器已通過驗證和確認的文件、測試協議和臨床關聯是必不可少的。從我們的角度來看，這是您證明 AI-MD 在實際臨床情況下能完全按預期運作的方式。 這證明了AI-MD 性能驗證。

4. 部署工作流程：它如何融入實際操作？

製造商需要記錄 AI-MD 部署時預期或推薦的使用方式。這包括關於臨床醫生和病人應如何使用 AI 輸出的明確指示。這是為了確保它能順暢地融入現有的醫療保健實踐。

具有持續學習能力 (CLC) 的 AI-MD 的特定要求：如果它持續學習怎麼辦？

想像一個 AI 醫療儀器，它隨著遇到的病人越來越多，實際上變得越來越聰明！這就是 CLC 的意義。但是，這種驚人的能力也帶來了額外更嚴格的規則。為什麼呢？

根據 TR-008，由於這些儀器是動態的，並且在部署後可以適應，因此它們需要額外的監督：

持續學習過程描述： 製造商必須清楚地解釋 AI-MD 在投入使用後如何改變其行為。
異常安全機制： 根據我們所見，內置的安全機制在這裡至關重要！ 這些機制可以檢測 AI 輸出數據中的任何異常或不一致，並且需要有詳細的計劃來解決這些問題。
訓練數據更新週期間隔： 對於使用真實世界數據重新訓練未來模型版本的 AI-MD，必須定義訓練數據更新的間隔和過程信息。這有助於確保 AI 不會「偏離」其預期目的。
軟件版本控制： 根據我們的經驗，對於 CLC 設備來說，強大的軟件版本控制程序是不可協商的。 鑑於頻繁更新的可能性，您需要一種方法來跟踪更改，並在必要時恢復到更舊、穩定的版本。

AI-MD 的上市後監測：持續關注！

那麼，一個 AI-MD 已經上市並在醫院中使用。監管就到此為止了嗎？絕對不是！

TR-008 非常重視在 AI-MD（特別是具有 CLC 的 AI-MD）在市場上部署後，對其進行密切監測。根據我們的理解，這種持續監測對於病人安全至關重要。 製造商需要：

共同合作： 與其 LRP、進口商、分銷商和實際使用者（醫生、護士、病人）建立一個協作流程，以確保所有內容都可追溯。
主動監測： 實施機制來主動監測和審查 AI-MD 在實際臨床環境中的性能。根據我們所見，這甚至可能涉及系統本身自動監測，以確保其始終準確，並且不會發生「概念漂移」（AI 的理解會隨著時間推移而微妙地改變）。
採取行動： 如果部署後發現任何需要修復或更改的問題，他們必須採取適當的控制措施（例如，根據 GN-10 向 MDD 提交變更申請，或啟動現場安全糾正措施）。
記錄保存與報告： 維護所有必要的記錄，並根據要求向 MDD 提交上市後報告。這對於香港 AI-MD 上市後監測至關重要。