AI 偵測輸血病患的活動

和歌山縣立醫科大學附屬醫院採用視訊辨識技術確保病患生活品質,並改善治療安全。

概覽:

  • 和歌山縣立醫科大學於 1945 年成立。

  • 和歌山縣立醫科大學附屬醫院持續在使用 Intel® 發行版 OpenVINO™ 工具組和 2D 人體姿勢估測模型的系統上進行研究,以判斷病患在家輸血時的活動,例如當他們起床或手肘彎曲時。

挑戰:雖然為了改善病患的 QoL,因此在家輸血越來越常見,但如果發生不良事件,則需醫師立即因應。

為了減輕罹患血液疾病 (如骨髓增生異常綜合症、再生不良性貧血、白血病、多發性骨髓瘤和淋巴癌) 的病患負擔,部分醫學機構已開始提供在家輸血服務,在病患的家中進行補充紅血球不足的輸血動作。儘管比較偏好住院輸血,但在家輸血旨在為難以住院或定期回診的病患,改善病患的生活品質 (QoL)。

然而,由於在輸血治療過程中可能會發生不良事件 (從如發燒和發癢的過敏反應到低血壓和呼吸困難),因此病患必須在輸血期間與之後有醫師、護理師或照顧服務員 (一般是家人) 陪同。1如果在病患的照顧服務員在場時觀察到其中一項不良事件,他們必須立即警示醫師。

醫療資訊部門總經理 Akinori Nishikawa 醫師

醫療資訊部門主任 Akinori Nishikawa 醫師。輸血處助理總監 (副教授)。和歌山縣立醫科大學附屬醫院。

和歌山縣立醫科大學附屬醫院的 Akinori Nishikawa 醫師 (輸血處副教授) 及其團隊現在正運用科技進一步促進此類不良事件的發現與處理。

「由於醫師需要到其他病患住宅看診,因此讓他們陪著每位病患輸血完成是不切實際的做法。輸血開始後,照看病患的工作一般都是交給照顧服務員或居家護理師。然而,由於照顧服務員無法一直盯著病患,還要做家事等,因此我們決定運用科技監測病患的狀況並協助改善安全。」Nishikawa 醫師說道。

和歌山縣唯一的特定機能病院。

和歌山縣立醫科大學附屬醫院。

和歌山縣立醫科大學附屬醫院採行的第一個方案就是遠端監測生命徵象。在此專案中,病患會在胸部接上心電圖機並在食指上戴上脈搏血氧儀。此系統會收集資料,然後透過藍牙傳輸至床邊的智慧型手機,再透過 4G 網路將資料傳送回醫院,讓臨床醫師監測資料。

Nishikawa 醫師說明他的研究進展。「我們在取得數位病患同意後,在他們身上測試系統,因此發現到一些問題。如在床上翻身等身體運動會在心電圖機產生雜訊,而冰冷的手指偶爾也會防止脈搏血氧儀收集準確的資料。因此我們調查是否可以將 AI 結合視訊使用,以辨別病患的活動。」

解決方案:視訊辨識採用 Intel® 發行版 OpenVINO™ 工具組來偵測輸血過程中的危險活動

Nishikawa 醫師決定搭配深度學習運用視訊辨識技術,來偵測病患活動,例如在輸血過程中的下列活動。
 

  • 在輸血過程中起床或站起來都會造成跌倒,或不慎扯開輸血管。
  • 上肢彎曲 (需要插針的右臂或左臂) 時,則可能會導致滴灌不良或阻塞。

「部份認知功能下降的年老病患可能無法遵從指示,例如「請勿在輸血時起床」或「請勿彎曲手臂」。偵測到無法單單透過生命機像監測判定的有害活動後,我們希望可以進一步加強輸血時的安全。」Nishikawa 醫師說道。Nishikawa 醫師採用 OpenVINO™ 工具組偵測在家輸血時的有害活動。「在日本醫療情報學會與 Intel 的員工會面時,他們使用 OpenVINO 工具組向我們展示姿勢偵測。從之前提供的預先訓練的模型樣品來看,我們覺得工具組使用上可能很容易,即使不熟悉深度學習。」

OpenVINO 工具組搭配標準模型使用:採用 2D 人體資訊估測模型判斷身體姿勢

OpenVINO 工具組會執行最佳化,因此使用其他深度學習框架開發的推論模型可以在如 Intel® 處理器等硬體平台上執行。標準預先訓練的模型也用於展示或評估,而且如果使用這些模型時,不必使用框架。

工作組提供人物、車輛和其他物體的物體偵測模型,以及物體辨識模型、人類追蹤模型、語意分割 (分類) 模型、實例分割模型、人體姿勢估測模型、影像處理模型、字元辨識模型 (包括手寫),以及數學公式和運動辨識模型。

在這之中,Nishikawa 醫師會特別注意 2D 人體姿勢估測模型 (模型名稱:「human-pose-estimation-0001」);此模型會偵測人體影像的耳朵、眼睛、鼻子、頸部、肩膀、手肘、手腕、左右骨盆、膝蓋及足踝,總共 18 個關鍵點。

Human-pose-estimation-0001 是使用卡內基梅隆大學的 OpenPose 技術開發而成,會估測人體關節。它是以 MobileNet v1 卷積技術為基礎,大幅簡化運算複雜性,因此可在一般電腦上以可行速度執行姿勢估測。

替代文字 – 在病患家中智慧型手機的視訊會透過網際網路視訊連線傳輸至偵測系統和醫師,以與病患進行討論。

圖 1:在家輸血病患危險活動偵測系統概要 (和歌山縣立醫科大學附屬醫院開發)。

運作方式:安裝使用 Python 的獨特演算法來判斷身體姿勢 – 偵測起床或上臂彎曲動作,然後通知醫師

在家輸血病患的異常活動偵測系統概要如圖 1 所示。智慧型手機放在獲得同意的病患床邊、在和歌山縣立醫科大學附屬醫院的電腦透過 Zoom 接收視訊,然後 OpenVINO 工具組的人體姿勢估測模型和演算法用於偵測任何危險活動,最後再標示給醫師檢視。醫師可以在 Zoom 智慧型手機應用程式上查看病患的片段,並聯絡病患的照顧服務員和進行任何其他必要措施,包括另一次到府看診。

偵測住家輸血病患的異常活動所需的第一步為分辨其身體的姿勢:無論是臥姿、坐姿或立姿。

「由放在床邊的攝影機拍攝的視訊會透過 Zoom 傳送至 OpenVINO 工具組的人體姿勢估測模型。頭部/頸部、上半身/軀幹及大腿的傾斜度是以模型輸出的每個關鍵點座標計算,然後用於判斷身體姿勢。」Nishikawa 說道。

流程圖顯示判斷身體姿勢的頸部、軀幹或大腿的決策樹。

圖 2:演算法流程圖;此演算法依 OpenVINO 工具組的 2D 人體姿勢估測模型的輸出 (右圖) 判斷身體姿勢。

演算法概要如圖 2 所示。病患身上蓋著毛毯,且僅能觀察到頸部的角度時,則會建構此流程,以便在頸部角度落於某個值以下時,將病患判斷為「臥姿」,而頸部和軀幹直立且大腿角度接近水平時,則判斷為「坐姿」。然而,由於姿勢估測模型輸出可能會輸出「雜訊」(錯誤估測),則會採取 500 個資料點 (等同於約 60 秒的監測) 的平均值來判斷姿勢。

身體姿勢變換 (例如從臥姿變為坐姿) 或上肢彎曲三分鐘以上時,則會以訊息通知依師,如圖 1 左下方所示。

公共雲專案處副理 Yoshiki Kusumoto 先生

CYBERLINKS CO., LTD. 公共雲專案處副理 Yoshiki Kusumoto 先生 。

CYBERLINKS CO., LTD. 負責根據 OpenVINO 工具組建置平台並使用 Python 安裝演算法。CYBERLINKS 的 Yoshiki Kusumoto 表示:「10 代 Intel® Core™ 處理器家族,已為和歌山縣立醫科大學附屬醫院用於異常活動偵測系統。而且在安裝 OpenVINO 工具組或使用人體姿勢估測模型時都沒有任何問題。」 他也說明:「我們可以看到 AI 部署的可能性,這些部署無須昂貴的 GPU 伺服器,但卻可以在採用一般用途 CPU 的電腦上編程。」

使用醫師從系統收到的通知訊息次數,以及醫師在接收訊息時檢查後,與實際身體姿勢相符的次數來製圖

圖 3:在 14 例在家輸血中異常活動偵測系統試運轉的結果。

結果:在家輸血的 14 次試驗顯示病患的實際身體姿勢與系統判斷約 90% 符合

原型系統的試運作與主動參加在家輸血的 Akasaka Clinic (Nada-ku, Kobe-shi) 合作執行。14 次在家輸血的結果如圖 3 所示。藍色圖表顯示系統在判斷身體姿勢改變時傳給醫師的訊息次數,而橘色圖表顯示系統判斷與在醫師收到訊息與查看視訊時所取得的實際身體姿勢之間的相符次數。

在臥姿與坐姿方面,系統判斷與實際身體姿勢之間的相符率約為 90%,確定系統判斷幾乎擁有毫無問題的準確度。但在立姿方面,並未辨識出站姿,即便是在通知後查看視訊。Nishikawa 解釋:「當患者坐在安裝的攝影機前方附近時,大腿角度似乎幾乎是垂直的。因此會將身體姿勢判斷成立姿,即使病患並未站立,這是因為目前人體姿勢估測模型與判斷演算法合併使用的緣故。」 如圖 3 右欄所示,在 14 次在家輸血期間訊息傳送的平均次數為 7.5 次。Nishikawa 醫師認為對其他病患進行到府看診的醫師甚至能處理此頻率。儘管最大的訊息數為 18 次,但當偵測到上肢彎曲 3 分鐘以上時,系統設為每 3 分鐘就要通知醫師。訊息數會隨著病患手臂持續彎曲而增加。

儘管觀察到部份不正確的判斷,但 Nishikawa 醫師表示:「住家輸血的基礎就在於要有照顧服務員在場。此系統與生命跡象監測僅是額外的支援。我們認為我們已驗證基本功能與效能,無須倉促決定。」

這項研究是在 Japan Society of Transfusion Medicine and Cell Therapy 的 Clinical Research Promotion 專案支援下進行,並在 2021 年 6 月 Japan Society of Transfusion Medicine and Cell Therapy 第 69 屆年會中發表成果。

Nishikawa 將繼續研究很有可能導致跌倒的身體姿勢突然變化偵測 (起床或站立)。他目前也在使用和歌山縣立醫科大學附屬醫院現有的電腦,執行識別不良事件的程序。他也有研究邊緣運算操作的計畫,其中配備 OpenVINO 工具組、決策演算法及生命跡象監測的小型電腦可能會安裝於病患的家中。

在家輸血的支援仍未中斷,包括安全與操作,儘管這因使用醫療器材治療的負擔而不常見。同時間,隨著日本人口持續高齡化,在家接受醫療照護的需求預計將會增加。Nishikawa 醫師的對於改善病患照護和安全,以及降低病患照顧服務員負擔的研究,可能會鼓勵更多醫學機構導入在家輸血服務。

Intel 發布版 OpenVINO 工具組已最佳化深度學習應用程式的開發。Intel 發布版 OpenVINO 工具組是專為開發人員與資料科學家所設計的開放原始碼平台,以加速開發高效能運算視覺與深度學習應用程式。此工作組是以卷積神經網路 (CNN) 為基礎,包括用於如 Caffe 和 TensorFlow 等框架的模型強化器、運算視覺加速器的推論引擎,以及 Intel® 硬體的通用 API。

此工具組可以在 Intel® Xeon® 處理器Intel® Core™ 處理器家族、Intel® Movidius™ Myriad™ X Vision Projector Units (VPU)Intel® 處理器顯示晶片 (GPU) 上執行。2

下載 PDF ›