Columnコラム

内視鏡検査へのAI導入は、臨床現場における内視鏡医の支援に多大なる果実をもたらしているが、過学習とブラックボックス性といった課題も山積する。

AIの性能は学習により変化する点が挙げられる。教師データを追加すれば、AIの性能が向上することが期待できる反面、不適切なデータを追加した場合は、逆に性能は劣化する。

また、質の高いデータを多量に追加した場合でも“過学習”を来すことがある、“過学習”とは過度の学習により判断の基準が厳しくなり、少しでもパターンが異なると診断を誤ってしまう機械学習に特有な現象である。学習の内容などによっては意図しない性能変化が生じ、当初規定していた性能を下回る可能性も否定できない。

機械学習、特にディープラーニングは、その特性上、ニューラルネットワークによる判断の過程がブラックボックスであり、アウトプットの判断根拠を明確に示すことが困難な場合があるため、通常の医療機器ではその性能確保のために示すことが求められる動作原理の明示が困難となり、診断アルゴリズムを詳細に精査するというよりは、インプットに対して所要のアウトプットが得られているかを確認することに重点を置き、その性能を評価することが適当と思われる。