※この記事は本書を読んだ際の私の解釈と感想で、実際の本の表現や文章とは異なる。
AIケンタウルス
２章では、前回同様「人間中心のAI」、つまり医療者とAIどちらが優れているかではなく、医療者とAIが共存する形をとるべきだと主張している。
そんな中SNSでLLMをが医師の臨床能力を改善するかという論文を見つけた。
SNSのコメント欄では「医師いらないじゃん」という雰囲気になっていたので、本書の内容を根本から覆すかもしれないと思い、読んでみた(下記記事参照)。
しかし結果としてはこの論文も本書とほぼ同様の結論となっており、
医療者とAIが統合するためには両者の改善の余地があるとしており、医療者が不要であるという訳ではないということだ。
本書では、医療者とAIの統合した形である、”AIケンタウルス型の医療”が、医療を大きく変えると主張している。
ちなみにギリシア神話に登場するケンタウロスであるケイローンは医学の祖と言われていたりする。
人間中心のAI
現在の医療では、医療の細分化が顕著であり、特に日本では縦割り型の医局制度によって細かく専門が分かれている。
私がいた小児科は比較的細分化の影響は受けていなかったが、それでも小児科医の中で専門が分かれており、自分の専門外の疾患が来るとすぐにその専門の先生にコンサル、という形だった。
患者さんに一番良い医療を提供するために、間違ってはいない。むしろ小児科は「小児は全て診れる」という建前があるが、そこに固執しすぎると、あらぬミスが生じたりする。
現状の医療の情報は膨大すぎて、人間1人のキャパでは対応しきれないことは明らかである。
一方で、地域医療では医師の数が少なく、専門ごとに医師を分けていたらとてもじゃないが足りない。
(というか小児科に関しては、そもそも子供がいない)
そんなわけで、AIが医師の知識を拡張(知識増幅: Intelligence Amplification)することは重要なのではないかと思う。
知能増幅（ちのうぞうふく、英: Intelligence amplification、IA）とは、情報技術の活用や遺伝子工学によって人類の知能を増強するという思想である。1950年代から1960年代にかけて、サイバネティックスやコンピュータと言った分野に携わる研究者によって構想された。認知強化（Cognitive Augmentation）、機械による知能強化（Machine Augmented Intelligence）などとも呼ばれる。
人間中心のAIの課題
ここからは人間中心のAIが優れている前提で、その課題について考える。
１つは、社会文化的視点を考える必要はあること。
AIエンジニアがどんなに優れていても、実臨床で働いている医療者の視点を持たないと、人間中心のAI(ここでは医療者中心のAI)はできないということだ。
故に昨今のヘルステック業界では医師、看護師、臨床技師の方が活躍している場面が多い。
あるいは、医療従事者だけでなく、患者の視点も有用だ。
しかしこれは難しい。患者一人一人にはそれぞれ異なる社会文化があり、それらを反映するとなると莫大なデータ量が必要だからだ。
また別の側面から考えると、AIは多様性に対応できるのか。
AIは特定のスキルに特化させることがほとんどだが、それを活用する場面では公平性が求められる。
その場合にそのAIは全ての人種、性別、年齢、地域、環境、etc…に対応できるのだろうか。
対応させること自体は可能だろうが、全ての対象に対して同じパフォーマンスを提供するのは困難だろう。
なぜならAIの性質上、そのためには莫大なデータセットが必要となるからだ。
もう一つは前回も言及した、「説明できない」という点である。
現状、AIの診断プロセスは説明できない(LLMなどで、理由を見かけ上示すことはできるが実際の決定プロセスではない)。
この現状と、日本医療における社会文化的視点を考えると、医療にAIが浸透するのに果たして何年かかるのか見当もつかない。
解決案は、全ての医療者が納得できるように「説明可能なAI」を開発するか、
AIはブラックボックス的要素があることを、医療者側が理解する、といったところかと思う。
現状汎用的な説明可能なAIが開発されるのはもう少しかかりそうだし、両者を同時並行で進める必要があるのではないかと思う。
仮に説明可能なAIができたとしても、医療者側の理解が0だと、使いこなせずに宝の持ち腐れになる可能性もある。
AIに対して、使用者が”AIはどういうアルゴリズムで判断していて、この要素(例えば患者背景、倫理的問題)は考えられていないことが多い”ということを理解して初めてAIと医療者は共存できるのだろう。
コメント