浅きを去って深きに就く

あくまで人間が使う道具

科学文明論研究者　　橳島　次郎

　医療への人工知能の活用㊦

前回、人工知能（AI）を医療で使う場合の基本原則として、人間の関与と理解と説明が必要だというフランス会議の報告書の提言を紹介した。今回は同意の取り方と人間の責任という原則について紹介したい。

人工知能医療機器は膨大な個人医療情報の取得と学習を基にしている。情報を取得される人の数は非常に多く、全員から同意を得るのはほぼ無理だ。

そこで、フランス議会報告は、人工知能を用いる場合には、どういう医療情報をどのような目的で収集するか、その情報を利用して人工知能が何をするかなどについて、患者側にホームページ等を通じて広報することを医療者に義務付け、利用対象になることを望まない人には、それを拒否する機会を与えるよう宣言した（オプトアウト方式）。今後、私たちは、医療機関を受診する際、そうした工法が出ているか、注意してみるとよいだろう。

人工知能が関与して診断や治療方針の決定が行われた結果、過誤や事故があって被害が出た場合、人工知能の設計者や製造者の責任が問われるとし、医師は医師側の加須津についてのみ法的責任を負うとしている。また、人工知能が推奨した診断や治療方針に従わなかったという事実だけで、医師に責任を問わせることはしないよう提言する。人工知能に随うか否かを決めるのは医師の裁量だとして、専門職としての自立と責任を明らかにしておこうというのである。

このように、人工知能を医療に使う場合でも、人間の関与と責任が基本になるという点で、医療の在り方は変わることはないといえる。病気や薬の説明などは人工知能に任せ、医療者の負担を軽減できるようにこの技術を使うのが、望ましい。

人工知能の利用においても人間の責任が要になるとされるのは、そもそも人工知能とは、人間が作るコンピューター・プログラムであり、人間が行う作業を代行させる機会の一種にすぎないからである。フランスの立法では、人工知能医療機器を「大量の情報の学習によるアルゴリズムでデータを処理する」機器と定義し、「知能」という言葉を使わないようにしている。「知能」というと何か人間に近い、あるいは人間を超える主体的な存在であるかのように思えてしまうが、人工知能もあくまで人間が使う道具であると考えるべきだ。

【先端技術は何をもたらすかー２－】聖教新聞2023.8.1