AI がヘルスケアに革命を起こす可能性
ゲッティイメージズ

人工知能 (AI) は急速に進歩しており、臨床ケアにおける重要なサポート ツールになるでしょう。 調査によると、AI アルゴリズムは正確に 黒色腫を検出する & 将来の乳がんを予測する.

しかし、AI を日常的な臨床使用に統合する前に、アルゴリズムのバイアスという課題に対処する必要があります。 AI アルゴリズムには、差別やプライバシーの問題につながる固有のバイアスが含まれている可能性があります。 AI システムは、必要な監視や人間の入力なしに意思決定を行うこともできます。

 AI の潜在的に有害な影響の例は、 国際プロジェクト AI を使用して画期的な医療を開発し、命を救うことを目指しています。 実験では、チームは「良い」AI モデルを逆にして、新しい AI モデルが「害」を及ぼすオプションを作成しました。

XNUMX 時間足らずのトレーニングで、リバース AI アルゴリズムは数万の潜在的な化学兵器剤を生成しましたが、現在の兵器剤よりもはるかに危険です。 これは化合物に関する極端な例ですが、AI の既知の、そしておそらくは認識できない倫理的結果を評価するための警鐘として役立ちます。

臨床ケアにおける AI

医学では、人々の最もプライベートなデータと、しばしば人生を変える決定を扱います。 堅牢な AI 倫理フレームワークは不可欠です。

  オーストラリアてんかんプロジェクト 人々の生活を改善し、臨床ケアをより広く利用できるようにすることを目指しています。 高度な脳画像、何千人ものてんかん患者からの遺伝的および認知的情報に基づいて、AI を使用して以下を行う予定です。 現在答えられない質問に答える.


インナーセルフ購読グラフィック


この人の発作は続きますか? どの薬が最も効果的ですか? 脳外科手術は実行可能な治療オプションですか? これらは、現代医学が取り組むのに苦労している根本的な問題です。

このプロジェクトの AI リーダーとしての私の主な関心事は、AI の動きが速く、規制による監視が最小限に抑えられていることです。 これらの問題は、私たちが最近設立した理由です 倫理的枠組み AI を臨床支援ツールとして使用するため。 このフレームワークは、臨床ケアにおける包括性と公平性を促進しながら、当社の AI テクノロジーがオープンで安全で信頼できるものであることを保証することを目的としています。

では、偏見を減らし、アルゴリズムの制御を維持するために、医療に AI 倫理を実装するにはどうすればよいでしょうか? コンピューター サイエンスの原則「ガベージ イン、ガベージ アウト」が AI に適用されます。 小さなサンプルから偏ったデータを収集するとします。 私たちの AI アルゴリズムはバイアスがかかっている可能性が高く、別の臨床環境で複製することはできません。

バイアスの例は、現代の AI モデルで見つけるのは難しくありません。 一般的な大規模言語モデル (ChatGPT など) と潜在拡散モデル (DALL-E および Stable Diffusion) は、その方法を示しています。 明示的な偏見 性別、民族性、社会経済的地位に関しては、発生する可能性があります。

研究者は、単純なユーザー プロンプトが、民族、性別、および階級の固定観念を永続させるイメージを生成することを発見しました。 たとえば、医師へのプロンプト 主に発生する OECD諸国の全医師の約半数が女性であるため、男性医師のイメージは現実と矛盾しています.

医療AIの安全な実装

偏見や差別を防ぐための解決策は簡単ではありません。 健康の平等を実現し、臨床研究における包括性を促進することは、 一次ソリューション 医療 AI の偏見と戦うために。

心強いことに、米国食品医薬品局は最近、 多様性の義務化 臨床試験で。 この提案は、偏りが少なく、コミュニティベースの臨床研究への移行を表しています。

進歩を妨げるもう XNUMX つの障害は、研究資金が限られていることです。 AI アルゴリズムは通常、かなりの量のデータを必要とし、コストがかかる可能性があります。 AIアプリケーションに適した臨床的に関連するデータを収集するために必要なリソースを研究者に提供する、強化された資金調達メカニズムを確立することが重要です。

また、AI アルゴリズムの内部の仕組みを常に把握し、それらがどのようにして結論や推奨事項に到達するかを理解する必要があるとも主張しています。 この概念は、AI では「説明可能性」と呼ばれることがよくあります。 これは、最適な結果を得るために人間と機械が協力しなければならないという考えに関連しています。

私たちは、モデルにおける予測の実装を「人工」知能ではなく「拡張」と見なすことを好みます。アルゴリズムはプロセスの一部であるべきであり、医療専門家は意思決定の管理を維持する必要があります。

説明可能なアルゴリズムの使用を奨励するだけでなく、透明でオープンな科学をサポートします。 科学者は、透明性と再現性を高めるために、AI モデルとその方法論の詳細を公開する必要があります。

医療における AI の安全な実装を確保するために、アオテアロア ニュージーランドに必要なものは何ですか? AI の倫理に関する懸念は、主にその分野の専門家によって主導されています。 ただし、EUベースのような対象となるAI規制 人工知能法 これらの倫理的考慮事項に対処する、提案されています。

欧州の AI 法は歓迎され、「安全な AI」の中で働く人々を保護します。 英国政府は最近、彼らの AI規制への積極的なアプローチ、AI の安全性に対する他の政府の対応の青写真として機能します。

Aotearoa では、AI の安全性に対して受動的ではなく積極的な姿勢を採用することを主張しています。 臨床ケアやその他の分野で AI を使用するための倫理的枠組みを確立し、解釈可能で安全で偏りのない AI を生み出します。 その結果、この強力な技術が社会を害から守りながら、社会に利益をもたらすという私たちの自信が高まります。会話

著者について

マンゴール・ペダーセン、心理学および神経科学の准教授、 オークランド工科大学

この記事はから再公開されます 会話 クリエイティブコモンズライセンスの下で 読む 原著.

関連書籍:

身体がスコアを維持する: トラウマの治癒における脳と心と身体

ベッセル・ファン・デル・コルク

この本は、トラウマと身体的および精神的健康との関係を探り、治癒と回復のための洞察と戦略を提供します。

クリックして詳細情報または注文する

ブレス: 失われた芸術の新たな科学

ジェームズ・ネスター

この本は、呼吸の科学と実践を探求し、身体的および精神的健康を改善するための洞察とテクニックを提供します。

クリックして詳細情報または注文する

植物のパラドックス: 病気や体重増加の原因となる「健康的な」食品に潜む危険性

スティーブン・R・ガンドリー

この本は、食事、健康、病気の関係を探り、全体的な健康とウェルネスを改善するための洞察と戦略を提供します。

クリックして詳細情報または注文する

Immunity Code: 本当の健康と根本的なアンチエイジングのための新しいパラダイム

ジョエル・グリーン

この本は、エピジェネティクスの原理を利用し、健康と老化を最適化するための洞察と戦略を提供しながら、健康と免疫に関する新しい視点を提供します。

クリックして詳細情報または注文する

断食の完全ガイド:断続的、隔日、および長期の断食で体を癒す

ジェイソン・フォン博士とジミー・ムーア

この本は断食の科学と実践を探求し、全体的な健康とウェルネスを改善するための洞察と戦略を提供します。

クリックして詳細情報または注文する

これ