Health AI（CHAI）の共同創設者兼最高経営責任者（CEO）であるブライアン・アンダーソン博士は8月にこう語った。 ニューズウィーク 医療 AI は、米国で規制されていない唯一の主要な「影響分野」です。本日、彼の組織は、規制のほとんどない業界に説明責任をもたらすことを目的としたツールを導入しました。
公共の場でのチャイ 共有 木曜日の適用モデルカードでは、ヘルステック企業に対し、1月22日までに「ストレステスト」を行い、フィードバックを提供することが奨励されている。このカードは健康 AI モデルの栄養ラベルとして機能し、潜在的なユーザーにツールの開発と既知のリスクに関する洞察を提供します。
2021 年から、CHAI はヘルスケアにおける AI の責任ある使用のためのベスト プラクティスを定義することに取り組んでいます。その会員には、医療システム、保険会社、医療テクノロジー企業を含む 3,000 以上の民間および公共部門の組織が含まれるまでに成長し、この実践モデル カードの最初の公開草案を含むガイドラインの作成に協力して取り組んでいます。
CHAIはヘルスケア業界全体の標準を確立することを期待して、モデルカードをオープンソースにしたとアンダーソン氏は語った。 ニューズウィーク 木曜日。
「このAI栄養ラベルに概要が示されているように、透明性の最低基準をどうするかについての共通の合意は、より信頼を築き、これらのモデルをより厳密に使用する方法についての理解を深めていくための第一歩となる」と同氏は述べた。
写真イラスト：ニューズウィーク
そのような信念を持っている組織は CHAI だけではありません。その一環として HTI-1 最終規則国家医療情報技術調整官局 (ONC) は、モデル カードを構築するためのベースラインとして使用できる、予測的意思決定支援介入 (生成 AI を含む場合がある) のための 31 のソース属性を特定しました。
「ONCがやらなかったこと、米国政府がやらなかったことは、これら31の部分をそれぞれ詳しく調べることだ」とアンダーソン氏は語った。データをそれらのスペースに入れる必要があるのです。」
「そして率直に言って、それらの部分のいくつかは本当に受け入れがたいものだ」と彼は続けた。
それらの分野の 1 つはデータ入力です。医療システムは、AI モデルが特定の集団に確実に答えを提供できるように、どのような種類のデータに基づいてトレーニングされているかを知りたいと考えています。しかし、AI ベンダーは、プロセスを詳細に共有しすぎて競争上の優位性を失うことを懸念しています。
しかし、CHAIは最終的にさまざまな利害関係者の間で基本合意に達したとアンダーソン氏は言う。同氏は、モデルカードは最終版ではなく作業草案であることを強調し、「我々はそれを更新する必要があることを十分に予想している」と語った。
現在 繰り返し AI には、開発者がモデルのリリース日、世界的な可用性、取得した規制上の承認など、モデルに関する基本情報を共有するためのスペースが含まれています。使用目的を説明するセクションと、既知のリスク、制限、偏見、倫理的考慮事項を含む警告を記載するボックスがあります。
また、企業が AI システムに関する事実 (たとえば、継続的なメンテナンスが必要か? バイアスをどのように最小限に抑えるかなど) を共有し、設計プロセスで相談した資金源や利害関係者に関する透明性を提供できる「信頼できる材料」の余地もあります。 。
責任ある AI に関する CHAI の原則は、他の 3 つの具体的な開示分野に影響を与えました。公平性と公平性。そして安全性と信頼性。
応用モデル カードは、医療システムが膨張する AI 市場を乗り切るのに役立ちます。 Health AI は、2024 年までに米国だけで約 110 億ドルのベンチャー キャピタル投資を集めています。 世界経済フォーラム。ノイズを遮断し、組織のニーズに合った信頼できる製品を見つけるのは困難な場合があります。昨年の秋、カイザー・パーマネンテ社のAIおよび新興テクノロジー担当副社長ダニエル・ヤン博士はこう語った。 ニューズウィーク 彼は毎日、AI 開発者から複数の提案を受けていますが、そのほとんどは無関係です。
健康AI CHAIのためのアライアンス
医療システムは多数の AI ベンダーを評価するため、それぞれの栄養ラベルがあることで「同一の比較」が可能になり、研究プロセスがスピードアップするとアンダーソン氏は言います。
「当初、医療機関からは、調達プロセスまたは AI ガバナンス プロセスの一部として、モデル カードをデジタルで共有したいという声を聞いています」とアンダーソン氏は述べました。 「モデルがすでに購入され、医療システムに導入されている場合、医療システムは内部在庫と内部 AI 制御のためにこれらのモデル カードを必要とします。」
しかし今のところ、栄養表示はAI企業にとって完全に任意であり、将来的に政府が同様の開示を義務付けるかどうかはアンダーソン氏には分からない。 FDAは火曜日、AI対応デバイスのスポンサーが規制当局の承認を得るために行政に提出できる独自のモデルカードを公開した。サンプル フォーム カードには、リスク管理、開発、パフォーマンス、制限に関するセクションが含まれており、CHAI との類似点があります。
「率直に言って、我々のモデルカードはFDAやONCよりは少し強いですが、強力なラインナップの中にあります」とアンダーソン氏は語った。 「民間部門と公共部門が透明性と情報開示の共通基準を中心としたモデルカードへの信頼を構築するために連携しているのを見るのは良いことだ。」
