スタートアップから臨床パートナーまで:メンタルヘルスにおける倫理AIに対するアイゼルのアプローチ

ほとんどの人は、精神医学的ケアの長い待ち時間に直面しています(評価と特定の精神医学的ケアの場合に英国で何年もある場合があります)。そのため、臨床医が患者に参加して最も重要なことをすることに時間を費やすことが重要です。

Aiselは、精神科医のためのAI副操縦士を開発しました。これは、精神的なAI駆動の副操縦士を使用して、精神科の摂取と文書を合理化することにより待ち時間を削減することを目的としています。

Aiselの共同設立者であるAugusta Klingsten Peytzと話をして、詳細を確認しました。

クリングステンペイツはデンマークに拠点を置き、コペンハーゲンビジネススクールとINSEADで学び、フランスとシンガポールで時間を過ごしました。

卒業後、彼女はコンサルティングで私のキャリアを始めましたが、6か月間、私は怪我とメンタルヘルスの課題から6か月間病気になった脳震盪を起こしました。

彼女は思い出した:

「回復したとき、私は一歩下がって、何が私を幸せにするのかと自問しました。」

彼女はメンタルヘルスソリューションにのみ投資するベンチャー会社に参加しました。彼女は「私が若い頃から愛した起業家精神に戻る驚くべき方法だと説明しました。そこからアクセラレータに加わり、古い同僚に電話をかけ、彼が仕事を辞めて私と一緒に会社を始めようとするかどうか尋ねました。」

その結果、精神医学的ワークフローを合理化し、患者ケアを強化するために設計されたエンドツーエンドの臨床文書スイートであるAiselが導入されました。

なぜ一般的な医療ではなく、精神医学臨床医のためにAIを構築するのですか?

一般的な健康摂取量AIツールがたくさんあります。なぜ精神医学に固有の何かを構築するのですか? Klingsten Peytzによると、精神医学は体性の健康とはまったく異なります。

「身体の健康状態では、テストとスキャンを実行できます。メンタルヘルスでは、それはすべて主観的です。物理的に測定できることはほとんどありません。

あなたは臨床医の判断に依存しています。つまり、患者と多くの時間を過ごす必要があります。しかし、システムにはリソースがありません。それが私たちが入ってくる場所です – 代替ではなく、サポートするためです。

また、精神医学では、2人の人がうつ病のように同じ診断を受けることができますが、背景、状況、歴史に応じてまったく異なる治療が必要です。したがって、それらを理解するのに費やした時間は重要です。」

アリシア:AiselのAI評価者

AiselのAI駆動審査員、 アリシア、患者を、相談の前後に安全かつ構造化された会話に巻き込み、摂取データの収集、投薬履歴、および書面または口頭の入力を介して標準化された評価を行い、新しい患者ごとに最大35分間節約します。

第一に、画面上のAIアバターは、患者との同意前の会話を行います。それはAIチャットボットではなく、厳密にはオーディオを収集する一方向の手段であり、患者からのビデオフィードバックを選択した場合です。

Klingsten Peytzによると、インタビュー形式は、既存の精神医学的ベストプラクティス、現在の州検査(PSE-9)およびICD-10に基づいて構築され、特定の診療所に合わせて調整されています。たとえば、クリニックがPTSDに焦点を当てている場合、子供時代の歴史を深く掘り下げます。

摂取インタビューには4つのセクションが含まれます。

  1. なぜ患者がそこにいるのか、どのように紹介されたか。

  2. 最近の症状。

  3. 一般的な背景:家族の歴史、トラウマ、子供時代。

  4. 現在の習慣:アルコール、薬物使用、睡眠など。

透明性を通じて患者に力を与える

患者の概要を生成するとき、どのくらいのニュアンスを外挿したいですか?

Aiselは、患者が編集できる形式で最初に概要の摂取量を見ることができます。精度のため。

Klingsten Peytzは共有しました:

「それは品質制御機能として始まりましたが、患者はそれが力を与えていると言いました。彼らは透明性と代理店を得て、それが信頼を築きます。」

セッション中、 AISELインコンサルテーション リアルタイムの転写とメモ生成を可能にし、臨床医が患者に集中し続けることができ、正確な臨床標準のドキュメントを確保します。

介入後のドキュメント

各セッションの後、 AISELディクテーション 臨床医は音声概要を記録します。音声概要は、自動的に転写され、投薬記録や治療の概要を含む構造化された臨床ノートにフォーマットされます。 Aiselは、ノートごとに40〜60%の時間短縮を提供すると予測しています。

一緒に、これらのツールは、精神科医や医療アドバイザーの実践と協力して設計され、認知負荷を減らし、ドキュメントの品質を改善し、ケア経路全体で貴重な時間を節約します。

誇大広告よりも目的の優先順位付け

AI分析が音声、呼吸、光景、一時停止などのような音声の合図を追跡して解釈するかどうかに興味がありました。

クリングステン・ペイツは、「最初は、私はそれについて本当に興奮していました。感情的なコンピューティング、ボーカルマーカーなど。しかし今、私たちはそれをやっていません。」

「理由は単純です。それは優れたものですが、必須ではありません。患者は、その人間の直感をもたらす臨床医を依然として見るでしょう。これまでのところ、顧客はそれらの機能が十分に魅力的であることを発見していません。」

これは、派手な非必須機能に気を取られるのではなく、テクノロジーの中核目的(この場合は臨床効率の向上)に焦点を当てることのスタートアップにとって重要性を強調しています。

プライベートファースト、後で公開

これまでのところ、Aiselは主にプライベートクリニックグループと協力しています。クリングステンペイツは、「私たちの主な焦点は民間部門であるため、私たちはまだ大規模で複雑な公共システムを扱うために必要な官僚制度を処理するために十分に成熟していないからです。」

「私たちには少数の顧客がいて、フィードバックは勇気づけられています。臨床医はレポートを好み、「自分でこれを書くことができたでしょう」と言います。

しかし、AIへの信頼の構築には時間がかかります。 Aiselは、技術の影響を研究し、製品のバージョンを特定のニーズに合わせて調整するために、公立病院で大規模なパイロットプロジェクトを実施しています。さらに、ソフトウェアは通常、患者が非急性であり、より中程度のプレゼンテーションを持っているプライベートクライアントをターゲットにしていることに注意する価値があります。

Aiselは、急性精神医学的エピソードを含むユースケースを意図的に回避します。

Klingsten Peytzによると、「誰かがman病な状態または精神病状態にある場合、彼らはアバターと話すのではなく、救急部門にいるべきです。」

設計によるプライバシー

AISELの場合、患者のプライバシーが最重要であり、すべての機能がプライバシーごとの原則に基づいて構築されており、同社の最初の主要な投資の1つは、EU AI法などの規制との整合を確保するためのコンプライアンスでした。

そのデータベースは、暗号化された識別子を使用して患者名をデータから分離します。また、識別可能な情報を編集するための自動スクリーニングもあります。

これは、AI企業の法的精査が成長するため、特に関連しており、チャットボットやアバターなどのメンタルヘルスサービスにAIを使用するスタートアップは、意図しないプライバシーの課題に直面する可能性があります。

たとえば、最近の米国の裁判所命令では、OpenAIがChatGptの無料、Pro、チーム、および標準のAPIサービス(それらのユーザーが削除された)からのすべてのユーザー会話を無期限に保存することを要求しています。

OpenAIを使用してメンタルヘルスモデルをトレーニングするスタートアップの場合、標準のAPIエンドポイントに依存している場合、OpenAIを通じて処理された機密のユーザーデータは予想よりもはるかに長く保持され、削除できず、ユーザーの個人情報を法的精査にさらし、特にHIPAAまたはGDPRのような規制の下で、重要なプライバシーとコンプライアンスリスクを作成する可能性があります。

ただし、裁判所命令は、ゼロデータ保持(ZDR)エンドポイントを使用してAPI顧客を明示的に免除します。これは、データがOpenAIによって保存または記録されず、技術的に保存することができないように設計されています。

パブリックデータセットではなく、臨床パートナーで構築されています

吸気アバターと要約にLLMSを使用しています。 Klingsten Peytzは、「重要な部分は、質問をどのように構築し、促しているかです。

それは機械学習です – そして、それは精神医学的プロトコルとお客様からの絶え間ないフィードバックに基づいています。」

Aiselは、メンタルヘルスには多くのリスクがあるため、外部データセットを使用しません。たとえば、精神医学的診断の約47%が10年後に変化します。たとえば、見過ごされている多くの診断も見ています。

「だから、そのデータを訓練すると、欠陥を強化するだけです。代わりに、臨床パートナーとのすべてを構築します。」

Aiselは現在、10〜20のパートナークリニックで作業を深めることに焦点を当てており、次の段階でスケーリングする準備が整うように、ワークフローを詳細に理解することを目的としています。また、AI ActやGDPRなどの規制の範囲を維持しており、NHSがそこでより明確になった今、あらゆるステップでその準拠を確実にしています。

Klingsten Peytzは、「ヘルスケアでは、「速く移動して物事を壊す」ことはできません。

リード画像: クリスチャン・R・ホーエンと Aiselの共同設立者、オーガスタクリンステンペイツ。写真:クレジットされていません。