ヘルスケア領域における AI 活用と、その安全性担保のための取り組み

ヘルスケア領域は、生成 AI のハルシネーションがユーザの安全に直結するハイリスクなドメインです。素朴なモデルの利用では安全性を担保することは難しく、継続的な品質評価が不可欠になります。 本セッションでは、ヘルスケアエージェントを提供する Ubie が、プロダクト開発で実践しているアプローチに加え、ヘルスケア領域における AI 活用促進に貢献するための中長期的な取り組みをご紹介します。具体的には、ドメインエキスパートである医師と協働して運用する Human-in-the-Loop や、LLM-as-a-Judge を利用した継続的な品質確認、AI を安全に活用するためのデータセットやベンチマークの整備についてお話しします。 AI 活用における安全性と、その担保のための評価の重要性が伝わる内容を目指します。