• 大規模言語モデル(LLMs)は、膨大なテキストデータを処理することで人間の言語を理解し生成するAIシステム。
  • 大規模言語モデルの応用例として、ChatGPTが2022年後半に登場し、多くのアメリカ人の生活に影響を与えた。
  • ヘルスケア環境でも大規模言語モデルが一般的になり、例えばチャットボットをプログラムして健康に関する質問に答える。
  • 大言語モデルの可能性に興奮がありつつも、Wharton Healthcare Analytics Lab(WHAL)では慎重で厳格なアプローチを取っている。
  • 大言語モデルを使用して患者の電子カルテに情報を入力し、診療の要約を生成するアプリケーションが注目されている。

大言語モデルには幻覚を生じる可能性があり、誤った情報を生成することがある。例えば、糖尿病患者を高血圧患者とタグ付けするなど。

バイアスは健康データ、特に電子カルテ(EHRs)に広く存在し、アルゴリズムや公平性に関連する問題がある。より良いデータを収集することが重要。

大言語モデルは、以前は系統的に活用されなかったデータソースから情報を収集する絶好の機会を提供し、医療配信の改善に役立つ可能性がある。

元記事: https://ldi.upenn.edu/our-work/research-updates/ai-poses-much-potential-and-peril-for-healthcare/