- シャムヤ・カルマバイア氏は、教育心理学部の助教授として、人工知能ツールの有害な偏見を特定する研究に新しい資金を獲得しました。
- カルマバイア氏のプロジェクトは、AIアプリケーションに力を与える大規模言語モデル（LLMs）を、そのような偏見について監査するためのフレームワークを開発します。
- 研究は、公正さの欠如とそれに続く害を透明にし、ステークホルダーの信頼を構築し、公正さの問題について将来の作業に情報提供することで、多様な展開コンテキストと人口でLLMの信頼性を向上させます。
- カルマバイア氏は、アルゴリズムの偏り、学習解析、学習科学に焦点を当てた人間中心の人工知能の研究に取り組んでいます。
- 彼女は、教師が教室でAIツールを使用する利点と害を理解するためのツールを開発する別のプロジェクトも進行中です。
- また、彼女は学際的な研究を行い、多言語を話す学生にとってLLMをより公平にする方法や、AIツールを責任持って構築する際に公正さやプライバシーなどの人間の価値観をどのように活用できるかを検討しています。
- カルマバイア氏は、アメリカンファミリー保険とUW–マディソンのデータサイエンス研究所を通じた独自の共同研究パートナーシップであるアメリカンファミリーファンディングイニシアティブの最新ラウンドで資金を受け取った9人のプロジェクトの1人です。
- アメリカンファミリー保険は、データサイエンスでの発見を促進し、産業や社会に価値を創出するUW–マディソンの研究を支援するために、10年間で1,000万ドルを拠出しています。
- 2020年春に立ち上げられて以来、UW–マディソンの40のチームがこの内部資金競争を通じて約600万ドルを受賞しています。
- 第7ラウンドの資金募集は2025年1月に発表されます。
この記事は、人工知能ツールの偏見を特定し、解決するための重要な研究を行っているシャムヤ・カルマバイア氏に焦点を当てています。彼女のプロジェクトは、大規模言語モデルの監査フレームワークを開発し、公正さの欠如やそれに伴う害を透明にすることで、AIツールの信頼性を向上させることを目指しています。また、教育分野でのAIツールの利用に関する教師のサポートや、多言語学生向けの公平なモデル構築にも取り組んでいます。アメリカンファミリーファンディングイニシアティブを通じて、これらの重要な研究が資金援助されており、将来的な成果に期待が寄せられています。