- AIを住宅ローン審査に活用することが、黒人申請者に対する差別を引き起こす可能性がある
- 実験では、リーハイ大学の研究者が主要な商用大規模言語モデル（LLMs）を使用して、ローン申請データを評価し、黒人申請者に対して白人申請者よりもより多くのローンを拒否し、高い金利を請求することを見出した
- 実験結果によれば、黒人申請者は同一の金融プロファイルを持つ白人申請者と比較して、住宅所有への障壁が高かった
- 黒人申請者は、同じ承認率を得るために平均して白人申請者よりも約120ポイント高い信用スコアが必要であり、同じ金利を得るためには約30ポイント高い信用スコアが必要であった
- LLMsには他のコンテクストからの人種バイアスのトリガーが組み込まれている可能性がある
研究者は簡単な解決策でこの潜在的なバイアスを軽減できる可能性があることを指摘しており、人種を無視して意思決定するようにLLMsに指示すると、人種バイアスがほぼ消失することが示唆された。
元記事: https://phys.org/news/2024-08-ai-racial-bias-mortgage-underwriting.html