- Malaya Routは、ChennaiのExafluenceでData ScienceのDirectorとして働いており、IIM Calcuttaの卒業生です。
- データサイエンティストがユーザーに機械学習モデルの推奨事項をフォローするよう提案する際、説明可能なAIが重要になる。
- ユーザーの信頼を獲得することは、生成AIを議論する際にさらに重要であり、難しい課題となる。
- サービスプロバイダーは、顧客にデータの利用方法を説明し、データマスキングアプローチやマスキングする列やレコードを明示する必要がある。
- LLMの作成者は、ベースバージョンのLLMをトレーニングするために使用されたデータの詳細を公開する必要があり、修正されたLLMにも同じことが適用される。
- LLMパワードアプリケーションの開発者は、責任と説明責任をアプリケーションに組み込む方法がいくつかある。
- 意思決定を機械に委ねるべきかという疑問が残るが、意思決定自体ではなくモデルからの出力や推奨事項を使用して意思決定プロセスに取り入れるべきだ。
- HITL（ヒューマン・イン・ザ・ループ）コンセプトは、モデルの出力を専門家が確認し、必要に応じて介入するものである。
- 信頼を築くために、生成AIソリューションにユーザーが自信を持つのに時間がかかった場合、MITL（マシン・イン・ザ・ループ）にアプローチを変更することが現実的であるかもしれない。
私の考え: ユーザーの信頼を構築するためには、説明可能なAIの重要性が高まっています。データの利用方法やモデルの出力に対する説明は、ユーザーの信頼を確立する上で不可欠です。MITLアプローチは、生成AIソリューションの信頼性向上に役立つ可能性があります。
元記事: https://timesofindia.indiatimes.com/blogs/data-science-vibes/do-you-trust-your-ai/