要約:
- Humphreyは、UK政府が提供するAIツールの組み合わせで、公務員が利用するために開発された。
- Humphreyには複数の製品が含まれており、Consultと呼ばれる製品は政府のコンサルテーションを分析し、情報をインタラクティブなダッシュボードに整理する。
- LLM（Large Language Models）は、時々「幻覚」を起こし、真実でない主張をすることがある。これは、LLMsがデータや統計に基づいて出力を生成するためであり、真実や正確さに基づいていない。
- LLMsは常に物事を捏造しているが、これは私たちが彼らに求めていることであり、彼らにBSを話すようにプログラムされている。
- LLMsはBSの達人であり、設計されるタスクには、優れたBSアーティストに委任しても問題ないものを選択する必要がある。
感想:
LLMsがBSアーティストと同様の特性を持っていることについての考察は興味深い。人間はLLMsが行っている捏造を判断できるが、LLMs自体はその区別ができないという点は考えさせられる。AIツールの利用においては、LLMsの仕組みや限界を理解することが重要であり、信頼性を損なうリスクを回避するためにも必要だと感じる。
元記事: https://www.raconteur.net/technology/can-the-civil-service-get-to-grips-with-humphreys-genai-bs