要約
- OpenAIはGPT-4 LLMを利用した‘Search’機能をリリース。
- 検索結果を要約し、ソースリンクを提供。フォローアップ質問も可能。
- 大手検索エンジンに対抗する意図だが、信頼性が問題視されている。
- 英国のThe GuardianがChatGPT Searchの脆弱性を報じ、Prompt Injection Methodによる操縦が可能であると指摘。
- 悪用されると製品の評価を操作したり、悪意あるコードを生成させる可能性あり。
- MicrosoftがOpenAIのモデルの代替を模索中であり、今回の問題はChatGPTメーカーに影響を及ぼす可能性。
- OpenAIは非営利団体として設立されたが、今後は‘for-profit company’として運営予定。
感想
OpenAIのGPT-4 LLMを利用した‘Search’機能は画期的であり、競合他社に対抗する重要な要素となる可能性がある。しかし、脆弱性の問題が浮上しており、操縦可能性や悪意あるコード生成といったリスクが指摘されている。このような問題が発生すると、OpenAIにとって大きな課題となり得るだけでなく、Microsoftの動きにも影響を与える可能性がある。今後、OpenAIの‘for-profit company’への移行やこれに伴う対応が注目される。AIの進化と利用の拡大に伴い、セキュリティや信頼性の確保がますます重要となることを再確認させられる出来事である。
元記事: https://thetechportal.com/2024/12/28/chatgpt-search-summaries-can-be-manipulated-study-shows/