• AIモデルの供給チェーンセキュリティと脆弱性の確認が必要
  • Hugging Faceや他のオープンソースリポジトリからモデルを使用する企業は注意が必要
  • 悪意あるプロジェクトをリポジトリに投稿する攻撃者が増加
  • 企業は安全な機構を持つ必要がある
  • 一般的なデータ形式であるPickleファイルはセキュリティ上のリスクを持つ可能性がある
  • SafetensorsフォーマットがPickleよりも安全であることが示されている
  • モデルのライセンスと整合性にも注意が必要

考え:
AIの急速な採用と共に、セキュリティ上のリスクに対処するために企業は供給チェーンセキュリティに重点を置く必要があると感じます。特にオープンソースAIモデルの使用に関するセキュリティ上の懸念は、企業が内部プロジェクトを進める際に重要な要素となります。従来のセキュリティ対策だけでなく、新しいデータ形式やライセンスにも留意することが重要です。

元記事: https://www.darkreading.com/cyber-risk/open-source-ai-models-pose-risks-of-malicious-code-vulnerabilities