- Google Project ZeroとGoogle DeepMindの「Big AI」プロジェクトが、公開前にソフトウェアの致命的な脆弱性を発見
- Big Sleep AIエージェントがSQLiteオープンソースデータベースエンジンを解析中に、スタックバッファアンダーフローの脆弱性を発見
- これはAIが広く使用されているアプリケーションでメモリセーフティの脆弱性を発見した初めての事例となる可能性あり
- Googleの手法は、以前に修正された脆弱性をBig Sleepエージェントの出発点として提供し、同様の脆弱性を探し求めるように設定
- 従来のfuzzing技術では見つからなかったバグを発見
この記事は、AIが自らメモリセーフティの脆弱性を発見した興味深い例です。従来の脆弱性検出方法では見過ごされていた問題を発見し、修正につなげた点は注目に値します。AIの能力がセキュリティ領域でも活用される可能性が示唆されており、今後の技術発展が期待されます。