ご存知ないかもしれませんが、サイバーセキュリティの世界ではスーパーボウルが間もなく開催されます。5 月 6 日の週には、130 か国以上から 4 万人を超える人々が、サイバーセキュリティに関する第 33 回年次 RSA カンファレンスのためにサンフランシスコに集まります。私が RSA カンファレンスの議長を務めるのは今年で 16 年目になりますが、今年のイベントには、これまでにないほどの緊張感と緊迫感が漂っています。その理由を理解するために、私のチームは、世界中のサイバースペースの擁護者からカンファレンスに寄せられた何千もの講演者の応募を分析しました。その結果、人工知能、情報操作、キャリアの燃え尽きという 3 つのテーマが浮かび上がりました。
ビジネスや社会における AI の影響力が高まるにつれ (今年は講演者の 5 人に 1 人が AI に焦点を当てていました)、あらゆる業界が AI 搭載システムの力をどのように活用するかを模索しています。同時に、セキュリティ専門家は新たなリスクを発見しています。そのようなリスクの 1 つは、これらのシステムが何らかの形で企業やユーザーのデータを漏らす可能性があることです。もう 1 つの懸念は精度です。大規模言語モデル (LLM) 搭載システムは確率的であるため、同じ質問を数回行っても、毎回わずかに異なる回答から意味のある回答が得られる可能性があります。短編小説を生成するには問題ないかもしれませんが、新しい AI 搭載のカスタマー サービス チャットボットが、非常に不正確または架空の情報を顧客に提供することがあるとしたらどうでしょうか。
サイバーセキュリティでは、リスクに対処するために、リスクを補償コントロール、つまりリスクを制限または軽減するテクノロジーとプロセスを採用しています。課題は、これらの AI テクノロジーの多くが新しいものであり、新たなリスクを管理するための適切な補償コントロールが今まさに構築されていることです。さらに、AI 規制に関する懸念もあります。いくつかの国が最近、AI に関するガイダンスを公開したり、規制を発行したりしており、その顕著な例としては、欧州連合 AI 法や米国ホワイトハウスの「人工知能の安全でセキュリティが高く、信頼できる開発と使用に関する大統領令」があります。将来の規制の微調整、たとえば、これらの AI システムが顧客の感情状態を推論することを禁止する制限は、AI を活用したカスタマー サポート チャットボットの廃止につながる可能性があります。
ほんの数年前までは、ディープフェイクを作るには技術的な洞察力と意図の両方が必要でしたが、今では意図さえあれば十分です。社会的観点から見ると、サイバーセキュリティの専門家は、来たる米国大統領選挙で世論を左右するディープフェイクが大量に生み出されるのではないかと懸念しています。ビジネスの観点から見ると、ディープフェイクはサイバー犯罪者の詐欺行為能力を飛躍的に高めています。最近の例では、香港の大手多国籍企業の財務担当者が同僚たちとビデオ会議をしていたところ、会議中に取引の一環として会社から2,500万ドルを送金するよう求められました。残念ながら、その信頼のおける同僚たちは実はディープフェイク、つまり詐欺師が操る本物の従業員の合成画像だったのです。
情報操作の懸念は、ビデオやオーディオの改変だけにとどまりません。最近の陰険な例の 1 つはソフトウェアの世界から来ており、悪意のある人物が XZ Utils と呼ばれる非常に一般的に使用されているアプリケーションにバックドアを埋め込むことができました。このソフトウェア インプラントが Microsoft のソフトウェア開発者によって発見されていなかったら、何万もの企業が危険にさらされていた可能性があります。
AIやデータ操作の課題に加えて、サイバーセキュリティコミュニティでは、昨年末にMGMリゾートを閉鎖した攻撃のような、注目を集めるランサムウェア攻撃が相次いでいます。過去5年間の1万人を超える講演者の応募を振り返ると、「燃え尽き症候群」のトピックが2回急増しました。最初は2021年で、COVIDが急増し、サイバーワーカーは完全にリモートワークの労働力を確保するために迅速に適応する必要がありました。その後、燃え尽き症候群のトピックは2022年と2023年に通常のレベルに後退しましたが、2024年に再び急増しました。サイバーセキュリティの専門家を圧迫しているのは、最近の攻撃の波だけではありません。最高情報セキュリティ責任者（CISO）が企業の侵害に対して個人的責任を負う可能性があるという懸念が高まっています。特に2つのケースでそのような責任の恐怖が浮上し、侵害の詳細を迅速に報告するよう企業に新たなプレッシャーがかかっています。
一日を振り返って、テクノロジーとの接点をすべて考えてみましょう。車はコンピューター、銀行はスマートフォンのアプリです。テクノロジーはどこにでもあり、それはハッカーもどこにでもいることを意味します。私はキャリアのすべてをサイバーセキュリティに費やしてきました。ソフトウェアの脆弱性を見つける方法に関する初期の書籍の執筆から、コロンビア大学でのコンピューターセキュリティの指導、シマンテックの CTO としての勤務まで。サイバーセキュリティの専門家についてほとんどの人が理解していないのは、私たちがミッション主導のコミュニティの一部であるということです。攻撃者は孤立して作業することが多いのに対し、サイバーのプロは協力して作業します。世界のサイバーセキュリティ コミュニティのエリートが RSA カンファレンスに集まりますが、これは単なる集まりではありません。コミュニティの集会なのです。
ヒュー・トンプソン博士は、RSA カンファレンスのエグゼクティブ・チェアマンです。
Fortune.com の解説記事で表明された意見は、その著者の見解のみであり、必ずしも Fortune の意見や信念を反映するものではありません。
元記事: https://fortune.com/2024/05/01/cybersecurity-experts-ai-risks-deepfakes-burnout-rsa-conference/