エージェントがサイバー犯罪の新たなターゲットに

電子メールのセキュリティは常にいたちごっこでした。ウイルスが発明され、 ウイルス対策ソフトウェアは既知のディレクトリを検索し、電子メールの添付ファイルや URL 内のディレクトリの存在を検出します。ウイルスが自然界の複雑な形態に変化するにつれて、無防備なツールがこれらの新しい脅威をスキャンして特定できるように適応されています。フィッシングは、VKT、新しいツール、そしてセキュリティ意識向上トレーニングとしての新しい防御カテゴリーを生み出す次の分野となっています。今、 悪者たちは現在の警備員に侵入するためにAISエージェントを攻撃します。

同氏は、「Akilの対策は顧客の攻撃範囲を大幅に拡大するものであり、大幅には実施されていない」と述べた。

証拠保護のための多数の AI 機能は、9 月に開催される Defense 2025 に関連して同社が提案している Evidence 2025 イベントで紹介される予定です。これらは、受信トレイに入る前に潜在的な脅威をスキャンすることで、AI のアクションをダウンロードしようとするハッカーの試みを阻止します。

電子メールセキュリティに対する従来のアプローチ

ほとんどの電子メール セキュリティ ツールは、不審なリンク、本物である偽のドメイン、悪意のある添付ファイルなどの未知の悪い機能に敏感です。この方法は、従来の圧力、スパム、認識の使用とうまく機能します。しかし、サイバー犯罪は現在、職場となっているアシスタントやエージェントを狙っています。

これは、リクエスト (テキストまたはコード形式の質問またはコマンド) を使用することによって行われます。さらに、非アクティブなデータなどの異常なデータなどの危険なアクションを取得するために、Microsoft Copysot や Gemini などの Microsoft AI のツール Microse に使用される隠しテキストや特殊な書式設定を使用する電子メールも含まれます。

「AI インジェクション トランザクションやその他の使用は、人間の行動ではなく人間のマシンの動作に従う新しい種類の攻撃です」とティーマン氏は述べています。

RFC-822 を使用する電子メール タスクの最高 AI およびデータ責任者であるダニエル・ラップ氏は、ヘッダー、プレーン テキスト、プレーン テキスト、および HTML の使用について言及しています。これらすべてがユーザーに表示されるわけではありません。攻撃者はこれらの命令を使用して、AI エージェントによる目に見えないが完全なメッセージ命令を読み取ります。 Ain がテキストを処理する際、入力された命令がランダムに実行されます。これにより、データが異常に動作したり、システムが変更または破損したりする可能性があります。ハイパスフィルターは悪意のあるアクセサリーや迷惑なアクセサリーを探しますが、嫌いなものは何もありません。

Proof 社の最高 AI およびデータ責任者、ダニエル・ラップ氏は次のように述べています。コピー

「私たちが確認している最新の攻撃は、HTML とプレーンテキストのコピーがまったく異なるものである」とラッパン氏は述べた。 「電子メール クライアントには、プレーン テキストのまま AI システムによって実行できる HTML の単純なインジェクションが備わっています。」

この戦略が機能する理由は 2 つあります。まず、私です。AI アシスタントが受信トレイにアクセスできる場合、電子メールに対して自動的に操作できます。 2番、 ラップ氏は、AIエージェントの固有の性質により、フィッシングやその他のソーシャル詐欺に対して脆弱であると述べた。ナイジェリアの銀行口座に送金することについてよく考える人もいるかもしれません。 AI エージェントは視覚障害者を隠すことができます。

企業が受信トレイの後に電子メールをスキャンするという証拠のアプローチはどれくらい異なります。彼はたくさんの経験を持っていました。同社は毎日 35 億通の電子メールを配信しており、これは世界全体の 3 分の 1 に相当します。さらに、URL は 500 億、アプリケーションは 30 億に達します。これは、電子メールが送信者から受信者に送信されるときに IE に表示されます。

「私たちは提供方法に直接的な一貫性がありませんでした。つまり、スループットと効率が重要であることを意味します」とラッパン氏は語った。

この必須レベルは、特に大規模言語モデル (LLM) 機能からの例と知識に基づいて、より小規模な AI モデルをトレーニングすることによって達成されます。たとえば、KDSAT-5-5-5 の GPT は約 6,350 億のパラメータです。メールごとにこれだけのデータ量があるとそれは不可能です。 Mark はモデルを 3 億近くのパラメータに調整しました。フォントを犠牲にすることなく、より低い圧縮状態を取得するために、より低いレベルを取得するために、そのモデルを取得します。また、単にメトリクスをスキャンするのではなく、メッセージ自体の意図をより適切に解釈するために、これらのモデルを 2.5 日ごとに更新します。そのため、配達前に給油スポット、不審な指示、その他の AI を使用します。

「音声証明は、事前に攻撃が行われる前に攻撃を阻止することで、ユーザーの侵害を防ぎ、悪用を防ぎます」とラッパン氏は述べた。 「当社の電子メール ゲートウェイは電子メールを確認し、受信トレイをブロックする前に脅威を検出できます。」

さらに、コントローラーは評価アーキテクチャを使用します。単一の定義されたメカニズムを提案するのではなく、ベクターが過去に同じ方法を制御するためにベクターを攻撃できるようにする数百の行動シグナル、香り、コンテンツが含まれています。

AI がセキュリティのゲームを変える

エージェントは企業および消費者の環境全体に分散されます。残念なことに、AI の可能性を急ぐあまり、セキュリティが損なわれてしまうことがよくあります。悪者はそれを知っています。これらは、サイバー犯罪の手法とテクノロジーが、エージェンシー AI の時代に向けたフィッシング技術を完成させる機会となります。

「セキュリティツールは、人間、機械、AIエージェントの意図を解釈するために使用できる悪い指標を検出できなければなりません」とTaiparvar氏は述べています。 「不審な指示や先制入札リクエストを特定するアプローチ、および軽微な防御に AI モデルを使用することは、今日の防御に大きな変化をもたらすでしょう。」

レーベルはこれらの能力の役割において先を行っています。今後数カ月以内に、他のサイバネティック小売業者もこれに追随すると予想されます。しかし、その間に他にどのような脅威が生じるでしょうか?