マイクロソフトは、開発者が取り組んでいる人工知能システムのセキュリティを評価するのに役立つように作成されたオープンソースツールをリリースしました。 これはCounterfitプロジェクトと呼ばれ、GitHubで利用できるようになりました。
レドモンドの会社自体は、すでにカウンターフィットを使用して、会社のレッドチームで独自のAIモデルをテストしています。 さらに、マイクロソフトの他のセクションでも、AI開発でのツールの使用を検討しています。
Counterfitを使用してサイバー攻撃をシミュレートするMicrosoft
Githubに関するMicrosoftの開示によると、Counterfitには、機械学習システムのセキュリティを評価するためのコマンドラインツールと汎用自動化レイヤーがあります。
これにより、開発者はAIシステムに対するサイバー攻撃をシミュレートしてセキュリティをテストできます。 誰でもツールをダウンロードしてAzureShellを介してデプロイし、ブラウザーで実行するか、AnacondaPython環境でローカルに実行できます。
「当社のツールは、公開された攻撃アルゴリズムをセキュリティコミュニティにアクセス可能にし、AIモデルに対する攻撃を構築、管理、および起動するための拡張可能なインターフェイスを提供するのに役立ちます」とMicrosoftは述べています。
このツールには、サンプルの攻撃アルゴリズムがプリロードされています。 さらに、セキュリティの専門家は、組み込みのcmd2スクリプトエンジンを使用して、テスト目的で他の既存の攻撃ツールからCounterfitに接続することもできます。
ITProによると、Microsoftは、システムの脆弱性を評価する必要性からツールを開発しました。 Counterfitは、個々のAIモデルを攻撃するために作成された攻撃スクリプトとして始まり、徐々に複数のシステムを攻撃するための自動化ツールに進化しました。
同社は、パートナー、顧客、政府機関のいくつかと協力して、環境内でAIモデルを使用してツールをテストしたと述べています。
