Anthropic と研究パートナーである AE Studio は水曜日、個別の取り外し可能なモジュールを使用して AI モデル内の危険な知識を分離する方法を公開しました。この技術は、GRAM (Gradient-Routed Auxiliary Modules) と名付けられ、AI モデルの一般的なパフォーマンスを維持しながら、二重用途リスクの管理を強化するように設計されています。
GRAM は、標準のトランスフォーマー アーキテクチャに小さな補助神経コンパートメントを追加します。各コンパートメントは、ウイルス学、サイバーセキュリティ、核物理学などの特定のカテゴリの機密知識に特化しています。モジュールを削除すると、モデルはその特定のデータでトレーニングされなかったかのように動作しますが、モジュールをアクティブにすると、含まれている知識にアクセスできるようになります。
研究者らは、Web テキスト、コード、科学論文、およびウイルス学、サイバーセキュリティ、核物理学、専門コードの 4 つの二重用途ドメインを組み合わせて、8 億パラメータのモデルをトレーニングしました。デュアルユース データは、各ドメインのトレーニング データの約 0.25% を占めました。結果は、GRAM モジュールの削除は、データをまったくトレーニングしないのとほぼ同じくらい効果的であることを示しました。モデルは、すべてのデータを含めて確立されたベースラインに近い一般的なパフォーマンスを維持しました。
このアプローチは、通常、知識を排除するのではなく抑制するだけの事後的なアンラーニング手法とは異なり、敵対的な微調整に対して堅牢であることが証明されました。この研究は、潜在的な脆弱性に関連する国家安全保障上の懸念から、トランプ政権がAnthropicのクロードモデルに一時的に輸出規制を課していたため、AIガバナンスにとって困難な時期に行われた。
これらの制限は、Anthropic が商務省と協力して特定されたリスクに対処した後、6 月 30 日に解除されました。 GRAM は、モデル全体を禁止したり、動作上のガードレールのみに依存したりする代わりに、きめ細かいアクセス制御を可能にし、ポリシー作成における中間点を提供する可能性があります。
ただし、研究者らは、彼らの発見は暫定的なものであり、Anthropic の量産モデルにはまだ実装されていないと指摘しました。彼らは、より複雑なモデルに対する GRAM の拡張性と、より一般的な機能から複雑な知識を分離する際の潜在的な困難について疑問を提起しました。この研究は AE Studio が主導し、Anthropic の Cem Anil 氏と Alex Cloud 氏の協力を得て行われました。
