驚くべき動きとして、OpenAI はその使用ポリシーを密かに改訂し、軍事目的でのテクノロジーの使用を禁止する明示的な文言を削除しました。 2024年1月10日に行われたこの変更では、以前の「兵器開発」と「軍事と戦争」の禁止規定が政策から削除される。 この大幅な変更は、OpenAI の強力なツールである ChatGPT が軍事用途で使用されることの潜在的な影響についての懸念を引き起こしました。
ポリシーの編集
この修正は、明確さと読みやすさを目的とした広範なポリシーの書き換えの一環であり、OpenAIのテクノロジーの許容される使用に及ぼす影響で注目を集めている。 新しいポリシーでは、武器の開発や使用などの例を含め、自分自身や他人に危害を加える目的でサービスを使用することに対する一般的な差し止め命令が維持されています。 しかし、軍事および戦争への応用に対する具体的な禁止規定は消えた。
OpenAIの視点
OpenAIの広報担当者ニコ・フェリックス氏は、その目標は覚えやすく世界中に適用しやすい普遍的な原則を確立することだと説明した。 「他人に危害を加えない」などの原則を強調しており、同社はこれらのガイドラインが広範でありながら理解しやすいものであると考えています。 フェリックス氏は、曖昧な「危害」禁止にすべての軍事利用が含まれるかどうかの明言は避けたが、武器の開発、使用、他人を傷つける、または安全を侵害する無許可の活動への従事のためのテクノロジー利用の禁止を強調した。
専門家からの懸念
Trail of Bits のエンジニアリング ディレクターである Heidy Khlaaf 氏は、新しいポリシーが安全性よりも合法性を優先しているように見えると懸念を表明しました。 同氏は、大規模言語モデル (LLM) 内の偏見や幻覚の例を挙げて、軍事用途での AI の使用に伴う潜在的なリスクを強調しました。 懸念されるのは、不正確で偏った作戦が被害や民間人の死傷者の増加につながる可能性があるということだ。
施行と現実世界への影響:
OpenAI のポリシー変更が現実世界にどのような影響を与えるかは依然として不明です。 OpenAIはこれまで、軍事用途や戦争用途の禁止の強制には積極的ではなかった。 ChatGPTは現時点で直接危害を引き起こす能力がないにもかかわらず、専門家らは、軍事的文脈での配備は、たとえ非暴力的な文脈であっても、致死性に重点を置いた組織に間接的に貢献する可能性があると主張している。
考えられる動機とパートナーシップ
一部の専門家は、OpenAIが軍事関与に対する姿勢を黙って緩和している可能性があると示唆している。 「軍事と戦争」の明示的な禁止から「武器」への焦点への移行により、武器開発に直接関与せずに運用インフラをサポートする余地が生まれる可能性がある。 OpenAI と大手防衛請負業者である Microsoft との緊密なパートナーシップは、そのような関係が同社のポリシーに及ぼす影響について疑問を引き起こしています。
AIに対する軍事的関心
この政策変更は、世界中の軍隊が機械学習技術の導入に熱心な時期に行われた。 米国国防総省は、戦略的優位性を得るために ChatGPT およびその他の大規模言語モデルの使用を暫定的に検討しています。 軍は精度とセキュリティリスクに対する懸念を認識しているものの、依然として人工知能ツールの導入に熱心である。
OpenAI の使用ポリシーの改訂、特に軍事用途の明示的な禁止の解除は、高度な言語モデルの倫理的な使用に関して重要な疑問を引き起こしています。 AI と軍事的利益の交差点が進化し続けるにつれ、潜在的な危害や悪用を防ぐために、技術革新と倫理的配慮のバランスを取ることが重要になっています。 これらの政策変更の影響により、さまざまな分野での強力な AI テクノロジーの責任ある導入に関する継続的な議論が促進されることは間違いありません。
注目の画像クレジット: Specna Arms/Unsplash
Source: ChatGPT を軍事目的で使用できるようになりました
