人工知能 (AI) は長い間、一部の人々を魅了し、また他の人々からは批判されてきました。AI で何が可能で何が不可能かを予測することは難しくなっています。バンクーバーのブリティッシュ コロンビア大学 (UBC) の研究者グループは、SF 小説のように思えるものを考案しました。それは、完全に自律的な AI 科学者です。この AI は、データを分析するだけでなく、実験を作成して実行します。この発見は、興味深い意味合いと、一部の人々にとっては不安な意味合いの両方を持っています。
AI科学者というアイデアは実現不可能な夢のように思えるかもしれないが、UBCチームはオックスフォード大学およびサカナAIとの提携を通じてそれを実現した。AIが生成したこれらのワーキングペーパーは、当初は科学にあまり貢献しないかもしれないが、実験からの機械学習の結果であり、機能するという事実は、AI研究の進歩を表している。
学び続けるAI科学者
この研究は、オープンエンド学習と呼ばれるアプローチを中心に進められています。この新しい AI 科学者は、人間が作成した膨大なデータに依存する従来の AI とは機能の仕方が異なります。新しいことを試し、調査し、改良することで学習します。この手法を使用することで、AI は現在の知識の限界を広げ、人間の研究者が見逃していたかもしれない新しい洞察を発見できる可能性があります。
この AI 科学者が最初に取り組んだ課題の 1 つは、拡散モデリングやディープ ニューラル ネットワークの高速化など、既存の機械学習技術を改善することでした。これらは、驚異的な進歩のようには思えないかもしれませんが、AI が自律的にアイデアを開発し、テストする能力を表しています。AI 自体は、登場当初は多くのことを実行できませんでしたが、今では私たちの生活のあらゆる側面に入り込み始めています。
UBC 研究室を率いるジェフ・クルーネ教授は、この結果は必ずしも成功とは言えないが、有望だと認めた。AI 科学者の学習へのアプローチは、実験を絶えず改良し、「興味深い」と思うものを探すというもので、AI 研究で伝統的に使用されてきたより厳格な方法からの斬新な脱却である。
AI科学者は独自にコードテストを行い、理論を改良する
クルーン氏の研究室は、オープンエンド学習の実験をしばらく行っています。以前のプロジェクトでは、仮想環境を探索し、興味深いと思ったことに基づいて行動を生成するように設計された AI プログラムを開発しました。これらのプログラムは、手動でコーディングされた指示で慎重に誘導する必要がありましたが、大規模言語モデル (LLM) の導入によって状況は変わりました。現在、これらの AI プログラムは、調査する価値があるものを独自に判断できるため、より自律的になり、より創造的になる可能性があります。
AI 科学者の最も魅力的な特性の 1 つは、理論を検証するために必要なコードを書き、テストを実行する能力です。これにより、AI は継続的に戦略を改良し、より効果的になり、おそらくより知覚的になります。クルーンは、このプロセスを新しい大陸の発見に例えています。どちらも、探検心と未知への関心、そして途中で大きな驚きが起こる可能性を伴うからです。
こうしたシステムは将来が明るいにもかかわらず、信頼性が低い。AI 科学者は素晴らしいように見えるかもしれないが、アレン AI 研究所の研究者であるトム・ホープ氏は、AI はまだ非常に派生的で信頼性が低いと述べている。この不信感は、特に創造性と真の革新の分野で、AI が過大な約束をして期待に応えられないという事実から生じている。
潜在能力とリスクの管理
AI科学者の誕生により、科学研究の方向性についても懸念が生じています。AIが自ら理論を構築し評価できるようになると、人間の研究者はどこにいるのでしょうか。さらに、これらのAI技術が適切に使用されるようにするにはどうすればよいでしょうか。悪意のある人が自宅でAI科学者を訓練し、将来悪意のある目的に使用する可能性はあるでしょうか。
この AI 科学者は、すでに AI エージェントの作成で進歩を遂げています。AI エージェントとは、あらかじめ決められた機能を備えた自律プログラムです。クルーンのグループは、数学や読解力などのスキルにおいて、人間が設計したエージェントよりも優れた AI 設計エージェントを作成しました。この成功は、AI が単に日常の活動を支援するだけでなく、まだ不明瞭な方法でイノベーションに貢献できる未来を示唆しています。
しかし、この進歩には危険が伴います。これらの AI システムが、意図的かどうかにかかわらず、不正行為を行うエージェントを生み出す可能性があることは非常に懸念されます。クルーン氏と彼のグループはリスクを認識しており、このような状況が起こらないようにするための解決策を見つけようとしています。彼らは、これらのシステムの強度と安全性を保証するには、システムの作成を適切に監督することが秘訣であると主張しています。
これがどこへ向かうのかは不明ですが、一つだけ確かなことがあります。AI 科学者は存在し、彼らはこれからも賢くなるでしょう。AI は新たな段階に入ろうとしており、画期的な発見や新たな問題につながるかどうか、誰もが注目するでしょう。AI が進化するにつれ、学者が倫理的な懸念を重視し、これらのシステムが倫理的に構築されるようにすることが極めて重要になります。最終的には、テクノロジーと人間の複雑な関係にどう対処するかによって、AI が社会にどのような影響を与えるかが決まります。
注目の画像クレジット: National Cancer Institute / Unsplash
Source: AI科学者の研究は学び、発見する
