Elon Musk と Apple の共同創設者である Steve Wozniak を含む AI の専門家と技術幹部のグループは、主要な人工知能研究所に GPT-4 よりも高度な AI システムの開発を一時停止するよう求める公開書簡を発行しました。 非営利団体のフューチャー オブ ライフ インスティテュートが火曜日に公開した公開書簡には、約 1,000 人の署名者がおり、行動を呼びかける理由として、人間社会に対する「深刻なリスク」を挙げています。
この書簡は、システムのトレーニングを少なくとも6か月間即時停止することを求めています。これは公開され、検証可能であり、すべての公的関係者を含む必要があります。 「人間と競合する知性を備えた AI システムは、広範な研究によって示され、トップの AI ラボによって認められているように、社会と人類に深刻なリスクをもたらす可能性があります」と手紙は始まります。
AI専門家は、人間社会に対する「深刻なリスク」に警鐘を鳴らす
このグループは、高度な AI システムは地球上の生命の歴史に大きな変化をもたらす可能性があり、相応の注意とリソースを使って計画し、管理する必要があると主張しています。 しかし、彼らは、このレベルの計画と管理は行われていないと述べています。ここ数か月間、AI ラボが制御不能な競争に巻き込まれ、誰も、作成者でさえも理解できない、より強力なデジタルマインドを開発および展開しているにもかかわらずです。 、予測または確実に制御します。
オープン レターは、OpenAI の GPT-4 が公開されてからわずか 2 週間後に公開されました。GPT-4 は、大人気のチャットボット ChatGPT のプレミアム バージョンを強化する大規模な言語モデルです。 OpenAI によると、新しい GPT-4 は以前のバージョンよりも複雑なタスクを処理し、より微妙な結果を生成することができ、以前のバージョンの欠陥の影響を受けにくくなっています。
GPT-4 のようなシステムは、作業を行うために大量のデータでトレーニングする必要があり、それを利用して質問に答えたり、他のタスクを実行したりできます。 11 月に登場した ChatGPT は、仕事のメールを書き、旅行日程を計画し、コンピューター コードを作成し、司法試験などのテストで優れた成績を収める人間のような能力を備えています。
今年の初め以来、Google や Microsoft から Adobe、Snapchat、Grammarly に至るまで、すべての企業がこれらのジェネレーティブ AI スキルを活用するサービスを発表しています。
ただし、OpenAI 独自の調査によると、これらの AI スキルにはリスクが伴うことが示されています。 ジェネレーティブ AI システムは、信頼できない情報源を引用することができます。また、OpenAI が指摘するように、「有害または意図しない行動をとることによって安全上の課題を増やし、他人をだまし、誤解させ、虐待する悪役の能力を高めます」。
公開書簡の背後にあるグループは、企業が適切な保護手段やその影響を理解することさえせずに製品を急いで売り出していると主張しています. AI の専門家は、これらすべてがどこへ向かっているのかに不安を感じています。 「残念ながら、このレベルの計画と管理は行われていません。ここ数か月、AI ラボが制御不能な競争に巻き込まれ、これまで以上に強力なデジタル マインドを開発および展開しようとしているのが見られます。クリエーター—理解、予測、または確実に制御できます。」
書簡の署名者は、リスクを評価し、安全策を講じる間、社会は一歩下がって開発を一時停止する必要があると信じています。 彼らは、誰もが AI の将来について発言できるように、AI 開発に関する透明性、公開討論、公開参加を求めています。
公開書簡は、AI の専門家の間で議論を巻き起こし、AI が安全かつ倫理的な方法で開発されるようにするために一時停止が必要であると主張する人もいます。 しかし、一時停止が進歩を遅らせ、AIの開発において他国に優位性を与えることを懸念する人もいます.
議論はあるものの、AI が急速に進歩しており、私たちの生活を大きく変える可能性があることは明らかです。 この変化が責任ある倫理的な方法で管理されるようにすることは、社会全体の責任です。
