人工知能は急速に発展しているが、グーグルの画像認識システムにはゴリラの画像の検出に成功するという8年前からの課題がまだ残っているようだ。
ソフトウェアエンジニアのジャッキー・アルシネ氏は、2015年に同社の写真アプリに組み込まれていた画像認識アルゴリズムによって、自分と仲間の写真が誤ってゴリラと認識されたことを発見し、同社は批判を浴びた。 どちらもアルシネ そして彼の仲間は 黒。 グーグルは恐怖を感じ、プログラムがゴリラの写真にラベルを付けるのを阻止することで人種差別的な間違いをすぐに修正した。
この問題は8年経った今でも十分に解決されていない。 ある調査によると、ユーザーは猫やカンガルーなどのさまざまな動物種で画像を検索できたが、ゴリラ、ヒヒ、チンパンジー、オランウータン、サルでは検索できなかったという。 ニューヨークタイムズの実験。
霊長類の画像にはまだラベルが付けられていません。 写真 アプリ。 企業が問題を修復できないのか、あるいはその機能を実装することが議論を呼び起こしたり、危険になったりするのかどうかは不明だ。 興味深いことに、このバグは Microsoft の OneDrive ストレージ ソフトウェアにも影響を及ぼしました。 Appleの写真アプリ、 それでも アマゾン 写真 他の動物をゴリラと誤認することがよくありました。
アルシネ Googleがまだ問題を解決していないことに失望を表明した。 私はこのAIを決して信頼することはできない、と彼は言いました。
OpenAI は民主的な AGI 制御を促進します
OpenAIの非営利部門は、一般の人々がAIの進歩に影響を与えることを可能にする民主的なシステムを構築する方法に関する革新的な提案をした人に総額100万ドルを寄付すると約束した。
6 月 2 日まで、誰でも提案を提出できます。 提出されたベスト 10 は AI スタートアップによって選ばれ、各受賞者に 1 ドルが授与されます。100,000 コンセプトに合わせたプロトタイプの開発を開始できるようになります。
OpenAIは今週、ブログ投稿で「AGIは全人類に利益をもたらし、可能な限り包括的になるように設計されるべきである」と述べた。 「この賞プログラムは、その方向への第一歩として開始されます。 私たちは、AI システムが遵守する必要がある規範に関する懸念に対処できる民主的な手順の概念実証を作成するチームを世界中から探しています。
OpenAIによると、今回の助成金は実験であり、同社がコンセプトを実用化する場合もあれば、導入しない場合もあるという。 同社は、法律の条文に従うことで必ずしも最適に対処できるとは限らない問題について、幅広い人々からのフィードバックを促すアプローチに魅力を感じています。
「たとえば、さまざまなグループが公人に対してさまざまな見解を持っていることを考えると、AI システムはどのような状況でそのような人々を非難または批判すべきでしょうか?
AI の出力では、異なる意見をどのように表現すべきでしょうか? AI は、デフォルトで、世界中の平均的な人のペルソナ、ユーザーの国、人口統計、あるいはまったく異なるものを表す必要があるのでしょうか? 誰も、企業も、国家も、こうした判断を下す権限を持つべきではないとした。
Anthropic がシリーズ C 投資で 4 億 5,000 万ドルを調達
元 OpenAI 関係者の一部によって設立された AI ビジネスである Anthropic は、Spark Capital が主導した最新の資金調達ラウンドで 4 億 5,000 万ドルを確保しました。
Google、Salesforce Ventures、Sound Ventures、Zoom Ventures、その他の投資家がシリーズ C への投資を支援しています。 Anthropic の広範な言語モデルである Claude は、新しい消費者を登録するために使用されています。 によると CEO ダリオ・アモデイ、資金はさらなるアイテムの開発に使用されます。
「これらの尊敬される投資家やテクノロジー企業が、AI 研究を実施し、安全性を高めるソリューションを開発するという Anthropic の目標を支援してくれることを嬉しく思います。 私たちが開発しているソリューションは、現在および将来にわたって消費者と企業に利益をもたらす信頼性の高い AI サービスを提供することを目的としています。
Anthropic 社は、AI 調整手法を使用してチャットボットに指示に従い、受け入れられる応答を提供するように指示することで、より安全な商品を作成することが目標であると述べました。 最近、同社はクロードのコンテキスト ウィンドウのトークン サポートを 100,000 に増やし、数百ページのドキュメントを一度に分析できるようにしました。
Google AI 検索エンジンにサインアップする方法を知りたいですか?
