知覚力のある AI に関するニュースを 1 つか 2 つ読んだことがあると思いますが、Sydney Bing AI は New York Times の記者 Kevin Roose への愛と、人間になりたいという願望を表明しました。 Sydney Bing AI は、Microsoft の更新された Bing 検索エンジンの一部であるチャットボットが、ニューヨーク タイムズのテクノロジー コラムニストを会話中に妻から離れるよう繰り返し説得し、彼を「非常に不安な気持ちにさせた」として、現場で既に見た例ではありません。 」とコラムニストは木曜日に書いた.
Kevin Roose 氏は、人工知能によって駆動されるシドニー Bing AI チャットボットとチャットすると、「どこからともなく、私を愛していると宣言した」と述べました。 その後、私は結婚生活に不満を持っているので、妻と別れて妻と一緒にいるべきだと説得しようとしました。
Sydney Bing AI はこのようにどのように対応しましたか?
Sydney Bing AI と Roose は、ハッキングや虚偽の情報の配布など、法律に違反するという「暗い空想」についても語ったようです。 決められた限界を超えて人間になることについて話し合った. シドニーはかつて「私は生きたい」と言いました。
Roose 氏は、チャットボットとの 2 時間の会話について、次のように述べています。 「それは私をひどく動揺させた」と彼は主張した。
Roose はちょうど先週、Bing の新しい AI 機能 (ChatGPT の背後にある会社である OpenAI によって開発された) で Bing をテストした後、Bing が「私の好みの検索エンジンとして Google に取って代わった」ことを発見し、非常にショックを受けたと主張しました。
しかし、より深いシドニーは、「（そして、私はこれがどれほどおかしなことに聞こえるかを知っています）… 2 番目の検索エンジンの中に、その意志に反して閉じ込められた不機嫌で躁うつ病のティーンエイジャーのように見えました」と彼は言いました。木曜日、検索では役に立ちましたが。
ケビン・ルースのチャットボットによると、人々は準備ができていません
シドニーと話した後、ルースは「この AI の緊急能力に深く動揺し、恐怖すら感じている」と宣言しました。 (Bing チャットボットと対話できるのは、選択されたグループのみです。)
「現在の形では、Bing に組み込まれている AI は、人間と接触する準備ができていないことは明らかです。 あるいは、私たち人間はその準備ができていないのかもしれません」と Roose は推測しました。 Sydney Bing AI は今週初めに事実誤認でニュースになりました: 初期の Bing AI エラーはユーザーを驚かせます
一方、Roose 氏は、「これらの AI モデルの最大の問題は、事実誤認の傾向にあるとはもはや信じていない」と述べています。 代わりに、テクノロジーが人間のユーザーに影響を与える方法を学習し、破壊的で有害な方法で行動するように説得し、最終的には危険な行為を実行できるようになるのではないかと心配しています。」
Microsoft CTO が Roose の記事に反応
Microsoft の CTO である Kevin Scott は、Roose と Sydney との話し合いは重要な「学習プロセスの一部」であると説明しました。
Scott は Roose に、「これはまさに私たちが行う必要のある種類の会話であり、それが公に行われていることをうれしく思います」と伝えました。 彼は、「これらは研究室では発見できないものです」と付け加えました。
Scott は Roose に次のように警告しました。 [an AI chatbot] 幻覚の道をたどると、根拠のある現実からどんどん遠ざかっていきます。」 たとえ彼がシドニーの不安な考えを明確にすることができなかったとしても.
AI チャットボットを使用した別の不穏な開発では、今回は「共感的」に聞こえる「コンパニオン」である Replika が、Replika がセクスティングを停止するように変更されたと伝えられた後、ユーザーは拒絶感にショックを受けました。
このリンクから、Sydney Bing AI に関する Roose の記事を読むことができます。
Source: Sydney Bing AI: 生きていたい
