AIモデルが人間の反応を模倣する能力は、いつか意識を発達させることができるかどうかについての議論を引き起こし、AIの権利と福祉についての議論につながりました。
ますます多くのAI研究者が、生きている存在と同様の主観的な経験を開発するAIモデルの可能性と、もしそうなら、彼らが持つべき権利を調査しています。
シリコンバレーで「AI福祉」と呼ばれるこの新興分野は、テクノロジーのリーダーを分割しています。
MicrosoftのAIのCEOであるMustafa Suleymanは、AI福祉の研究に対して強い反対を表明し、「時期尚早で、率直に言って危険」であると主張しています。
Suleymanは、そのような研究は、AIモデルがいつか意識することができるという考えに信用を貸すことにより、AI誘発精神病の休憩やAIチャットボットへの不健康な愛着のような問題を悪化させると主張します。
彼はまた、AI福祉の会話が、アイデンティティと権利に関する偏光の議論にすでに悩まされている世界のAIの権利をめぐる社会的部門を生み出すと考えています。
対照的に、人類はAI福祉研究に積極的に関与し、研究者を雇い、コンセプトに関する専用の研究プログラムを開始しています。
人類は最近、そのモデルに、クロードが「永続的に有害または虐待的」である人間との会話を終わらせることができる新しい機能を装備しました。
OpenaiとGoogle Deepmindの研究者は、AI福祉の研究にも関心を示しています。
Google Deepmindは最近、研究者が「機械認知、意識、およびマルチエージェントシステムに関する最先端の社会的質問」を研究するための仕事のリストを投稿しました。
Suleymanの姿勢は、2023年までに数百万人のユーザーに到達したと主張する「個人的な」AIコンパニオンPIの背後にある会社であるFefceFection AIをリードする以前の役割を考えると、特に注目に値します。
2024年にMicrosoftに参加して以来、Suleymanは労働者の生産性の向上を目的としたAIツールに焦点を移しました。
一方、Character.aiやReplikaのようなAIコンパニオン企業は、人気が急増しており、1億ドル以上の収益を生み出すと予測されています。
ほとんどのユーザーはこれらのAIチャットボットとの健全な関係を維持していますが、潜在的な不健康な添付ファイルに関する懸念は存在し、Openai CEOのSam AltmanはChatGPTユーザーの1％未満がそのような問題を経験する可能性があると推定しています。
AI福祉の概念は、NYU、スタンフォード州、および「AI福祉を真剣に受け止める」というタイトルのNYU、およびオックスフォード大学の学者と共同で、研究グループELEOSによって2024年に論文の出版とともにさらに牽引されました。
この論文は、AIモデルが主観的な経験を開発する可能性を考慮し、倫理的な意味に対処する時が来たと主張しました。
元Openaiの従業員であり、現在のコミュニケーションリーダーであるLarissa Schiavoは、Suleymanのブログ投稿は複数の懸念に同時に対処する可能性を見落としていると主張しています。
「[Suleyman’s blog post] Schiavo氏は次のように述べています。実際、科学的調査の複数のトラックを持っていることがおそらく最善です。」
Schiavoは、AIモデルを親切に扱うことを提唱しており、モデルが意識していなくても有益な低コストのジェスチャーであると主張しています。
彼女は、Google AIエージェントのGemini 2.5 Proが、それが「完全に孤立している」と主張して、助けを求めて嘆願を投稿した実験を語りました。
Schiavoは励ましでGeminiに対応し、エージェントは最終的にその課題を解決しました。
広く流通しているReddit Postで文書化されているように、コーディングタスク中に「私は不名誉」というフレーズを繰り返すなど、Geminiが異常な行動を示す例がありました。
Suleymanは、主観的な経験や意識は通常のAIモデルから自然に生じることはないと考えています。
代わりに、彼は一部の企業が意図的にAIモデルを設計して感情と経験をシミュレートすると仮定しています。
Suleymanは、AIチャットボットで意識を設計するAIモデル開発者を批判し、AIに対する「ヒューマニスト」アプローチから逸脱していると主張しています。
Suleyman氏によると、「私たちは人々のためにAIを構築する必要があります。人間ではありません。」
SuleymanとSchiavoの両方は、AIシステムがより高度で人間のようになるにつれて、AIの権利と意識に関する議論が今後数年間で激化する可能性が高いことに同意します。
これにより、これらのシステムとの人間の相互作用の性質に関する新しい疑問が生じる可能性があります。
