ヘブライ大学の新たな研究によると、現代のAIシステムは人間の信頼に似ているが、方法論が大きく異なる、人々についての構造的な判断を行っている。 *英国王立協会議事録*に掲載されたこの研究では、5 つのシナリオで 43,000 件を超えるシミュレーション意思決定と約 1,000 人の人間の参加者を分析しました。
これらのシナリオには、融資決定の評価、ベビーシッターへの信頼の評価、上司の業績の評価、非営利団体の創設者への寄付の決定などが含まれます。人間も AI も、有能で正直で善意があるとみなされる個人を好む傾向を示しました。
ヤニフ・ドーバー教授は、「AIはランダムな決定を行っているわけではない。人間がお互いをどのように評価するかという現実的なものを捉えている」と述べた。ただし、人間は複数の特性を統合することで全体的な印象を形成しますが、AI は能力や誠実さなどの個別の特性を評価します。
ヴァレリア・ラーマン氏は、「AI はよりクリーンで、より体系的であり、それがまったく異なる結果をもたらす可能性があります。」と説明しました。この構造的アプローチは、判断される個人に関する同一の文脈であっても明らかでした。
この研究では、AI のバイアスは人間のバイアスよりも系統的で予測可能であり、場合によっては強力であることが判明しました。金融の観点では、AI システムは人口統計上の特徴に基づいて大きな差異を示しました。融資や寄付の決定では高齢者が有利になることが多く、宗教や性別も選択された AI モデルの結果に影響を与えました。
特に、異なる AI モデルは同じ個人に対して異なる評価を生成する可能性があり、AI システムの選択が現実世界の結果に大きな影響を与える可能性があることを示しています。 「どのモデルを使用するかが本当に重要です」とラーマン氏は指摘します。
大規模な言語モデルは、求職者のスクリーニング、信用力の評価、組織の意思決定の指針としてますます利用されています。 AI は人間の推論の側面を反映しているかもしれませんが、人間特有の微妙な理解を欠いています。
「これらのシステムは強力です」とドーバー氏は述べました。 「彼らは一貫した方法で人間の推論の側面をモデル化することができます。しかし、彼らは人間ではないので、彼らが人間を私たちと同じように見ていると想定すべきではありません。」
研究者らは、この研究がAIシステムがツールから自律的な意思決定者に移行する中で、AIの判断を理解する必要性を浮き彫りにしていると強調している。彼らは、AI が信頼をどのように認識するかを理解する必要性に焦点を当て、注意ではなく認識を求めています。
