arXiv News

すべての人に一次情報を

サイト

Aboutプライバシーポリシー利用規約

© 2026 arXiv News

大規模言語モデルは、推薦システムでの推薦内容を変えることで、人口統計的不平等を再生・拡大することが判明 | arXiv News

arXiv News

英語日本語

言語を切り替え

英語日本語
アカウントを読み込み中…

すべての人に一次情報を

トップページに戻る
cs.CY日本語公開済み

大規模言語モデルは、推薦システムでの推薦内容を変えることで、人口統計的不平等を再生・拡大することが判明

2026年11月12日arXiv: 2610.41854v1

近年、オンラインの推薦システムに大規模言語モデル(LLM)が導入されるケースが増えている。研究では、10,000件のツイッター(X)投稿を含むサンプルを用い、投稿者1,000人の年齢・性別・人種・教育・収入・結婚状況・宗教性・イデオロギー・党派を検証した上で、LLMプロバイダー3社、プロンプトスタイル6種、文脈情報レベル5階層の組み合わせで合計90条件を実験した。

テキストのみの条件では、LLMは一貫して長い投稿、ネガティブな感情表現、意見性の高いコンテンツを優先した。特にニュースや社会問題に関する投稿が目立ち、長さは平均で14〜39文字増加した。これは、LLMが内容の「長さ」「ネガティブ感情」「主観性」を重視することを示している。これらの特性が投稿者間で差異をもたらすため、年配・男性・高学歴・高所得の投稿者が過剰に推薦される傾向が観察された。

図には、LLMがテキストのみで推薦した投稿において、長いテキスト、ネガティブ感情、主観性の高い投稿が多いという統計が示されている。
Figure 2. LLMがテキストのみで推薦した投稿の長さ、ネガティブ感情、主観性を示す指標。Pagan, Nicolò, Törnberg, Petter, Bail, Christopher A., Barrie, Christopher · arXiv:2610.41854v1 · Figure 2: · CC BY 4.0

プラットフォームのメタ情報(フォロワー数やいいね数・リツイート数)が加わると、LLMはこれらの指標を大きく重視するようになった。例えば、投稿のいいね数の回帰係数はテキストのみの条件で0.003だったが、プラットフォーム情報を与えた条件で0.023まで上昇。これはエンゲージメント情報が推薦の重要な手がかりとなり、フォロー数の多い投稿者の投稿がさらに推薦されやすくなることを意味する。

一方、投稿者の人口統計情報(性別・年齢・人種など)を明示的にモデルに与えても、テキストやプラットフォーム情報が既に存在する場合においては推薦結果に大きな変化は見られなかった。エンゲージメントや内容の自動化された特徴が人口統計のシグナルをほぼ補完しているため、追加情報の効果は限定的だった。

図は、プラットフォームメタ情報(フォロワー数・いいね数・リツイート数)が導入された条件で、推定精度と推薦される投稿のエンゲージメント特徴がどのように変化するかを示している。
Figure 5. プラットフォームメタ情報が影響する推定精度と推奨値の変化。Pagan, Nicolò, Törnberg, Petter, Bail, Christopher A., Barrie, Christopher · arXiv:2610.41854v1 · Figure 5: · CC BY 4.0

以上の結果は、LLMベースの推薦システムが人口統計的不平等を直接的に利用するのではなく、社会的に構造化されたエンゲージメントや内容の信号を介して同様の格差を再生・拡大することを示唆している。なお、実験サンプルは代表的なソーシャルメディアユーザーを必ずしも反映していない点、個人化やフィードバックループを考慮していない点は要注意事項として残っている。

元論文

LLM Recommenders Produce Demographic Inequality Through Content Preferences

cs.CYcs.SI
arXiv で見る