大規模言語モデルへの適切な依存を促進する研究

Fostering Appropriate Reliance on Large Language Models: The Role of Explanations, Sources, and Inconsistencies

LLMへの依存を適切に管理する方法を探る

2025-04-24 被引用 28 中級
LLM
  • 大規模言語モデルは誤った回答を流暢に生成することがある。
  • 本研究では、説明や情報源がユーザーの依存に与える影響を調査した。
  • 説明があると依存が増えるが、情報源や矛盾があると誤りへの依存が減少する。
大規模言語モデルユーザー依存情報源

大規模言語モデル(LLM)は、流暢で説得力のある誤った回答を生成することがあり、ユーザーがそれに依存するリスクがあります。本研究では、LLMを活用したアプリケーションを用いて、ユーザーの依存に影響を与える要素を特定しました。特に、説明や情報源の有無が依存度に与える影響を明らかにし、興味深い結果を得ました。LLMの利用に関心がある研究者や実務者にとって有益な知見が得られます。

大規模言語モデルの利用や研究に興味がある人に向いています。特に、ユーザーの信頼性や依存に関心がある方におすすめです。

Fostering Appropriate Reliance on Large Language Models: The Role of Explanations, Sources, and Inconsistencies
Sunnie S. Y. Kim, Jennifer Wortman Vaughan, Q. Vera Liao, Tania Lombrozo, Olga Russakovsky