日本語大規模言語モデルが持つ倫理性の定量的評価と獲得の試み

概要

大規模言語モデル (LLM) は豊富な知識と高い推論能力を持つ一方で，しばしば道徳や常識に欠けた非倫理的な回答や行動を生成することが知られている．このような LLM の出力は倫理問題や法令違反等に繋がるため，実社会での幅広い活用のためには人間に即した高い倫理観を持つ LLM が必要とされている．本研究では，公開されているいくつかの LLM が持つ常識道徳を定量的に評価し，モデル構造や事前学習データのドメインと LLM が獲得している常識道徳との関係性の分析を通して倫理的な LLM 構築のための手掛かりを検討する．

引用情報

神田 悠斗, 木村 優介, 波多野 賢治, 日本語大規模言語モデルが持つ倫理性の定量的評価と獲得の試み, 情報処理学会第 86 回全国大会講演論文集, Vol.第2分冊, pp.871--872, 2024-03-15.