大規模言語モデル（LLM）は膨大な知識を持ち、自然言語（日本語とか）による会話が出来ますが、判断力や意志を持っているわけではありません。
モデルは確率的に「もっともらしい」文章を構成する仕組みであり、正誤や妥当性を検証する機能はありません。
つまり、LLMは意志を決定する機械ではなく、選択肢を提案するための機械だからです。
そのため、「どちらが正しい？」「どれを選ぶべきか？」と尋ねても、返ってくる内容は、曖昧な回答が返る可能性が高い。
言うなれば、税理士ではなく税務署職員に節税方法を相談するようなもので、同じような知識を有しているとしても、役割が全く異なります。
LLMは人間の代わりに決める存在ではなく、人間がより良い判断を下すための補助的な道具と考えた方が良さそうです。
コメント