LLM内の宇宙はどんどん広がっていて、我々がそこから情報を抽出するのはどんどん困難になっていくのではないか
本来、与えられた文章に続く確率が高い文章を続けて出力しているだけなので、制約条件を付与するほど期待する結果に近づく。すでにLLMの中には無限に近い正解を保持していて、人間がそこを掘り当てられていないだけに見える。
そしてハルシネーションが起こりやすい分野は逆に人類が確率が低い未来を進んでいるということだったりして。
Login to reply