結局最終評価者が人間である以上、その人間の性能を超えない。評価ができなければ 市場に出ない。
gpsnmeajp
_@sabowl.sakura.ne.jp
npub1yg6m...ydgh
人間の認知に合わせることが正しいことなのかみたいな話もあるんだけど、人間の認知に合わせないと人間が理解できないから今のところ 人間の認知に合わせるしかないみたいなところがある
とりあえず大量に学習させておけば 完全な世界モデルにどんどん近づくっていう話はあるよね
生成 AI が AI 脅威論とか SF を学んでることは結構 めんどくさい 状況だなと思ったりする
仮に非常に高い信頼性のブラックボックスがごくまれに失敗した時、それを失敗 と認識するまでが大変なような気もする
成果が評価できない領域になっちゃうと もうそれすらできなくなるけど
まあ 信頼性 高く 成果が出てるならブラックボックスでも構わないってのは本当にその通りなんだよな
これは実際出てきそうだよな。
目標は明確、手段はある、判定も明確にできる、ただ人間にはできないこと、みたいな話になるし
「人間にはもはや よくわからないが この判定機の性能は信頼できる」ということをどうやって人間が判断するのかという問題
現状、判定機が正しく判定できていることを判定できる人間が必要であるという後退問題がある。
つまり 人間が判定機としての限界を迎える領域に、人間が作ってるものの性能の限界が 多分ある。
そこまでの間に、判定装置としての役目を 人間から機械にうつさなきゃならないが、どうやるんだっていう問題。
ただ人間にとって有用な方向に進化すると言った時に、人間に理解できないものを人間が有用だと解釈できない という問題がある
人間が言語化 や理解できない領域のものを機械だけで 処理可能かと言われると、少なくとも人間のものを学習して模倣してる現時点では無理だろうと思う。
自己進化する仕組みが入ってきたら別なんだろうなあ
もちろん 人間 ブランドが絡むものに関しては別だけど
人間を使った方が安いから人間を使ってるだけであって、機械を使った方が安いなら機械に置き換わっていく
割と普通にこれなんだろうなと思う
ファジー制御のこと AI って言った時代もあるよね
ゲームのキャラクターの NPC の自動制御が AI って言われてたことも結構あるよね。
もちろん ニューラルネットワーク 積んでるやつもあるけど、そんなもん絶対積んでないであろう 時代でも
機械が作っている時点で人間を超えないっていうトートロジーを設定してしまっているパターンもまあ割とあるし
これ本物を超える の定義 次第だなって思う。
明らかに 工場 生産機械は特定の製品を作成するという点において職人等の人手によるの生産能力を明らかに上回ってるし