Unsloth Studioでメモリに乗せられるはずのモデルをロードしたらなぜかOOMおこった
あな
ana0124a@iris.to
npub17rje...xtgx
学部生
Session (Messenger app) 050e6be227689a1fe56ac8eb347f117a3b7c945bd676f609f3f2d2ee4f9b85ba7e
Unsloth StudioはMTPの設定を自動でしてくれるらしい
仕組みを考えるとMoE以外試す気にならない
VRAMが足りない場合、Denseだとバカ遅くなるらしい。今のところMoEしか試してないから実測値は知らない。
MTPモデルだと少しサイズがデカくなるはず
ねこアレルギーなのわすれてた
ﾈｺﾁｬﾝの横腹に顔突っ込んでたら唇腫れてきた
MTP(マルチトークン予測)って外部サービスに依存するの？
MTPは処理をはやくするやつだった気がする
UDだと処理速度がちょっと遅くなるらしい
ジャグラーは上手くいけば1000円で丸一日遊べる()
いろいろ間違えてるな
機械割は一番優秀なんだけどね
マイジャグ打ってもあんま脳汁出ない
アイムかネオアイム打ちたいけど、いつも行ってるパチ屋はマイジャグにばかり高設定入れてるから打てない
邪神ちゃんスロットはやくうちたい
ネオアイム
ジャグラーはアイムEXだけ音量調節できる