10KBのバイナリファイルを動かしたいだけなのに、諸々のオーバーヘッドで300KBぐらいメモリ食っちゃう
lkjsxc / スク
lkjsxc@lkjsxc.com
npub1puu2...28r2
HTTPサーバとかポートフォリオとか作ったので、次は言語処理系など作る
うーん、味を出すためにC言語でhttpサーバとか作るか？
honoどうなんだろう
ホームページとか作るか
起きた
ずっと仕様を吐き出してる
8bで頑張るやつの仕様を書くなどする
んあー
あ、ソースコード失われてた。やらかしてた
如何に大きな情報を扱うか、これがどうにも難しくて無理だった
永続ストレージに寄り添った言語処理系とか作りたかったけどLLMが使いこなせなくてだめだった気がする
そういや、永続化したい記憶について、キーバリューストアにいい感じに格納したりしたな（本命の部分）
よし、AIエージェントを、作ろう
小さいLLMを複数個動かすの、メモリ帯域幅が厳しいスマホとかに良さそうな気がしてる
なんか50万ぐらい出るらしい（？）
やらなきゃ
あ、特待の申請忘れてた
プロンプトを千数百トークンに収めないとうまく行かないがちなので、なんとかやりくりさせたり
複数の状態を持っていて、それに応じたプロンプトが構築されるようになっていたり