llm できた

一旦 諦めた llm だけどなんだかできそうなので試したらうまくいった

2GB のモデルで Python の llm cpp から使う

でもね 単純な質問でも2,30秒 回答までかかる その間の CPU は8つ 全部100%  おまけに 日本語の理解が低くて これは実用的じゃないね やったら固まらずにできたっていう程度

莫大なメモリ と CPU パワーが必須っていう結論には変わりなし、っていうか 改めて思い知らされた ┐(´д｀)┌

書きかけ