Ezen a nagy energiaigenyen azert elgondolkodnek.
Llm et mar lehet tenni egy 16gb rammal szerelt gepre is.
Tessek: [link]

"Egy olyan eszköz használata, mint az Ollama, lehetővé teszi az LLM-ek futtatását a saját gépén. Ez azt jelenti, hogy nem kell harmadik fél API-jára hagyatkozni vagy felhőszolgáltatást használni. A modellek helyi futtatása azt jelenti, hogy a felhasználók adatainak nem kell elhagyniuk a gépüket, ami magasabb szintű adatvédelmet és biztonságot kínál. Nagyfokú rugalmasság is biztosított, ami lehetővé teszi a modell testreszabását az Ön igényei szerint. Az Ollama REST API támogatást is kínál."