Nagyon jó kísérlet, érdekelni fog minden fejlemény!
Tervezed pl saját gépen futtatni is az A.I.-t?
ChatGPT-vel már meglehetősen sokat beszéltem, ingyen is és fizetősen is.
Az utóbbi hónapokban tényleg sokat fejlődött, de ezt a következő hetekben azért majd tesztelem a régi kérdések ismétlésével, ahol elbukott! 
![;]](/dl/s/v1.gif)
Mindenképpen offline akarom futtatni, nem a pénz miatt mert tényleg filléres hanem mert érdekel hogyan működik.
Cuda-val lesz majd, lassan megérkezik a P102-100. (~1080ti 10Gb)
Zseniális!
Ezt nem gondoltam volna!
Használgatom a ChatGpt-t főleg angol szöveg javítására, de hogy játékban is használható lenne, így...
Megpróbálkozom helyileg futtatni az LLM-et: (nem mintha az openai drága lenne de sokkal poénosabb lenne mindent helyben futtatni)
Ez megy CPU only módban, nem feltétlenül kell hozzá cuda.
Helyi erőforrás megvan rá (36 szál 4.5ghz, 128Gb DDR4 4000)
https://github.com/LostRuins/koboldcpp/releases
A másik pedig aminek még nem néztem utána:
https://github.com/oobabooga/text-generation-webui/releases
Még mindíg nem találtam meg az igazi legjobb ár érték arányú budget cuda gyorsítót.
Nagyon a Tesla P40 felé hajlok (24Gb vram) de az nvidia CMP kártyák is jók lehetnének.
LLM modellt meg valami cenzúramenteset választok, szóljon be, legyenek kemények az npc-t.
[ Szerkesztve ]
LLM modell már megvan, mistral dolphin uncensored 7b medium lesz.
Valamint agressziót is feljebb is kell tekerni. Azt szeretném hogy ha inzulátok egy batár nagy nord-ot akkor ne mondja nekem azt hogy sajnálja hogy így gondolom azt hogy egy büdös nagy állat hanem egyből vágja le a fejem anyázva. A mostani GPT-3.5 turbo az cenzúrázott és félénk, nem a játékba való.
Amúgy ha valakit érdekli itt vannak az npc-k komplett infójai (énjei) amiből veszi az AI hogyan is kell reagálnia.
https://raw.githubusercontent.com/art-from-the-machine/Mantella/main/data/skyrim_characters.csv
[ Szerkesztve ]
Helyi gépen is megy végre de még csak cpu onlyval (érkezik a kártya, tesla v100 mining verziója lesz)
[ Szerkesztve ]
Ugyanúgy a cenzúra miatt tervezem saját gépen futtatni!
Bár nálam nem ilyen játékbéli agresszív vakarcsok miatt, de ahogy tapasztalatam, bizonyos területeken direkt nem segít...
.. ráadásul egy API segítségével össze akarom majd kapcsolni, hogy ha valamire a saját nem tud választ, akkor kérdezzen rá a többi (nem csak a ChatGPT van tervben) A.I.-nál.
Izgatottan várom, hogy mire jutsz, ha megérkezett a kártya!
LOL ha nem látom a YT-ra feltöltött videóidat, akkor nem hiszem el, hogy ezt meg lehet csinálni Skyrimban. 
Ez még csak a kezdet. Az igaz az ha az ai az npc-k teljes viselkedését átveszi, ott még nem tartunk.
Most csak reagálnak időjárás, idő, cselekmény, hely... szerint de csak szövegben. Ugyanakkor képesek már most követni, megtámadni meg alap dolgokat.
Nem csak a skyrim képes erre hanem igazából minden játék amely moddolható ilyen szinten. (Fallout4, de akár cyberpunk2077 is)
Ugyanakkor ami már most működik hogy a magyarításokat is felolvassa a szinkronhanggal. (Ai miatt én maradtam angolnál mert ahhoz nem kell nagy modell). Másik meg hogy maga a játékos szövegeit is fel lehet olvastatni akár melyik npc hangjával, nincs többé néma játékos karakter.
Az meg extra hogy emlékszik a játékos szövegeire minden npc azaz ha valakit anyáztál az úgy is marad de ehhez még több erőforrás kell. (Jelenleg törlöm az emlékeiket)
[ Szerkesztve ]
Anno pár ezer órát játszottam vele, ma már nem köt le, de elképesztő látni, hogy már egy játék modot is képesek ilyen szintre fejleszteni.
Apropó... a mod nyílt forráskódú?
Blog
