Ne fűts, ne klímázz, autóra rá se merjél nézni, mert környiszennyi van, de az AI-nak kell a villany, aminek el tudom képzelni mekkora százalékát használják tényleg hasznos dologra...

Meg a bányászat, ugye... Aminél a MI még mindig értelmesebb.

A MI fejlesztésénél tulajdonképpen elfogadható érvelés az, hogy ez a fejlődés szükségszerű stádiuma, de ez még nem jelenti azt, hogy jól csináljuk.

MaCS

Azért az érdekes, hogy az AI "csak úgy" rá lett eresztve a társadalomra és az eddigi lépcsőfokokat kihagyta pl. a katonai után a nagy céges vastag előfizetéses rendszer majd utána a bármilyen cég és végül mikor már "kifacsarták" a cégek akkor megkapják a "mindenki". A katonai után csak úgy be lett dobva, hogy "ússzál AI" vagy elsüllyedsz...

"mekkora százalékát használják tényleg hasznos dologra"

Alighanem jelenleg betanításra (kutatásra) kell ennyi energia elsősorban. Ha meg sokkal fejlettebb lesz mint most, akkor meg arra számítanák, hogy munka elvégzésére fog elmenni a rengeteg energia. Tehát ha majd a nem-fizikai munka jelentős részét ez végzi minden egyes cégeknél, akkor el lehet képzelni mennyi kell belőle.

[ Szerkesztve ]

Sajnos ez van. A saját jövőm miatt is aggódom, a gyerekemé miatt pedig kiver a veríték.

MaCS

Gyanítom a civilek csak a butítottat kapják jelenleg is. Amilyen ökörségeket csinál olykor pláne valószínű. Másrészt azt is gyanítom, hogy mivel az egész az adatokra épül, előbb az emberekből kell kiszívni mindent, majd utána lesz a tudására üzlet építve.

Meg a bányászat

A bányászat mindennel együtt nem kérte a tizedét sem annak, amire most az AI bejelentkezett.

Tévedsz, elég nagyot. Maga az üzemeltetés hogy relevens válszt adjon a bankunkban igen erőforrásigényes, lassú szar, ami eszi a vasat. Fizumelés alig, erre meg elkezdik locsolni a pénzt.. levágnám a kezét sária szerint annak aki ezt költségként elszámolja.. Eszetlenül tolják, kiforrott optimalizált rendszerként még hasznos is lehetne. minden Istenverte barom fél hogy kimarad és lemarad, emberiség ellenes bűncselekmény, egy klíma válság alatt ebben a formában.

Erre van valami forrásod? Komolyan érdekelne.

Köszönettel: MaCS

Persze, ahol használják, ott zabál. Csak jelenleg még relatív kevesen használják, mert nem csak új, de mindenre még nem is jó ember helyett, közel sem. (Nem tudom mi az arány... nálunk is nyomják, de erősen pilot fázis.) Na de ha megbízhatóbb/okosabb lesz, na onnantól nagyságrendekkel több "következtetés" felhasználó lesz (és akkor minimum valami Groq szintű inference specializáció kell). De addig is, a modelleket fejlesztő nagy cégeknél pörög igazán a FOMO, elvégre akinek előbb van szuper-hiper megbízható AI-ja, az kb. a világ ura onnantól. Tehát megy a verseny padló gázzal, hogy ki tud több számítási teljesítményt kutatásra/betanításra rádobni, és így elsőre odaérni. (Pl. ott az MS tervezett Stargate-je, aminél egyik fő gondjuk, hogy egyik USA állam hálózata se bírja el.)

Ha ebben az országban marad, akkor pornósztár vagy megélhetési politikus. Bár a kettő ugyanaz.

Ezen a nagy energiaigenyen azert elgondolkodnek.
Llm et mar lehet tenni egy 16gb rammal szerelt gepre is.
Tessek: [link]

"Egy olyan eszköz használata, mint az Ollama, lehetővé teszi az LLM-ek futtatását a saját gépén. Ez azt jelenti, hogy nem kell harmadik fél API-jára hagyatkozni vagy felhőszolgáltatást használni. A modellek helyi futtatása azt jelenti, hogy a felhasználók adatainak nem kell elhagyniuk a gépüket, ami magasabb szintű adatvédelmet és biztonságot kínál. Nagyfokú rugalmasság is biztosított, ami lehetővé teszi a modell testreszabását az Ön igényei szerint. Az Ollama REST API támogatást is kínál."

Egyrészt egyenlőre valószínűleg tréningre kell, ami sokkal többet kér (és az otthon messze nem reális, nyilván).

Másrészt, szélesebb alkalmazásra jó modellek egyenlőre nincsenek, egy Claude 3 Opus is (aminek futtatásához messze kevés egy otthonigép) rendesen "hallucinál". Így nem tudjuk mekkorák lesznek, mire tényleg jók lesznek. Plusz, a fejlődés várható iránya, hogy az LLM-nek iterálni kell a válaszon, mielőtt kiírná neked (most ugye fix számú rétegen átfolyik, és rögtön kiírja neked a következő tokent), és úgy már sokkal de sokkal lassabb lesz, tehát gyorsabb vas kell alá. (Mondom ezt azzal együtt, hogy LLaMa 3 8B-t pont tegnap próbálgattam saját gépen, és érzetre már az 1 évvel ezelőtti felzúdulást kirobbantó kb. 200B-s ChatGPT 3.5 szintje.)

Pofonegyszerű: vegyenek meg kilóra valami Szaharai datolyaköztársaságot, nyomják tele kínai napelemmel és violá, lőn energia és főd.

Mér' eszik amúgy ennyit ? Lehet előbb hatékony hardvereket kéne kifejleszteni alá, nem tamagocsin futtatni...

Miért eszik ennyit? Nyilván mert nagyon sok számítást kell elvégezni. H100/H200 meg hamarosan érkező B200 nem épp tamagocsi. A többiek megoldási sem (Google TPU-i, AMD MIxxx).

Vannak a horizonton formabontóbb megoldások (pl. részben analóg), amik sokkal nagyobb hatékonyságot ígérnek. (Aztán javarészükről kiderül majd hogy még sem működik.) De hát türelem, ezeket nem épp pár év összedobni, meg ténylegesen elérhetővé tenni.

Pont ezért sz.rok rá nagy ívben az egészre. A nagy környezetvédelmem kimerül annyiban, hogy nem szemetelek.

Már 8giga ramos laptopomon is rendesen fut a LLaMA3 8B ami nem is rossz, és a stable diffusion 1.5 alapú modellek

Sőt már régi nem direkt MI chipes telefonon is:
[link]
[link]

Elhülyéskedni már az is jó.

Egyébként a "mire fel az energia igény" abban egyetértek hogy lehet túl lett tolva hirtelen és ebből akár valamekkora bukta is lehet de egyelőre úgy néz ki hogy egyre több dolgot kiválthat ami ... na igen vagy valami kényelmes utópia vagy valami disztópia felé visz.

"Nem bírják kiszolgálni az AI energiaigényét"
Miért, odaát nem süt a nap,nem fúj a szél?...
Szóval én átírnám arra, hogy:
"Nem bírják kiszolgálni az AI energiaigényét a jelenlegi megoldásokkal a profit maximalizálása mellett"
Így mindjárt más a leányzó fekvése. Szoktam mondani,hogy a "nem tudom megoldani", és a "nem akarom megoldani" között kurv@ nagy ám a különbség

Nem tudom hány éves vagy,én 38. Sokszor elgondolkozom ezen, hogy mit hagyunk majd hátra. Hogy fognak-e ujjal mutogatni ránk 100 év múlva,hogy mi tehettünk volna valamit,hogy legyen jövőjük, de nem tettünk. Nagyapáink még harcoltak a jövőért,apáink szenvedték ennek utóhatásait. Mi élveztük ezeknek a gyümölcsét, és-ahogy én látom- a nagy kényelemben valahogy mindenki megvakult a világ felé. Mintha senkit és semmit nem érdekelne mi lesz holnap,csak a ma van. A most. Szerintem mi még látni fogjuk azt,ami marad. Mi még emlékezni fogunk arra,hogy volt nagyon jó is. Ami talán rosszabb,mint ha csak a sz@rt látná valaki,ahogy az unokáink fogják, mert mi tehetünk volna ellene. De nem tettünk.
Szerintem.

Miért, mikori megoldásokkal kellene most megoldani?

A profitmaximalizálás nem annyira alapértelmezett, hogy külön ki kellene írni?

MaCS

Nem tudom, kinek volt válasz, de egy biztos: itt van (vagy inkább volt) nekünk egy 100% komplett TERMÉSZET, illetve szintén inkább csak volt ELÉG HELY a bolygón. Az egész AI-Ájtí-üvegfalmögöttprodzsektmenedzsment baromság abszolút semmi hulladék ahhoz képest, amit a természet felépített, röpke pár év alatt bármit művel a modern ember, az kuka, dédunokáinak már csak az alkalmasint radioaktív vagy épp évszázadok alatt lebomló műanyagszar szemétdomb marad és a kiirtott élővilág, amit nem lehet csak úgy csettintésre visszahozni.

Ezügyben halványlila motivációt nem látok az emberiségben, hogy változni akarna.
#1 probéma az óriási embertömeg. Kimondja bárki is, hogy állítsuk le a tömeges embergyártás? Jajjajdehogy, hát az mennyirenempíszí már!
#2 probléma maga a gazdasági "növekedés" hajhászása mindenek felett. Egy példa a millióból: úgy akarunk "klímacélokat" elérni, hogy tapsolunk egy-egy légitársaság növekvő forgalmának? Szánalmas...

Szóval ja, sajnos mutogatni fognak ránk utódaink teljes joggal, mert ami maradandó és értékes, teljes erőbedobással pusztítjuk, olyan "előnyökért" amiből már semmi sem fog létezni, mire ők megszületnek.

[ Szerkesztve ]

+1

Röhejes az egész. Egyre hülyébb az emberiség.