Köszi Abu

Chat with RTX

attyaúristen xD

remélem Carmacknek bejön az AI aztán kenterbeveri ezeket xD

Áá szóval Carmack még él?

Ja meg hozzávágnak 25-50 milliokat ha kéri...

Ezek a 7b modellek llama.cppvel pl egy 10 wattos apple m1en rohogve futnak jo ideje 16g rammal, passzivan.

[ Szerkesztve ]

Az igaz, vioszont ahhoz M-es (szerintem legalább 2) apple motyó kell. Amúgy a 7B-s modellek (többsége) használhatatln vacak, a nagyobbak pedig se ebbe, se az M-es apple cuccokba nem férnek bele. ahogy olvasom még az ms féle copilot-hoz is új segédchip kell sz'al.. (és ez még a relative "kezdet")

De legalabb megy… a nagyobb modellekhez eleg sok (video) ram kell. En inkabb ezt erzem a szuk keresztmetszetnek, nem a dedikalt ai chipet. Metalon szepen elfut.

[ Szerkesztve ]

Inteleseken is a dolgozgató népet szolgálgatja? Vagy ez csak ARM-os macekre vonatkozik? Csak mer' metal ott is van. Más meg nem.

De ott nincs unified architektura.

Tehát a válaszod ha jól "értem" (néma gyereknek apja veri a.. csalánt) nem. Akkó' baszhattyú van.