Java programozás - Szoftverfejlesztés fórum

üzenetek

hozzászólások


BaLinux
(tag)

Az ilyen törtekkel mindig az a baj, hogy a ''valós'' számokat csak akkor tárolja pontosan a gép, ha a legnagyobb és legkisebb nem nulla számjeggyel kitöltött helyiérték (negatív, azaz tört kitevőjű helyiértékeket beleértve) között elég kicsi a különbség. Mondhatnám azt is, hogy kettes számrendszerben _véges_ törtként ábrázolható törteket.
Azaz csak a 1/2 1/4 1/8 1/16 ... stb és ezekből véges darab, egymáshoz közel állók összege lesz pontos. Próbáld kirakni az 1/9-et. :)

Ezt még szorzod egy hasonló pontos számmal, kerekíted, meg se bírom becsülni ebből mi sülhet ki :)

üzenetek