For mange år siden, da lommeregnerne kom frem, lærte jeg at hvis man lavede følgende regnestykke kunne man se om den afrundede forkert.
123 / 456 * 789 = 212,82233
I dag regner de med så mange decimaler at det kun er 212,8223 der normalt er ens.. og så svinger resten fra maskine til maskine...
Men nu har jeg prøvet dette simple regnestykke, på en HTC Wildfire og en Desire.
20,22 - 20,00 = 0,2199999999
og på andre som f.eks. Iphone bliver resultatet 0,22 som jo er rigtigt...
Nogen der har en ide hvorfor den regner forkert.. på så simpelt et regnestykke????
Jeg ved godt at det bliver 0,22 hvis man afrunder, men hvis det er et mellemresultat i en lang formel er det jo et "forkert" resultat man går.
Vil lige sige at jeg på samme telefon har hentet en anden simpel regnemaskine og der bliver det rigtigt, så intet med cpu og hardware.. Det er HTC egen indbygget regnemaskine der regner forkert