Az én Microsoftom jobb, mert 54,17157408881108-t hozott ki ugyanarra a számításra, bizony! De ha a PI-t emlékezetből beírom 3.141592653589793238 jegyig, akkor 54,1699764307575 jön ki. Megbocsájthatatlan pontatlanság! Nemhogy az űrsikló, de még egy ólajtó tervezését sem bíznám erre a vacak kalkulátorra!
(Gyengébbek kedvéért másik példát hozok arra, amit alább próbáltam megmagyarázni az értékes jegyekkel kapcsolatban:
Van egy almám, megmérem a kerületét 16 tizedesjegy pontossággal. Utána szabad kézzel elvágom félbe. Nem 0.5000000000000000 részre, hanem 0.5 részre. Ebben benne van, hogy az egyik rész lehet 0.5499999999999999, a másik 0.45000000000000001, vagy bármi hasonló, nem tudhatjuk. A végeredmény akkor is 10% pontosságú lesz, mert a vágásom pontossága annyi, azaz valahol 0.45 fölött, de 0.55 alatt, mindkettő egy tizedesjegyre kerekítve 0.5. Másik példa: hiába ismerjük a PI-t 18 tizedesjegyig, ha a kör átmérőjét csak 2 értékes jegyre ismerjük, a kerületét nem fogjuk 2 értékes jegynél pontosabban ismerni, mert kerekíteni kell.)
Az én Microsoftom jobb, mert 54,17157408881108-t hozott ki ugyanarra a számításra, bizony! De ha a PI-t emlékezetből beírom 3.141592653589793238 jegyig, akkor 54,1699764307575 jön ki. Megbocsájthatatlan pontatlanság! Nemhogy az űrsikló, de még egy ólajtó tervezését sem bíznám erre a vacak kalkulátorra!
(Gyengébbek kedvéért másik példát hozok arra, amit alább próbáltam megmagyarázni az értékes jegyekkel kapcsolatban:
Van egy almám, megmérem a kerületét 16 tizedesjegy pontossággal. Utána szabad kézzel elvágom félbe. Nem 0.5000000000000000 részre, hanem 0.5 részre. Ebben benne van, hogy az egyik rész lehet 0.5499999999999999, a másik 0.45000000000000001, vagy bármi hasonló, nem tudhatjuk. A végeredmény akkor is 10% pontosságú lesz, mert a vágásom pontossága annyi, azaz valahol 0.45 fölött, de 0.55 alatt, mindkettő egy tizedesjegyre kerekítve 0.5. Másik példa: hiába ismerjük a PI-t 18 tizedesjegyig, ha a kör átmérőjét csak 2 értékes jegyre ismerjük, a kerületét nem fogjuk 2 értékes jegynél pontosabban ismerni, mert kerekíteni kell.)