Kun lasketaan desimaaliluvuilla, on tulosten tarkkuuteen kiinnitettävä erityistä huomiota. Muutoin saatetaan vahingossa väittää tehtyjä mittauksia todellisuutta tarkemmiksi. Desimaaliluvuilla laskettaessa vastaukset pyöristetään sopivaan tarkkuuteen tiettyjen sääntöjen mukaisesti.
Esimerkki 1.
Juho ajaa työmatkallaan 5 km kotoaan työpaikan parkkipaikalle. Parkkipaikalta on työpaikan ovelle 60 m ja ovelta 15 m Juhon työhuoneeseen. Kuinka pitkä Juhon työmatka on kokonaisuudessaan?
Ratkaisu
5 km + 0,060 km + 0,015 km = 5,075 km
Tarkastellaan vastauksen mielekkyyttä. Automatka on ilmoitettu kokonaisten kilometrien tarkkuudella. Sen todellinen arvo on välillä 4,5 km – 5,5 km, jolloin koko matkan pituus tulisi olemaan välillä 4,575 km – 5,575 km. Jos nyt Juhon työmatkan pituudeksi ilmoitetaan 5,075 km, tarkoittaa se, että matkan pituus on tarkasti 5 km ja 75 m. Saadun tuloksen kaikki desimaalit 0, 7 ja 5 voivat kuitenkin olla mitä tahansa numeroita, koska 5 km matkaa ei oltu mitattu metrien tarkkuudella. Ainoa järkevä vastaus työmatkan pituudeksi, jossa voidaan luottaa numeroiden paikkansapitävyyteen, on 5 km.
Esimerkki 2.
Suoritetaan laskut ja annetaan vastaukset sopivalla tarkkuudella.
Desimaalilukujen kerto- ja jakolasku
Vastauksessa saa olla korkeintaan yhtä monta merkitsevää numeroa kuin niitä on epätarkimmassa lähtöarvossa.
Esimerkki 3.
Suoritetaan laskut ja annetaan vastaukset sopivalla tarkkuudella.
Tulosten tarkkuus
Jos tulos vaaditaan tietyllä
tarkkuudella,
- on yhteen- ja vähennyslaskuissa kaikki lähtöarvot otettava vähintään yhtä desimaalia tarkemmin kuin haluttu tuloksen tarkkuus
- on kerto- ja jakolaskuissa kaikki lähtöarvot otettava vähintään yhtä merkitsevää numeroa tarkemmin kuin haluttu tuloksen tarkkuus
Desimaalilukujen yhteen- ja vähennyslasku
Vastaus esitetään korkeintaan yhtä monen desimaalin tarkkuudella kuin niitä on epätarkimmassa lähtöarvossa.