Waarom geeft Spotlight een verkeerde waarde voor 'cos(pi/2)'?

5 antwoorden. Het komt door het gebrek aan precisie van pi en door het algehele gebrek aan precisie in het ingebouwde systeem. Zoals we kunnen zien, is er een probleem met de precisie, omdat deze niet eens overeenkomt met de zwevende weergave. Merk op dat 2^-36 ongeveer 1 . is.5e-11, die samenvalt met de achterblijvende 99.