Warum gibt Spotlight einen falschen Wert für 'cos(pi/2)' an??

5 Antworten. Dies liegt an der mangelnden Präzision von Pi und an der gesamten mangelnden Präzision des eingebauten Systems. Wie wir sehen, gibt es ein Problem mit der Genauigkeit, da sie nicht einmal mit der Float-Darstellung übereinstimmt. Beachten Sie, dass 2^-36 ungefähr 1 . ist.5e-11, was mit dem nachlaufenden 99 . übereinstimmt.