marabunta
Goto Top

Powershell kann nicht rechnen

eigentlich ganz simpel das steckt in einer while schleife und wird daher wiederholt, die schleife hat hiermit aber nichts zu tun

[float]$a=0
if($a -ge "181"){  
$a=0
}
else{
$a=$a+0.05
$a
}

0,05
0,1
0,15
0,2
0,25
0,3
0,35
0,4
0,45
0,5000001
0,5500001
0,6000001
0,6500001
0,7000001
0,7500001
0,8000001
0,8500001
0,9000002
0,9500002
1   
1,05
1,1
1,15
1,2
1,25
1,3
1,35
1,4
1,45
1,5
1,55
1,6
1,649999
1,699999
1,749999
1,799999
1,849999
1,899999
1,949999
1,999999
2,049999
2,099999
2,149999
2,199999

was soll das?

Content-Key: 271352

Url: https://administrator.de/contentid/271352

Printed on: April 16, 2024 at 19:04 o'clock

Member: Clijsters
Clijsters May 07, 2015 at 09:52:01 (UTC)
Goto Top
eigentlich ganz simpel
Ein Hallo ist auch ganz simpel.

was soll das?
Das kannst nur du wissen.

Falls die Frage sich aber eventuell darauf bezieht, dass du manchmal 6 Nachkommastellen hast und manchmal nicht und das von dir nicht gewünscht ist, schau mal hier vorbei...

was soll das?
Dir auch beste Grüße...
Member: Clijsters
Clijsters May 07, 2015 at 09:55:05 (UTC)
Goto Top
Und nur mal so nebenbei.
Hättest du eventuell das probiert, hättest du auch sowas gefunden.

Bitte entschuldige die gemeine Ader. Ich hoffe, du verstehst, woher das stammt.

Beste Grüße
Dominique
Member: colinardo
Solution colinardo May 07, 2015 updated at 21:31:00 (UTC)
Goto Top
Moin,
Powershell kann schon, wenn man weiß wie es im Hintergrund aussieht face-wink
"floating point" Berechnungen auf Computern sind nicht immer exakt, wenn eine feste Anzahl an Dezimalstellen gewünscht sind.
Benutze als Typ stattdessen [decimal] wenn du ein festes Interval addieren willst, oder runde das Ergebnis [math]::round($a,2) wenn du mit Float arbeitest.

Siehe auch:
http://stackoverflow.com/questions/566958/double-precision-problems-on- ...

Grüße Uwe