Top-Themen

Aktuelle Themen (A bis Z)

Administrator.de FeedbackApache ServerAppleAssemblerAudioAusbildungAuslandBackupBasicBatch & ShellBenchmarksBibliotheken & ToolkitsBlogsCloud-DiensteClusterCMSCPU, RAM, MainboardsCSSC und C++DatenbankenDatenschutzDebianDigitiales FernsehenDNSDrucker und ScannerDSL, VDSLE-BooksE-BusinessE-MailEntwicklungErkennung und -AbwehrExchange ServerFestplatten, SSD, RaidFirewallFlatratesGoogle AndroidGrafikGrafikkarten & MonitoreGroupwareHardwareHosting & HousingHTMLHumor (lol)Hyper-VIconsIDE & EditorenInformationsdiensteInstallationInstant MessagingInternetInternet DomäneniOSISDN & AnaloganschlüsseiTunesJavaJavaScriptKiXtartKVMLAN, WAN, WirelessLinuxLinux DesktopLinux NetzwerkLinux ToolsLinux UserverwaltungLizenzierungMac OS XMicrosoftMicrosoft OfficeMikroTik RouterOSMonitoringMultimediaMultimedia & ZubehörNetzwerkeNetzwerkgrundlagenNetzwerkmanagementNetzwerkprotokolleNotebook & ZubehörNovell NetwareOff TopicOpenOffice, LibreOfficeOutlook & MailPapierkorbPascal und DelphiPeripheriegerätePerlPHPPythonRechtliche FragenRedHat, CentOS, FedoraRouter & RoutingSambaSAN, NAS, DASSchriftartenSchulung & TrainingSEOServerServer-HardwareSicherheitSicherheits-ToolsSicherheitsgrundlagenSolarisSonstige SystemeSoziale NetzwerkeSpeicherkartenStudentenjobs & PraktikumSuche ProjektpartnerSuseSwitche und HubsTipps & TricksTK-Netze & GeräteUbuntuUMTS, EDGE & GPRSUtilitiesVB for ApplicationsVerschlüsselung & ZertifikateVideo & StreamingViren und TrojanerVirtualisierungVisual StudioVmwareVoice over IPWebbrowserWebentwicklungWeiterbildungWindows 7Windows 8Windows 10Windows InstallationWindows MobileWindows NetzwerkWindows ServerWindows SystemdateienWindows ToolsWindows UpdateWindows UserverwaltungWindows VistaWindows XPXenserverXMLZusammenarbeit

gelöst SQL SERVER 2000, round() liefert falsches Ergebnis

Mitglied: PCFJKG

PCFJKG (Level 1) - Jetzt verbinden

23.04.2007, aktualisiert 24.04.2007, 8066 Aufrufe, 3 Kommentare

Falsches Rundungsergebnis der round()-Funktion

Wieso liefert round ( x * 0.1, 2) bei x = 6,75 richtigerweise 0,68; bei 6,85 aber auch 0,68 (statt 0,69) ?

x ist entweder ein char() Datentyp oder wird über ein Textfeld eingegeben.

Gleiches Ergebnis in einem Access 2000 Project, welches die math. Fkt. über UPDATE auswertet...

Herzlichen Dank für Hilfe,

PCFJKG
Mitglied: AndreasHoster
24.04.2007 um 09:25 Uhr
X ein Char Datentyp und Du kannst mit ihm direkt Rechnen?
Kann ich eigentlich nicht glauben, bei mir kommen dann solche Fehlermeldungen wie: Error converting data type varchar to numeric.

Aber um auf das Runden zurückzukommen, 0,68 und 0,67 kann in Standard Float Form nicht genau abgespeichert werden, da die binäre Speicherung des Float Formats das nicht zulässt.
Daher sind die Ergebnisse des Round, wenn man es genau anzeigen lässt 0.68000000000000005 und 0.68999999999999995. Wenn Du davon nur 2 Stellen anzeigen lässt, gibts halt nur 0,68.
Für solche Fälle gibts übrigens den Datentyp Decimal, da passiert sowas nicht.
Bitte warten ..
Mitglied: PCFJKG
24.04.2007 um 10:50 Uhr
Erst einmal danke für die schnelle Antwort. Ich ging bis dato davon aus, dass SQL 2000 eine implizite Konvertierung der Datentypen vornimmt (von z.B. char zu decimal etc.), möglicherweise muss dies aber noch irgendwo "eingestellt" werden (?).

Zur Sache selbst klingt Deine Erklärung logisch, werde es heute Abend probieren, vielleicht mit CAST() vorher Typumwandlung, dann brauche ich die Tabellendefinitionen nicht zu ändern, die ich mir damals leider nicht gründlich genug überlegt hatte ...

Nochmals Dank und herzliche Grüße



PCFJKG
Bitte warten ..
Mitglied: AndreasHoster
24.04.2007 um 11:55 Uhr
Im Prinzip ist hier sogar CAST besser als ROUND.
CAST(x*0.1 as decimal(18,2)) bzw. was anderes als 18, je nachdem wieviele Stellen vor dem Komma Du brauchst.
Wenn x jetzt keine Zahl ist:
Cast(Cast(x as float)*0.1) as decimal(18,2))
(Als erstes float genommen, weil Rechnen mit decimal langsamer ist als mit float)

Bei Decimal gibt es nämlich dann wirklich nur x Nachkommastellen und genau auf die wird gerundet, während round halt soviel Nachkommastellen hat, wie der zugrundeliegende Datentyp und halt nur den Wert rundet, so genau wie es geht.
Bitte warten ..
Ähnliche Inhalte
Outlook & Mail

Outlook Suche liefert kein Ergebnise mehr

Frage von Bjoern-BOutlook & Mail9 Kommentare

Hallo Zusammen, wir haben einen User, bei dem die Suche in Outlook keine Ergebnisse mehr liefert. Im Detail, der ...

Microsoft Office

Access - VBA - Anzahl von Unterordnern in Access, DIR funktion liefert falsches Ergebnis

gelöst Frage von thomas1972Microsoft Office2 Kommentare

Hallo, ich versuche aus einem Verzeichnis die Anzahl Unterordner sowie die Anzahl von Dateien auszulesen Leider erkennt dieser sowohl ...

Batch & Shell

Ergebnis aus SQL-Abfrage auswerten

Frage von ghostXBatch & Shell5 Kommentare

Hallo Zusammen! stehe vor folgendem Problem: Habe einen SQL-Select Statement. Per Batch wird ein Connect an die DB gemacht ...

Windows Server

Remote Desktop Server liefert falsches Zertifikat aus

gelöst Frage von ChrisNbgWindows Server7 Kommentare

Hallo, ich hab ein kleines Problem mit unserem Remote Desktop Server. Es handelt sich um einen Server 2012 R2 ...

Neue Wissensbeiträge
Windows 10

USB Maus und Tastatur versagen Dienst unter Windows 10

Erfahrungsbericht von hardykopff vor 19 StundenWindows 103 Kommentare

Da steht man ziemlich dumm da, wenn der PC sich wegen fehlender USB Tastatur und Maus nicht bedienen lässt. ...

Administrator.de Feedback
Update der Seite: Alles zentriert
Information von Frank vor 22 StundenAdministrator.de Feedback18 Kommentare

Hallo User, die größte Änderung von Release 5.8 ist das Zentrieren der Webseite (auf großen Bildschirmen) und ein "Welcome"-Teaser ...

Humor (lol)

WhatsApp-Nachrichten endlich auch per Bluetooth versendbar

Information von BassFishFox vor 1 TagHumor (lol)4 Kommentare

Genau darauf habe ich gewartet! ;-) Der beliebte Messaging-Dienst WhatsApp erhält eine praktische neue Funktion: Ab dem nächsten Update ...

Google Android

Googles "Android Enterprise Recommended" für Unternehmen

Information von kgborn vor 2 TagenGoogle Android3 Kommentare

Hier eine Information, die für Administratoren und Verantwortliche in Unternehmen, die für die Beschaffung und das Rollout von Android-Geräten ...

Heiß diskutierte Inhalte
Server-Hardware
Welche Rolle spielt Design bei Enterprise IT Hardware?
Frage von ApolloXServer-Hardware17 Kommentare

Ich arbeite für einen internationalen Elektronikhersteller in der Forschung und meine Aufgabe ist es, Feedback von Nutzern in Hinsicht ...

Windows Netzwerk
WSUS4 und Windows 10 Updates automatisch installieren
Frage von sammy65Windows Netzwerk15 Kommentare

Hallo miteinander, ich habe mit einen neuen WSUS Server aufgesetzt Server 2016 darauf einen aktuellen WSUS. Grund, wir stellen ...

Speicherkarten
Vergessliche USB-Sticks?
Frage von hanheikSpeicherkarten14 Kommentare

Ich habe in den letzten Tagen 500 USB-Sticks mit Bilddateien bespielt. Obwohl ich die Dateien mit größter Sorgfalt kopiert ...

Windows Netzwerk
Backup über WAN
Frage von petereWindows Netzwerk11 Kommentare

Hallo, ich muss aus einem entfernten WAN (synchrone 1Gbit) Daten sichern. Dabei handelt es sich sowohl um wenige große ...