Top-Themen

AppleEntwicklungHardwareInternetLinuxMicrosoftMultimediaNetzwerkeOff TopicSicherheitSonstige SystemeVirtualisierungWeiterbildungZusammenarbeit

Aktuelle Themen

Administrator.de FeedbackApache ServerAppleAssemblerAudioAusbildungAuslandBackupBasicBatch & ShellBenchmarksBibliotheken & ToolkitsBlogsCloud-DiensteClusterCMSCPU, RAM, MainboardsCSSC und C++DatenbankenDatenschutzDebianDigitiales FernsehenDNSDrucker und ScannerDSL, VDSLE-BooksE-BusinessE-MailEntwicklungErkennung und -AbwehrExchange ServerFestplatten, SSD, RaidFirewallFlatratesGoogle AndroidGrafikGrafikkarten & MonitoreGroupwareHardwareHosting & HousingHTMLHumor (lol)Hyper-VIconsIDE & EditorenInformationsdiensteInstallationInstant MessagingInternetInternet DomäneniOSISDN & AnaloganschlüsseiTunesJavaJavaScriptKiXtartKVMLAN, WAN, WirelessLinuxLinux DesktopLinux NetzwerkLinux ToolsLinux UserverwaltungLizenzierungMac OS XMicrosoftMicrosoft OfficeMikroTik RouterOSMonitoringMultimediaMultimedia & ZubehörNetzwerkeNetzwerkgrundlagenNetzwerkmanagementNetzwerkprotokolleNotebook & ZubehörNovell NetwareOff TopicOpenOffice, LibreOfficeOutlook & MailPapierkorbPascal und DelphiPeripheriegerätePerlPHPPythonRechtliche FragenRedHat, CentOS, FedoraRouter & RoutingSambaSAN, NAS, DASSchriftartenSchulung & TrainingSEOServerServer-HardwareSicherheitSicherheits-ToolsSicherheitsgrundlagenSolarisSonstige SystemeSoziale NetzwerkeSpeicherkartenStudentenjobs & PraktikumSuche ProjektpartnerSuseSwitche und HubsTipps & TricksTK-Netze & GeräteUbuntuUMTS, EDGE & GPRSUtilitiesVB for ApplicationsVerschlüsselung & ZertifikateVideo & StreamingViren und TrojanerVirtualisierungVisual StudioVmwareVoice over IPWebbrowserWebentwicklungWeiterbildungWindows 7Windows 8Windows 10Windows InstallationWindows MobileWindows NetzwerkWindows ServerWindows SystemdateienWindows ToolsWindows UpdateWindows UserverwaltungWindows VistaWindows XPXenserverXMLZusammenarbeit
GELÖST

SQL SERVER 2000, round() liefert falsches Ergebnis

Frage Microsoft

Mitglied: PCFJKG

PCFJKG (Level 1) - Jetzt verbinden

23.04.2007, aktualisiert 24.04.2007, 7986 Aufrufe, 3 Kommentare

Falsches Rundungsergebnis der round()-Funktion

Wieso liefert round ( x * 0.1, 2) bei x = 6,75 richtigerweise 0,68; bei 6,85 aber auch 0,68 (statt 0,69) ?

x ist entweder ein char() Datentyp oder wird über ein Textfeld eingegeben.

Gleiches Ergebnis in einem Access 2000 Project, welches die math. Fkt. über UPDATE auswertet...

Herzlichen Dank für Hilfe,

PCFJKG
Mitglied: AndreasHoster
24.04.2007 um 09:25 Uhr
X ein Char Datentyp und Du kannst mit ihm direkt Rechnen?
Kann ich eigentlich nicht glauben, bei mir kommen dann solche Fehlermeldungen wie: Error converting data type varchar to numeric.

Aber um auf das Runden zurückzukommen, 0,68 und 0,67 kann in Standard Float Form nicht genau abgespeichert werden, da die binäre Speicherung des Float Formats das nicht zulässt.
Daher sind die Ergebnisse des Round, wenn man es genau anzeigen lässt 0.68000000000000005 und 0.68999999999999995. Wenn Du davon nur 2 Stellen anzeigen lässt, gibts halt nur 0,68.
Für solche Fälle gibts übrigens den Datentyp Decimal, da passiert sowas nicht.
Bitte warten ..
Mitglied: PCFJKG
24.04.2007 um 10:50 Uhr
Erst einmal danke für die schnelle Antwort. Ich ging bis dato davon aus, dass SQL 2000 eine implizite Konvertierung der Datentypen vornimmt (von z.B. char zu decimal etc.), möglicherweise muss dies aber noch irgendwo "eingestellt" werden (?).

Zur Sache selbst klingt Deine Erklärung logisch, werde es heute Abend probieren, vielleicht mit CAST() vorher Typumwandlung, dann brauche ich die Tabellendefinitionen nicht zu ändern, die ich mir damals leider nicht gründlich genug überlegt hatte ...

Nochmals Dank und herzliche Grüße



PCFJKG
Bitte warten ..
Mitglied: AndreasHoster
24.04.2007 um 11:55 Uhr
Im Prinzip ist hier sogar CAST besser als ROUND.
CAST(x*0.1 as decimal(18,2)) bzw. was anderes als 18, je nachdem wieviele Stellen vor dem Komma Du brauchst.
Wenn x jetzt keine Zahl ist:
Cast(Cast(x as float)*0.1) as decimal(18,2))
(Als erstes float genommen, weil Rechnen mit decimal langsamer ist als mit float)

Bei Decimal gibt es nämlich dann wirklich nur x Nachkommastellen und genau auf die wird gerundet, während round halt soviel Nachkommastellen hat, wie der zugrundeliegende Datentyp und halt nur den Wert rundet, so genau wie es geht.
Bitte warten ..
Ähnliche Inhalte
Windows Server
gelöst Frage zu Microsoft Lizenzierung - Microsoft SQL Server 2016 (10)

Frage von Juckie zum Thema Windows Server ...

Datenbanken
gelöst SQL-Server: Wann Instanzen nutzen? (11)

Frage von User1000 zum Thema Datenbanken ...

Neue Wissensbeiträge
Windows 10

Windows 8.x oder 10 Lizenz-Key aus dem ROM auslesen mit Linux

(6)

Tipp von Lochkartenstanzer zum Thema Windows 10 ...

Tipps & Tricks

Wie Hackt man sich am besten in ein Computernetzwerk ein

(40)

Erfahrungsbericht von Herbrich19 zum Thema Tipps & Tricks ...

Heiß diskutierte Inhalte
Windows 10
gelöst Windows 10 Home "Netzlaufwerk nicht bereit" (19)

Frage von Oggy01 zum Thema Windows 10 ...

Exchange Server
gelöst RU 17 Exchange 2010 . Erfahrungen? (10)

Frage von keine-ahnung zum Thema Exchange Server ...

Datenbanken
gelöst MySQL Zeiterfassungs-Problematik (wer ist eingecheckt) (9)

Frage von NativeMode zum Thema Datenbanken ...

Windows Server
Festplatten Ruhezustand Windows Server 2016 (8)

Frage von ahaeuser zum Thema Windows Server ...