Top-Themen

Aktuelle Themen (A bis Z)

Administrator.de FeedbackApache ServerAppleAssemblerAudioAusbildungAuslandBackupBasicBatch & ShellBenchmarksBibliotheken & ToolkitsBlogsCloud-DiensteClusterCMSCPU, RAM, MainboardsCSSC und C++DatenbankenDatenschutzDebianDigitiales FernsehenDNSDrucker und ScannerDSL, VDSLE-BooksE-BusinessE-MailEntwicklungErkennung und -AbwehrExchange ServerFestplatten, SSD, RaidFirewallFlatratesGoogle AndroidGrafikGrafikkarten & MonitoreGroupwareHardwareHosting & HousingHTMLHumor (lol)Hyper-VIconsIDE & EditorenInformationsdiensteInstallationInstant MessagingInternetInternet DomäneniOSISDN & AnaloganschlüsseiTunesJavaJavaScriptKiXtartKVMLAN, WAN, WirelessLinuxLinux DesktopLinux NetzwerkLinux ToolsLinux UserverwaltungLizenzierungMac OS XMicrosoftMicrosoft OfficeMikroTik RouterOSMonitoringMultimediaMultimedia & ZubehörNetzwerkeNetzwerkgrundlagenNetzwerkmanagementNetzwerkprotokolleNotebook & ZubehörNovell NetwareOff TopicOpenOffice, LibreOfficeOutlook & MailPapierkorbPascal und DelphiPeripheriegerätePerlPHPPythonRechtliche FragenRedHat, CentOS, FedoraRouter & RoutingSambaSAN, NAS, DASSchriftartenSchulung & TrainingSEOServerServer-HardwareSicherheitSicherheits-ToolsSicherheitsgrundlagenSolarisSonstige SystemeSoziale NetzwerkeSpeicherkartenStudentenjobs & PraktikumSuche ProjektpartnerSuseSwitche und HubsTipps & TricksTK-Netze & GeräteUbuntuUMTS, EDGE & GPRSUtilitiesVB for ApplicationsVerschlüsselung & ZertifikateVideo & StreamingViren und TrojanerVirtualisierungVisual StudioVmwareVoice over IPWebbrowserWebentwicklungWeiterbildungWindows 7Windows 8Windows 10Windows InstallationWindows MobileWindows NetzwerkWindows ServerWindows SystemdateienWindows ToolsWindows UpdateWindows UserverwaltungWindows VistaWindows XPXenserverXMLZusammenarbeit
GELÖST

Hex zu dezimal umwandlung fehler wenn höchste stelle 8 oder 9

Frage Entwicklung Basic

Mitglied: Vollnoob

Vollnoob (Level 1) - Jetzt verbinden

31.07.2010, aktualisiert 18.10.2012, 5024 Aufrufe, 7 Kommentare

Hallo zusammen,
habe im Grunde überhaupt keine Ahnung von Programmieren und mir mehr oder weniger einen vbs code für meine Zwecke zusammen gesucht und stehe grad vor einem Problem:
habe mir über Eval("&H" & "eineMeinerHexZahlen" ) versucht diverse Zahlen von hex nach dezimal umzuwandlen, hat auch wunderbar geklappt, nur bei hex Zahlen, die als höchste stelle ne 8 oder 9 haben kommen irgendwie negative falsche Werte bei heraus, glaub zumindest, dass es an den Stellen liegt.
hoffe es findet sich jemand, der mir das Problem dabei erklären kann.
besten Dank im voraus !
Mfg
Vollnoob ^^
Mitglied: bastla
31.07.2010 um 19:20 Uhr
Hallo Vollnoob!

Hab's mir zwar nicht genauer angesehen, aber vermutlich tritt dieses Verhalten nur für 8-stellige Hexwerte von &H8000000 bis &HFFFFFFFF auf. Der Datentyp "Long" bietet einen Wertebereich von -2.147.483.648 bis 2.147.483.647 - ist das höchste Bit gesetzt, wird dieses als Vorzeichen interpretiert.

BTW: Zur Konvertierung kannst Du anstelle von "Eval()" auch "CLng()" oder zB "CDbl()" verwenden ...

... und folgender Workaround (die Hex-Zahl steht in der Variablen H) sollte eigentlich klappen:
Dez = CDbl("&H1" & H) - CDbl("&H1" & String(Len(H),"0"))
Das Voranstellen von "1" sollte die Hex-Zahl auf jeden Fall in den positiven Bereich bringen und das Subtrahieren von "&H1" + der entsprechenden Anzahl von Nullen rechnerisch die String-Manipulation wieder rückgängig machen ...

Grüße
bastla
Bitte warten ..
Mitglied: Vollnoob
31.07.2010 um 19:24 Uhr
Hallo Bastla,
ah, cool, das dürfte es gewesen sein, sind auch 8 stellige Werte^^.
Mit CLng() klappts einwandfrei, besten Dank
Mfg
Vollnoob
Bitte warten ..
Mitglied: Vollnoob
31.07.2010 um 19:46 Uhr
Hab deine Methode mit dem CDbl() mit der 1 Voranstellen auch mal eben noch ausprobiert, funktioniert .
Hat also daran gelegen, was du vermutet hast.
Danke nochmal
Mfg
Vollnoob
Bitte warten ..
Mitglied: 76109
01.08.2010 um 08:38 Uhr
Hallo bastla!

Der Trick mit CDbl (64Bit) funktioniert super, aber wie bekomme ich auf einfachem Wege den Hex-String wieder zurück. Mit Hex funktioniert es nicht?
01.
H = "FFFFFFFF" 
02.
     
03.
D = CDbl("&H1" & H) - CDbl("&H1" & String(Len(H), "0")) 
04.
 
05.
X = Hex(D)  'Überlauffehler
Gruß Dieter
Bitte warten ..
Mitglied: bastla
01.08.2010, aktualisiert 18.10.2012
Hallo Dieter!

Einen einfachen Weg kenne ich leider auch nicht, und eine passende selbst geschriebene Function hast Du ja sicher schon oder bekommst Du auf jeden Fall selbst hin (in Batch hatten wir das Thema übrigens auch schon mal: http://www.administrator.de/wissen/dezimal-zu-hexadezimal-132273.html ) ...

Grüße
bastla
Bitte warten ..
Mitglied: 76109
01.08.2010 um 11:10 Uhr
Hallo bastla!

Zitat von bastla:
Einen einfachen Weg kenne ich leider auch nicht, und eine passende selbst geschriebene Function hast Du ja sicher schon oder
bekommst Du auf jeden Fall selbst hin ....
Yepp, so etwas ähnliches, wie in dem Batch-Link habe ich auch in VB (Bits L/R-Rotieren und L/R-Schieben), aber auf den den Trick mit CDbl ("&H1 & ....) bin ich noch nicht gekommen und dachte, dass Du dafür eventuell auch eine einfache Lösung hast

Noch einen schönen Sonntag!

Gruß Dieter
Bitte warten ..
Mitglied: bastla
01.08.2010 um 13:40 Uhr
Hallo Dieter!

Tatsächlich hatte ich mich bis gestern mit diesem Thema eigentlich überhaupt nicht beschäftigt - der Workaround ist ein "Abfallprodukt" von Batch-Lösungen zum Thema "Interpretation von mit Null beginnenden Zahlen als Oktalwerte" (was dort dann tatsächlich bei "08" und "09" zu Fehlern führt) ...

Auch Dir einen schönen Rest des Sonntags!
bastla
Bitte warten ..
Ähnliche Inhalte
Sonstige Systeme
HEX - Datei zu Dezimal
gelöst Frage von firstlineSonstige Systeme6 Kommentare

Hallo Ich habe ein mittelschweres Problem ich suche ein tool das mir eine Hexdatei umrechnet in dezimal und mir ...

C und C++
Dezimal Dual Rechner
Frage von Matt180C und C++6 Kommentare

Guten Abend zusammen, ich versuche mich gerade innerhalb einer Weiterbildung an C . Der Anfang war ja noch in ...

Windows 8
Windows 8 S4 Fehler
gelöst Frage von agowa338Windows 83 Kommentare

Guten Abend, Ich habe ein Problem mit Windows 8 und dem aufwachen aus dem Sleep Mode (S4). Der Fall ...

IDE & Editoren
Hex Editor, Cluster, Blöcke
Frage von voessliIDE & Editoren6 Kommentare

Hallo, welcher freie Editor zeigt die Block-Addressen einer Datei an und den gesamten Inhalt des nicht genutzten Blockinhalts? Zusätzlich ...

Neue Wissensbeiträge
Mac OS X

MacOS wo ist die Tilde ?

Tipp von Alchimedes vor 6 StundenMac OS X1 Kommentar

Hallo, ich hab eine MacOS qwertz Keyboard auf US Layout umgestellt da die Sonderzeichen besser erreichbar sind. Leider fehlt ...

Datenschutz

Weitere Informationen zum Sicherheitsproblem BeA

Information von Penny.Cilin vor 13 StundenDatenschutz

Im folgenden ein weiterer Bericht über die Sicherheitsprobleme von Bea. Fataler Konstruktionsfehler im besonderen elektronischen Anwaltspostfach Gruss Penny

Windows 10

Systemdienste behalten nach Win10 inplace-Upgrade nicht die ggf. modifizierte Startart bei

Tipp von DerWoWusste vor 15 StundenWindows 103 Kommentare

Stellt Euch vor, Ihr habt ein Win10 System und modifiziert dort die Startart von Systemdiensten. Zum Beispiel wollt Ihr ...

Microsoft Office

Deaktivieren von Startbildschirm und Backstage-Ansicht in Office 2016 per Batch-Datei

Anleitung von SarekHL vor 18 StundenMicrosoft Office17 Kommentare

Guten Morgen zusammen! Ich habe mir gestern (auch mit Hilfe dieses Boards) ein Script gebastelt, um in Office 2016 ...

Heiß diskutierte Inhalte
Netzwerke
NTFS-Berechtigung
Frage von Daoudi1973Netzwerke23 Kommentare

Hallo zusammen und frohes neues Jahr (Sorry, ich bin spät dran) Meine Frage: 1- Ich habe einen Ordner im ...

Batch & Shell
AD-Abfrage in Batchdatei und Ergebnis als Variable verarbeiten
gelöst Frage von Winfried-HHBatch & Shell19 Kommentare

Hallo in die Runde! Ich habe eine Ergänzungsfrage zu einem alten Thread von mir. Ausgangslage ist die Batchdatei, die ...

Windows 10
Netbook erkennt Soundkarte nicht - keinerlei Info zum Hersteller und Modell vom Netbook und Hardware bekannt
Frage von fyrb38Windows 1018 Kommentare

Guten Tag, meine Schwester reist in einigen Wochen für ein paar Monate ins Ausland und hat sich dafür ein ...

Microsoft Office
Deaktivieren von Startbildschirm und Backstage-Ansicht in Office 2016 per Batch-Datei
Anleitung von SarekHLMicrosoft Office17 Kommentare

Guten Morgen zusammen! Ich habe mir gestern (auch mit Hilfe dieses Boards) ein Script gebastelt, um in Office 2016 ...