Top-Themen

Aktuelle Themen (A bis Z)

Administrator.de FeedbackApache ServerAppleAssemblerAudioAusbildungAuslandBackupBasicBatch & ShellBenchmarksBibliotheken & ToolkitsBlogsCloud-DiensteClusterCMSCPU, RAM, MainboardsCSSC und C++DatenbankenDatenschutzDebianDigitiales FernsehenDNSDrucker und ScannerDSL, VDSLE-BooksE-BusinessE-MailEntwicklungErkennung und -AbwehrExchange ServerFestplatten, SSD, RaidFirewallFlatratesGoogle AndroidGrafikGrafikkarten & MonitoreGroupwareHardwareHosting & HousingHTMLHumor (lol)Hyper-VIconsIDE & EditorenInformationsdiensteInstallationInstant MessagingInternetInternet DomäneniOSISDN & AnaloganschlüsseiTunesJavaJavaScriptKiXtartKVMLAN, WAN, WirelessLinuxLinux DesktopLinux NetzwerkLinux ToolsLinux UserverwaltungLizenzierungMac OS XMicrosoftMicrosoft OfficeMikroTik RouterOSMonitoringMultimediaMultimedia & ZubehörNetzwerkeNetzwerkgrundlagenNetzwerkmanagementNetzwerkprotokolleNotebook & ZubehörNovell NetwareOff TopicOpenOffice, LibreOfficeOutlook & MailPapierkorbPascal und DelphiPeripheriegerätePerlPHPPythonRechtliche FragenRedHat, CentOS, FedoraRouter & RoutingSambaSAN, NAS, DASSchriftartenSchulung & TrainingSEOServerServer-HardwareSicherheitSicherheits-ToolsSicherheitsgrundlagenSolarisSonstige SystemeSoziale NetzwerkeSpeicherkartenStudentenjobs & PraktikumSuche ProjektpartnerSuseSwitche und HubsTipps & TricksTK-Netze & GeräteUbuntuUMTS, EDGE & GPRSUtilitiesVB for ApplicationsVerschlüsselung & ZertifikateVideo & StreamingViren und TrojanerVirtualisierungVisual StudioVmwareVoice over IPWebbrowserWebentwicklungWeiterbildungWindows 7Windows 8Windows 10Windows InstallationWindows MobileWindows NetzwerkWindows ServerWindows SystemdateienWindows ToolsWindows UpdateWindows UserverwaltungWindows VistaWindows XPXenserverXMLZusammenarbeit

gelöst Problem mit Variablentyp Double und extrem grosser Zahl

Mitglied: florengray

florengray (Level 1) - Jetzt verbinden

06.10.2008, aktualisiert 09.11.2008, 2896 Aufrufe, 1 Kommentar

Hallo!
Ich hab schon gesucht, aber nicht das passende oder einen Ansatz gefunden.
Ich schreibe mir grad ne dll, wo ich Kurvenanpassung machen will.
Im Moment bin ich bei einer Funktion 3. Grades.
Details sind so erst mal uninteressant.
Ich habe um die Berechnungen zu machen alle Variablen dafür als Double gekennzeichnet.
Aber es kommt Error 6 Overflow.
Das Probelm is nur, das der Ausdruck ziemlich komplex ist und sich nicht aufteilen lässt.

Habt ihr ne Idee wie man einfach mehr Speicherplatz für ne Varibale reservieren könnte?
Ich hab mal was von Extend als Typ gehört. Aber unter VB6 Pro gibts sowas nicht.

Freue mich auf Anregungen!!!!

florengray

:edit
Hab den Ausdruck mit Derive aufgelöst und dann mit den Variablennamen für meine dll zurechgewurschtelt.
Derive kann mit solch grossen Zahlen umgehen. Wie macht Derive dass denn?
Mitglied: florengray
09.11.2008 um 18:58 Uhr
Hallo nochmals.
Scheint ja schwierig zu sein.
Ich hab gelesen, dass man angeblich Variablen "verketten" kann.

... Arithmetik großer Zahlen wäre, dass du mehrere "normale" Datentypen aneinander hängst.
So erhältst du z.B. eine 256-Bit-Zahl durch das Verketten von 8 32-Bit-Integern.

Da ging es um das gleiche Problem aber nur mit Delphi.
Das müsste doch auch unter VB nöglich sein.

Wäre wirklich nett, wenn man mir da helfen könnte. Ich rätsel nämlich schon lange hin und her.

florengray
Bitte warten ..
Ähnliche Inhalte
JavaScript

Javascript rechnen mir sehr sehr großen Zahlen

Frage von it4baerJavaScript3 Kommentare

Hallo, ist es möglich in Javascript mit extrem großen Zahlen zu rechnen . z.B. 783^98 bekannterweise werden ja normale ...

Windows 10

Großes Problem!

gelöst Frage von L.0.B.0.TWindows 1022 Kommentare

Ich habe Windows im sicheren Modus gestartet, alles läuft normal ausser das nur cmd gestartet wir und ich keine ...

Windows Server

C: Windows Assembly Verzeichnis extrem groß

gelöst Frage von AkcentWindows Server10 Kommentare

Hallo, habe hier einen 5 Jahre alten Windows 2008R2 Server. Leider läuft hier die C-Platte etwas voll und mit ...

Visual Studio

Rechnen mit sehr großen Zahlen (über 100.000 Stellen) mit Komma

gelöst Frage von Aicher1998Visual Studio12 Kommentare

Hallo ich hab da mal ein kleines Provlem. Ich müsste mit sehr langen Zahlen rechnen (über 100.000 Stellen). Hab ...

Neue Wissensbeiträge
Google Android

Googles "Android Enterprise Recommended" für Unternehmen

Information von kgborn vor 2 StundenGoogle Android

Hier eine Information, die für Administratoren und Verantwortliche in Unternehmen, die für die Beschaffung und das Rollout von Android-Geräten ...

Sicherheit

Intel gibt neue Spectre V2-Microcode-Updates frei (20.02.2018)

Information von kgborn vor 2 StundenSicherheit

Intel hat zum 20. Februar 2018 weitere Microcode-Updates für OEMs freigegeben, um Systeme mit neueren Prozessoren gegen die Spectre ...

Microsoft
ARD-Doku - Das Microsoft Dilemma
Tipp von Knorkator vor 6 StundenMicrosoft2 Kommentare

Hallo zusammen, vor einigen Tagen lief in der ARD u.a. Reportage. Das Youtube Video dazu dürfte länger verfügbar sein. ...

Windows 10

Neue Sicherheitslücke in Windows 10 (Version 1709) durch Google öffentlich geworden

Information von kgborn vor 1 TagWindows 10

Vor ein paar Tagen haben Googles Sicherheitsforscher vom Projekt Zero eine Sicherheitslücke im Edge-Browser publiziert. Jetzt wurde eine weitere ...

Heiß diskutierte Inhalte
Windows Server
AD DS findet Domäne nicht, behebbar?
Frage von schapitzWindows Server36 Kommentare

Guten Tag, ich habe bei einem Kunden ein Problem mit den AD DS. Umgebung ist folgende: Windows Server 2016 ...

Router & Routing
LANCOM VPN CLIENT einrichten
Frage von Finchen961988Router & Routing27 Kommentare

Hallo, ich habe ein Problem und hoffe ihr könnt mir helfen, wir haben einen Kunden der hat einen Speedport ...

CPU, RAM, Mainboards
32 gb RAM zu wenig?
Frage von pcguyCPU, RAM, Mainboards13 Kommentare

Hallo zusammen, mein PC verfügt über 32GB Ram. Nun kriege ich bei grossen Dateien im Illustrator die Fehlermeldung das ...

Router & Routing
ISC DHCP 2 Subnetze
gelöst Frage von janosch12Router & Routing11 Kommentare

Hallo, ich betreibe bei mir im Netzwerk einen ISC DHCP Server auf Debian, der DHCP verwaltet aktuell ein /24 ...