Top-Themen

AppleEntwicklungHardwareInternetLinuxMicrosoftMultimediaNetzwerkeOff TopicSicherheitSonstige SystemeVirtualisierungWeiterbildungZusammenarbeit

Aktuelle Themen

Administrator.de FeedbackApache ServerAppleAssemblerAudioAusbildungAuslandBackupBasicBatch & ShellBenchmarksBibliotheken & ToolkitsBlogsCloud-DiensteClusterCMSCPU, RAM, MainboardsCSSC und C++DatenbankenDatenschutzDebianDigitiales FernsehenDNSDrucker und ScannerDSL, VDSLE-BooksE-BusinessE-MailEntwicklungErkennung und -AbwehrExchange ServerFestplatten, SSD, RaidFirewallFlatratesGoogle AndroidGrafikGrafikkarten & MonitoreGroupwareHardwareHosting & HousingHTMLHumor (lol)Hyper-VIconsIDE & EditorenInformationsdiensteInstallationInstant MessagingInternetInternet DomäneniOSISDN & AnaloganschlüsseiTunesJavaJavaScriptKiXtartKVMLAN, WAN, WirelessLinuxLinux DesktopLinux NetzwerkLinux ToolsLinux UserverwaltungLizenzierungMac OS XMicrosoftMicrosoft OfficeMikroTik RouterOSMonitoringMultimediaMultimedia & ZubehörNetzwerkeNetzwerkgrundlagenNetzwerkmanagementNetzwerkprotokolleNotebook & ZubehörNovell NetwareOff TopicOpenOffice, LibreOfficeOutlook & MailPapierkorbPascal und DelphiPeripheriegerätePerlPHPPythonRechtliche FragenRedHat, CentOS, FedoraRouter & RoutingSambaSAN, NAS, DASSchriftartenSchulung & TrainingSEOServerServer-HardwareSicherheitSicherheits-ToolsSicherheitsgrundlagenSolarisSonstige SystemeSoziale NetzwerkeSpeicherkartenStudentenjobs & PraktikumSuche ProjektpartnerSuseSwitche und HubsTipps & TricksTK-Netze & GeräteUbuntuUMTS, EDGE & GPRSUtilitiesVB for ApplicationsVerschlüsselung & ZertifikateVideo & StreamingViren und TrojanerVirtualisierungVisual StudioVmwareVoice over IPWebbrowserWebentwicklungWeiterbildungWindows 7Windows 8Windows 10Windows InstallationWindows MobileWindows NetzwerkWindows ServerWindows SystemdateienWindows ToolsWindows UpdateWindows UserverwaltungWindows VistaWindows XPXenserverXMLZusammenarbeit
GELÖST

Problem mit Variablentyp Double und extrem grosser Zahl

Frage Entwicklung VB for Applications

Mitglied: florengray

florengray (Level 1) - Jetzt verbinden

06.10.2008, aktualisiert 09.11.2008, 2876 Aufrufe, 1 Kommentar

Hallo!
Ich hab schon gesucht, aber nicht das passende oder einen Ansatz gefunden.
Ich schreibe mir grad ne dll, wo ich Kurvenanpassung machen will.
Im Moment bin ich bei einer Funktion 3. Grades.
Details sind so erst mal uninteressant.
Ich habe um die Berechnungen zu machen alle Variablen dafür als Double gekennzeichnet.
Aber es kommt Error 6 Overflow.
Das Probelm is nur, das der Ausdruck ziemlich komplex ist und sich nicht aufteilen lässt.

Habt ihr ne Idee wie man einfach mehr Speicherplatz für ne Varibale reservieren könnte?
Ich hab mal was von Extend als Typ gehört. Aber unter VB6 Pro gibts sowas nicht.

Freue mich auf Anregungen!!!!

florengray

:edit
Hab den Ausdruck mit Derive aufgelöst und dann mit den Variablennamen für meine dll zurechgewurschtelt.
Derive kann mit solch grossen Zahlen umgehen. Wie macht Derive dass denn?
Mitglied: florengray
09.11.2008 um 18:58 Uhr
Hallo nochmals.
Scheint ja schwierig zu sein.
Ich hab gelesen, dass man angeblich Variablen "verketten" kann.

... Arithmetik großer Zahlen wäre, dass du mehrere "normale" Datentypen aneinander hängst.
So erhältst du z.B. eine 256-Bit-Zahl durch das Verketten von 8 32-Bit-Integern.

Da ging es um das gleiche Problem aber nur mit Delphi.
Das müsste doch auch unter VB nöglich sein.

Wäre wirklich nett, wenn man mir da helfen könnte. Ich rätsel nämlich schon lange hin und her.

florengray
Bitte warten ..
Ähnliche Inhalte
JavaScript
Javascript rechnen mir sehr sehr großen Zahlen (3)

Frage von it4baer zum Thema JavaScript ...

PHP
gelöst PHP und XML Float und Double (2)

Frage von chrisen zum Thema PHP ...

Windows Server
gelöst C: Windows Assembly Verzeichnis extrem groß (10)

Frage von Akcent zum Thema Windows Server ...

Batch & Shell
gelöst Grosses Variablen Problem ( Batch) (30)

Frage von clragon zum Thema Batch & Shell ...

Neue Wissensbeiträge
Windows Server

Umstellung SHA 1 auf SHA 2 - Migration der CA von CSP auf KSP

Tipp von Badger zum Thema Windows Server ...

Windows 10

Quato DTP94 unter Windows 10 x64 installieren und verwenden

Anleitung von anteNope zum Thema Windows 10 ...

Windows 10

Win10 1703 und Nutzerkennwörter bei Ersteinrichtung - erstaunliche Erkenntnis

(15)

Erfahrungsbericht von DerWoWusste zum Thema Windows 10 ...

Heiß diskutierte Inhalte
Festplatten, SSD, Raid
gelöst Raid-Controller (Areca) Datenverlust trotz R5 (16)

Frage von sebastian2608 zum Thema Festplatten, SSD, Raid ...

Windows Netzwerk
DNS ins mehreren Subnetzen (11)

Frage von joerg zum Thema Windows Netzwerk ...

Server-Hardware
Starker PC zum Virtualisieren (10)

Frage von canlot zum Thema Server-Hardware ...

Server-Hardware
HP ProLiant DL380 G7, POST Error: 1785-Drive Array not Configured (10)

Frage von Paderman zum Thema Server-Hardware ...