rene1976
Goto Top

70 GB große Datei über das Netzwerk von einem Server zum anderen kopieren

Hallo,

ich will eine 70 GB große .7z Archiv Datei (zip-Datei) über unser 1GBit Netzwerk von einem Server Win 2003 zum anderen Server Win 20012 R2 kopieren.

Leider bekomme ich immer der Fehler:

Fehler: Für den Befehl ist nicht genügend Serverspeicher zur Verfügung.

Der Kopiervorgang wird nach ca. 25-30 GB abgebrochen.

Ich habe bei beiden Servern in der registry ... LanManServer/Parameters den IRPStackSize schon auf 50 (höchster Wert) gesetzt.

Auf dem Zielserver habe ich 240 GB RAM und die Zielpartition hat noch 650GB frei.

Kopiert habe ich im Windows Explorer mit Strg. C + Strg. V vom Zielserver aus mit Zugriff auf den Netzwerkpfad des Quellserver.

Es laufen keine aktiven Virenscanner auf den Servern.
Der Zielserver hat 4 Intel onboard Netzwerkkarten die logisch zu einer zusammen geschaltet sind.

Woran liegt das?
Liegt das am Win Explorer?
Oder am SMB selbst?
Oder???

Hat jemand schon mal so große Dateien über das Netzwerk kopiert? Wie?

Besten Dank.

Rene

Content-Key: 346984

Url: https://administrator.de/contentid/346984

Printed on: April 25, 2024 at 23:04 o'clock

Member: falscher-sperrstatus
falscher-sperrstatus Aug 22, 2017 at 12:29:11 (UTC)
Goto Top
mit robocopy? Sogar per VPN.

Sollte einer der Server HW Probleme haben, könnte es aber auch daran liegen.
Member: em-pie
em-pie Aug 22, 2017 at 12:30:33 (UTC)
Goto Top
Moin,

oder existiert am Zielort ein Quota auf dem Ordner?

Gruß
em-pie
Member: Lochkartenstanzer
Lochkartenstanzer Aug 22, 2017 at 12:42:58 (UTC)
Goto Top
Zitat von @Rene1976:

Woran liegt das?

kann viele Gründe haben. Hardwarefehler, quotas, zu kleine Puffer, Netzwerkprobleme, etc.

Hat jemand schon mal so große Dateien über das Netzwerk kopiert? Wie?

rsync, robocopy, netcat, und viele andere Varianten. Sogar ganz einfach per drag and drop im explorer. face-smile

lks
Member: ashnod
ashnod Aug 22, 2017 at 12:56:09 (UTC)
Goto Top
Ahoi ...

Zitat von @Rene1976:
Kopiert habe ich im Windows Explorer mit Strg. C + Strg. V

und schon springt einem das Problem fast ins Auge ...

STRG-C -> kopieren > in den Arbeitsspeicher ..... 70 GB?

Solltest deine Kopiermethode ändern, dann ist das auch kein Problem.

Sanfte Grüße
Member: falscher-sperrstatus
falscher-sperrstatus Aug 22, 2017 updated at 13:04:28 (UTC)
Goto Top
bei STRG+C / STRG+V hast die Dateien auch nicht im RAM (Außer vielleicht bei Word....) Sonst hättest du die Probleme öfter...
Member: 19matrix77
Solution 19matrix77 Aug 22, 2017 at 13:05:17 (UTC)
Goto Top
Eine Zip Datei mit so großen GB anzahl kann nicht gut gehen. Habe selber letzte Woche ein Alten 2003 Server auf 2008R2 Virtuallisiert. Die alten Server Daten habe ich mit AOMEI Backupper Server, Rüber kopiert.

DownloadLink : http://www.backup-utility.com/de/server.html
Member: Rene1976
Rene1976 Aug 22, 2017 at 13:06:27 (UTC)
Goto Top
Hallo,

danke für die Hinweise.

Habe es jetzt auch mit copy, xcopy und robocopy probiert.
Bekomme hier ebenfalls die gleiche Fehlermeldung.
Quotas nutzen wir auf dieser Festplatte nicht.

Hier meine Befehle die ich versucht habe:

xcopy \\IT20\IT20-Backup\2017-08-21-Bilder.7z Q:\Bilder\ /W /J /F /P /R /Y /V

copy \\IT20\IT20-Backup\2017-08-21-Bilder.7z Q:\Bilder\ /Y

robocopy \\IT20\IT20-Backup\ Q:\Bilder\ 2017-08-21-Bilder.7z

Noch eine andere Idee?

Gruß,

Rene
Member: chgorges
Solution chgorges Aug 22, 2017 updated at 13:24:58 (UTC)
Goto Top
Wie viel Platz hast du noch dem 2003er Server? Ich meine mich dunkel erinnern zu können, dass damals bei Kopieraktionen noch der lokale Temp-Ordner eine Rolle gespielt hat.
Member: AndreasHoster
Solution AndreasHoster Aug 22, 2017 at 13:35:16 (UTC)
Goto Top
Ich habe bei solchen Aktionen mit übergroßen Files auch schon alles mögliche erlebt, deswegen hat z.B. unsere SAP Datenbank auch 49 Datenfiles a 16 GB.

Als Workaround:
Nimm doch 7zip, sag Kompressionstärke: Speichern, in Teildateien aufsplitten (z.B. 4 GB) und die auf den neuen Server speichern lassen.
Man muß es dort mit 7zip wieder entpacken, sind also mehrere Schritte, sollte aber kein Netzwerkproblem geben.
Member: Dilbert-MD
Dilbert-MD Aug 22, 2017 at 13:43:25 (UTC)
Goto Top
Hallo,

ich tippe auf einen Thermofehler. Möglich, weil der/die Netzwerkadapter ununterbrochen mit voller Auslastung laufen, ggf. zu warm werden und abschalten.
Da bis'te ja schneller mit einer externen HDD und Turnschuhe zubinden. face-wink

Gruß
Member: Rene1976
Rene1976 Aug 22, 2017 at 13:51:10 (UTC)
Goto Top
Hallo,

auf C: und in dem Temp Ordner sind noch 71 GB frei.
Auf Laufwerk K , wo File liegt sind noch 420GB frei.

Was ich jetzt noch sehe, ist das der Virtuelle Speicher für Pagefiles fest auf 24GB eingestellt ist (3x dem RAM von 8 GB).
Soweit ich mir erinner kann war unter Win2003 ein fester Wert bester als Auto.
Könnte diesen noch erhöhen, oder auf Auto stellen.

Würde das was bringen?

Gruß,

Rene
Member: chgorges
chgorges Aug 22, 2017 at 13:54:22 (UTC)
Goto Top
Zitat von @Rene1976:

Hallo,

auf C: und in dem Temp Ordner sind noch 71 GB frei.

Versuch da mal noch, etwas Platz zu schaffen, bzw. halte die C: Auslastung mal während des Kopiervorgangs im Blick.

Ansonsten wie AndreasHoster gesagt hat.
Member: kaiand1
Solution kaiand1 Aug 22, 2017 at 15:49:43 (UTC)
Goto Top
Das ist leider ein Altes Problem von Windows das ich seit XP kenne.
Größere Files ~>30 GB machen Probleme beim Kopieren/Verschieben übers Netzwerk.
Die Daten werden beim System gepuffert bevor/während des Transport übers Lan und an einer Stelle läuft da was voll wodurch der Abbruch zustande kommt.
Lösung was bislang immer in kleinere Teile Splitten, Haschen und am Zielort zusammen setzten und Prüfen ob alles IO ist.
Oder du machst es per FTP Server das ginge Problemlos komischerweise....
Member: wiesi200
wiesi200 Aug 22, 2017 at 16:22:33 (UTC)
Goto Top
Hallo,

Ich hatte das Problem auch mal mit nem Fileserver, so nach nem 1/2 bzw 3/4 Jahr Laufzeit ist das aufgetaucht. Nach nem Neustart war's weg.
Member: ashnod
ashnod Aug 22, 2017 updated at 16:25:15 (UTC)
Goto Top
Zitat von @kaiand1:
Haschen und am Zielort zusammen setzten

Das hört sich gut an face-wink

Sanfte Grüße
Member: em-pie
em-pie Aug 22, 2017 at 17:20:35 (UTC)
Goto Top
Mal eine andere Sichtweise:
Hast du mal versucht, anstatt die Datei zum neuen Server zu "schieben" diese vom alten Server zu "ziehen"?
Member: ashnod
ashnod Aug 22, 2017 at 17:22:41 (UTC)
Goto Top
Zitat von @wiesi200:
Nach nem Neustart war's weg.

Halte ich auch für eine gute Idee, weil es Cache und zwischenablage sauber leert.
Wenn du das nicht magst kopiere eine kleine Datei mit Strg C.
Rechne mal zusätzlich RAM und die Größe der Auslagerungsdatei zusammen und Schau mal ob das in etwa zum Abbruch passt.

Sanfte Grüße
Member: Rene1976
Rene1976 Aug 22, 2017 at 18:19:27 (UTC)
Goto Top
Hallo,

bis jetzt habe ich mit xcopy, copy und robocopy immer vom Zielserver Win 2012 R2 die Dateien gezogen (Stärker CPU, RAM, 4x LAN).
Im Moment lasse ich mal in der Nacht nochmal die .7z Dateien gesplittet pro 4 GB erstellen.
Das dauert auf der alten Win 2003 Kiste etwas länger, ca. 4 Std..
Kann dann erst morgen weitermachen.
Ich werde berichten ob zumindest 4GB über´s Netz laufen.

Merci für eure Vorschläge und Hilfe.

Bis morgen,

Rene
Member: emeriks
Solution emeriks Aug 22, 2017 at 18:45:35 (UTC)
Goto Top
Hi,
wie @kaiand1 schreibt: Das ist ein alter Hut und das Durchstarten des Rechners wird auch nicht helfen. Das ist bei Windows by-design. Kenne ich nicht anders.

Ich würde es so versuchen, wie bereits vorgeschlagen:
- anderes Protokoll, z.B. FTP
- Datei aufsplitten, entweder schon beim Packen oder nachträglich mit VBscript oder Powershell. Die einzelnen Dateien dann am Ziel wieder zusammenfügen.

Was auch noch geht: Wenn Du die Dateien eh noch einmal zippen lässt, warum dann nicht gleich über das Netzwerk? Also Zielordner ist eine Freigabe auf dem Zielserver. Oder gleich im Original auf den neuen Server kopieren?

@ashnod
STRG-C -> kopieren > in den Arbeitsspeicher ..... 70 GB?
Nein, das stimmt nicht. Wenn man eine Datei im Explorer in die Zwischenablage "kopiert", dann wird in der Zwischenablage nur ein Zeiger (der Pfad) auf diese Datei abgelegt. Genauso beim "Ausschneiden". Wenn man dann "einfügt" - dann erst wird der Kopier- oder Verschiebe-Prozess ausgelöst und der Zeiger in der Zwischenablage als Parameter ausgewertet.
Was anderes ist, wenn man in einem Programm Daten in die Zwischenablage kopiert. Hier hängt es vom Programm ab (z.B. Bildbearbeitung), ob da auch bloß Zeiger oder die tatsächlichen Daten in die Zwischenablage kopiert werden.

E.
Member: b-sol.de
b-sol.de Aug 23, 2017 at 13:00:09 (UTC)
Goto Top
Hi,

sind das VM´s - Stichwort: Thin-Provisioning?
Mitglied: 108012
Solution 108012 Aug 24, 2017 at 03:02:21 (UTC)
Goto Top
Hallo,

Kopiert habe ich im Windows Explorer mit Strg. C + Strg. V vom Zielserver aus mit Zugriff auf den Netzwerkpfad des Quellserver.
Das würde ich auch als erstes ändern wollen!

ich will eine 70 GB große .7z Archiv Datei (zip-Datei) über unser 1GBit Netzwerk von einem Server Win 2003 zum anderen
Server Win 20012 R2 kopieren.
Echte Server auf dem Blech oder in VMs?

Fehler: Für den Befehl ist nicht genügend Serverspeicher zur Verfügung.
Dann kann es sich nur um den RAM oder aber um den HDD/SSD Platz des Zielservers handeln.
Quotas, FilePageSys zu klein dimensioniert, RAM läuft über, CPU zu schwach, alles zusammen, SMB, das kann
alles und nichts sein! Also ich würde einmal versuchen mittels einer anderen Methode die Daten herüber zu kopieren.
- FTP, alt und unsicher aber schnell und wenn das wirklich nur Netzwerk intern sein sollte ist das auch nicht so wild
- RSync ist etwas umständlich zu bedienen aber sicher und gut dokumentiert
- Per USB HDD, umständlich aber in wenigen Minuten erledigt!

Es laufen keine aktiven Virenscanner auf den Servern.
Der Zielserver hat 4 Intel onboard Netzwerkkarten die logisch zu einer zusammen geschaltet sind.
Das ist zwar schick wenn viele benutzer auf den Server zugreifen aber nicht wenn eine dicke Datei rauf kopiert werden soll!
Hast Du schon einmal über den Einsatz einer 10 GBit/s Netzwerkkarte in jedem Server zusammen mit einem 10 GBit/s
Switch nachgedacht?

Woran liegt das?
Kann alles und nichts sein! Also 70 GB und so viel RAM im Server kann auch fast keine CRC Fehler mehr sein
das muss dann irgend wo mit dem Speicherplatz oder einer Speicherplatzbegrentzung zu tun haben.

Liegt das am Win Explorer?
Oder am SMB selbst?
Wohl eher nicht.

Oder???
Einfach zu schwache Hardware aber auf jeden Fall die falsche Kopiermethode.
Auf beiden Servern einen kleinen FTP Server installieren und dann einfach rüber kopieren, das würde vieles
ausschließen und ist auch gut zu beobachten wenn es wieder Probleme giben sollte.

Gruß
Dobby
Member: Rene1976
Rene1976 Aug 25, 2017 at 09:23:27 (UTC)
Goto Top
Hallo,

nochmals danke für all die Antworten und Ratschläge.
Ich habe jetzt die Daten nochmals mit 7-zip gepackt und dabei 7-zip Teilpakete mit jeweils 4 GB erstellen lassen.
Diese konnten dann ohne Probleme auf den neuen Server kopiert werden.

Besten Dank.

Bis dann,

Rene
Member: kether
kether Sep 03, 2017 at 18:04:16 (UTC)
Goto Top
Hallo,
war das nicht die IRP Stack Size Geschichte?

Solche Probleme hatte ich damals auch mit Server 2003.

evt. hilft das hier:
http://www.winfaq.de/faq_html/Content/tip0000/onlinefaq.php?h=tip0475.h ...

alles gute
R.C.P.