dax4fun
Goto Top

Txt Datei in mysql importieren

Hi, Leute

habe mehrere txt Dateien auf einem FTP Server und möchte diese Daten in eine mysql DB auf einem anderen Server eintragen.

Die Dateien werden per Batch erzeugt und schauen so aus:

SHOP_123456, EINGANG:188600, AUSGANG:198128, BALANCE:-9528, ANZAHL:1113,

Wie kann ich die Daten trennen, da z.B. SHOP eigentlich schon die Spalte ist...?

Content-Key: 235200

Url: https://administrator.de/contentid/235200

Printed on: April 16, 2024 at 16:04 o'clock

Member: sigkill
sigkill Apr 11, 2014 updated at 06:11:00 (UTC)
Goto Top
Verfügbare Betriebsysteme?

Unter Linux/Unix würde ich vorschlagen, die Datein per sed/awk zu bearbeiten.
Entweder komplette SQL-Statements aus den Zeilen bauen oder csv-Dateien mit den "reinen" Daten(also einfach "SHOP_" etc. durch "" ersetzen lassen) die dann per LOAD DATA [LOCAL] INFILE importiert werden.
Wobei zu testen wäre ob LOAD DATA LOCAL INFILE auf dem DB-Server erlaubt ist(http://dev.mysql.com/doc/refman/5.1/de/load-data-local.html)
Member: dax4fun
dax4fun Apr 11, 2014 at 08:26:24 (UTC)
Goto Top
Hallo,
Aha verstehe hab mir gedacht das es nicht so kompliziert ist, somit ist es besser bzw. leichter die Files per Batch in einen insert zu formatieren und dann einfügen.
Danke
Member: sigkill
Solution sigkill Apr 11, 2014, updated at Jun 01, 2014 at 00:18:27 (UTC)
Goto Top
sed/awk ist nicht kompliziert ... das ist vieeeel einfacher als Textdateien per batch zu manipulieren ;) Es hängt halt immer davon ab was man zu Verfügung hat und was man beherrscht. Wenns nur Windows ist, dann würde ich sagen, Dateimanipulationen sind per Windows powershell komfortabler machbar als per batch.

Weiterhin ist die Performance zu betrachten. Wenn es wirklich viele Datensätze sind, dann lieber (wenn möglich) LOAD DATA LOCAL INFILE nutzen und keine einzelnen Insert-Statements. LOAD DATA ist wesentlich schneller.

Mit der Powershell sollte es etw so gehen(ganz quick&dirty ... ich bin nicht der powershell-freak, nehme lieber perl oder sed/awk wenn möglich):
(Get-Content datei.txt) | ForEach-Object { $_ -replace "SHOP_","" } | Set-Content datei.txt
(Get-Content datei.txt) | ForEach-Object { $_ -replace "EINGANG:","" } | Set-Content datei.txt

dann hätte man eine "saubere" CSV-Datei für load data .... genauso kann man die entsprechenden Bezeichnungen durch INSERT INTO-Fragmente ersetzen und so komplette SQL-Statements erzeugen.
Member: Hitman4021
Hitman4021 Apr 11, 2014 at 11:05:57 (UTC)
Goto Top
Hallo,

https://dev.mysql.com/doc/refman/5.1/de/load-data.html
Du kannst einfach "," als Delimiter angeben ;)

Grüße
Member: dax4fun
dax4fun Apr 11, 2014 at 11:34:23 (UTC)
Goto Top
ahsooo ja powershell kenn ich mich nicht aus ich war gezwungen Batch zu verwenden und jetzt kenn ich mich damit besser aus, und die Daten werden per Batch generiert somit ist das kein Problem face-smile
aber ich schau mir das noch mal an bin nur drübergeflogen danke

hitman4021, muss ich mir noch anschauen danke dir für die Antwort


ich lass den Thread noch offen um euch bei Fragen zu nerven face-smile

lg dax