ozer
Goto Top

Load Balancing so sinnvoll?

Hallo zusammen,

ich würde von euch gerne mal eure Meinungen zu dem aktuellen Netz und meinem geplanten Umbau dazu haben. Aktuell habe ich das Problem das die Netzgeschwindigkeit weit unter GigaBit liegt (ca. 250-300 Mb/s). Getestet von Server to Server und Client to Server. (Switche und Netzwerkkarten sind natürlich alle Gigabit und verkabelt ist Cat6)

Aktuell ist das Netz so aufgebaut.

dfb65de3a22874af58ccb6ed18e16bf5

Die Server sind alle per Gigabit und NIC Teaming Tool von Broadcom an Switch 1 angeschlossen.
802.3ad LACP ist hier das von mir gewählte Protokoll auf beiden Seiten (Server und Switch).

Die Swtiche 1-2 sowie 1-3 sind ebenfalls mit jeweils 4 x Cat6 Kabeln untereinander angeschlossen.
Ebenfalls 802.3ad.

Die Clients sind auf allen 3 Switchen verteilt, da wo halt Platz war ;)

Meine Idee wäre jetzt folgende:

6f3030bbd40e7e950a298f973393a29d

Eigentlich das gleiche Netz, wobei ich die zweite NIC der Server an ein extra Gigabit Switch packe und dieses wieder per Link aggregation an Switch2 anschließe.

Meint Ihr dass würde zu einem performance Gewinn führen?
Spanning Tree ist auf allen Switchen aktiviert. Die Switche sind übrigens 2 x 3com Baseline 2946-Sfp+, 1 x Netgear GS700GS (Switch4) und 1 x 3Com 2824 SFP+.

Falls keine der Szenarios was taugt, würde ich mich über verbesserungsvorschläge freuen.

Content-Key: 202366

Url: https://administrator.de/contentid/202366

Printed on: April 25, 2024 at 01:04 o'clock

Member: aqui
aqui Feb 26, 2013 updated at 09:33:49 (UTC)
Goto Top
Das klappt nur wenn die NICs der Server in unterschiedlichen IP Netzen arbeiten ! Du kannst die NICs niemals trennen und dann aber im gleichen IP Netz lassen:
Routing von 2 und mehr IP Netzen mit Windows, Linux und Router
Dein erstes Szenario ist also schon richtig gewesen, wenn du eine dumme flache Layer 2 Struktur hast ohne jegliche VLAN Segmentierung ?! Leider sagst du dazu nichts....
Wenn dem so ist hast du also technisch nur diese Möglichkeit es zu lösen, der "Verschlimmbesserungsvorschlag" oben würde also schon technich scheitern ohne eine IP Segmentierung in VLANs.
Was bitte bedeutet dieser "Kurzschlusslink" über die Server ?? Netzwerktechnisch ist sowas auch ziemlicher Unsinn und den Sinn solltest du hier nochmal erläutern !!

Dein Problem ist vermutlich das das 802.3ad Teaming / Link Aggreagtion nicht richtig funktioniert oder nur einseitig und du vermutlich Loops oder Teilloops im Netz hast.
Du solltest also als erstes strategisch vorgehen und mit den ensprechenden show Kommandos oder im Setup GUI einmal ganz genau checken ob deine jeweiligen LADs überhaupt im "Operational" Mode sind also sauber aufgebaut wurden.
Hier wird sehr viel falsch gemacht.
Nicht so oft in der Link Aggregation zwischen Switches, denn da kann man nicht viel falsch machen wenn man weiss was man tut. Ausnahme ist hier LAGs zwischen unterschiedlichen Herstellern, da ist LACP immer Pflicht !
Mehr falsch wird auf seiten der Server gemacht, denn dort gibt es Active/Active, Active/Passive Szenarien und eben auch LADs nach 802.3ad mit LACP. Oft ist das für Laien verwirrend.
Zwingend ist hier aber auch immer ein Link Aggregation nach den obigen Standards.
Checke also erstmal ganz genau auf den Switches ob diese einzelnen LAGs überhaupt richtig gebildet wurden und ob es auch ein aktives Load Balancing bzw. Lastverteilung in diesen LAGs überhaupt gibt.
Letzteres ist ein Indiz dafür das diese auch richtig funktionieren. Relevant ist hier der LACP Status den man im Setup GUI oder mit Show Kommandos abfragen kann.
Die aktive Lastverteilung der LAGs kannst du mit einem kleinen SNMP Tool wie SNMP TG
http://leonidvm.chat.ru
relativ schnell ohne Aufwand grafisch checken auf deinen Switches !
Damit hast du dann gewissheit das alles sauber funktioniert.
Member: MrNetman
MrNetman Feb 26, 2013 at 09:33:57 (UTC)
Goto Top
Hi Ozer,

Löblich, die Überlegungen.
Vor dem Umbau teste bitte ob die 2GBit Performance in der aktuellen Konfiguration erreichbar ist. Dazu musst du auf mindestens 2 Cients Netio gleichzeitig starten.
Wenn du nicht so weit kommst, dann klappt dein Momentanes Teaming schlecht oder gar nicht.
Dann ist Teaming und LACP das Stichwort, an dem du arbeiten sollst. Allerdings sind mir auch schon fabrikneue Cat6-Kabel (noname) untergekommen, die statt 1GBit/s nur 300Mbit/s geschafft haben.

Für dein zweites Szenario sehe ich irgendwie schwarz, da die Switches von verschiedenen Herstellern und verschiedenen Typen sind. Hier ist vorherzusehen, dass die Performance einbricht. Das ist leicht vorstell- und prüfbar. Für jeden neuen Weg müssen Pakete als unbekannt und damit als Broadcast zum Lernen verschickt werden.
Prüfung: Wireshark an einen beliebigen Port. Sobald dort sinnvolle Pakete auftreten gibt es ein Problem. Echte Broadcasts sind erlaubt.
Außerdem macht es nicht Sinn, die Serververbindungen auf mehr als 2 Switches zu verteilen (SW1, SW2, SW3)

Gruß
Netman
Member: ozer
ozer Feb 26, 2013 at 10:07:02 (UTC)
Goto Top
Hallo,

vielen Dank für das erste Feedback.

Wir haben leider derzeit noch eine flache Struktur ohne Vlan Segmentierung. Werde ich demnächst in Angriff nehmen.

Ich weiss leider auch nicht was du mit Kurzschlusslink meinst.
Der Sinn / Unsinn ;) ist eigentlich derjenige das ich die Last von einem Switch auf 2 verteilen möchte und mich auch so etwas gegen Ausfall absichere. Mit 802.3ad ist das wohl nicht realisierbar. Die Broadcom Karten haben aber neben der Option 802.3ad auch das "broadcom smart load balancing and failover". Wenn ich also Link aggregations auf dem Switch zu den Server löse und dann die von mir geplante Umstellung durchführe, wäre dass dann immer noch eine Verschlimmbesserung?
Einer meiner Sorgen ist halt auch dass ich mir Schleifen ohne Ende baue, wobei das mit aktiviertem Spanning Tree ja kein Problem darstellen sollte. Ich weiss halt nur nicht wie ich das im laufenden Betrieb testen kann face-sad
Die LADs werde ich mir anschauen und weiter berichten, dass wird aber erst wieder morgen etwas ;)

Netio hab ich laufen lassen, bestätigt mir halt wie gesagt die 250Mbit von Server to Server, Gleiches Switch. Per UDP komme ich sogar auf 550Mbit. Eines hat mich jedoch gewundert. Von Client to Server bekomme ich teilweise sogar 113MByte also knapp 900Mbit was ja eigentlich Top ist, wenn man bedenkt dass hier gerade Betrieb ist. Ich werde gleich mal die Kabel tauschen und dann melde ich mich auf jeden Fall nochmal.
Member: MrNetman
MrNetman Feb 26, 2013 at 10:21:09 (UTC)
Goto Top
Nun deine Test beweisen eine falsche Serverkonfiguration. Sieh dir das BRadcom Tool genau an und lies die Konfiguration.
Was passiert bei SLB:
Der Client fordert Daten an und der Server leifert sie an IF1 aus. Der nächste Client will Daten, der Server muss jetz fürs LB (Load Balancing) an IF2 ausliefern. Da der Switch das aber nicht weiß, wird das Antwortpaket erst einmal gebroadcastet und alle weiteren Switche tun das logischerweise auch. Danach kennt man den Weg und der Verkehr läuft ingeregelten Bahnen. Client 3 fragt jetzt an udn wird wieder auf IF1 bedient. Die Broadcast - Learning-Prozedur startet wieder.
Im günstigen Fall hast du nur eine mangelnde Performance trotz höherer Bandbreite. Im ungünstigsten Fall, kannst du dein komplettes Netz mit diesen unnötigen "Broadcasts" dicht machen.

Bei Netio kann man auch die Anzahl der gleichzeitigen Verbindungen einstellen. Je mehr gleichzeitige Verbindungen, desto niedriger die Datenrate - dank der Konfiguration.

Gruß
Netman
Member: ozer
ozer Feb 26, 2013 at 15:59:07 (UTC)
Goto Top
Hab mir jetzt die Logs durchgesehen und es war wie aqui gesagt hatte. Ein Teaming hat anscheinend nicht funktioniert und dann Loops auf dem Netzwerk verursacht. Ein Löschen und wieder neu einrichten hat dann geholfen face-smile

Danke an euch beide ;)