Frage ist gelöstNettodatenrate bei 10GB Ethernet
06.02.2012
14:59:34 Uhr634 Aufrufe
8 Antworten
14:59:34 Uhr
8 Antworten
Noch nicht bewertet
Praxiserfahrung mit 10GB Ethernet
Hallo,
hat irgendjemand schon mal den praxisrelevanten Datendurchsatz bei 10GBit Ethernet ermittelt?
Ich meine hier die Nutzdaten-Bandbreite in der Switch-to-Switch Kommunikation übrig bleiben.
Kann mir hier jemand vernüftige Zahlen oder Anhaltspunkte liefern?
Konkret möchte ich zahlreiche Video-Streams aus verschiedenen Quellen (in Summe ca. 6000-8000 MBit/s) über eine 10 GB Leitung an einen anderen Switch übertragen (dort werden die Streams wieder verteilt).
Ab welcher Anzahl benötige ich eine zweite Leitung bzw. muß die Last auf zwei Switche verteilen ?
Die theoretische Bitrate von 10.000 MBit/s kann ja nicht erreicht werden da mindestens noch der Protokollheader weggeht. Bei Gigabit rechne ich mit etwa 600-700 MBit/s die netto verwendet werden können.
Für 10G fehlen mir jedoch sämtliche Anhaltswerte.
Danke für jeglichen Hinweis dazu.
Grüße
Christian
hat irgendjemand schon mal den praxisrelevanten Datendurchsatz bei 10GBit Ethernet ermittelt?
Ich meine hier die Nutzdaten-Bandbreite in der Switch-to-Switch Kommunikation übrig bleiben.
Kann mir hier jemand vernüftige Zahlen oder Anhaltspunkte liefern?
Konkret möchte ich zahlreiche Video-Streams aus verschiedenen Quellen (in Summe ca. 6000-8000 MBit/s) über eine 10 GB Leitung an einen anderen Switch übertragen (dort werden die Streams wieder verteilt).
Ab welcher Anzahl benötige ich eine zweite Leitung bzw. muß die Last auf zwei Switche verteilen ?
Die theoretische Bitrate von 10.000 MBit/s kann ja nicht erreicht werden da mindestens noch der Protokollheader weggeht. Bei Gigabit rechne ich mit etwa 600-700 MBit/s die netto verwendet werden können.
Für 10G fehlen mir jedoch sämtliche Anhaltswerte.
Danke für jeglichen Hinweis dazu.
Grüße
Christian
aqui schreibt am 06.02.2012 um 15:12:08 Uhr
Premium Switches renomierter Hersteller schaffen auf 10 GiG Link in der Regel full wirespeed auf allen Ports, also eine fast vollständige Saturierung eines Links. 100% Saturation rate ist wie du ja sicher weisst bei Ethernet technisch nicht möglich. Lastraten liegen bei solchen Switches aber um 99% pro Link.
Jeder renomierte Hersteller hat dafür Messprotokolle mit Ixia oder Smartbit Testern gemessen.
Diese Hersteller haben auch alle 100 Gbit Interfaces schon verfügbar so das du dir da keine Sorgen machen musst was die Bandbreite anbetrifft.
Bei Billigheimer oder Midrange Herstellern musst du da sehr vorsichtig sein. Dort sind 10 GiG Ports in der Regel alle überbucht da dort an den teuren Packet Prozessoren mehr PHY Ports hängen als dieser physisch weiterleiten kann.
Billighersteller adressieren einen anderen Markt wo sie immer davon ausgehen das diese Kunden dort keine solch hohen Datenraten produzieren.
Hier musst du mit Überbuchungen von 4:1, 8:1 oder sogar noch höher rechnen.
Deine 6000 bis 8000 Mbit/s sind also mit der richtigen Switchhardware vollkommen problemlos zu erreichen ! Sogar noch geringfügig mehr. Analog gelten ja identische Annahmen wie bei GiG Ethernet. Auch da sind 600-700 MBit/s erheblich zu niedrig angesetzt was reale Durchsatzraten bei (guten) Herstellern anbetrifft.
Jeder renomierte Hersteller hat dafür Messprotokolle mit Ixia oder Smartbit Testern gemessen.
Diese Hersteller haben auch alle 100 Gbit Interfaces schon verfügbar so das du dir da keine Sorgen machen musst was die Bandbreite anbetrifft.
Bei Billigheimer oder Midrange Herstellern musst du da sehr vorsichtig sein. Dort sind 10 GiG Ports in der Regel alle überbucht da dort an den teuren Packet Prozessoren mehr PHY Ports hängen als dieser physisch weiterleiten kann.
Billighersteller adressieren einen anderen Markt wo sie immer davon ausgehen das diese Kunden dort keine solch hohen Datenraten produzieren.
Hier musst du mit Überbuchungen von 4:1, 8:1 oder sogar noch höher rechnen.
Deine 6000 bis 8000 Mbit/s sind also mit der richtigen Switchhardware vollkommen problemlos zu erreichen ! Sogar noch geringfügig mehr. Analog gelten ja identische Annahmen wie bei GiG Ethernet. Auch da sind 600-700 MBit/s erheblich zu niedrig angesetzt was reale Durchsatzraten bei (guten) Herstellern anbetrifft.
clSchak schreibt am 06.02.2012 um 15:37:17 Uhr
Da muss ich Aqui recht geben, ich habe hier via sFlow Mess-Daten eine Peaklast von 9,8xxx Gbit auf den 10Gb Ports gemessen (mit 100Gb Files) und das schafft nur Enterprise Hardware.
Und bei gescheiter Hardware schaffst auch auf der 1Gb Leitung 900-950 Mbit (sofern die Festplatten das hergeben >100MB /sec lesen/schreiben)
@Aqui: 100 Mbit sind ja schon unterste Schiene oder meinst du 100Gb
.. wobei die Hardware so teuer ist das man dafür auch schon ein Haus kaufen kann ... noch 
Und bei gescheiter Hardware schaffst auch auf der 1Gb Leitung 900-950 Mbit (sofern die Festplatten das hergeben >100MB /sec lesen/schreiben)
@Aqui: 100 Mbit sind ja schon unterste Schiene oder meinst du 100Gb
ratzla schreibt am 06.02.2012 um 16:34:07 Uhr
Danke für die schnelle Antwort - ich hätte nicht gedacht dass tatsächlich Wirespeed möglich ist.
Ich hoffe Cisco zählt bei Euch zu den renommierten Switch Herstellern
100GBit habe ich übrigens noch nicht gefunden, ich bekomme aber 40GB Module - was aber auch schon über meinem erwarteten Range liegt.
@clSchak: Direkt die Streams auf eine Festplatte zu schreiben wäre wohl mehr als utopisch - wir trennen die Streams an einem weiteren Switch auf und verteilen dann auf entsprechend viele Plattensysteme.
Ich hoffe Cisco zählt bei Euch zu den renommierten Switch Herstellern
100GBit habe ich übrigens noch nicht gefunden, ich bekomme aber 40GB Module - was aber auch schon über meinem erwarteten Range liegt.
@clSchak: Direkt die Streams auf eine Festplatte zu schreiben wäre wohl mehr als utopisch - wir trennen die Streams an einem weiteren Switch auf und verteilen dann auf entsprechend viele Plattensysteme.
MrNetman schreibt am 07.02.2012 um 08:20:29 Uhr
Zitat von aqui:
Deine 6000 bis 8000 Mbit/s sind also mit der richtigen Switchhardware vollkommen problemlos zu erreichen ! Sogar noch
geringfügig mehr. Analog gelten ja identische Annahmen wie bei GiG Ethernet. Auch da sind 600-700 MBit/s erheblich zu niedrig
angesetzt was reale Durchsatzraten bei (guten) Herstellern anbetrifft.
Da gibt es aber noch den von ratla erwähnten Ethernet Overhead, der in den Flowmessungen wie selbstverständlich mitgerechent wird = Wirespeed.Deine 6000 bis 8000 Mbit/s sind also mit der richtigen Switchhardware vollkommen problemlos zu erreichen ! Sogar noch
geringfügig mehr. Analog gelten ja identische Annahmen wie bei GiG Ethernet. Auch da sind 600-700 MBit/s erheblich zu niedrig
angesetzt was reale Durchsatzraten bei (guten) Herstellern anbetrifft.
Nämlich: Interframe Gap (12 Byte) + Preamble ( 8 Byte) + Header (38 bis 42 Byte, VLAN) + Trailer (4 Byte). für TCP fallen noch einmal 40 Byte weg. Bei UDP sind es 28 Byte, IPV6 braucht noch einmal 20 Byte mehr. IFG und Preamble werden kaum mehr erwähnt. Auch Wireshark zeigt solche Dinge nicht an.
Da die Pakete für eine Übertragung im restlichen Netzwerk nicht größer als 1500 Byte werden muß man das bei der effektiven Nettodatenrate berücksichtigen. Jumboframes würden beim Datendurchsatz helfen, passen aber nicht in die Struktur.
Gruß
Netman
aqui schreibt am 07.02.2012 um 09:18:34 Uhr
@ratzla
Cisco, Brocade, Entensys, Extreme machen alle wirespeed auf dem 10 GiG. HP und der Rest der Billigheimer gehört definitiv NICHT dazu !
Wie bereits gesagt: Besorge dir die unabhängigen Durchsatztests von der Tolly Group o.a. Jeder der o.a. Hersteller hat solche Dokumente die er auch Kunden gibt !
Jumboframes passen schon in die Struktur wenn es sich um ein reines GiG/10GiG Netzwerk handelt und die max Framesize nicht überschritten wird die von Hersteller zu Hersteller variiert.
Cisco, Brocade, Entensys, Extreme machen alle wirespeed auf dem 10 GiG. HP und der Rest der Billigheimer gehört definitiv NICHT dazu !
Wie bereits gesagt: Besorge dir die unabhängigen Durchsatztests von der Tolly Group o.a. Jeder der o.a. Hersteller hat solche Dokumente die er auch Kunden gibt !
Jumboframes passen schon in die Struktur wenn es sich um ein reines GiG/10GiG Netzwerk handelt und die max Framesize nicht überschritten wird die von Hersteller zu Hersteller variiert.
ratzla schreibt am 07.02.2012 um 22:11:54 Uhr
Nochmals Danke an alle.
Den Abzug des Ethernet Overheads hatte ich schon berücksichtigt - den von Netman (IMHO korrekt) erwähnten IFG und Präambel hatte ich selbst übersehen.
Damit erhalte ich ungefähr 8% "Verlust" bei einem voll genutzten Standard Frame.
Mit Jumbo Frames habe ich an anderer Stelle eher schlechte Erfahrungen gemacht (nicht unbedingt bei den Switchen aber bei den angeschlossenen Endgeräten). Ich glaube auch nicht dass bei diesen eigentlich recht kleinen Datenpakten(H.264 Video mit vielen kleinen Interframes) das viel bringt.
In der Praxis rechne ich mit gelegentliche Retransmits, unterschiedliche Paketgrößen, zusätzlich laufende Verwaltungsprotokolle (SNMP, IGMP, VTP usw.) und noch weitere Dingen die in der Theorie nur schwer zu erfassen sind. Darum hatte ich nach Praxiserfahrungen gefragt.
Mit einer Sicherheitsreserve von ca. 25% liege ich vermutlich nicht ganz falsch - wenn ich effektiv mehr erreiche ist das dann nicht so wild, solange ich die Mehrkosten dafür sinnvoll begründen kann.
Tragisch wird es nur wenn die Bilder nicht mehr sauber übertragen werden.
Für mich war wichtig zu hören, dass bei 10Gig keine zusätzlichen "Stör"-Effekte auftreten und ich die Leitung mit dem 10-fachen von 1G auslegen kann.
"So long and thanks for all the fish"
Den Abzug des Ethernet Overheads hatte ich schon berücksichtigt - den von Netman (IMHO korrekt) erwähnten IFG und Präambel hatte ich selbst übersehen.
Damit erhalte ich ungefähr 8% "Verlust" bei einem voll genutzten Standard Frame.
Mit Jumbo Frames habe ich an anderer Stelle eher schlechte Erfahrungen gemacht (nicht unbedingt bei den Switchen aber bei den angeschlossenen Endgeräten). Ich glaube auch nicht dass bei diesen eigentlich recht kleinen Datenpakten(H.264 Video mit vielen kleinen Interframes) das viel bringt.
In der Praxis rechne ich mit gelegentliche Retransmits, unterschiedliche Paketgrößen, zusätzlich laufende Verwaltungsprotokolle (SNMP, IGMP, VTP usw.) und noch weitere Dingen die in der Theorie nur schwer zu erfassen sind. Darum hatte ich nach Praxiserfahrungen gefragt.
Mit einer Sicherheitsreserve von ca. 25% liege ich vermutlich nicht ganz falsch - wenn ich effektiv mehr erreiche ist das dann nicht so wild, solange ich die Mehrkosten dafür sinnvoll begründen kann.
Tragisch wird es nur wenn die Bilder nicht mehr sauber übertragen werden.
Für mich war wichtig zu hören, dass bei 10Gig keine zusätzlichen "Stör"-Effekte auftreten und ich die Leitung mit dem 10-fachen von 1G auslegen kann.
"So long and thanks for all the fish"















