10G für Live-Migration und Shared Storage

In meinem Playlab nutze ich Shared Storage für NFS Freigaben und teilweise für Backups. Die NFS Freigaben werden als Storage Ressource (SR) für virtuelle Maschinen in die Virtualisierungsumgebung eingebunden.

Ein 10G (Gbit pro Sekunde) Netzwerk beschleunigt die Live- Migration zwischen Virtualisierungshosts und kann (theoretisch) die I/O Leistung lokaler SSDs des Shared Storgae Server über das Netzwerk bereitstellen.

Die maximale theoretische Bandbreite eines 10G (Gbit/s oder Gbps) Netzwerk liegt bei knapp 1,25 Gbyte/s .

10G im privaten Umfeld

10G Netzwerk Komponeten sind mittlerweile auch für den privaten Bereich erschwinglich geworden. Neben dem Gebrauchtmarkt auf Ebay bieten Unternehmen wie Ubiquiti oder Mikrotik 10G Switche mit guter Leistung und einem aktzeptablen Preis-/Leistungsverhältnis an.

Aktuell (Dezember 2021) sind das z.B. der Ubiquiti US-16-XG 10G (im Moment nicht verfügbar) oder der MikroTik CRS317-1G-16S+RM (16x 10G Ports, ca. 350€) bzw. der MikroTik CRS326-24S+2Q+RM (24x 10G Ports, ca. 480€). Wer vor allem L3 Switching Performance braucht, ist i.d.R. mit den Modellen von Ubiquiti (oder Anbieten von deutlich teureren und lauteren Enterprise- Switchen wie Brocade/Ruckus, Aruba, HP oder DELL) besser bedient. Tests von ServeTheHome für den CRS317-1G-16S+RM bzw. CRS326-24S+2Q+RM haben gezeigt, dass bei Mikrotik die L2 Performance gut, bei L3 Switching aber nennenswert schlechter ist.

10G im playlab

Mein Playlab besteht aus drei Dell Optiplex 9010, daher reichen mir die vier 10G Ports des Mikrotik CRS305-1G-4S+IN.

Liste der 10G Netzwerkkomponenten

  • Mikrotik CRS305-1G-4S+IN Cloud Router Switch (4x 10G Ports, Ebay, 130€)
  • Intel X520-DA2 Dual SFP+ Port 10G Netzwerk Adapter (Ebay, 60€)
  • Intel X520-DA1 Single SFP+ Port 10G Netzwerk Adapter (Ebay, 2x 50€)
  • 10Gtek® SFP+ 1-Meter Kabel Direct Attach Copper(DAC) Twinax Kabel, Passiv (Amazon, 3x 22€)

10G Netzwerkbandbreite mit iperf3 messen

iperf ist ein Werkzeug, um den Netzwerkdurchsatz zwischen zwei Computern in beide Richtungen zu messen. Ein Computer agiert dabei als Client und der andere als Server. Beide Computer müssen sich im gleichen Netzwerk befinden und entweder direkt oder über einen Switch verbunden sein.

Für den Test verwende ich iperf3 auf einer Debian 10 Installation von Client und Server. iperf3 kann aus dem Debian Repository installiert werden.

iperf3 installieren

apt install iperf3

iperf3 als Server starten

Nach der Installation auf h02 wird iperf3 zunächst im Servermodus gestartet.

iperf3 -s

iperf3 als Client starten und Bandbreite messen

Nach der Installation auf h01 wird iperf3 im Clientmodus mit h02 als Server gestartet.

iperf3 -c 10.10.70.72

9,40 Gbit/s Bandbreite im Netzwerk

Um die Gegenrichtung zu messen, starte ich iperf3 auf h01 als Server und auf h02 als Client. Alternativ kann der Client auch mit dem -R parameter gestartet werden, um eine Remote- Messung zu starten.

Im Mittel liegt die mit iperf3 gemessene Bandbreite bei knapp 9,40 Gbit/s oder 1,175 Gbyte/s; das entspricht gut 94% der theoretischen Bandbreite eines 10G Netzwerks. Gar nicht schlecht für mein Playlab.

Fazit

Für knapp 360€ kann ich in meinem Playlab nun Live- Migration, den Zugriff auf NFS- Freigaben des Shared Storage Server sowie Backups in einem 10G Netzwerk nutzen. Dabei erreicht die Netzwerkbandbreite gut 94% der theoretisch möglichen Bandbreite.

Welche I/O Leistung beim Zugriff auf NFS- Freigaben im 10G Netzwerk möglich sind, teste ich in einem weiteren Beitrag.