China vernetzt 40 Städte in eine KI Infrastruktur
Nach über einem Jahrzehnt Planung und Bau ist die Future Network Test Facility (FNET) nun in über 40 Städten in ganz China aktiv. Mit einer optischen Übertragungslänge von über 55.000 Kilometern bietet diese Testanlage eine rund um die Uhr verfügbare Infrastruktur, die den Betrieb von 128 heterogenen Netzwerken und das parallele Testen von 4.096 heterogenen Diensten unterstützt. Sie ermöglicht nicht nur die Vernetzung mit bestehenden Internet- und internationalen Testeinrichtungen, sondern zeichnet sich auch durch hohe Durchsatzraten, Zuverlässigkeit und Übertragungskapazität aus.
Die Vorteile dieser Testanlage wurden kürzlich in einem Technologie-Demonstrationsexperiment des Future Network Research Institute deutlich. Bei diesem Experiment wurden zwei Netzwerkkanäle mit jeweils 50 Gbit/s Bandbreite eingerichtet.
“Das Training eines großen Modells mit Hunderten von Milliarden Parametern über verschiedene Domänen hinweg erfordert über 500.000 Iterationen. In der FNET dauert jede Trainingsiteration nur etwa 16 Sekunden. Deaktiviert man jedoch die deterministischen Netzwerkfunktionen der Anlage und führt Interferenzströme ein, erhöht sich die Iterationszeit rapide um mehr als 20 Sekunden pro Iteration. Das bedeutet, dass dieses grosse Modell ohne ein deterministisches Netzwerk mehrere Monate mehr Trainingszeit benötigen würde“.
Die Nutzung der FNET für das Training grosser Modelle ermöglicht erhebliche Zeit- und Kosteneinsparungen. Bei gleicher Rechenleistung kann die Effizienz über 2000 Kilometer 98 % der Effizienz eines einzelnen Rechenzentrums erreichen. Die FNET bündelt die Rechenleistung des gesamten Netzwerks und trägt so dazu bei, die Probleme der Knappheit, Komplexität und Streuung von Hochleistungsrechenleistung in China zu lösen