SARA breekt record met meervoudig 40 Gigabit Ethernet

SARA en haar partners Extreme Networks en Mellanox hebben tijdens de jaarlijkse Supercomputing-conference SC10 in New Orleans een demonstratie gegeven waarbij wetenschappelijke visualisatiedata op de Nederlandse stand vanaf één enkele server met gemiddeld 43 Gbit/seconde over een netwerk werd verstuurd. Tijdens de transfer werden pieken gemeten van meer dan 55 Gbit/seconde. De demonstratie toont opnieuw het resultaat van innovatief netwerkonderzoek en laat zien hoe ultra-hoge resolutie gegevens op een schaalbare manier kunnen worden getransporteerd tussen “commodity” systemen.

Een visualisatie van data van het astrofysicaproject CosmoGrid werd vanaf één enkele streaming server met 32 solid state disks en twee 40 Gbit/s netwerkkaarten over een verbinding van 2 x 40Gbit/s Ethernet verzonden. De visualisatie werd in New Orleans getoond op een Tiled Panel Display (TPD), een geavanceerde visualisatieopstelling van 3 x 5 LCD-schermen. De totale resolutie van de opstelling was ruim 61 Megapixel (12.800 x 4.800 pixels).

Details en overzicht

Door deze hoge resolutie kan een wetenschapper zowel de kleinste details als het totale overzicht van een simulatie bestuderen zonder fysiek aanwezig te hoeven zijn op de locatie waar de data wordt gegenereerd. De streaming had een beeldfrequentie van 30 frames per seconde met 3 bytes per pixel. De hoeveelheid pixels van de CosmoGrid-visualisatie is zo omvangrijk dat gemiddeld 43 Gigabit per seconde van de totale 80 Gbit/s bandbreedte van de verbinding door één applicatie werd gebruikt, met pieken tot boven de 55 Gigabit per seconde. De visualisatie werd getoond op het TPD van SARA dat speciaal voor deze demonstratie in New Orleans was opgebouwd.

Anwar Osseyran, directeur SARA: "Na de succesvolle demonstratie van 40 Gbit/s tussen Amsterdam en Genève in oktober is dit opnieuw een stap in de richting van Terabit/seconde netwerksnelheden, die nodig zullen zijn in het toekomstige Exascale tijdperk. Ik ben er uiteraard trots op dat de netwerk- en visualisatiespecialisten van SARA en partners ExtremeNetworks en Mellanox dit grensverleggende project konden uitvoeren en tijdens SC10 hebben laten zien. Dit onderzoek toont ook de kracht van deze optische netwerktechnologie voor andere toepassingsgebieden. De uitdaging van ons huidige Petascale-tijdperk is het ultra-snelle transport van extreem grote hoeveelheden gedistribueerde data en deze demonstratie toont aan dat we daar goed toe in staat zijn."

Voldoende potentie

Het netwerk is tot stand gebracht met apparatuur van Extreme Networks en Mellanox. Met deze demonstratie tijdens de conferentie hebben deze leveranciers hun implementaties van de pas gepubliceerde 40 Gbit/s Ethernet-standaard willen laten zien. Hiermee werd aangetoond dat 40 Gbit/s Ethernet voldoende potentie heeft om te worden ingezet in de praktijk, ook bij het bundelen van meerdere 40 GbE verbindingen.

Voor de demonstratie werd gebruik gemaakt van twee Mellanox 40 Gbit/s Ethernet netwerkkaarten in één enkele server die gekoppeld was aan een Extreme X650 switch. Deze switch was via twee 40GE poorten gekoppeld aan de remote Extreme X650 switch, waaraan via acht 10 Gbit/s Ethernet de servers waren aangesloten die het Tiled Display aansturen.

De server is één krachtige machine die is samengesteld uit commodity hardware en die in staat is om met een datastroom vanaf disk een bandbreedte van meer dan 55 Gbit/s te vullen. SARA heeft gezorgd voor de fine tuning van de server en gaat informatie beschikbaar stellen over de aanpak die daarbij is gehanteerd. De toegepaste optische netwerktechnologie van meervoudige 40 Gbit/s verbindingen is niet alleen bruikbaar voor transport van gegevens die afkomstig zijn van de academische gemeenschap, maar is ook van belang voor de media- en filmindustrie. De server is beschikbaar gesteld door SURFnet. SARA heeft zowel de streaming-applicatie als de CosmoGrid-visualisatie ontwikkeld. 

Over SARA

SARA ondersteunt als nationaal High Performance Computing en e-Science Support Center, en supernode in het internationale Science Grid, wetenschappelijk onderzoekers met state-of-the-art geïntegreerde diensten, voorzieningen en infrastructuur: High Performance Computing and Networking, data storage, visualisatie en e-Science services.

Over CosmoGrid

Binnen het CosmoGrid project modelleren onderzoekers van de Sterrewacht Leiden onder leiding van prof. S. Portegies Zwart de grote structuur van de donkere materie in het heelal met een recordaantal van bijna 10 miljard deeltjes. Donkere materie zendt geen straling uit en is dus onzichtbaar, maar het oefent wel zwaartekracht uit, waardoor de aanwezigheid ervan indirect kan worden gemeten. Volgens de toonaangevende theorie bestaat het overgrote deel van het heelal uit donkere materie, dat zich manifesteert in de vorm van zwak wisselwerkende massieve deeltjes, zogenaamde WIMP’s. De berekeningen binnen het CosmoGrid project zijn deels uitgevoerd op een aantal via internet gekoppelde supercomputers, waaronder de bij SARA gehuisveste nationale supercomputer Huygens. De miljoenen uren rekentijd zijn beschikbaar gesteld door NCF (Huygens), DEISA (Europese supercomputers) en CfCA (Japanse supercomputer).

Over Extreme Networks

Extreme Networks levert Ethernet-netwerktechnologie voor de data-, voice- en videotransmissiebehoeften van grote zakelijke en wetenschappelijke organisaties en serviceproviders in meer dan 50 landen, ondersteund door wereldwijde 24-uurs service en support.

Over Mellanox

Mellanox Technologies is leverancier van end-to-end connectiviteitsoplossingen voor servers en storage voor het optimaliseren van datacenterprestaties. Mellanox is marktleider op het gebied van bandbreedte, performance, schaalbaarheid, energieverbruik en kostenbesparing en zet multiple legacy netwerktechnologieën om in een toekomstvaste oplossing. Mellanox Technologies is in 1999 opgericht. Het hoofdkwartier is gevestigd in in Sunnyvale, California and Yokneam, Israël.