Realizing High Performance NFV Service Chains

Network functions (NFs) hold a key role in networks, offering in-network services, such as enhanced performance, policy enforcement, and security. Traditionally, NFs have been implemented in specialized, thus expensive hardware. To lower the costs of deploying NFs, network operators have adopted network functions virtualization (NFV), by migrating NFs from hardware to software running in commodity servers. Several approaches to NFV have shown that commodity network stacks and drivers (e.g., Linux-based) struggle to keep up with increasing hardware speed. Despite this, popular networking services still rely on these commodity components. Moreover, chaining NFs (also known as service chaining) is challenging due to redundancy in the elements of the chain. This licentiate thesis addresses the performance problems of NFV service chains.The first contribution is a framework that (i) profiles NFV service chains to uncover performance degradation reasons and (ii) leverages the profiler’s data to accelerate these chains, by combining multiplexing of system calls with scheduling strategies. These accelerations improve the cache utilization and thereby the end-to-end latency of chained NFs is reduced by a factor of three. Moreover, the same chains experience a multi-fold latency variance reduction; this result improves the quality of highly-interactive services.The second contribution of this thesis substantially revises the way NFV service chains are realized. NFV service chains are synthesized while eliminating redundant input/output and repeated elements, providing consolidated stateful cross layer packet operations across the chain. This software-based synthesis achieves line-rate 40 Gbps throughput for stateful and long service chains. This performance is 8.5x higher than the performance achieved by the software-based state of the art FastClick framework. Experiments with three example Internet Service Provider-level service chains show that this synthesis approach operates at 40 Gbps, when the classification of these chains is offloaded to an OpenFlow switch.Nätverksfunktioner (NF) har en nyckelroll i nätverk. De erbjuder tjänster i nätverken som förbättrad prestanda, policy övervakning och säkerhetsfunktioner. Vanligtvis så har NF implementerats med hjälp av specialiserad, och därmed kostsam, hårdvara. Detta har lett till att nätverksoperatörer har börjat använda nätverksfunktionsvirtualisering (NFV) för att minska kostnaden. NFV implementeras genom att NF flyttas från specialiserad hårdvara till mjukvara som kör på vanliga servrar. Flera försök med NFV har visat att vanliga nätverksstackar och drivrutiner (exempelvis Linux baserade) har svårt att erbjuda samma prestanda som hårdvaran gör. Trots detta bygger flera populära nätverkstjänster på NFV. Dessutom är det en utmaning att koppla samman NFV i kedjor, då redundanta operationer utförs. I den här avhandlingen försöker vi lösa prestanda problem kopplade till kedjor av NFV. Det första bidraget i den här avhandlingen är ett ramverk som (i) profilerar NFV kedjor för att hitta orsaker till prestanda problem samt (ii) använder profileringsdata för att förbättra prestandan i kedjorna. Detta görs genom att kombinera multiplexing av systemanrop med planläggningsstrategier. Tillsammans förbättrar dessa lösningar cache användningen och minskar därmed end-to-end latensen i kedjade NFV med en faktor tre. Dessutom minskar vår metod variansen i latens, något som är viktigt för tjänstekvalitén i interaktiva tjänster.Det andra bidraget i den här avhandlingen är en omarbetning av hur kedjade NFV konstrueras. Vi syntetiserar NFV service kedjor genom att ta bort redundanta element och konsoliderar paketoperationer som sträcker sig över flera lager i nätverksstacken. Vår mjukvarubaserade lösning klarar av 40 Gbps genomströmning i en lång kedja. Detta är 8.5 ggr mer än vad som uppnåtts med den tidigare standard lösningen för mjukvara, ramverket FastClick. Vi presenterar experiment med tre servicekedjor för nätverksleverantörer där vår syntetiserade lösning klarar 40 Gbps, när klassificeringen av kedjan görs med hjälp av en OpenFlow switch.QC 20161103European Union Horizon 2020 BEhavioural BAsed forwarding (BEBA)European Research Council (ERC) PROPHE