Improvement of Container Placement Using Multi-Objective Ant Colony Optimization

High resource requirements on software containers lead to the need for cloud users to find an optimal placement for each container to maximize the resource utilization in the cloud environment. Previous methods have scheduled containers in a cloud environment, optimizing a single objective, both in theory and practice. This thesis presents a Multi-Objective Container Placement Ant Colony Optimization (MOCP-ACO) algorithm, which has not been previously researched. MOCP-ACO is a modified implementation of Ant Colony Optimization, known for solving similar optimization problems, and is compared to the Spread scheduling strategy in Docker Swarm mode. The aim of this thesis is to optimize network usage and virtual machine (VM) cost, when using replicated redundant containers, in simulation and deployed as a network heavy application in Docker Swarm mode in a cloud environment. The results show that the implemented MOCP-ACO simulations with random network traffic have a significant reduction of VM cost and total network traffic. The application-specific simulation performed better in reducing VM cost but is only slightly better in reducing network traffic. Finally, the results from the cloud environment deployment showed reduced VM cost and network usage, and that the reduced network usage resulted in improved application performance.Stigande resurskrav för mjukvarucontainrar i en molnmiljö har orsakat ett användarbehov av att hitta en optimal placering av containrar för att maximera resursanvändningen. Flera metoder har använts för att schemalägga containrar i en molnmiljö, men endast med fokus på att optimera ett mål, exempelvis maximerad CPU-användning. Denna uppsats presenterar en ny metod för containerschemaläggning med flera mål, en algoritm för Multi-Objective Container Placement Ant Colony Optimization (MOCP-ACO). MOCP-ACO är en modifierad version av Ant Colony Optimization, vilken är känd för att effektivt lösa liknande optimeringsproblem. Målet är att optimera nätverksanvändning och kostnaden för virtuella maskiner (VMs), genom användandet av replikerade redundanta containers. Resultaten visar att MOCP-ACO bidrar till en stor minskning av nätverkstrafik och VM-kostnad vid användning av slumpmässig nätverkstrafik, samt en stor minskning i VM-kostnad med applikationsspecifik nätverkstrafik. Utöver detta visas det hur MOCP-ACO kan användas i en molnmiljö för att minska VM-kostnad och förbättra applikationsprestanda genom minskad nätverkstrafik