Just in time clouds: A third-party approach to extending the elasticity of cloud computing providers.

Submitted by Lucienne Costa (lucienneferreira@ufcg.edu.br) on 2019-09-16T19:37:11Z No. of bitstreams: 1 ROSTAND EDSON OLIVEIRA COSTA – TESE (PPGCC) 2013.pdf: 6863202 bytes, checksum: f6820aa8bf81d56b2b8d62ca5a2c852b (MD5)Made available in DSpace on 2019-09-16T19:37:11Z (GMT). No. of bitstreams: 1 ROSTAND EDSON OLIVEIRA COSTA – TESE (PPGCC) 2013.pdf: 6863202 bytes, checksum: f6820aa8bf81d56b2b8d62ca5a2c852b (MD5) Previous issue date: 2013-03-05A vazão obtida quando se executam aplicações HTC (do inglês High Throughput Computing) sobre uma infraestrutura computacional depende diretamente da escala que a mesma permite. Neste contexto, o tamanho do pool de processamento é o principal promotor de desempenho, enquanto que o esforço de¸ coordenação envolvido é o principal fator de limitação. O paradigma da computação na nuvem permite o fornecimento de infraestrutura de Tecnologia da Informação sob a forma de um serviço que os clientes adquirem sob demanda e pagam apenas pela quantidade de serviços que realmente consomem. Muitas aplicações que processam grandes cargas de trabalho em paralelo poderiam potencialmente se beneficiar da elasticidade oferecida pelos provedores de computação na nuvem. Infelizmente, os provedores públicos atuais de computação na nuvem precisam impor um limite estrito na quantidade de recursos que um único usuário pode adquirir concomitantemente. Para lidar com tal limitação, nós apresentamos uma abordagem alternativa para a construção de infraestruturas computacionais para suporte à computação na nuvem que não é baseada em planejamento de capacidade tradicional. Inspirados na filosofia Just in Time (JiT) da Toyota, nós introduzimos o conceito de Just in Time Clouds para representar uma nova categoria de serviço na qual o provedor apenas obtém recursos para alocação quando efetivamente demandado pelos clientes e somente enquanto houver uso para eles. Explorando recursos terceirizados de baixa escala, um fornecedor de uma JiT Cloud pode aumentar a sua capacidade de oferecer IaaS de uma forma mais escalável e com uma elasticidade virtualmente ilimitada, uma vez que ´e baseada na descoberta, federação e revenda de recursos ociosos cujos custos de montagem e operação são pagos por terceiros. Foi realizada uma prova de conceito usando uma rede de TV Digital para averiguar o potencial de utilização de recursos terceirizados de alta granularidade, alta volatilidade e alta dispersão para a construção de JiT Clouds de alta vazão usando uma arquitetura nova: On-demand Distributed Computing Infrastructure (OddCI). Os nossos resultados mostram que é possível montar infraestruturas computacionais dinâmicas baseadas em recursos computacionais posicionados em praticamente todo o espectro de recursos terceirizados de baixa escala. Nos cenários mais desafiadores, foi possível obter disponibilidade coletiva de dispositivos isolados para entregar vazão computacional com perdas máximas de 10% sob regimes de até 40% de volatilidade, causada por falhas ou abandonos voluntários de nós. Considerando o uso de recursos terceirizados não convencionais, como receptores de TV Digital de baixo custo, foi observada uma diferença relevante de capacidade computacional quando comparados com dispositivos convencionais, mesmo os de baixa granularidade, como PCs domésticos. Entretanto, essa perda não se constitui em uma limitação técnica irreparável mas, tão somente, um aspecto mercadológico e circunstancial, passível de ser contornado com facilidade caso uma demanda para dispositivos mais potentes seja criada.The throughput obtained when executing HTC (High Throughput Computing) applications on a computing infrastructure depends directly on the scale that it offers. In this context, the size of the processing pool is the principal promoter of performance, while the coordination effort involved is the main limiting factor. The paradigm of cloud computing enables the delivery of Information Technology infrastructure in the form of a service that customers purchase on-demand and pay only for the amount of services that they actually consume. Many applications that process large workloads in parallel could potentially benefit from the elasticity offered by cloud computing providers. Unfortunately, current public cloud computing providers need to impose a strict limit on the amount of resources that a single user can simultaneously acquire. To address this limitation, we present an alternative approach to the construction of computational infrastructures to support cloud computing that is not based on traditional capacity planning. Inspired by Toyota’s Just in Time (JiT) philosophy, we introduce the concept of Just in Time Clouds to represent a new category of service in which the provider allocates resources only when actually demanded by customers and only while there is use for them. Exploring low scale outsourced resources, a JiT Cloud provider can increase its ability to offer IaaS in a more scalable way and with a virtually unlimited elasticity, since it is based on the discovery, federation and reselling of idle resources whose installation and operation costs are paid by a third party. We performed a proof of concept, on a network of Digital TV, to investigate the potential of utilization of outsourced resources with high granularity, high volatility and high dispersion for the construction of JiT Clouds with high throughput using a new architecture, called On-demand Distributed Computing Infrastructure (OddCI). Our results show that it is possible to build dynamic computing infrastructures based on computational resources placed in virtually the entire spectrum of low scale outsourced resources. In the most challenging scenarios, it was possible to obtain collective availability using isolated devices to deliver computational throughput with maximum losses of 10% under scenarios of up to 40% of volatility, caused by node unavailability. Considering the use of unconventional outsourced resources, as low cost Digital TV receivers , there was a significant difference in computational power compared with conventional low granularity devices, such as home PCs. However, this loss does not constitute an irreparable technical limitation, but only one circumstantial marketing aspect, that can be easily circumvented if a demand for more powerful devices is created