BAT: A Benchmark suite for AutoTuners - Development of BAT and Tuning on 20x Tesla T4 GPUs and More

Autotuning løser ytelsesportabilitetsutfordringen når man lager applikasjoner som skal kjøres på forskjellige arkitekturer. En autotuner er et program som tar en parameterisert kode som input og prøver å finne de best mulige verdiene for et sett med parametrene. For øyeblikket, så vidt vi vet, er det ingen standardiserte "benchmark suites" for autotunere for sammenligning og testing. Utviklere av autotunere lager egne "benchmark suites" når de presenterer og sammenligner autotunere. Som en mulig løsning på utfordringen med "benchmarking" av autotunere, presenterer vi "BAT: a Benchmark suite for AutoTuners". Denne oppgaven beskriver utviklingen av BAT og hvordan man bruker BAT til å evaluere kjente autotunere på forskjellige arkitekturer. Som en del av dette, ble CUDA-programmer og "kernels" fra "The Scalable Heterogeneous Computing (SHOC) Benchmark" parametrisert. BAT er en "benchmark suite" med HPC-baserte, parametrerte algoritmer i CUDA med GPU-fokus. Den inneholder et variert utvalg av "benchmarks" med forskjellig kompleksitet som kan bruke flere GPUer på ett system, enten ved å kjøre det samme programmet og beregninger på alle noder, eller ved å dele arbeidet mellom noder. "Benchmark suiten" er testet med fire forskjellige autotunere som er forskjellige i oppsett og hvordan de "tuner". Disse er OpenTuner, Kernel Tuner, CLTune og KTT. Alle "benchmarkene" er modifisert slik at de passer til mange forskjellige autotunere. En praktisk funksjon fra BAT for testing er kommandolinjegrensesnittet som gjør det lettere å kjøre autotuning med "benchmarkene". BAT er et felles utviklingsprosjekt med Knut Kirkhorn. Forskjellen er at vi parametrerte våre egne separate algoritmer og testet algoritmene våre på forskjellige multi-GPU-systemer. Denne oppgaven fokuserer på testing på en IBM Power System AC922 med fire Tesla V100-SXM2 32 GB GPUer og en server med 20 Tesla T4 GPUer