Detection of Coherent Structures in Two-Dimensional Oceanic Flows: On Improvements of the Transfer Operator Approach and Convexity as a Condition of Coherence

Quasi two-dimensional turbulent flows, like mesoscale oceanic and large-scale atmospheric flows, create finite-time coherent structures, compact fluid masses that resist mixing for finite-time despite the turbulent nature of the ambient flow. These coherent structures significantly affect the mixing and transport of fluid elements. In return, the transport of passive scalars like heat, humidity, salinity, chemical concentration, nutrients and even algae has a substantial impact on countless geophysical phenomena. Thus, in order to understand these effects reliable methods for coherent structure detection and the identification of their boundaries are necessary. Here, in this thesis, we present two contributions in this regard. First, we present improvements of the transfer operator approach, an established stochastic approach for the detection of almost-invariant and coherent sets. The approach approximates the transport properties of a complicated flow by a linear transfer operator and aims to partition a given domain in multiple sets such that the inter-set mass transport is minimized. The improvements include the introduction of mixing boundary conditions in stationary and time-dependent flows. By modifying the transfer operator we couple the filaments that surround the coherent and jointly rotating fluid volume such that effectively only two non-communicating sets remain: the coherent eddy core and the ambient flow. This significantly stabilizes the inference of coherent eddy cores and makes the use of popular but error-prone clustering techniques unnecessary. In addition, we discuss the identification of temporally consistent areas of increased coherence. Instead of coherent structures that are defined by advected non-filamenting masses, the concept describes consistent and moving patches of reduced mixing whose mass can change over time. This permits the decoupling of the coherence time scale from the time window under consideration. Both modifications are used to study the transport properties of eight selected Baltic Sea eddies. Secondly, we introduce the MSCS-search, a new algorithm for the inference of finite-time coherent volumes that is solely based upon the concept of convexity. Persistent convexity is a sufficient condition for coherence in two-dimensional flows if coherent structures are understood as non-filamenting volumes. However, convexity has never been considered as condition of coherence, even though some methods use it, for practical reasons, as an explicit constraint. The approach identifies the largest structure inside a given volume that remains star-convex with respect to a given reference trajectory within a given time window. We test the approach thoroughly and our results show that the approach yields good and reliable estimations of coherent structures in all test cases. Moreover, since the results depend explicitly on the considered time window, the results are intuitive and enable the identification and study of filaments. The novel approach is then used to re-evaluate transport processes in the data set of Baltic eddies.:1 Introduction 2 Theoretical Background 2.1 Methods 2.1.1 Okubo-Weiss criterion 2.1.2 Finite-Time Lyapunov Exponents 2.1.3 Lagrangian Descriptors and Lagrangian averaged vorticity deviation 2.2 Models 2.2.1 Euler equation 2.2.2 Stationary Gaussian Blob Model 2.2.3 Periodically Perturbed Gaussian Blob Model 2.2.4 Bickley-Jet 3 Transfer Operator Approach I: State of the Art 3.1 Frobenius-Perron Operator 3.2 Markov-Chains 3.3 Laplacian matrices 3.4 Finding Almost-Invariant Sets 3.5 Finding Coherent Sets 3.5.1 Coherent pairs as tuples 3.5.2 Coherent pairs as triples 3.6 Spectral Clustering 3.7 Critique and Discussion 4 Transfer Operator Approach II: Mixing Boundary Conditions in Stationary Flows 4.1 Overview 4.2 Estimation of Transfer Probability Matrices P 4.3 Mixing Boundary Conditions 4.4 Thresholding 4.5 Results 4.5.1 Robustness with respect to parameters 4.5.2 Comparison and alternatives 4.5.3 Handling of false positives 4.5.4 Periodically perturbed flow 4.6 Closing Remark 5 Transfer operator approach III: Analysis of Oceanic Transport 5.1 Mixing Boundary Conditions: Time-Dependent Flows 5.1.1 Method 5.1.2 Results 5.2 Temporal consistency 5.2.1 Method 5.2.2 Results 5.3 Treatment of Coastal Effects 5.4 Application to Baltic velocity fields 5.4.1 Method 5.4.2 Results 5.5 Closing Remark 6 Prototypes of Coherent Sets: Star-Convex Structures 6.1 Mathematical Considerations 6.2 MSCS-Algorithm 6.3 Extracting star-convex sub-volumes 6.4 Results 6.4.1 Stationary Gaussian blob model 6.4.2 Bickley-Jet 6.4.3 Two dimensional inviscid flow 6.4.4 Real data sets 6.5 Closing Remark 7 Conclusion and OutlookEs ist bekannt, dass quasi-zweidimensionale turbulente Strömungen, wie etwa Strömungen an der Meeresoberfläche oder großskalige Atmosphärenbewegungen, kohärente Strukturen ausbilden, kompakte Volumina, welche einer Mischung mit dem umgebenden Material für endliche Zeit widerstehen, obwohl die Strömung als solche turbulent ist. Diese Strukturen haben einen signifikanten Einfluss auf den Transport von Fluidelementen. Der Transport von passiven skalaren Größen, wie etwa Wärme, Feuchtigkeit, Salzgehalt, Nährstoffgehalt, jegliche Konzentration che- mischer Stoffe und sogar Algendichte hat wiederum einen Effekt auf unzählige geophysikalische Phänomene. Um diese Phänomene im Detail zu verstehen, sind zuverlässige Methoden für die Detektion von kohärenten Strukturen und die Identifikation ihrer Grenzen notwendig. In der vorliegenden Arbeit präsentieren wir zwei Beiträge zur Lösung dieses Problems. Als erstes präsentieren wir Verbesserungen der Transferoperatormethode. Diese etablierte Methode zur Identifikation von fast-invarianten und kohärenten Mengen approximiert die Transporteigenschaften eines Flusses mithilfe eines linearen Transferoperators, mit dem Ziel, das betrachtete Gebiet in Bereiche zu unterteilen, welche den Materialaustausch zwischen den Bereichen minimieren. Die Verbesserungen beinhalten die Einführung von mischenden Randbedingungen in stationären und nicht-stationären Flüssen. Dabei wird der Transferoperator so modifiziert, dass Filamente, welche die kohärente Struktur umgeben, gekoppelt werden, was zur Folge hat, dass effektiv nur zwei nicht kommunizierende Strukturen übrig bleiben: die kohärente Struktur und das sie umgebende Volumen. Dies führt zu einer signifikant erhöhten Stabilität der Methode ohne auf die sonst üblichen aber fehleranfälligen clustering-Techniken zurückgreifen zu müssen. Des Weiteren diskutieren wir die Identifikation von zeitlich konsistenten Regionen erhöhter Kohärenz. Anstatt von kohärenten Strukturen als bewegliche nicht filamentierende Massen zu sprechen, beschreibt dieses Konzept kohärente Strukturen als konsistente sich bewegende Regionen reduzierten Mischverhaltens deren beteiligte Masse zeitlich veränderlich ist. Dies erlaubt die Entkopplung der Kohärenzzeitskala vom betrachteten Zeitfenster. Im Anschluss verwenden wir beide Modifikationen, um die Transporteigenschaften von acht ausgewählten Ostseewirbeln zu untersuchen. Als zweiten Beitrag stellen wir den MSCS-Algorithmus vor, eine neue Methode zur Identifikation von kohärenten Strukturen, welche einzig und allein auf dem Prinzip von Konvexität basiert. Versteht man kohärente Strukturen als nicht filamentierende Massen, ist persistente Konvexität eine hinreichende Bedingung für Kohärenz. Konvexität wurde bisher noch nie als Grundlage für Kohärenz untersucht, obwohl sie aus praktischen Gründen in einigen Methoden bereits als einschränkende Bedingung verwendet wird. Die Methode identifiziert die größte Struktur innerhalb eines gegebenen Volumens, welches während eines gegebenen Zeitraums stern-konvex bezüglich einer gegebenen Referenztrajektor bleibt. Alle studierten Testszenarien zeigen, dass der Ansatz gute und zuverlässige Ergebnisse liefert. Diese Ergebnisse hängen darüber hinaus direkt von den Eingangsparametern ab, was die Interpretation der Ergebnisse stark erleichtert und zusätzlich die Untersuchung von Filamentbildung erlaubt. Die neue Methode wird verwendet um den kohärenten Transport in den bereits untersuchten Ostseewirbeln zu reevaluieren.:1 Introduction 2 Theoretical Background 2.1 Methods 2.1.1 Okubo-Weiss criterion 2.1.2 Finite-Time Lyapunov Exponents 2.1.3 Lagrangian Descriptors and Lagrangian averaged vorticity deviation 2.2 Models 2.2.1 Euler equation 2.2.2 Stationary Gaussian Blob Model 2.2.3 Periodically Perturbed Gaussian Blob Model 2.2.4 Bickley-Jet 3 Transfer Operator Approach I: State of the Art 3.1 Frobenius-Perron Operator 3.2 Markov-Chains 3.3 Laplacian matrices 3.4 Finding Almost-Invariant Sets 3.5 Finding Coherent Sets 3.5.1 Coherent pairs as tuples 3.5.2 Coherent pairs as triples 3.6 Spectral Clustering 3.7 Critique and Discussion 4 Transfer Operator Approach II: Mixing Boundary Conditions in Stationary Flows 4.1 Overview 4.2 Estimation of Transfer Probability Matrices P 4.3 Mixing Boundary Conditions 4.4 Thresholding 4.5 Results 4.5.1 Robustness with respect to parameters 4.5.2 Comparison and alternatives 4.5.3 Handling of false positives 4.5.4 Periodically perturbed flow 4.6 Closing Remark 5 Transfer operator approach III: Analysis of Oceanic Transport 5.1 Mixing Boundary Conditions: Time-Dependent Flows 5.1.1 Method 5.1.2 Results 5.2 Temporal consistency 5.2.1 Method 5.2.2 Results 5.3 Treatment of Coastal Effects 5.4 Application to Baltic velocity fields 5.4.1 Method 5.4.2 Results 5.5 Closing Remark 6 Prototypes of Coherent Sets: Star-Convex Structures 6.1 Mathematical Considerations 6.2 MSCS-Algorithm 6.3 Extracting star-convex sub-volumes 6.4 Results 6.4.1 Stationary Gaussian blob model 6.4.2 Bickley-Jet 6.4.3 Two dimensional inviscid flow 6.4.4 Real data sets 6.5 Closing Remark 7 Conclusion and Outloo