Surrogate problem evaluation and selection for optimization with expensive function evaluations

Despite the advances in simulation, the use of high-fidelity models may limit the application of standard optimization methods due to their high computational cost. To overcome these problems, the literature usually relies on the use of surrogate models or objective reduction. In order to select a surrogate model or a reduced set of objectives, one has to evaluate their suitability as substitutes for the original problem. The number of performance metrics available is vast, but most of them are not generally applicable for both surrogate models and reduced problems. Besides, for most of the metrics, there is no theory that justifies their use in surrogate-based optimization. In this context, this thesis achieves the following: (i) unifies the performance assessment of surrogate models and reduced problems, (ii) investigates different performance metrics and provides formal justification for their use in the scope of optimization; and (iii) proposes a new set of metrics for generalizing the concept of order maintenance for multi-objective problems. The results for a number of well-known benchmark problems show that some of the proposed metrics can identify higher quality surrogate problems in most of the cases and are less sensitive to the sample data when compared to other metrics. Finally, different surrogate problems are evaluated in the context of electric motor design. In this regard, the results show that some of the formulations presented in the literature contain redundant objectives and that low-order polynomials provide high-quality surrogate models for most of the considered objective functions.Malgré les progrès en techniques de simulation, l'utilisation des modèles très précis peut être un frein à l'application des méthodes d'optimisation classiques en raison de leur coût élevé en ressources informatiques. Pour résoudre ces problèmes, les solutions proposées dans la littérature sont l'utilisation des modèles de substitution ou une réduction des objectifs. Pour faire un choix de modèle de substitution ou un ensemble d'objectifs réduit, il faut évaluer ses pertinence comme substituts au problème original. Il y a plusieurs paramètres de performance, mais la plupart d'entre eux ne sont généralement pas applicables aux deux solutions proposées dans la littérature. De plus, pour la plupart des paramètres, il n'y a pas de justification théorique d'optimisation basée sur les modèles de substitution. Dans ce cadre, cette thèse vise les points suivants: (i) unifier l'estimation de performance des modèles de substitution et des problèmes réduits, (ii) examiner les différents paramètres de performance et fournir une justification formelle dans le champ l'optimisation et (iii) proposer un nouvel ensemble de paramètres pour généraliser le concept du maintient de l'ordre pour les problèmesmultiobjectifs. Les résultats d'un certain nombre de problèmes de référence montrent que certains paramètres proposés peuvent généralement identifier les problèmes de substitution de meilleure qualité dans la plupart des cas et sont moins sensibles aux échantillons donnés en comparaison avec les autres paramètres. Finalement, différents problèmes de substitution sont évalués dans le cadre de la conception de moteurs électriques. À cet égard, les résultats montrent que certaines des formulations présentées dans la littérature contiennent des objectifs superflus et que les polynômes des ordres inferieurs fournissent des modèles de substitution de meilleure qualité pour la plupart des fonctions objectives considérées