Funciones de adquisición heurísticas para Optimización Bayesiana

La Optimización Bayesiana (OB) es un campo con una creciente popularidad actualmente debido a su utilización en Aprendizaje Automático, ya que permite la configuración de algoritmos, mediante el ajuste de hiperparámetros, sin la intervención humana. Sin embargo, esta es tan sólo una de sus numerosas aplicaciones. Se trata de una herramienta utilizada para resolver problemas de optimización global sobre funciones objetivo de caja negra, esto es, que no tienen expresión analítica conocida, con evaluaciones muy costosas y cuyas observaciones pueden ser ruidosas. Para ello, hace uso de un modelo probabilístico (típicamente un Proceso Gaussiano) que representa la incertidumbre sobre el objetivo, y construye una función de adquisición de forma iterativa sobre el mismo, que son criterios de utilidad que deciden los puntos a evaluar en la búsqueda del óptimo. Con ese fin, se intenta mantener un balance entre exploración y explotación del dominio. En la práctica, las funciones de adquisición favorecen una o la otra, y no existe una mejor opción para todos los problemas posibles. Este trabajo explora distintos enfoques para tratar de adaptar las funciones de adquisición de la OB a la mayor parte de los problemas de optimización. Se presentarán heurísticas con el fin de construir funciones de adquisición que alternen o combinen de distintas formas los criterios disponibles en un portfolio. Se espera con ello obtener mejoras en el rendimiento sobre los distintos criterios estándar encontrados habitualmente en la literatura. Para comprobarlo, se harán pruebas experimentales con funciones tipo benchmark a optimizar y un escenario real de clasificación