Fine-Tuning techniques for the improvement of Question-Answering models

El objetivo de este trabajo es proponer nuevas técnicas de Fine-Tuning para mejorar los modelos del estado del arte para tareas de Pregunta-Respuesta. Para ello además, se realizará un estudio exhaustivo del estado del arte del Deep Learning aplicado a NLP, con un foco especial en los modelos de lenguaje basados en Transformers, de esta manera estaremos usando los modelos y técnicas más avanzados que se están usando en este momento. Los resultados de este trabajo son muy relevantes ya que pueden demostrar ayudar a conseguir mejorar los resultados de los modelos del estado de arte de una manera muy sencilla de implementar y que no supone un gran gasto computacional.---ABSTRACT---The objective of this work is to propose new Fine-Tuning techniques to improve the state-of-the-art models for question-answering tasks. In addition, we will perform an exhaustive study of the state of the art of Deep Learning applied to NLP, with a special focus on language models based on Transformers, in this way we will be using the most advanced models and techniques that are being used at the moment. The results of this work are very relevant as they can be used to improve the performance of the state-of-the-art models in a very easy to implement and computationally inexpensive way