Determination of surface heat transfer coefficients during the cryopreservation of bovine germplasm using numerical simulations

Resumen: El proceso de criopreservación de germoplasma animal consiste en reducir la temperatura de una muestra hasta alcanzar la estabilidad biológica. En particular la medición experimental de la curva temperatura vs tiempo es fundamental para el cálculo de velocidades de enfriamiento y para detectar si la muestra ha sido vitrificada o si ha sufrido un proceso de cambio de fase (congelación). Dadas las pequeñas dimensiones de los dispositivos de criopreservación, existen dificultades técnicas para la correcta medición experimental de la temperatura o el flujo calórico en función del tiempo, tanto para el enfriamiento en nitrógeno vapor como en nitrógeno líquido, siendo escasa en la literatura, la información acerca de los coeficientes de transferencia de calor (h) en estos procesos. La simulación computacional constituye una herramienta valiosa para poder obtener a partir de las historias térmicas experimentales los valores de h alimentando las propiedades térmicas adecuadas. En este sentido se estudió la criopreservación de semen bovino que habitualmente se dispone en pajuelas plásticas, las cuales se suspenden en nitrógeno vapor a los efectos de deshidratar las células, previo a su inmersión en nitrógeno líquido para su conservación. Los objetivos del presente trabajo fueron determinar coeficientes (h) durante el enfriamiento de pajuelas plásticas conteniendo germoplasma animal, tanto cuando se sumergían en nitrógeno vapor como en nitrógeno líquido a partir de los perfiles de temperatura medidos experimentalmente y de las simulaciones numéricas. Se utilizó un programa en elementos finitos con propiedades termofísicas del fluido biológico dependientes de la temperatura, incluyendo el cambio de fase del agua lo cual constituye un problema matemático complejo y altamente nolineal. La determinación de los h que gobiernan el proceso constituye un aspecto muy importante para la optimización de protocolos durante la criopreservación de material biológico.Abstract: In order to maintain cell viability, biological functions must be halted by cooling it into a solid phase. The time– temperature curve of a sample allows the calculation of cooling rates and helps to determine whether it is vitrified or undergoes phase change transition (freezing). Due to the small dimensions of the devices usually there are technical difficulties associated to the experimental measurements of time-temperature curves or heat flux for samples that are suspended in nitrogen vapor and/or immersed in liquid nitrogen. There is a lack of experimental information concerning the surface heat transfer coefficients of plastic French straws containing biological samples such as bovine semen when they are cryopreserved. A widespread practice is to freeze the sample by suspending the straws in nitrogen vapor over liquid nitrogen for variable periods before plunging into liquid nitrogen for long-term storage. The objectives of the present study were to numerically solve the heat transfer equation to determine the surface heat transfer coefficients that govern the process when straws are suspended in nitrogen vapor over liquid nitrogen and when they are directly plunged in liquid nitrogen. This represents a highly non-linear mathematical problem that must be solved numerically since the thermophysical properties that are involved in the heat transfer partial differential equations undergo abrupt changes with temperature due to ice formation. These algorithms can help optimize cryopreservation protocols which are important when trying to maximize viability of cells.Fil: Santos, María V. Universidad Nacional de La Plata. Facultad de Ciencias Exactas. Centro de Investigación y Desarrollo en Criotecnología de Alimentos; ArgentinaFil: Santos, María V. Universidad Nacional de La Plata. Facultad de Ingeniería. Departamento de Ingeniería Química; ArgentinaFil: Sansiñena, Marina. Universidad Católica Argentina. Facultad de Ingeniería y Ciencias Agrarias; ArgentinaFil: Chirife, Jorge. Universidad Católica Argentina. Facultad de Ingeniería y Ciencias Agrarias; ArgentinaFil: Zaritzky, Noemí. Universidad Nacional de La Plata. Facultad de Ciencias Exactas. Centro de Investigación y Desarrollo en Criotecnología de Alimentos; ArgentinaFil: Zaritzky, Noemí. Universidad Nacional de La Plata. Facultad de Ingeniería. Departamento de Ingeniería Química; Argentin