Nonlinear mixed-effects models with scale mixture of skew-normal distributions

Este trabalho tem como objetivo desenvolver modelos de regressão não lineares assimétricos com efeitos mistos, que proporcionam alternativas ao uso da distribuição normal e outras distribuições simétricas, para evitar a sensibilidade nas estimativas a observações atípicas e assimetria. Modelos não lineares com efeitos mistos são explorados em várias áreas do conhecimento, principalmente quando os dados estão correlacionados, como dados longitudinais, medidas repetidas e dados multiníveis, em particular, por sua flexibilidade em lidar com medidas de áreas como biologia e farmacocinética. No entanto, existem dificuldades em obter estimadores explícitos para os parâmetros nesses modelos. Atualmente muitos estudos estão sendo desenvolvidos com a família misturas de escala da distribuição skew-normal (SMSN) que abrange distribuições com caudas leves e pesadas, como a skew-normal, skew-Student-t, skew-normal contaminada e skew-slash, como também as versões simétricas destas distribuições. Neste trabalho são apresentados modelos de regressão não lineares com efeitos mistos em que as componentes aleatórias têm distribuições pertencentes a família SMSN. Para estimação dos parâmetros é utilizada uma solução numérica via algoritmo EM e suas extensões, e algoritmo de Newton-Raphson. Análises em conjuntos de dados reais são realizadas com essa nova proposta, como o estudo da cinética de drogas em seres humanos, além de análises de diagnóstico, por meio de análise de resíduos e diagnóstico de influência. São conduzidos estudos de simulações para verificar as propriedades de máxima verossimilhança dos estimadores.This work aims to develop asymmetric nonlinear regression models with mixed-effects, which provide alternatives to the use of normal distribution and other symmetric distributions, in order to avoid the sensitivity in the estimates to atypical observations and asymmetry. Nonlinear models with mixed-effects are explored in several areas of knowledge, especially when data are correlated, such as longitudinal data, repeated measures and multilevel data, in particular, for their flexibility in dealing with measures of areas such as biology and pharmacokinetics. However, there are difficulties in obtaining explicit estimators for the parameters in these models. At present, many studies have been developed with the family scale mixtures of skew-normal distribution (SMSN) that encompasses distributions with light and heavy tails, such as skewnormal, skew-Student-t, skew-contaminated normal and skew-slash, as well as symmetrical versions of these distributions. In this work, nonlinear regression models with mixed-effects are presented in which the random components have distributions belonging to the SMSN family. For the parameters estimation, a numerical solution via the EM algorithm and its extensions and Newton-Raphson algorithm is obtained. Analyzes for real data sets are performed with this new proposal, such as the study of drug kinetics in humans, as well as diagnostic analyzes, through residual analysis and influence diagnostics. Simulation studies are conducted to verify the maximum likelihood properties of the estimators