Ponto 5 - Análise de Regressão

Gabriel Agostini Orso

Data de Publicação

28 de março de 2026

1 Preâmbulo

AvisoAviso

Antes de prosseguir, o leitor deve estar ciente de que o material aqui utilizado foi elaborado com o único objetivo de estudo pessoal, portanto muitas passagens são fruto de conhecimento e interpretação pessoal. No entanto, ainda assim esse texto faz uso extensivo da literatura científica apresentada ao fim do trabalho, mas por ser material pessoal de estudo muitas passagens não fazem a devida citação das obras consultadas, tal qual se esperaria de trabalhos científicos.

Além isso, não foram utilizadas ferramentas de inteligência artificial como chatGPT, Gemini, Manus ou outras para a construção do texto. Toda a sequência lógica, exemplos, entendimentos e escrita são de responsabilidade do autor.

Com essas condições em mente, espero que esse material seja oportuno. Boa leitura.

2 Introdução

Todo o domínio do manejo florestal, e certamente grande parte da engenharia florestal, traduz o que vê no ambiente para uma representação matemática. Historicamente, muito esforço da ciência florestal foi empregado para criar modelos matemáticos que representassem um certo comportamento observado na floresta, ou a relação entre variáveis medidas. Assim, modelos são representações abstratas da realidade, que procuram representar relações-chave de um dado sistema natural (Weiskittel et al., 2011). Também historicamente, a ferramenta utilizada para traduzir tais observações em números é a análise de regressão.

Seja, por exemplo, a evolução do volume de árvores ao longo dos anos (Figura 1 (a)), ou então a relação entre diâmetro e altura (Figura 1 (b)), é possível descrever equações que tentam representar os comportamentos observados na floresta. Essa representação matemática possui duas grandes vantagens: i) a possibilidade de descrever um comportamento, e ii) a possibilidade de prever o valor de uma nova observação. Esses modelos podem ser representados por retas ou curvas na grande maioria das vezes, mas nem todos os modelos são passíveis de tal representação gráfica.

(a)
(b)
Figura 1: Uso de modelos de regressão para comportamento no tempo e relação entre variáveis.

O papel da análise de regressão nessa representação é encontrar a reta ou curva que melhor descreve o comportamento observado, e ela faz isso a partir de uma sólida base estatística. Tal base garante algumas propriedades muito oportunas, como a criação de intervalos de confiança, desde que alguns critérios sejam cumpridos.

Oportunamente ou não, por se tratar de uma ciência baseada na observação e entendimento do ambiente, a ciência florestal está exposta a uma miríade de tipos de dados, variáveis, condições experimentais etc., que muitas vezes impedem que tais critérios sejam completamente atendidos. Por isso, também historicamente a ciência florestal domina a técnica de análise de regressão em muitas das suas modificações e adaptações, como modelos lineares generalizados, modelos não lineares, ou outros que serão apresentados na sequência.

Ainda que muito utilizada no meio acadêmico, a análise de regressão se tornou técnica obrigatória no arcabouço de competências do Engenheiro Florestal nos últimos 20 anos. Isso se deve principalmente ao entendimento de que o uso de fatores de forma ou fatores de conversão são insuficientes para estimativas apropriadas dos recursos florestais. Aqui, dois exemplos merecem destaque: o primeiro é a Resolução do CONAMA nº 406 de 2009 (BRASIL, 2009), que torna obrigatória a elaboração de equações de volume específicas para o Plano de Manejo Florestal Sustentável (PMFS) (SILVA; SANTANA, 2014). O segundo exemplo é a obrigatoriedade de construção de modelos de regressão para estimativa de biomassa em projetos de carbono, tal como a Metodologia de certificação VM0010 da Verra (VERRA, 2020).

A aplicação adequada da análise de regressão na Engenharia Florestal requer a compreensão dos fundamentos estatísticos da técnica, e como isso se relaciona com os aspectos práticos de sua utilização na ciência florestal. Assim, é oportuno que a análise de regressão seja explicada e contextualizada de acordo com suas variações, tal como será feito a seguir.

3 Modelos de Regressão

No meio florestal, diversas perguntas são oportunas de serem respondidas, por exemplo: como se dá o aumento do volume com o passar dos anos? Ou será que a altura de árvores cresce na mesma proporção que o diâmetro? Veja que, para cada pergunta, existe implicitamente uma premissa de que há uma relação entre idade e volume, ou entre altura e diâmetro de árvores.

Em essência, a análise de regressão responde tais perguntas a partir da relação entre pelo menos duas variáveis. Uma dessas variáveis, aquela que se quer responder e a que se tem maior interesse, é chamada de variável resposta ou variável dependente. Já a variável utilizada para se relacionar ou explicar a anterior é chamada de variável explicativa, variável independente ou ainda covariável. A terminologia é bastante variada, a depender da literatura utilizada. No meio florestal, o maior consenso é a utilização dos termos variável dependente e variável independente. Uma notação matemática apropriada para representar tal relação é

\[ Y = f(X) \tag{1}\]

Onde \(Y\) representa a variável dependente, e \(X\) representa a variável independente. \(f(\cdot)\) representa uma função que transforma \(X\) de alguma forma para se obter \(Y\).

Veja que, se o objetivo é relacionar \(X\) e \(Y\), então naturalmente será necessária alguma transformação de \(X\) para se aproximar do valor de \(Y\). Por exemplo, a idade em anos (1, 2, 3 anos) não fornece valores apropriados de volume (\(0{,}045\ \text{m}^3\), por exemplo). Portanto, é necessário realizar alguma transformação na variável independente \(X\). O tipo de transformação utilizada é a primeira divisão de modelos de regressão: modelos lineares e modelos não lineares.

Seja o painel B da Figura 1, pode-se pensar que uma alternativa para descrever a relação entre variáveis é por meio de uma reta, tal qual na geometria:

\[ y = a + bx \]

Onde \(y\) é o componente da imagem da função (ordenadas), \(x\) é parte do domínio da função (abscissas), e \(a\) e \(b\) são parâmetros.

3.1 Modelos lineares e não lineares

Ao descrever a relação por uma reta, assumimos que \(f(x) = a + b x\), ou seja, a relação entre \(Y\) e \(X\) é dada por uma reta. Caso mais variáveis \(X_i\) (\(X_1, X_2, \ldots\)) fossem utilizadas para explicar \(Y\), bastaria acrescentar mais termos, de forma que

\[ Y = f(X_1, X_2, \ldots, X_{p-1}) = a + b_1 X_1 + b_2 X_2 + \cdots + b_{p-1} X_{p-1} \]

Onde \(a, b_1, \ldots, b_{p-1}\) são os parâmetros das \(p-1\) variáveis. \(X_1, X_2, \ldots, X_{p-1}\) são as variáveis independentes. Veja que \(p\) é o número de parâmetros, o que conta também o parâmetro \(a\).

Veja que, nessa notação, todos os parâmetros estão na forma aditiva, via soma ou subtração. Isso permite que essa função seja representada de forma matricial:

\[ \mathbf{Y} = \mathbf{Xb} \]

Onde \(\mathbf{Y}\) é um vetor \(n \times 1\), \(\mathbf{X}\) é uma matriz \(n \times p\) e \(\mathbf{b}\) é um vetor de parâmetros de tamanho \(p \times 1\).

Se, de forma natural ou via alguma modificação, chamada de linearização, for possível escrever a função nessa forma, então o modelo é dito modelo linear. Caso contrário, o modelo será considerado modelo não linear. As duas funções abaixo são exemplos de cada um desses casos (Tabela 1).

Tabela 1: Exemplos de modelo linear e não linear.
Modelo Formulação
Spurr \(v = \beta_0 + \beta_1 d^2 h\)
Chapman-Richards \(v = \beta_0\left(1 - e^{-b_1 I}\right)^{\beta_2}\)

Na Tabela 1, o primeiro modelo, modelo de Spurr, é um modelo linear, pois veja que os parâmetros \(\beta_i\) estão na forma aditiva, enquanto no segundo modelo, Chapman-Richards, os parâmetros \(\beta_i\) estão organizados de maneira multiplicativa e com potenciação, o que impede sua linearização. Note ainda que, em ambos os modelos, a variável dependente é o volume \(v\), mas a variável independente do modelo de Spurr é \(d^2 h\), isto é, uma combinação entre diâmetro e altura da árvore. Já no modelo não linear, a variável independente é a idade \(I\).

Veja que a maneira como se busca relacionar as variáveis dependente e independente é arbitrária e depende em muito da familiaridade do profissional com a relação entre tais variáveis. O papel da análise de regressão aqui é encontrar valores para \(\beta_i\) que sejam mais adequados para essa representação matemática.

A maneira como a análise de regressão estima esses parâmetros muda entre modelos lineares e não lineares. Primeiro será dada ênfase nos modelos lineares e seus desdobramentos. Por fim, serão traçadas as devidas relações com modelos não lineares.

4 Modelos Lineares

Como apresentado, os modelos lineares são aqueles que podem ser representados de forma matricial. Esses são tradicionalmente separados entre modelo linear simples e modelo linear múltiplo. Outra nomenclatura é regressão linear simples e regressão linear múltipla (Tabela 2).

Tabela 2: Diferenças entre modelos lineares simples e múltiplos.
Nome Formulação Informações
Regressão Linear Simples \(Y = \beta_0 + \beta_1 X_1\) Apenas uma variável independente \(X_1\)
Regressão Linear Múltipla \(Y = \beta_0 + \beta_1 X_1 + \beta_2 X_2 + \cdots + \beta_{p-1} X_{p-1}\) \(p-1\) variáveis independentes

A representação gráfica desses modelos é fácil apenas para o modelo linear simples, pois representa uma reta. Com a inclusão de mais variáveis independentes, aplicam-se os mesmos princípios da geometria analítica; portanto, a representação muda de uma reta para um plano no espaço, e de um plano para dimensões maiores sem representação gráfica.

Um caso especial é no uso de polinômios de maior grau no modelo de regressão. Veja que, na regressão linear simples, assume-se que a relação entre \(Y\) e \(X_1\) é explicada por uma reta, mas se forem adicionados maiores graus ao polinômio, como

\[ Y = \beta_0 + \beta_1 X_1 + \beta_2 X_1^2 + \cdots + \beta_n X_1^n \]

então essa será chamada de regressão polinomial de ordem \(n\), onde a relação entre \(Y\) e \(X_1\) é expressa por uma curva. Na natureza, não existem muitos fenômenos que sejam descritos com relações maiores que a da ordem 2, isto é, raramente existe uma relação mais complexa que a de uma parábola na natureza. Mas uma exceção a esse caso é a relação entre diâmetros tomados a diferentes alturas em uma árvore. Esses diâmetros \(d_i\) se relacionam com a respectiva altura \(h_i\) por meio de uma relação que, na ciência florestal, tradicionalmente é implementada via um polinômio de quinto grau, chamado de modelo de Schöpfer (1966).

Outro caso especial é o uso de variáveis categóricas na regressão. Embora perfeitamente possível e de fácil utilização, sua construção é levemente diferente. Seja uma variável categórica \(X\) que representa o tipo de solo do local, com os tipos A, B e C. Nesse caso, um modelo de regressão linear simples seria construído na forma

\[ y = \beta_0 + \beta_1 B + \beta_2 C \]

Onde \(B\) e \(C\) são os níveis ou categorias de \(X\).

Apesar de normalmente não serem escritos dessa forma, cada nível de \(X\) recebe valor 0 quando ausente ou 1 quando presente. Assim, se aquela observação for do solo B, então \(B=1\) e \(C=0\).

Entretanto, o primeiro nível, A, não teve parâmetro associado. Na verdade, a regressão linear sempre associa \(k-1\) parâmetros para uma variável categórica com \(k\) níveis. Isso é necessário para evitar a ocorrência de uma matriz singular que impossibilita a aplicação da matriz inversa. Como consequência, um nível, geralmente o primeiro por ordem alfabética, será dito nível de referência, e será acumulado em \(\beta_0\).

4.1 Mínimos Quadrados Ordinários (MQO)

A maneira mais simples de se estimar os parâmetros é a mesma para regressão simples e múltipla, chamada de técnica de Mínimos Quadrados Ordinários (MQO). Tomando como exemplo o painel B da Figura 1, veja que as variáveis podem ser representadas por uma reta, isto é, uma regressão linear simples. No entanto, é evidente que a reta não passa exatamente pelos pontos, portanto a estimativa possui um erro, ou, na literatura científica, um resíduo (Figura 2).

Figura 2: Representação dos resíduos de um modelo linear simples.

Veja que, como a reta não passa exatamente nos pontos, então não é verdade que \(Y = f(X) = \beta_0 + \beta_1 X\), mas sim que

\[ Y = \beta_0 + \beta_1 X + \epsilon \]

Onde \(\epsilon\) é o erro de estimativa.

A análise de regressão busca encontrar a reta que melhor representa essa relação. A técnica de MQO faz isso ao encontrar a reta que torna mínima a soma dos quadrados desses resíduos (\(S\)). Isto é, seja \(i\) a \(i\)-ésima observação, então

\[ \epsilon_i = y_i - (\beta_0 + \beta_1 x_i) \]

\[ \begin{aligned} S &= \sum_{i=1}^{n} \epsilon_i^2 = \sum_{i=1}^{n} \left(y_i - (\beta_0 + \beta_1 x_i)\right)^2 \\ &= \sum_{i=1}^{n} \left(y_i^2 - 2y_i(\beta_0 + \beta_1 x_i) + (\beta_0 + \beta_1 x_i)^2\right) \\ &= \sum_{i=1}^{n} \left(y_i^2 - 2y_i\beta_0 - 2y_i\beta_1 x_i + \beta_0^2 + 2\beta_0\beta_1 x_i + \beta_1^2 x_i^2\right) \\ &= \sum_{i=1}^{n} y_i^2 - 2\beta_0 \sum_{i=1}^{n} y_i - 2\beta_1 \sum_{i=1}^{n} y_i x_i + n\beta_0^2 + 2\beta_0\beta_1 \sum_{i=1}^{n} x_i + \beta_1^2 \sum_{i=1}^{n} x_i^2 \end{aligned} \]

Portanto

\[ S = \sum_{i=1}^{n} y_i^2 - 2\beta_0 \sum_{i=1}^{n} y_i - 2\beta_1 \sum_{i=1}^{n} y_i x_i + n\beta_0^2 + 2\beta_0\beta_1 \sum_{i=1}^{n} x_i + \beta_1^2 \sum_{i=1}^{n} x_i^2 \tag{2}\]

Como os resíduos quadráticos são sempre positivos, a equação de segundo grau resultante terá um ponto de mínima. Portanto, ao derivar o Resultado 2 em relação a \(\beta_0\) e \(\beta_1\) e igualar o resultado a 0, será encontrado o ponto de mínima desse somatório.

\[ \begin{aligned} \frac{\partial S}{\partial \beta_0} &= \frac{\partial}{\partial \beta_0}\left[\sum_{i=1}^{n} y_i^2 - 2\beta_0 \sum_{i=1}^{n} y_i - 2\beta_1 \sum_{i=1}^{n} y_i x_i + n\beta_0^2 + 2\beta_0\beta_1 \sum_{i=1}^{n} x_i + \beta_1^2 \sum_{i=1}^{n} x_i^2\right] \\ &= -2\sum_{i=1}^{n} y_i + 2n\hat\beta_0 + 2\hat\beta_1\sum_{i=1}^{n} x_i \end{aligned} \]

Como a média \(\bar y = \sum y_i/n\), então

\[ \frac{\partial S}{\partial \beta_0} = -2n\bar y + 2n\hat\beta_0 + 2\hat\beta_1 n\bar x = 0 \]

\[ n\hat\beta_0 = n\bar y - n\hat\beta_1 \bar x \]

\[ \hat\beta_0 = \bar y - \hat\beta_1 \bar x \tag{3}\]

Veja ainda que o Resultado 3 pode ser reescrito como

\[ n\hat\beta_0 = \sum_{i=1}^{n} y_i - \hat\beta_1 \sum_{i=1}^{n} x_i \]

Agora derivando parcialmente em relação a \(\beta_1\):

\[ \begin{aligned} \frac{\partial S}{\partial \beta_1} &= \frac{\partial}{\partial \beta_1}\left[\sum_{i=1}^{n} y_i^2 - 2\beta_0 \sum_{i=1}^{n} y_i - 2\beta_1 \sum_{i=1}^{n} y_i x_i + n\beta_0^2 + 2\beta_0\beta_1 \sum_{i=1}^{n} x_i + \beta_1^2 \sum_{i=1}^{n} x_i^2\right] \\ &= -2\sum_{i=1}^{n} y_i x_i + 2\hat\beta_0 \sum_{i=1}^{n} x_i + 2\hat\beta_1 \sum_{i=1}^{n} x_i^2 = 0 \end{aligned} \]

\[ \sum_{i=1}^{n} y_i x_i = \hat\beta_0 \sum_{i=1}^{n} x_i + \hat\beta_1 \sum_{i=1}^{n} x_i^2 \tag{4}\]

Veja que podemos substituir \(\hat\beta_0\) pelo resultado anterior. Essa substituição é válida pois \(\hat\beta_0\) foi obtido de forma a garantir que sua derivada seja igual a 0.

\[ \sum_{i=1}^{n} y_i x_i = (\bar y - \hat\beta_1 \bar x) \sum_{i=1}^{n} x_i + \hat\beta_1 \sum_{i=1}^{n} x_i^2 \]

\[ \sum_{i=1}^{n} y_i x_i = (\bar y - \hat\beta_1 \bar x)n\bar x + \hat\beta_1 \sum_{i=1}^{n} x_i^2 \]

\[ \sum_{i=1}^{n} y_i x_i = n\bar x\bar y - \hat\beta_1 n\bar x^2 + \hat\beta_1 \sum_{i=1}^{n} x_i^2 \] \[ \hat{\beta}_1 \displaystyle\sum_{i=1}^{n} x^2_i - \hat{\beta_1}n\bar{x}^2 = \displaystyle\sum_{i=1}^{n} y_ix_i - n\bar{x}\bar{y} \]

\[ \hat\beta_1\left(\sum_{i=1}^{n} x_i^2 - n\bar x^2\right) = \sum_{i=1}^{n} y_i x_i - n\bar x\bar y \]

\[ \hat\beta_1 = \frac{\displaystyle\sum_{i=1}^{n} y_i x_i - n\bar x\bar y}{\displaystyle\sum_{i=1}^{n} x_i^2 - n\bar x^2} = \frac{\displaystyle\sum_{i=1}^{n} y_i x_i - \dfrac{\left(\displaystyle\sum_{i=1}^{n} x_i\right)\left(\displaystyle\sum_{i=1}^{n} y_i\right)}{n}}{\displaystyle\sum_{i=1}^{n} x_i^2 - \dfrac{\left(\displaystyle\sum_{i=1}^{n} x_i\right)^2}{n}} \tag{5}\]

Portanto, esse é o estimador do parâmetro \(\beta_1\). Para se estimar \(\beta_0\), primeiro é obtida a estimativa \(\hat\beta_1\), que em seguida é aplicada no resultado anterior, e obtém-se \(\hat\beta_0\).

Veja que é possível arranjar os estimadores de \(\hat\beta_0\) e \(\hat\beta_1\) de forma a gerar um sistema de equações, chamado de sistema de equações normais (SCHNEIDER et al., 2009):

\[ \begin{cases} \hat\beta_0 n + \hat\beta_1 \sum_{i=1}^{n} x_i = \sum_{i=1}^{n} y_i \\ \hat\beta_0 \sum_{i=1}^{n} x_i + \hat\beta_1 \sum_{i=1}^{n} x_i^2 = \sum_{i=1}^{n} y_i x_i \end{cases} \]

A técnica dos MQO garante a obtenção das melhores estimativas dos parâmetros dentro da classe dos estimadores lineares não viesados. Isto é, é a técnica que fornece a estimativa de menor variância.

Com as estimativas obtidas, é possível aplicá-las na equação original \(y = \hat\beta_0 + \hat\beta_1 x\) e estimar \(y\) a partir da variável independente \(x\). Entretanto, se o modelo for composto de mais de uma variável independente, o sistema de equações normais passa a ser de difícil resolução, pois o número de operações necessárias aumenta consideravelmente. Isso pode ser facilmente corrigido se as operações forem realizadas na forma matricial, ou seja, se

\[ \mathbf{Y} = \mathbf{Xb} + \boldsymbol\epsilon \tag{6}\]

\[ \mathbf{Y} = \begin{bmatrix} y_1 \\ y_2 \\ \vdots \\ y_n \end{bmatrix}_{n\times 1} \qquad \mathbf{b} = \begin{bmatrix} \beta_0 \\ \beta_1 \\ \vdots \\ \beta_{p-1} \end{bmatrix}_{p\times 1} \qquad \boldsymbol\epsilon = \begin{bmatrix} \epsilon_1 \\ \epsilon_2 \\ \vdots \\ \epsilon_n \end{bmatrix}_{n\times 1} \]

\[ \mathbf{X} = \begin{bmatrix} 1 & X_{11} & X_{21} & \cdots & X_{p-1,1} \\ 1 & X_{12} & X_{22} & \cdots & X_{p-1,2} \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ 1 & X_{1n} & X_{2n} & \cdots & X_{p-1,n} \end{bmatrix}_{n\times p} \]

Nessa notação, a soma de quadrados dos resíduos é obtida via

\[ \begin{aligned} S &= \sum_{i=1}^{n} \epsilon_i^2 = \boldsymbol\epsilon^\top \boldsymbol\epsilon = (\mathbf{Y} - \mathbf{Xb})^\top (\mathbf{Y} - \mathbf{Xb}) \\ &= \mathbf{Y}^\top \mathbf{Y} - \mathbf{Y}^\top (\mathbf{Xb}) - (\mathbf{Xb})^\top \mathbf{Y} + (\mathbf{Xb})^\top \mathbf{Xb} \\ &= \mathbf{Y}^\top \mathbf{Y} - (\mathbf{Xb})^\top \mathbf{Y} - (\mathbf{Xb})^\top \mathbf{Y} + (\mathbf{Xb})^\top \mathbf{Xb} \\ &= \mathbf{Y}^\top \mathbf{Y} - 2(\mathbf{Xb})^\top \mathbf{Y} + (\mathbf{Xb})^\top \mathbf{Xb} \end{aligned} \]

Como \((AB)^\top = B^\top A^\top\), então

\[ S = \mathbf{Y}^\top \mathbf{Y} - 2\mathbf{b}^\top \mathbf{X}^\top \mathbf{Y} + \mathbf{b}^\top \mathbf{X}^\top \mathbf{Xb} \]

Agora, se derivarmos a equação em relação a \(\mathbf{b}\) e igualarmos a 0, então

\[ \frac{\partial}{\partial \mathbf{b}}\left[\boldsymbol\epsilon^\top \boldsymbol\epsilon\right] = -2\mathbf{X}^\top \mathbf{Y} + 2\mathbf{X}^\top \mathbf{Xb} = 0 \]

\[ -\mathbf{X}^\top \mathbf{Y} + \mathbf{X}^\top \mathbf{Xb} = \mathbf{0} \]

\[ \mathbf{X}^\top \mathbf{Xb} = \mathbf{X}^\top \mathbf{Y} \]

\[ \mathbf{b} = (\mathbf{X}^\top \mathbf{X})^{-1} \mathbf{X}^\top \mathbf{Y} \tag{7}\]

O Resultado 7 é a notação mais genérica do estimador de mínimos quadrados ordinários. Embora não seja tão frequente na literatura florestal, é a mais utilizada em diversas outras áreas, e é oportuna para explicar outros tipos de modelos lineares.

4.2 Pressupostos dos MQO

Embora de fácil resolução, a aplicação dos MQO está condicionada a alguns pressupostos estatísticos. Os principais são:

  1. distribuição normal dos resíduos;
  2. homoscedasticidade; e
  3. independência entre os resíduos.

Para entender cada uma dessas exigências, é preciso primeiro entender a fundamentação estatística das análises de regressão.

Ao montar um modelo de regressão tal qual o Resultado 6, assume-se que as variáveis independentes \(\mathbf{X}\) são constantes, ou seja, não possuem variabilidade. Em vez disso, toda a incerteza associada à regressão, a soma de quadrados dos resíduos, se concentra nos próprios resíduos, isto é, os resíduos seguem uma distribuição de probabilidade dada por

\[ \epsilon_i \sim N(0, \sigma^2), \quad \forall\ i \in 1,2,\ldots,n \]

Note que, independentemente da \(i\)-ésima ou \(j\)-ésima observação, todos os resíduos possuem a mesma distribuição de probabilidade \(N(0,\sigma^2)\). Isso é uma exigência dos MQO e implica em dizer que possuem distribuição normal e são identicamente distribuídos. Essa exigência resulta em dois pressupostos: o da normalidade dos resíduos e o da homogeneidade de variâncias.

O pressuposto da normalidade pode ser avaliado a partir de um histograma de resíduos, gráficos quantil-quantil (QQ plots) e a realização de testes de normalidade, como o teste de Kolmogorov-Smirnov, teste de Shapiro-Wilk, Anderson-Darlin, dentre outros. O não cumprimento desse pressuposto não afeta a estimativa dos parâmetros \(\hat\beta_0\), mas afeta testes de hipóteses e intervalos de confiança. Uma maneira bastante utilizada na literatura da área para corrigir falta de normalidade dos resíduos é a transformação da variável resposta, por exemplo \(Y' = \log(Y)\). Mais informações sobre essa transformação serão apresentadas na seção de linearização de modelos.

O pressuposto da homogeneidade de variâncias implica em afirmar que todos os \(i\)-ésimos resíduos possuem a mesma variância \(\sigma^2\). Tal pressuposto pode ser verificado com testes de homogeneidade de variâncias, como o teste de Breusch-Pagan, ou então via análise gráfica de resíduos, quando esses apresentam dispersão em forma de funil (Figura 3).

Figura 3: Padrão de dispersão de resíduos homoscedásticos e heteroscedásticos.

A principal complicação da heterogeneidade de variâncias é a superestimativa da variância do erro, \(\hat\sigma^2\). Isso implica amplitudes maiores dos intervalos de confiança dos parâmetros, o que, por sua vez, implica uma maior chance de serem não significativos. Ainda assim, a estimativa dos parâmetros continua não viesada.

O principal método de correção para esse pressuposto na área florestal é a aplicação de uma regressão ponderada, Mínimos Quadrados Ponderados, onde as observações de maior variabilidade recebem um menor peso. Os pesos são aplicados via uma matriz de pesos \(\boldsymbol{\Psi}\). Tal matriz de pesos é composta por uma matriz diagonal de tamanho \(n\), o número de observações. Normalmente, cada elemento da diagonal é dado por \(w_i = 1/\sigma_i^2\). O estimador de mínimos quadrados fica alterado para

\[ \mathbf{b} = (\mathbf{X}^\top \boldsymbol{\Psi} \mathbf{X})^{-1} \mathbf{X}^\top \boldsymbol{\Psi} \mathbf{Y} \]

Onde \(\boldsymbol{\Psi}\) é uma matriz de pesos.

Uma metodologia amplamente empregada na área florestal para obtenção desses pesos é baseada no trabalho de Parresol (2001), que propôs uma metodologia a partir de equações de biomassa. A biomassa de árvores é particularmente complicada nesse quesito, e os modelos de biomassa frequentemente possuem tal comportamento.

Como é assumido que os resíduos possuem distribuição normal, então o pressuposto de que os resíduos são independentes é equivalente a \(\operatorname{Cov}(\epsilon_i, \epsilon_j) = 0\). Esse pressuposto pode ser avaliado de forma gráfica pelos gráficos de autocorrelação, que apresentam a correlação dos pares de observações com defasagem, ou então via testes estatísticos, como o teste de Durbin-Watson.

A demonstração do porquê as amostras precisam ser independentes requer o conhecimento de que o estimador MQO pode ser derivado do estimador de máxima verossimilhança, que pode ser escrito como

\[ L(\mathbf{Xb}, \sigma^2; \mathbf{Y}) = \prod_{i=1}^{n} \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{1}{2}\left(\frac{y_i - \mathbf{x}_i\mathbf{b}}{\sigma}\right)^2} \]

Onde \(L(\cdot)\) é o estimador de máxima verossimilhança.

O produtório \(\displaystyle\prod_{i=1}^{n}\) só é válido se as observações forem independentes. Portanto, se as observações não forem independentes, simplesmente não é possível chegar no estimador de MQO.

Além disso, veja que a regressão pode ser interpretada como uma média móvel de \(Y\), ou seja, em vez de resumir \(Y\) a uma simples média \(\mu\), o reduzimos a uma média que depende de \(X\), portanto

\[ \boldsymbol\mu = \mathbf{Xb} \]

Portanto, se \(\epsilon\) segue uma distribuição normal, e \(X\) é considerada constante, e tomando um pouco do rigor estatístico da regressão, constata-se que, pelo Resultado 6, a análise de regressão na verdade modela a esperança de \(Y\) dadas as variáveis independentes:

\[ E[Y_i \mid X_i] \sim N(\mathbf{X}_i\mathbf{b}, \sigma^2) \]

Existem ainda outros fenômenos que devem ser observados ao realizar uma análise de regressão, porém não são exatamente condicionantes do método dos MQO tal qual os pressupostos vistos anteriormente. Ainda assim, são eventos que afetam a qualidade da regressão, a saber:

  1. linearidade;
  2. multicolinearidade; e
  3. pontos influentes.

A condição de linearidade é condição de escolha de um modelo adequado, isto é, uma reta somente irá ser adequada se a relação entre as variáveis aparentar possuir tal comportamento linear.

A multicolinearidade é um efeito que acomete a regressão linear múltipla, e é caracterizada pela alta correlação entre duas ou mais variáveis independentes \(X_i\). Isso faz com que a matriz \(\mathbf{X}^\top \mathbf{X}\) “quase” não possua posto completo. Na prática, isso implica em uma superestimativa da soma de quadrados da regressão, o que implica em uma aparente melhora nos indicadores da qualidade dos modelos, especialmente o coeficiente de determinação \(R^2\). A maneira adequada de avaliar a ocorrência de multicolinearidade é por meio do Fator de Inflação da Variância (VIF, na sigla em inglês).

Outro ponto importante é a ocorrência de pontos discrepantes dentre as observações, que podem ser potencialmente outliers. Nenhuma observação pode ser descartada a priori, mas uma análise cuidadosa pode revelar que pontos extremos podem ser de outra população, erros de digitação ou medição, ou até mesmo pontos que, embora discrepantes, podem ser retirados sem prejuízo da análise de regressão. Essas análises são feitas levando em conta o peso (leverage) de cada amostra, distância de Cook, resíduos estudentizados, entre outras análises.

4.3 Somas de Quadrados

Passados os principais tópicos de atenção ao ajustar um modelo, a próxima etapa é averiguar a qualidade desse modelo, isto é, sua eficiência em representar a relação entre variável dependente e variáveis independentes.

O primeiro ponto que merece atenção é que, por propriedades dos modelos lineares, toda a variabilidade dos dados pode ser escrita em termos de somas de quadrados (Resultado 8), e existem três: a soma de quadrados da regressão (SQR), soma de quadrados do erro (SQE) e soma de quadrados total (SQT), de forma que

\[ SQE = \sum_{i=1}^{n}(y_i - \hat y_i)^2 \]

\[ SQR = \sum_{i=1}^{n}(\hat y_i - \bar y)^2 \]

\[ SQT = \sum_{i=1}^{n}(y_i - \bar y)^2 \]

\[ SQT = SQR + SQE \tag{8}\]

Onde \(y_i\) é o valor observado, \(\hat y_i\) é o valor predito pelo modelo, e \(\bar y\) é a média dos dados.

Figura 4: Representação gráfica das fontes de variabilidade de um modelo linear.

Tal qual na análise de variância, existe sempre uma soma de quadrados total, que é expressa pela variância dos dados, os desvios no entorno da média. Parte dessa variabilidade total é explicada pelo modelo de regressão (SQR), portanto são os desvios do modelo em relação à média. Por fim, existem os desvios que não são explicados pelo modelo, que são justamente os resíduos, os desvios do modelo em relação ao valor real (SQE).

4.4 Medidas de qualidade do ajuste

Grande parte das medidas de qualidade do ajuste fazem uso das somas de quadrados. Na sequência serão apresentadas algumas, a saber:

  1. coeficiente de determinação - \(R^2\);
  2. erro padrão de estimativa e raiz do erro quadrático médio - \(S_{yx}\) e REQM;
  3. critérios de informação de Akaike e Bayesiano - AIC e BIC; e
  4. análise gráfica de resíduos.

4.4.1 Coeficiente de Determinação – R²

A partir do Resultado 8, é intuitivo quantificar quanto da variabilidade total (SQT) é explicada pelo modelo (SQR). Essa relação é chamada de coeficiente de determinação \(R^2\):

\[ R^2 = \frac{SQR}{SQT} \]

O coeficiente de determinação está contido entre \(0 \leq R^2 \leq 1\), e quanto mais próximo de 1, melhor a capacidade do modelo em capturar a variabilidade dos dados.

O \(R^2\) pode ser utilizado para comparação entre diferentes modelos testados para um mesmo conjunto de dados, e o de maior valor será mais adequado nesse quesito. Entretanto, caso os modelos possuam diferentes quantidades de parâmetros, e por consequência de variáveis, então o \(R^2\) precisa ser ajustado para levar em conta essa diferença, pois teoricamente uma maior quantidade de variáveis terá mais condição de explicar a variabilidade dos dados. O coeficiente de determinação ajustado \(R^2_{aj}\) é dado corrigindo pelo número de parâmetros, que pode ser interpretado também como uma comparação entre quadrados médios:

\[ R^2_{aj} = \frac{n-1}{n-p}\frac{SQR}{SQT} = \frac{\dfrac{SQR}{n-p}}{\dfrac{SQT}{n-1}} = \frac{QMR}{QMT} \]

Onde \(QMR\) são os quadrados médios da regressão e \(QMT\) são os quadrados médios totais.

4.4.2 Erro padrão de estimativa - \(S_{yx}\)

Outra medida de qualidade de ajuste é o erro padrão de estimativa, convencionado como \(S_{yx}\), e é calculado como a raiz quadrada dos quadrados médios dos resíduos. O erro padrão de estimativa pode ser também calculado em porcentagem (\(S_{yx}\%\)).

\[ S_{yx} = \sqrt{QME} = \sqrt{\frac{SQE}{n-p}} \]

\[ S_{yx}\% = \frac{S_{yx}}{\bar y} \cdot 100 \]

4.4.3 Raiz do erro quadrático médio - REQM

Uma medida alternativa é o uso da Raiz do Erro Quadrático Médio, REQM, RMSE na sigla em inglês, que também possui sua versão relativa. A diferença para o erro padrão de estimativa é que o REQM representa uma média de desvios, e não uma estimativa de desvio-padrão. Tanto \(S_{yx}\) quanto REQM são medidas que avaliam a precisão das estimativas, e naturalmente quanto menor o valor de tais medidas, melhor é o desempenho do modelo. Veja que \(S_{yx}\) penaliza pela quantidade de parâmetros dos modelos.

\[ REQM = \sqrt{\frac{SQE}{n}} \]

\[ REQM\% = \frac{REQM}{\bar y} \cdot 100 \]

4.4.4 Critérios de Informação de Akaike e Bayesiano – AIC e BIC

Outras duas medidas complementares são os critérios de informação de Akaike e Bayesiano, que avaliam, em essência, a quantidade de informação capturada pelo modelo ajustado. Nesses critérios, o melhor modelo é aquele que possui o menor valor de AIC ou BIC, seja esse valor positivo ou negativo, isto é, quanto mais negativo, melhor é o modelo.

\[ AIC = -2\ln(L) + 2p \]

\[ BIC = -2\ln(L) + \ln(n)\,p \]

Onde \(\ln(\cdot)\) é o logaritmo natural, \(L\) é a máxima verossimilhança da função, \(n\) é o número de observações e \(p\) é o número de parâmetros.

Essas são as formulações genéricas dos critérios de informação. Para modelos de regressão tradicionais, a log-verossimilhança pode ser escrita como

\[ \ln(L) = -\frac{n}{2}\left[\ln(2\pi) + \ln\left(\frac{SQE}{n}\right) + 1\right] \]

Portanto, AIC e BIC podem ser escritos como

\[ AIC = -2\left[-\frac{n}{2}\left(\ln(2\pi) + \ln\left(\frac{SQE}{n}\right) + 1\right)\right] + 2p \]

\[ AIC = n\ln(2\pi) + n\ln\left(\frac{SQE}{n}\right) + n + 2p \]

\[ BIC = n\ln(2\pi) + n\ln\left(\frac{SQE}{n}\right) + n + \ln(n)\,p \]

No entanto, como os termos \(n\ln(2\pi)\) e \(n\) são constantes entre todos os modelos testados, podem ser omitidos, o que simplifica a formulação de AIC e BIC para

\[ AIC = n\ln\left(\frac{SQE}{n}\right) + 2p \]

\[ BIC = n\ln\left(\frac{SQE}{n}\right) + \ln(n)\,p \]

Veja que os critérios de informação penalizam modelos com mais parâmetros, algo similar ao que é realizado no coeficiente de determinação ajustado \(R^2_{aj}\) e no erro padrão de estimativa \(S_{yx}\). Além disso, o critério Bayesiano realiza essa penalização com maior magnitude, quando \(n \geq 8\).

4.4.5 Análise gráfica de resíduos

Por fim, é possível realizar a análise gráfica dos resíduos dos modelos. Existem diferentes formas de se avaliar graficamente os resíduos de uma análise de regressão, bem como existem diferentes tipos de resíduos.

Os principais gráficos de avaliação são: dispersão de resíduos vs. valores estimados, gráfico quantil-quantil, histograma de distribuição de resíduos, e dispersão de valores estimados vs. observados (Figura 5).

Figura 5: Principais tipos de resíduos utilizados na regressão linear.

O primeiro avalia como é a estimativa da regressão ao longo dos valores preditos e é oportuno para identificar possíveis tendenciosidades na estimativa dos valores. Também é possível comparar os resíduos versus valores das variáveis independentes \(X_i\), para identificar falta de linearidade com alguma variável ou auxiliar na identificação de outliers.

O segundo gráfico é o gráfico quantil-quantil ou QQplot, e representa a dispersão padronizada dos resíduos versus o valor teórico esperado de cada um desses em uma distribuição normal. É utilizado para avaliar a fuga da normalidade dos resíduos. O terceiro é um histograma da dispersão empírica dos resíduos, também utilizado para avaliar a normalidade.

Por fim, há o gráfico de dispersão dos valores observados versus preditos, que avalia tendências na estimativa. Idealmente, os pontos devem se distribuir em torno da reta de identidade (\(45^\circ\)) formada entre os dois eixos.

Além disso, os resíduos também podem ser de diferentes tipos, como resíduos brutos ou ordinários \(e_i\), resíduos padronizados \(r_i\), resíduos estudentizados \(t_i\), e resíduos PRESS \(e_{(i)}\):

\[ e_i = y_i - \hat y_i \]

\[ r_i = \frac{e_i}{\hat\sigma} \]

\[ t_i = \frac{e_i}{\hat\sigma\sqrt{1-h_{ii}}} \]

\[ e_{(i)} = y_i - \hat y_{(i)} \]

Onde: \(e_i\) é o resíduo ordinário; \(y_i\) e \(\hat y_i\) são os valores observados e preditos, respectivamente; \(r_i\) é o resíduo padronizado, também chamado de resíduo de Pearson; \(\hat\sigma\) é a estimativa do erro padrão de estimativa (\(S_{yx}\)); \(t_i\) é o resíduo estudentizado; \(h_{ii}\) é o valor de alavanca (leverage) daquela observação; \(e_{(i)}\) é o resíduo PRESS; e \(\hat y_{(i)}\) é o valor estimado para a \(i\)-ésima observação sem levá-la em conta no ajuste do modelo.

O resíduo ordinário \(e_i\) é o mais simples de ser calculado, e é frequentemente utilizado para avaliar se existem tendências nas estimativas.

Tanto o resíduo padronizado \(r_i\), também chamado de resíduo de Pearson, quanto o resíduo estudentizado \(t_i\) ponderam o resíduo pela estimativa de \(\hat\sigma\), portanto são extremamente úteis para identificar possíveis efeitos de heteroscedasticidade. Veja que, na regressão tradicional, a distribuição dos resíduos ordinários e ponderados será exatamente a mesma, porém se for utilizada uma regressão ponderada, apenas os resíduos estudentizados ou de Pearson irão de fato verificar se a ponderação foi eficaz.

Os resíduos estudentizados dependem ainda do valor de alavanca, leverage, de cada observação. Esse valor \(h_{ii}\) representa o \(i\)-ésimo elemento da diagonal da matriz \(\mathbf{H}\), também chamada de matriz chapéu, e representa a projeção dos valores observados no espaço dos valores preditos. O traço da matriz é igual ao número de parâmetros do modelo:

\[ \hat{\mathbf{Y}} = \mathbf{X}\hat{\boldsymbol\beta} \]

\[ \hat{\boldsymbol\beta} = (\mathbf{X}^\top \mathbf{X})^{-1}\mathbf{X}^\top \mathbf{Y} \]

\[ \hat{\mathbf{Y}} = \mathbf{X}(\mathbf{X}^\top \mathbf{X})^{-1}\mathbf{X}^\top \mathbf{Y} \]

\[ \mathbf{H} = \mathbf{X}(\mathbf{X}^\top \mathbf{X})^{-1}\mathbf{X}^\top \]

\[ \hat{\mathbf{Y}} = \mathbf{HY} \]

\[ \operatorname{tr}(\mathbf{H}) = p \]

Onde \(p\) é o número de parâmetros do modelo.

Ou seja, \(\hat y\) pode ser escrito como uma combinação linear dos valores observados \(y\). A grande vantagem dessa matriz é que os elementos da diagonal \(h_{ii}\) representam o peso de alavancagem ou influência que cada observação possui no ajuste, e sempre \(0 \leq h_{ii} \leq 1\). Como regra geral, se \(h_{ii} > 2p/n\) ou \(h_{ii} > 3p/n\), então a \(i\)-ésima observação é considerada um ponto influente no ajuste do modelo, isto é, sua retirada irá impactar de forma considerável o ajuste. Os resíduos estudentizados podem ainda ser separados em externamente estudentizados ou internamente estudentizados, que se refere ao uso ou não da operação de jackknife para obtenção dos resíduos.

Por fim, podem ser utilizados os resíduos PRESS (Predicted Residual Error Sum of Squares), que avaliam o resíduo de cada observação sem tê-la levado em conta no ajuste, ou seja, uma estimativa via jackknife.

4.5 Inferência

Passados os principais métodos de avaliação do ajuste de modelos, pode-se tratar da interpretação e inferência acerca dos parâmetros estimados. Como se trabalha com uma amostra, e o uso dos MQO implica em assumir distribuição normal dos resíduos, então também os parâmetros estimados \(\hat\beta_i\) terão uma distribuição normal. A variância de cada um dos parâmetros é dada por

\[ \operatorname{Var}(\hat\beta_0) = \sigma^2\left[\frac{1}{n} + \frac{\bar x^2}{\sum_{i=1}^{n}(x_i - \bar x)^2}\right] \]

\[ \operatorname{Var}(\hat\beta_i) = \frac{\sigma^2}{\sum_{i=1}^{n}(x_i - \bar x)^2} \]

Ou, de maneira algébrica,

\[ \operatorname{Var}(\hat{\boldsymbol\beta}) = \sigma^2(\mathbf{X}^\top \mathbf{X})^{-1} \]

Veja que as variâncias fazem uso do valor paramétrico \(\sigma^2\), desconhecido. Ao substituir \(\sigma^2\) pela sua estimativa \(\hat\sigma^2\), então troca-se a distribuição normal e atribui-se a distribuição \(t\)-student com \(n-p\) graus de liberdade. Assim, é possível determinar o intervalo de confiança dos parâmetros do modelo por meio de intervalos do tipo de Wald, que seguem na forma

\[ LI = \hat\beta_i - t_{n-p;1-\alpha/2}\sqrt{\operatorname{Var}(\hat\beta_i)} \]

\[ LS = \hat\beta_i + t_{n-p;1-\alpha/2}\sqrt{\operatorname{Var}(\hat\beta_i)} \]

\[ IC = P[LI \leq \beta_i \leq LS] = 100(1-\alpha)\% \]

Onde \(LI\) e \(LS\) são os limites inferior e superior do intervalo de confiança, \(t\) é o valor da distribuição \(t\)-student para \(n-p\) graus de liberdade, e nível de significância \(\alpha\).

Veja que, caso esse intervalo de confiança contenha o valor 0, então quer dizer que, para um nível de confiança \(100(1-\alpha)\%\), é possível que 0 seja o valor verdadeiro do parâmetro. Portanto, se o intervalo contiver 0, então assume-se que o parâmetro é não significativo, pois há chance considerável de não existir efeito.

Uma vez que os parâmetros possuem variabilidade, então também a estimativa de \(Y\) terá variabilidade. Uma forma de avaliar essa variabilidade também é por meio de intervalos de confiança para as estimativas.

\[ \operatorname{Var}\big[\hat{E}[Y \mid X]\big] = \operatorname{Var}(\hat y_0) = \operatorname{Var}(\hat\beta_0 + \hat\beta_1 X) \]

\[ \operatorname{Var}\big[\hat{E}[Y \mid X]\big] = \operatorname{Var}(\hat y_0) = \operatorname{Var}(\hat\beta_0 + \hat\beta_1 X + \epsilon) \]

Onde \(\operatorname{Var}[\cdot]\) é o operador de variância e \(\hat y_0\) é o valor predito de \(y\) para o valor \(x_0\).

Existem dois tipos de intervalo de confiança. O chamado intervalo de confiança e o intervalo de predição, e a diferença é sutil, porém crucial. Note que a regressão estima uma esperança, portanto uma resposta fornecida pelo modelo é “qual é o comportamento esperado para essa população?”. Quando busca-se responder uma pergunta sobre as características da população de interesse, em termos médios, então a primeira fórmula é utilizada. Afinal, em termos médios, o erro é 0, \(E[\epsilon]=0\). A variabilidade se desdobra então em

\[ \operatorname{Var}(\hat y_0) = \sigma^2\left[\frac{1}{n} + \frac{(x_0-\bar x)^2}{\sum_{i=1}^{n}(x_i - \bar x)^2}\right] \tag{9}\]

Como \(Y\) segue uma distribuição normal, então

\[ \hat y_0 = \hat{E}[Y \mid X_0] \sim N\left(X_0\beta; \sqrt{\operatorname{Var}(\hat y_0)}\right) \]

Portanto, ao substituir \(\sigma^2\) por \(\hat\sigma^2\), troca-se a distribuição normal por uma \(t\)-student com \(n-p\) graus de liberdade. Assim, o intervalo de confiança é construído via intervalo de Wald:

\[ LI = \hat y_0 - t_{n-p;1-\alpha/2}\sqrt{\operatorname{Var}(\hat y_0)} \]

\[ LS = \hat y_0 + t_{n-p;1-\alpha/2}\sqrt{\operatorname{Var}(\hat y_0)} \]

\[ IC = P[LI \leq \mu_0 \leq LS] = 100(1-\alpha)\% \]

Veja que \(\operatorname{Var}(\hat y_0)\) depende de \(x_0\), portanto os valores da variável independente influenciam na amplitude do intervalo. Logicamente, o ponto mais central de \(X\), isto é, \(\bar x\), resultará no ponto mais preciso, de menor amplitude.

Entretanto, a regressão pode ser usada não somente para descrever o comportamento de uma população, mas também para predizer uma nova observação. Nesse caso cria-se um intervalo de predição, e o componente de erro deve ser incluído. Assim, a variância se torna

\[ \operatorname{Var}(\hat y_0) = \sigma^2\left[1 + \frac{1}{n} + \frac{(x_0-\bar x)^2}{\sum_{i=1}^{n}(x_i - \bar x)^2}\right] \tag{10}\]

Que representa basicamente o acréscimo de um termo \(\sigma^2\) adicional. Os demais métodos de obtenção do intervalo são iguais ao intervalo de confiança. Note que é intuitivo pensar que o intervalo de predição seja mais incerto que o de confiança, pois é mais difícil estimar uma nova amostra que o comportamento médio de uma população.

4.6 Interpretação dos parâmetros

A interpretação dos parâmetros de um modelo de regressão varia bastante para cada tipo de variável independente \(X\). O parâmetro \(\beta_0\), chamado de intercepto, representa o ponto onde a regressão corta o eixo das ordenadas, isto é, o valor esperado de \(Y\) quando todas as variáveis são zero.

Já os demais parâmetros \(\beta_i\) são a inclinação da reta ou efeito esperado de cada variável independente. Em termos práticos, os valores de \(\beta_i\) representam o quanto se espera de aumento em \(Y\) com o aumento de uma unidade de \(X_i\). Tal relação pode ser oportuna para relacionar as variáveis de interesse.

Um caso especial de interpretação envolve variáveis categóricas, pois para tais variáveis, o valor estimado do parâmetro indica o aumento ou diminuição de \(Y\) comparado com o nível de referência da variável categórica, aquele acumulado em \(\beta_0\). Portanto, para uma variável categórica que tenha um certo nível associado a um \(\beta_i\), tal \(\beta_i\) representa a diferença entre tal nível e o nível de referência. Para saber o efeito total, é preciso somar \(\beta_0\), de forma que o efeito total é dado por \(\beta_0 + \beta_i\).

4.7 Linearização de modelos

Passados os principais métodos de ajuste e avaliação de modelos lineares tradicionais, ainda é necessário abordar o processo de linearização, que é muito utilizado na ciência florestal.

O processo de linearização consiste em tornar um modelo não linear em linear. Um dos principais modelos da área que faz uso dessa abordagem é o modelo volumétrico de Schumacher e Hall (1933), que, na sua forma original, é descrito como

\[ v = \beta_0 d^{\beta_1} h^{\beta_2} \tag{11}\]

Onde \(v\) é o volume individual, \(d\) e \(h\) são o DAP e a altura total da árvore, e \(\beta_i\) são os parâmetros do modelo.

Veja que o modelo não possui os parâmetros na forma aditiva. O processo de linearização consiste em aplicar alguma manipulação matemática de forma a tornar os parâmetros lineares entre si. Para esse modelo, e muitos outros na área florestal, a aplicação de um logaritmo possibilita tal transformação:

\[ \log(v) = \log\left(\beta_0 d^{\beta_1} h^{\beta_2}\right) \]

\[ \log(v) = \log(\beta_0) + \log(d^{\beta_1}) + \log(h^{\beta_2}) \]

\[ \log(v) = \beta_0^* + \beta_1 \log(d) + \beta_2 \log(h) \]

Onde \(\beta_0^* = \log(\beta_0)\).

Veja que, por propriedade dos logaritmos, foi possível linearizar o modelo de Schumacher e Hall (1933). Nem todos os modelos podem ser linearizados, e a manipulação matemática necessária depende da formulação original do modelo.

No entanto, é importante perceber que o objetivo original é modelar o volume \(v\), e não \(\log(v)\). Ou seja, após ajustar o modelo, é preciso realizar a transformação de volta para a variável original (backtransformation). Um pensamento intuitivo seria aplicar a função exponencial, anti-log:

\[ \widehat{\log(v)} = \hat\beta_0^* + \hat\beta_1\log(d) + \hat\beta_2\log(h) \]

\[ \hat v = e^{\widehat{\log(v)}} = e^{X\hat\beta} = e^{\hat\beta_0^* + \hat\beta_1\log(d) + \hat\beta_2\log(h)} \]

Porém, a transformação de volta não é direta. Em verdade, apenas transformações lineares possuem a volta direta, como \(y' = 4 + y\) ou \(y' = 2y - 2\), porém transformações como \(y' = \log(y)\) ou \(y' = \sqrt{y}\) tornam a volta complicada.

Existe apenas um caso com solução analítica para a transformação de volta, que é o caso da transformação logarítmica. É importante lembrar que até agora sempre se assume que

\[ Y \sim N(\mu = X\hat\beta, \hat\sigma^2) \]

Portanto, ao aplicar logaritmo, assumimos que \(Y = \log(v)\), então

\[ \log(v) = N(\mu = X\hat\beta, \hat\sigma^2) \]

Entretanto, estamos interessados em \(v\), não em \(\log(v)\). Aliado a isso, existe uma propriedade da distribuição normal que atesta que, se o logaritmo de uma variável aleatória possui distribuição normal, \(\log(Y) \sim N(\mu, \sigma^2)\), então tal variável possui uma distribuição log-normal, \(Y \sim \operatorname{LogNorm}(\mu, \sigma^2)\). Portanto, ao modelar o logaritmo do volume, teremos assumido que o volume \(v\) possui uma distribuição log-normal.

Para a distribuição normal, a esperança da variável é exatamente o parâmetro \(\mu\), portanto podemos facilmente associar \(\hat y = \mu = X\hat\beta\), mas para a distribuição log-normal isso não é verdade. De fato, a esperança de uma variável aleatória \(W\) tal que \(W \sim \operatorname{LogNorm}(\mu = X\hat\beta, \sigma^2)\) é dada por

\[ E[Y] = e^{\mu + \sigma^2/2} = e^{\mu}e^{\sigma^2/2} = e^{X\hat\beta} e^{\hat\sigma^2/2} \]

Portanto, veja que aplicar o anti-log somente não é suficiente, é preciso multiplicar o valor pelo termo \(e^{\hat\sigma^2/2}\). Caso contrário, o valor terá um viés de subestimativa do verdadeiro valor. Na ciência florestal, o fator \(e^{\hat\sigma^2/2}\) é conhecido como Fator de Meyer (MACHADO; FIGUEIREDO-FILHO, 2005), muito embora seja apenas o resultado de uma propriedade estatística da transformação de modelos. Outras transformações, como raiz quadrada, transformação inversa etc., não possuem solução fechada, e autores da literatura estatística sugerem o uso de simulações de Monte Carlo para obtenção das estimativas não viesadas (FARAWAY, 2016).

4.8 Escolha de variáveis

Por vezes, existem uma série de possíveis variáveis independentes \(X_i\) para explicar o modelo, mas a adoção de muitas variáveis pode gerar dois problemas principais: superajuste (overfitting) e multicolinearidade.

O primeiro ocorre quando existem muitas variáveis no modelo a ponto de o modelo estimar com precisão extrema quase todas as observações. Isso é um problema pois o objetivo da análise de regressão é descrever uma relação entre variáveis, capturar seu comportamento médio. Um modelo superajustado não terá estimativas confiáveis para novas observações, e nem representará de forma adequada a relação entre as variáveis. O segundo problema já foi tratado, que é o problema de variáveis independentes \(X_i\) serem muito parecidas, ou carregarem a mesma informação para o modelo.

Por esses motivos, a literatura da área frequentemente usa ferramentas que avaliam, dentre um rol de possíveis variáveis independentes, as mais adequadas. As principais maneiras de seleção se dividem em dois grupos: métodos stepwise e métodos de regularização.

O método stepwise se desdobra em três abordagens: forward selection, backward selection e stepwise selection. Inicialmente escolhe-se uma medida de performance do modelo, como \(R^2\) ou significância do teste F. Iniciando com um modelo nulo, sem variáveis independentes, o forward selection adiciona uma variável candidata, avalia as medidas de performance, e em seguida a retira do modelo. Isso é feito iterativamente para todas as candidatas, onde no fim é escolhida a de melhor performance. Com a inclusão dessa, agora todas as demais são novamente testadas. Esse processo é repetido até que a inclusão de novas variáveis não aprimore o modelo.

O backward selection é similar, porém inicia-se com todas as variáveis incluídas no modelo, modelo completo, e retira-se uma a uma até verificar o ponto de melhor ajuste do modelo.

Já o stepwise selection é uma junção dos anteriores. Inicia-se tal qual o método backward e retira-se uma variável por vez. Porém agora, a cada retirada, as demais variáveis que já foram descartadas são incluídas novamente e sua performance é avaliada. Ou seja, isso permite uma maior combinação de variáveis testadas no modelo.

Embora seja uma forma automatizada de avaliar as principais variáveis independentes do modelo, o método stepwise não avalia possíveis efeitos de multicolinearidade entre variáveis, e é importante lembrar que a multicolinearidade “infla” ou melhora erroneamente algumas estatísticas de ajuste.

Já os métodos de regularização, lasso regression, ridge regression e elastic net regularization, são métodos concebidos em situações em que existem mais variáveis que observações, e servem para escolher as principais variáveis desse montante. Em especial, a regularização via elastic net é uma combinação de lasso e ridge regression, e é capaz de “escolher” a variável mais importante dentre as candidatas, incluindo uma condição de não escolher variáveis fortemente correlacionadas.

A técnica geralmente resulta em uma estimativa mais precisa dos parâmetros que MQO, porém faz isso introduzindo um pequeno viés na estimativa. Veja que MQO são os estimadores não viesados mais precisos, porém existem outros com maior precisão, ainda que com viés de estimativa.

5 Extensões de Modelos Lineares

Muitas análises podem ser realizadas com modelos de regressão da forma que foram apresentadas até aqui. Entretanto, a ciência florestal se depara com uma miríade de casos e tipos de variáveis que ocasionalmente violam mais que apenas os pressupostos da regressão.

5.1 Modelos Lineares Generalizados

Um exemplo disso é, por exemplo, se \(Y\) não for uma variável contínua, como tem sido tratado até aqui, e sim uma contagem, como o número de frutos de uma certa espécie. Veja que agora \(Y\) certamente não segue uma distribuição normal, então é preciso encontrar uma maneira de se trabalhar com tal tipo de variável. Outro caso seria modelar a proporção de mortalidade de um povoamento, uma variável contínua, porém limitada entre 0 e 1. A mudança da distribuição da variável resposta é responsabilidade do que hoje ficou consolidado como Modelos Lineares Generalizados, GLM na sigla em inglês, pois generalizam, sob certas condições, a distribuição da variável resposta. A técnica é, na verdade, uma compilação de esforços pontuais da literatura estatística, e coube a McCullagh e Nelder consolidar e generalizar esses esforços, no que hoje são os GLM (McCULLAGH, 2019).

Para o exemplo dos dados de contagem, é possível utilizar a distribuição de Poisson. Para a proporção, utilizar uma distribuição Binomial, entre outras. Ainda assim, busca-se modelar a média, esperança, da distribuição, porém agora essas não possuem um parâmetro de média \(\mu\) tal qual a distribuição normal, e por isso a relação

\[ E[Y] = \mu = X\beta \]

não é mais válida. No caso das distribuições de Poisson e Binomial, as relações se tornariam, respectivamente,

\[ E[Y] = \lambda = e^{X\beta} \qquad Y \sim \operatorname{Pois}(\lambda) \]

\[ E[Y] = \pi = \frac{e^{X\beta}}{1 + e^{X\beta}} \qquad Y \sim \operatorname{Bern}(\pi) \]

Que, resolvendo para \(X\beta\), chega-se em

\[ \log(\lambda) = X\beta \]

\[ \log\left(\frac{\pi}{1-\pi}\right) = X\beta \]

Veja que \(X\beta\), que pode ser chamado de preditor linear, não se liga diretamente com a média da distribuição, mas sim com uma função de transformação. Por isso, essa função é chamada de função de ligação. As funções de ligação fornecidas no exemplo acima são as funções de ligação canônicas dessas distribuições, ou seja, existem funções de ligação de referência para cada distribuição, e são as que naturalmente surgem ao se derivar os preditores lineares. Entretanto, é possível associar outras funções de ligação que não as canônicas. A escolha de uma distribuição e função de ligação adequadas é crucial nos modelos lineares generalizados.

O método de estimativa dos parâmetros \(\hat\beta\) é derivado do método de máxima verossimilhança, que com o devido desenvolvimento percebe-se que se recai em um método de mínimos quadrados ponderados, tal qual na estimativa de regressão ponderada. Porém agora os parâmetros são funções de si mesmos, o que impede solução analítica e requer o uso de algoritmos de otimização para convergência do ponto de máxima verossimilhança.

Um dos algoritmos tradicionalmente utilizados para isso é o algoritmo de Newton-Raphson. Ao conciliar esse algoritmo com o método de máxima verossimilhança necessário para os GLM, se chega em uma resolução final chamada de método dos Mínimos Quadrados Ponderados Iterativamente, IWLS na sigla em inglês:

\[ \hat\beta^{(t+1)} = (X'W^{(t)}X)^{-1}X'W^{(t)}z^{(t)} \]

Onde \(t\) representa a \(t\)-ésima iteração do algoritmo, \(W\) é uma matriz de pesos recalculada a cada iteração, e \(z\) é o vetor da variável dependente ajustada para os dados a cada iteração.

Tal qual na análise de regressão tradicional, também é possível realizar uma análise similar à ANOVA, porém essa agora é amparada pela comparação de verossimilhanças das hipóteses testadas, e a medida comumente utilizada é a Deviance, logaritmo da razão entre duas verossimilhanças, que segue uma distribuição qui-quadrado.

Assim, a versão análoga à análise de variância agora se chama Análise de Deviance, e todos os testes de hipótese associados são realizados com base na comparação de verossimilhanças das hipóteses testadas, como por exemplo o teste de razão de verossimilhança, TRV.

As análises de resíduos também mudam, pois agora não existem mais resíduos ordinários ou estudentizados, mas sim resíduos quantílicos aleatorizados, que sob hipótese nula seguem uma distribuição normal. Assim, é possível avaliar se esses estão bem distribuídos. A pesquisadora brasileira Clarice Demétrio é uma das autoras de uma análise muito utilizada no mundo para isso, chamada da análise de Half-normal Plot (HNP), através do pacote homônimo lançado para a linguagem R.

Para variáveis de proporção ou probabilidade de ocorrência, também são usadas medidas como taxa de acerto da ocorrência ou não de observações, chamadas de sensitividade e especificidade. Também existem análises visuais como a curva ROC, Curva do Receptor-Operador (Receiver-Operator Curve), e a área abaixo da curva ROC, chamada de AUC (Area Under Curve).

O uso de GLM não está restrito a variáveis que não sejam contínuas. Se for verificada a violação de pressupostos de normalidade dos resíduos, é uma boa prática adotar modelos generalizados com distribuições assimétricas, como Gamma ou Weibull, em vez de buscar uma transformação dos dados. Em verdade, qualquer distribuição de probabilidade que pertença à família exponencial de distribuições de probabilidade pode ser utilizada. Nessa família se encaixam as distribuições Normal, Poisson, Binomial, Gamma, Weibull, Exponencial, Binomial Negativa, Log-Normal, Geométrica, Hipergeométrica, entre outras.

5.2 GAMLSS

Estendendo ainda mais os modelos lineares generalizados, existem os Modelos Aditivos Generalizados para Locação, Escala e Forma, GAMLSS na sigla em inglês, que permitem modelar não apenas a esperança da variável resposta, como também outros momentos da distribuição, como a variância, assimetria e curtose.

5.3 Modelos com efeito aleatório

Outra classe de modelos são os modelos com efeito aleatório, comumente chamados de modelos mistos. Tais modelos são tipicamente empregados quando existe algum nível de organização entre observações, que as torna correlacionadas, algo que fere o pressuposto de independência entre observações.

Um claro exemplo dessa condição são os modelos de afilamento, pois cada observação de diâmetro dentro de cada árvore está muito relacionada com o valor anterior, pois naturalmente se espera que o diâmetro diminua ao longo do aumento da altura do fuste. Ainda assim, as árvores que compõem a amostra podem ser independentes entre si. Assim, modelos mistos possuem o componente fixo, que são os parâmetros \(\beta\) tal qual na regressão tradicional, porém existem ainda parâmetros \(b\) aleatórios, e existe um \(b\) para cada fator de agrupamento, que nesse exemplo seriam as árvores. Em outras palavras, condicionado ao efeito das árvores, as observações serão independentes:

\[ E[y_{ij} \mid x_{ij}; b_j] = \beta_0 + b_{0j} + (\beta_1 + b_{1j})x_{ij} \]

Onde \(y_{ij}\) é o \(i\)-ésimo diâmetro da \(j\)-ésima árvore, e \(b_j\) são os efeitos aleatórios de cada árvore.

A principal vantagem de utilizar essa técnica é a possibilidade de capturar a variabilidade de uma variável não observada, chamada de variável latente (FARAWAY, 2016). Isso é obtido pois \(b_j\) possuem um componente de variância \(\sigma_b^2\), de forma que agora a variabilidade total do modelo é dada por \(\sigma^2 + \sigma_b^2\), isto é, parte da variabilidade que antes era acumulada no erro agora é explicada por uma variável não observada.

Um modelo de efeito aleatório comumente utilizado é o delineamento de blocos ao acaso (DBA), na experimentação estatística, muito embora o DBA não seja ensinado sob essa perspectiva. Veja que se sabe que existem os blocos, porém não existe medida para o efeito do bloco, apenas conseguimos separar parte da variabilidade.

6 Modelos Não Lineares

Por fim, existem os modelos que não são lineares. Esses não possuem solução analítica para obtenção dos parâmetros, isto é, não existe uma fórmula \(\hat\beta = (X'X)^{-1}X'Y\) para obtenção dos parâmetros, e requerem o uso de algoritmos de otimização que “procuram” a melhor combinação de valores dos parâmetros que minimizem o erro.

Apesar de serem mais complicados de ajustar, os modelos não lineares são frequentes na ciência, pois sempre são construídos com um propósito específico, isto é, querem representar alguma lei ou fenômeno da natureza. A ciência florestal faz ótimo uso de tais modelos, como por exemplo a classe de modelos de crescimento, como os modelos de Chapman-Richards e de Gompertz, por exemplo, que foram construídos para representar o ritmo de crescimento de populações ou de indivíduos.

Modelo de Gompertz:

\[ y = A e^{b e^{cx}} \]

Modelo de Chapman-Richards:

\[ y = A\left[1 - e^{-bx}\right]^c \]

Onde \(A\), \(b\) e \(c\) são os parâmetros do modelo.

Nos modelos não lineares, frequentemente os parâmetros possuem uma interpretação lógica própria. No caso dos modelos acima, o parâmetro \(A\) representa a assíntota, que é o valor teórico que \(y\) pode assumir conforme \(x \to \infty\). Ou seja, se \(y\) for volume e \(x\) for o tempo, então o parâmetro \(A\) representa o volume máximo que uma árvore ou aquela população pode atingir.

O método de estimativa normalmente recai sobre o método da máxima verossimilhança. Porém, como agora a estimativa dos parâmetros depende deles mesmos, é preciso usar algum método iterativo para sua resolução, como o algoritmo de Newton-Raphson ou o algoritmo de Levenberg-Marquardt.

Veja que, mesmo no modelo não linear, assume-se uma distribuição para \(Y\), normalmente distribuição normal, de forma que

\[ E[Y \mid X] \sim N(f(X), \sigma^2) \]

Onde \(f(x)\) é a função não linear.

Assim, tomando-se a distribuição gaussiana e o modelo de Gompertz como referência, o método de máxima verossimilhança ficaria escrito como

\[ L(A,b,c;y) = \prod_{i=1}^{n} \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{1}{2}\left(\frac{y - A e^{b e^{cx}}}{\sigma}\right)^2} = (2\pi\sigma)^{-n/2} e^{-\frac{1}{2\sigma^2}\sum_{i=1}^{n}(y - A e^{b e^{cx}})^2} \]

Que, ao aplicar o logaritmo, resulta na log-verossimilhança

\[ lL(A,b,c;y) = -\frac{n}{2}\log(2\pi) - n\log(\sigma^2) - \frac{1}{2\sigma^2}\sum_{i=1}^{n}(y - A e^{b e^{cx}})^2 \]

Onde \(lL(A,b,c;y)\) é a função de log-verossimilhança.

Assim, utiliza-se um método como Newton-Raphson para encontrar os valores de \(\sigma^2\), \(A\), \(b\) e \(c\) que maximizam a log-verossimilhança. Como o método de máxima verossimilhança garante as propriedades assintóticas de normalidade da distribuição dos parâmetros, então é possível realizar testes de hipótese e construir intervalos de confiança para esses modelos.

No entanto, outra maneira de encontrar os parâmetros é minimizando o erro \(S\), que recai no que é chamado de Mínimos Quadrados Não Lineares (MQNL):

\[ S = \sum_{i=1}^{n} e_i^2 = \sum_{i=1}^{n}\left(y_i - f(x)\right)^2 \]

7 Conclusão

A análise de regressão constitui uma das ferramentas estatísticas mais versáteis e fundamentais na engenharia florestal, permitindo compreender e modelar relações entre variáveis ambientais e mensuráveis da floresta. Seu papel vai além da simples descrição de padrões: trata-se de uma técnica robusta para a inferência, previsão e tomada de decisão técnica e científica.

Como demonstrado ao longo do presente texto, desde os modelos lineares ajustados por mínimos quadrados ordinários até os modelos não lineares e com efeitos aleatórios, a regressão oferece um arcabouço metodológico poderoso que pode ser adaptado às mais diversas estruturas de dados observadas no contexto florestal. Modelos generalizados e suas extensões, como GAMLSS e modelos mistos, ampliam significativamente a aplicabilidade da regressão para cenários em que os pressupostos clássicos não são atendidos, permitindo análises consistentes mesmo em situações complexas, como dados correlacionados, heterocedásticos ou com distribuições assimétricas.

A prática da modelagem regressiva exige, no entanto, o domínio de seus fundamentos estatísticos, o cuidado com a escolha e interpretação de variáveis, a verificação dos pressupostos, e o uso criterioso de medidas de ajuste e inferência. Isso é particularmente relevante no manejo florestal, onde as decisões técnicas frequentemente dependem da qualidade das estimativas fornecidas por modelos empíricos.

Portanto, o domínio da análise de regressão, em suas múltiplas vertentes, configura-se não apenas como um diferencial, mas como uma competência essencial ao engenheiro florestal contemporâneo. Ela proporciona rigor estatístico, flexibilidade analítica e robustez interpretativa para enfrentar os desafios da quantificação, monitoramento e previsão de variáveis ecológicas e produtivas em ecossistemas florestais.

8 Referências

BRASIL. Conselho Nacional do Meio Ambiente – CONAMA. Resolução nº 406, de 2 de fevereiro de 2009. Dispõe sobre critérios para o uso de resíduos de serviços de saúde em obras de construção civil. Diário Oficial da União: seção 1, Brasília, DF, 17 fev. 2009.

FARAWAY, J. J. Extending the linear model with R: generalized linear, mixed effects and nonparametric regression models. Chapman and Hall/CRC, 2016.

MACHADO, S. A.; FIGUEIREDO FILHO, A. Dendrometria. 2. ed. Guarapuava: Unicentro, 2005. 316 p.

McCULLAGH, P. Generalized Linear Models. Routledge, 2019.

PARRESOL, B. R. Additivity of Nonlinear Biomass Equations. Canadian Journal of Forest Research, v. 31, p. 865–878, 2001.

SCHNEIDER, P. R. et al. Análise de regressão aplicada à Engenharia Florestal. 2. ed. Santa Maria: FACOS, 2009. 312 p.

SCHÖEPFER, W. Automatisierung des massen, sorten und wertberechnung stenender waldbestande schriftenreihe Bad. Wurtt-Forstl, 1966.

SCHUMACHER, F. X.; HALL, F. S. Logarithmic expression of timber-tree volume. Journal of Agricultural Research, v. 47, n. 9, p. 719–734, 1933.

SILVA, E. N.; SANTANA, A. C. Modelos de regressão para estimação do volume de árvores comerciais, em florestas de Paragominas. Revista Ceres, v. 61, n. 5, p. 631–636, 2014.

VERRA. VM0010 – Methodology for Improved Forest Management: Conversion from Logged to Protected Forest. v. 1.3. Washington, DC: Verra, 2020. Disponível em: https://verra.org. Acesso em: 4 jun. 2025.

WEISKITTEL, A. R. et al. Forest Growth and Yield Modeling. 1. ed. John Wiley & Sons, 2011. 415 p.