Econometria

Simulated Based Estimation and bad models

February 27, 2024

I recently learned about simulated based estimation and we had a very interesting discussion in class about one limitation of this. I decided to come up with an example to illustrate the issue and I think it is worth sharing. This post will be in English - unlike every other post so far - because this discussion was in English. I will start explaining what simulation based estimation is to let everyone understand the example.

Viés em Diferenças em Diferenças

December 29, 2023

Sim, eu nunca achei que eu ia chegar a isso. Mas cá estamos: um post sobre viés em diferenças em diferenças. Esse é um tópico relativamente falado em econometria e com uns exemplos legais, então eu decidi fazer esse post. Sempre que a gente tem dados em painel, a reação pavloviana é dizer “efeitos fixos”. A ideia é que efeitos fixos capturam a heterogenidade não observada e isso potencialmente resolve problemas de viés de seleção.

MQO, MQO, MQO

February 8, 2022

Atualização em junho/2022: Tinha um erro em um dos passos da última seção. Devidamente corrigido. Ele altera algumas conclusões, mas o espírito do post se mantém Nós todos amamos Mínimos Quadrados Ordinários. Este post vai tratar exclusivamente de MQO, de umas cinco maneiras diferentes e uma delas é bem maluca. No post inteiro, eu vou utilizar o modelo linear $y = X\beta + u$, onde $u$ é o erro aleatório, $X$ é o regressor e $y$ é o regressando.

Concentração do Máximo

January 31, 2022

Este post é uma continuação do post sobre concentração de medida, e vai ser necessário para um post futuro. Naquele post eu falei sobre variáveis subgaussianas, para as quais a seguinte desigualdade vale: \[ P(|X| > t) \leq e^{-\frac{t^2}{2\sigma^2}} \] Agora suponha que você tem uma coleção de variáveis aleatórias, todas subgaussianas e não necessariamente independentes. Neste post, nós vamos cotar a probabilidade do máximo delas ser maior que um valor t.

Tratamento Sequencial I

January 13, 2022

Neste post, eu vou fingir que eu sou um microeconomista aplicado ou um médico e a minha pergunta é se um dado tratamento - no sentido literal se você for um médico - é mais eficiente que o outro. Nós estamos acostumados a pensar testes de hipótese da seguinte forma: nós temos $N$ observações, e algumas foram tratadas - talvez aleatoriamente, talvez selecionado em observáveis ou não observáveis. Nós então formulamos o teste de hipótese e buscamos cometer um erro do tipo I com uma probabilidade no máximo $\alpha$.

Componentes Principais e Variáveis Instrumentais

November 18, 2021

Eu já falei de variáveis instrumentais e de componentes principais. Eu nunca misturei os dois, apesar da ideia deste post ter me ocorrido a muito tempo. Eu já falei como muitos instrumentos causam viés e como componentes principais podem ser usados para resumir muitas variáveis. Naturalmente, alguém poderia se perguntar se a gente poderia passar componentes principais em um conjunto de instrumentos e usar apenas alguns poucos instrumentos que resumem a maior parte da variabilidade dos dados.

Bayesianismo e regularização

October 17, 2021

Este é um post de coisas que todo mundo deveria saber e não tem nada novo. Mas eu já vi gente falando bobagem sobre o tema - bobagem que eu já pensei. Infelizmente, este post só tem matemática e zero computação. Felizmente, a matemática é bem básica. Regularização Muita gente conhece métodos de regularização em machine learning, e eles já foram discutidos no blog. Vamos ficar no mundo de regressão linear.

Estimador James-Stein e admissibilidade

October 14, 2021

Antes do post: eu (e o Pedro, pelo jeito) andei sem tempo. O último post foi em junho. Julho, agosto e setembro foram enrolados, mas por um bom motivo. Com um pouco de sorte eu serei capaz de fazer posts com mais regularidade no resto do ano Eu já escrevi posts no blog sobre o LASSO, um método de estimação de modelos lineares que induz esparsidade. A motivação daquele post - e do meu interesse inicial no LASSO - era que o LASSO é uma maneira de selecionar variáveis automaticamente.

Mais raízes unitárias

June 24, 2021

O Pedro já fez um post sobre regressão espúria, que vai direto ao ponto. Mas faz muito tempo (2019) e recentemente isso voltou a moda eu decidi escrever sobre isso. O post do Pedro comete um pequeno deslize, que é fazer as coisas com uma tendência determinística. Algumas pessoas podem argumentar que “isso não é exatamente uma regressão espúria”: uma regressão espúria é o caso em que nós temos dois processos com raízes unitárias1!

Calculando graus de liberdade do Ridge

April 25, 2021

Não faz muito tempo, vieram me perguntar como acelerar um código em R que estava muito lento. A pessoa queria estimar vários modelos regularizados, entre eles LASSO, adaLASSO e Ridge. LASSO e adaLASSO já foram discutidos no blog, e o Ridge é um primo deles: no lugar de uma penalidade na forma $\sum_j |\beta_j|$, nós temos uma penalidade na forma $\sum_j \beta_j^2$. Eu não vou adentrar nos detalhes de ridge, mas é importante saber que ridge não induz esparsidade, ele simplesmente encolhe os coeficientes.

Concentração de Medida

November 21, 2020

Este é um post meio maluco, porque é absolutamente específico a coisas de machine learning e não é nem de perto uma aplicação prática. Mas é um tópico que é muito interessante e que eu acho que é bastante acessível. Vamos começar com um velho conhecido, a desigualdade de Chebyschev: \[P(|X-\mu| > t) \leq \frac{Var(x)}{t^2}\] Nós todos conhecemos essa desigualdade, que é usada como uma maneira de “provar” que a média amostral é um estimador consistente: a variância da média de um processo i.

Hamiltonian Monte Carlo

June 22, 2020

Nota: por um typo esse post saiu no blog antes de ficar completo, infelizmente. Essa versão conta com correções e bibliografia No milênio passado (ou seja, antes de maio), eu falei sobre MCMC, que é um método muito usado pela galera de bayesiana para amostrar a posterior de uma distribuição. O Random Walk Metropolis Hasting (RWMH), o algoritmo que eu apresentei naquele post, sempre me causou sentimentos contraditórios: a correção para amostrar a distribuição é simples e muito esperta.

Double Selection

May 1, 2020

Esse é um post de um tema bem importante que eu não vejo muita gente dando atenção - de repente é ignorância minha. O problema é bem simples: você vai estimar um efeito de tratamento. Você tem uma infinidade de controles. Você decide selecionar os controles usando algum método. Isso gera uma distribuição bimodal do parâmetro de tratamento se a variável excluída afeta o tratamento. Eu não sei se posto dessa maneira é extremamente surpreendente: soa como viés de variável omitida.

Viés de Atenuação

April 24, 2020

Esse é um desses posts curtos e simples, mas legalzinho. Surgiu de uma conversa minha com o Pedro e alguns de vocês já devem saber. É bem simples: suponha que você acha que na sua regressão x afeta y. O catch: você observa x com um erro, que é independente de x e do erro da regressão. A sua regressão vai sofrer com viés de atenuação. O parâmetro estimado vai ficar mais pŕoximo de zero, independente se ele é positivo ou negativo.

Erros padrões HAC

April 12, 2020

Provavelmente vocês já se depararam com a situação de que você precisa usar erros que corrigem para o fato do erro ser possivelmente autocorrelacionados ou heterocedásticos. Enquanto a parte de heterocedasticidade é bastante interessante, esse post vai focar no problema de erros consistentes para processos correlacionados. Para começar, suponha que temos um processo estocástico $u_t$ que é autocorrelacionado. Suponha que queremos calcular a média do processo, então teremos $1/T\sum_{t=1}^{T} u_t$.

Amostrando de distribuições difíceis: o Markov Chain Monte Carlo

February 8, 2020

Eu recentemente tive a chance de brincar com o Markov Chain Monte Carlo (MCMC daqui por diante) no contexto de DSGE - e quando eu digo brincar eu não quero dizer que usei o Dynare, por sinal. O algoritmo é bastante esperto e funciona surpreendentemente bem. Eu não vou me atrever a entrar nos detalhes de porque funciona, mas eu vou descrever o algoritmo com algum detalhe e mostrar um exemplozinhho de regressão Bayesiana.

Simulando o Teorema Central do Limite no R

November 3, 2019

O Teorema do Limite Central é um dos resultados mais importantes de toda a estatística. Como de praxe, a esmagadora maioria dos leitores foi apresenteado a esse belo resultado como uma sequência de manipulações de equações, quando não simplesmente ouviu seu enunciado sem mais explicações sobre sua importância e consequências. Como também é de praxe, a serventia da casa é falar de um assunto da maneira como gostaríamos de ter sido a ele introduzidos.

Regredindo séries temporais aleatórias para quem gosta de regressão

October 28, 2019

Para você que gosta de regressão eu pensei em um exercício bem boboca sobre séries temporais que ilustra muito bem o motivo por trás de perguntar: “essa série é estacionária?” ao ver uma regressão com dados observados ao longo do tempo. Se você não sabe o que são séries temporais ou processos estacionários este post talvez seja um tanto quanto etéreo para você e eu seriamente recomendo que você leia esse aqui ou este outro no lugar.

Visualizando um critério de estacionariedade em Processos AR

August 20, 2019

Eu volto ao mesmo tema, processos AR, com certa regularidade porque Séries Temporais são um excelente playground para brincar de fazer gifs. Animações e o componente da passagem do tempo inerente ao estudo de processos estocásticos combinam muito bem. Indo direto ao ponto, vamos lembrar do novo velho amigo o AR(1) em uma dimensão: \[y_t = \beta y_{t-1} + \mu_t\] Dizemos que $y_t$ é $n$-estacionário se no limite quando $t$ tende a infinito seu $n$-ésimo momento incondicional converge1.

Stranger things: Distribuição exata de IV em um exemplo extremamente simples

June 15, 2019

Esse post é uma consequência direta de um paper citado pelo Marcelo Medeiros em aula. Agradeço a referência Variáveis instrumentais (IV) são bastante utilizadas em economia para resolver o problema de endogenidade. Nós temos teoria assintótica para IV, que mostra que em condições bastante gerais IV converge. Mas a experiência mostra que IV pode ter um comportamento absolutamente aberrante, especialmente se você tem muitos instrumentos - curiosamente, um dos meus primeiros posts do blog foi sobre viés de IV com muitos instrumentos.

Comportamento de Random Walks

June 10, 2019

Um processo estocástico autoregressivo com $1$ lag, doravante chamado de AR1, é, no caso simplificado em uma dimensão que eu abordarei aqui, descrito como: \[y_t = \beta y_{t-1} + \mu_t\] Para algum $y_o = c$ e, no caso com que lidaremos hoje, $\beta \in \mathbb{R}$ e $\mu_t \sim N(0, \sigma^2)$, logo vale que $[_t] = 0 $. Variância e Esperança do Processo AR1 Esperança Vamos agora caracterizar o Valor Esperado e a Variância desse processo, assim como caracterizaríamos os dois primeiros momentos centrais de uma distribuição.

LASSO Adaptativo e Critérios de Informação para LASSO

May 2, 2019

Em um post anterior, eu falei do LASSO (Least Absolute Shrinkage and Select Operator). Como vamos explorar uma variação do LASSO hoje, eu vou repetir o problema que o LASSO resolvia: \[\hat{\beta}_{LASSO} \in \arg \min_{\beta} \displaystyle \sum_{i=1}^n (y_i - x_i \beta)^2 + \lambda \sum_{k=0}^p |\beta_k|\] (Onde $|.|$ é o valor absoluto do termo). E como eu já disse, o LASSO nos fornece uma maneira de selecionar quais variáveis entram no modelo ou não.

Verificando algumas propriedades de Mínimos Quadrados com o R

March 28, 2019

Para você, bravo leitor que conseguiu superar o título horrível deste post e abriu o link, devo algo interessante. Já adianto que normalidade (assintótica) de um estimador não é lá o assunto mais empolgante do mundo. Fiz esse post pensando que esse tema faz parte da longa lista de assuntos tratados de maneira assustadoramente teórica em salas de aula pelo mundo. Consistência assintótica, convergência em distribuição e Teorema do Limite Central são excelentes conceitos para serem introduzidos com uma abordagem computacional, do ver acontecendo.

Filtros: Uma Introdução

February 9, 2019

Um filtro (linear) é basicamente qualquer polinômio $\alpha(B)$ a ser aplicado a uma série. De maneira geral, podemos representar um filtro como: \[ \alpha(B) = \displaystyle \sum_{j=-\infty}^{\infty} a_j B^{j} \] Onde B é o operador backshift, logo para uma série temporal $y_t$, $By_t = y_{t-1}$ e $B^ny_t = y_{t-n}$. A forma acima é conhecida como a representação no domínio temporal (time domain) do filtro. Filtros podem “existir” em duas formas, que carregam a mesma informação: a de time domain e a frequency domain (que, em tradução literal, é o domínio da frequência ou domínio frequencial.

I Can't Get No Instruments: quando instrumentos são fracos

December 19, 2018

(O título desse post é uma piada com o título do capítulo do Mostly Harmless Econometrics sobre instrumentos) Variáveis instrumentais são amplamente usadas em econometria, por n motivos: erros nas variáveis, simultaneidade, viés de variável omitida, outras violações da hipótese usual de MQO $E(u|\textbf{X}) = 0$, em uma regressão $\textbf{y} = \textbf{X}\beta + \textbf{u}$. Encontrar bons instrumentos é notávelmente difícil, porque os instrumentos precisam obedecer a duas hipóteses: exogenidade e relevância.

RDD, inferência causal e um exemplo em R

December 13, 2018

Uma das coisas que mais me fascinam em econometria é inferência causal, a arte de separar o sinal do ruído. Boa parte do trabalho de economistas sérios que estudam temas aplicados é conseguir inferir relações causais e não meramente correlações de dados que não são laboratoriais. É difícil controlar todas as variáveis possíveis que afetem performance de alunos - não podemos designar pais atenciosos (!) - e impossível observar dois Brasis, um em que vigora uma regra $X$ e outro em que não vigora.

RDD, inferência causal e um exemplo em R

December 13, 2018

Testes de raiz unitária

October 19, 2018

Os autores deste blog foram confrontados com uma pergunta sobre o uso de testes de raiz unitária. Em linhas gerais, a pessoa já tinha passado o filtro Hodrick Prescott e o teste continuava indicando a presença de raiz unitária. Deveria este economista sentar e chorar? Ou continuar diferenciando a série? Neste post vamos mostrar que o teste Dickey-Fuller (ADF) - padrão para testar presença de raiz unitária - tem poder baixo se (1) o processo tem uma raiz próxima de unitária e (2) a amostra é pequena.

Identificação em VAR e Price Puzzle I

October 7, 2018

O VAR (Vector Autoregression, em inglês; em tradução livre, autoregressão vetorial) é um método padrão em estudos empíricos em macroeconomia. VARs são simplesmente empilhamentos de variáveis nas quais estimamos uma autoregressão. Para solidificar a ideia, suponha que temos duas variáveis $x_t,y_t$ em um vetor $\mathbf{x_t} = (x_t \phantom{0} y_t)'$. Um VAR seria: \[\mathbf{x_t} = C\mathbf{x_{t-1}} + \mathbf{u_t}\] Onde $C$ é uma matriz $2 \times 2$ e $\mathbf{u_t}$ é um vetor de choques, possivelmente correlacionados.

Identificação em VAR e Price Puzzle I

October 7, 2018

O LASSO

September 16, 2018

Este post vai tratar de um método de machine learning muito interessante e relativamente simples: o LASSO. LASSO significa Least Absolute Shrinkage and Select Operator. Como o nome sugere, o LASSO seleciona quais regressores são relevantes e quais não são. Ou seja, suponha que você é um pesquisador que tem 50 variáveis que são possíveis candidatos a variáveis explicativas de uma variável de interesse. O LASSO permite que você dê os 50 regressores para o computador e ele escolha quais são os relevantes.

Viés de variáveis instrumentais

August 19, 2018

Como prometido no post anterior, vamos usar simulação para testar algumas coisas. A primeira delas é um problema curioso e (relativamente) pouco explorado: o viés ao usarmos muitos instrumentos em variáveis instrumentais. O excelente Mostly Harmless Econometrics, de Angrist e Pischke, conta com uma discussão sobre o tema na seção 4.6.4 - não surpreendentemente chamada de Bias of 2SLS. Antes, uma recapitulação sobre variáveis instrumentais (se você não aprendeu sobre variáveis instrumentais, qualquer livro básico de econometria vai falar sobre o tópico): suponha que você tem o modelo $y =x\beta+e$ e você sabe que $E(ex) \neq 0$ - ou seja, temos um problema de endogenidade.