Statistiche Campionarie Basate sulla Verosimiglianza

La Storia Dietro la Matematica

All'inizio del XVIII secolo, i matematici affrontavano un problema fondamentale: come estrarre informazioni affidabili da dati rumorosi e incompleti? Thomas Bayes, Daniel Bernoulli e Pierre-Simon Laplace furono tra i primi a riconoscere che la probabilità poteva essere usata "al contrario" — non per predire i dati da parametri noti, ma per inferire parametri da dati osservati.

Tuttavia, fu Ronald Aylmer Fisher (1890-1962), genetista e statistico britannico, a rivoluzionare completamente questo campo. Negli anni '20 del Novecento, Fisher lavorava alla Rothamsted Experimental Station, analizzando dati agricoli. Si rese conto che i metodi statistici esistenti erano inadeguati: mancavano di rigore matematico e di una teoria unificante.

Nel suo fondamentale articolo del 1922 "On the Mathematical Foundations of Theoretical Statistics", Fisher introdusse tre concetti rivoluzionari:

1. Il Principio di Verosimiglianza — L'idea che tutta l'informazione rilevante sui parametri contenuta nei dati è catturata dalla funzione di verosimiglianza
2. La Stima di Massima Verosimiglianza (MLE) — Un metodo sistematico per trovare i "migliori" stimatori
3. L'Informazione di Fisher — Una misura della precisione con cui un parametro può essere stimato

Fisher era noto per il suo carattere combattivo. Ebbe famose controversie con Karl Pearson e Jerzy Neyman sulla filosofia dell'inferenza statistica. Mentre Pearson preferiva il metodo dei momenti (più semplice ma meno efficiente), Fisher insisteva che la verosimiglianza forniva il framework teorico ottimale. La storia gli ha dato ragione: la MLE è oggi il metodo di stima parametrica più utilizzato in quasi tutti i campi scientifici.

Perché Importa

Le statistiche basate sulla verosimiglianza sono il fondamento dell'inferenza statistica moderna. Vengono utilizzate in:

• Machine Learning: addestramento di modelli probabilistici (regressione logistica, reti neurali, modelli di linguaggio)
• Medicina: stima dei tassi di efficacia dei farmaci in trial clinici
• Economia: stima di parametri in modelli econometrici (ARIMA, GARCH)
• Fisica: calibrazione di rivelatori di particelle e analisi di dati sperimentali
• Biologia: inferenza filogenetica, analisi di sequenze genomiche
• Finanza: valutazione di opzioni, stima della volatilità

Senza la teoria della verosimiglianza, non avremmo metodi rigorosi per quantificare l'incertezza delle nostre stime o per confrontare modelli competitivi.

Prerequisiti

• Concetti base di probabilità (variabili aleatorie, distribuzioni)
• Varianza e Momenti
• Calcolo differenziale (derivate, massimizzazione di funzioni)
• Conoscenza della Distribuzione Gaussiana

I Concetti Fondamentali

Prima di derivare le formule, dobbiamo costruire i mattoni concettuali partendo dai primi principi.

Che Cos'è la Verosimiglianza?

La verosimiglianza non è una probabilità. Questa distinzione è cruciale e spesso mal compresa.

Probabilità: Fissiamo il parametro \(\theta\) e chiediamo: "Quanto è probabile osservare diversi valori dei dati \(X\)?"

\[ P(X = x | \theta) = f(x | \theta) \]

Verosimiglianza: Fissiamo i dati osservati \(x\) e chiediamo: "Quanto sono 'plausibili' diversi valori del parametro \(\theta\) dato ciò che abbiamo osservato?"

\[ L(\theta | x) = f(x | \theta) \]

Nota: la funzione matematica è la stessa (\(f\)), ma il significato è opposto. La verosimiglianza \(L(\theta | x)\) non è una distribuzione di probabilità per \(\theta\) — non integra a 1 rispetto a \(\theta\).

Esempio Intuitivo: Immagina di osservare 8 teste su 10 lanci di moneta. - Se \(\theta = 0.5\) (moneta equa), la probabilità di questo risultato è \(\binom{10}{8}(0.5)^{10} \approx 0.044\) - Se \(\theta = 0.8\) (moneta truccata), la stessa probabilità è \(\binom{10}{8}(0.8)^8(0.2)^2 \approx 0.302\)

La verosimiglianza ci dice: "I dati sono circa 7 volte più verosimili se \(\theta = 0.8\) rispetto a \(\theta = 0.5\)."

Verosimiglianza per Campioni Indipendenti

Se abbiamo \(n\) osservazioni indipendenti e identicamente distribuite (i.i.d.) \(x_1, x_2, \ldots, x_n\), la verosimiglianza del campione completo è il prodotto delle verosimiglianze individuali:

\[ L(\theta | x_1, \ldots, x_n) = \prod_{i=1}^n f(x_i | \theta) \]

Perché il prodotto? Per l'indipendenza. La probabilità congiunta di eventi indipendenti è il prodotto delle probabilità individuali:

\[ P(A \cap B) = P(A) \cdot P(B) \quad \text{se } A \perp B \]

La Log-Verosimiglianza

In pratica, lavoriamo quasi sempre con la log-verosimiglianza:

\[ \ell(\theta) = \ln L(\theta) = \sum_{i=1}^n \ln f(x_i | \theta) \]

Perché prendere il logaritmo?

1. Prodotti → Somme: \(\ln(a \cdot b) = \ln a + \ln b\). Le somme sono molto più facili da derivare.
2. Stabilità numerica: Moltiplicare molte probabilità piccole (es. \(10^{-10} \times 10^{-12}\)) causa underflow sui computer. I logaritmi trasformano questi numeri in somme gestibili.
3. Monotonicità: Poiché \(\ln(x)\) è strettamente crescente, massimizzare \(\ell(\theta)\) equivale a massimizzare \(L(\theta)\).

Lo Stimatore di Massima Verosimiglianza (MLE)

Lo stimatore di massima verosimiglianza \(\hat{\theta}_{MLE}\) è il valore che massimizza la verosimiglianza:

\[ \hat{\theta}_{MLE} = \arg\max_{\theta} L(\theta) = \arg\max_{\theta} \ell(\theta) \]

Interpretazione: "Tra tutti i possibili valori di \(\theta\), quale rende i dati osservati i più plausibili?"

Per trovarlo, usiamo il calcolo differenziale:

1. Deriviamo \(\ell(\theta)\) rispetto a \(\theta\)
2. Poniamo la derivata uguale a zero (condizione del primo ordine)
3. Risolviamo per \(\theta\)
4. Verifichiamo che sia un massimo (non un minimo o punto di sella)

\[ \frac{d\ell}{d\theta} = 0 \quad \Rightarrow \quad \hat{\theta}_{MLE} \]

Derivazione Completa: Distribuzione Normale

Ora deriviamo gli stimatori MLE per la distribuzione più importante in statistica: la normale (o gaussiana).

Impostazione del Problema

Supponiamo di avere \(n\) osservazioni i.i.d. \(x_1, x_2, \ldots, x_n\) da una distribuzione normale con parametri ignoti \(\mu\) (media) e \(\sigma^2\) (varianza):

\[ X_i \sim \mathcal{N}(\mu, \sigma^2) \]

La funzione di densità di probabilità (PDF) della normale è:

\[ f(x | \mu, \sigma^2) = \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right) \]

Obiettivo: Trovare \(\hat{\mu}\) e \(\hat{\sigma}^2\) che massimizzano la verosimiglianza.

Passo 1: Costruire la Funzione di Verosimiglianza

Per \(n\) osservazioni i.i.d., la verosimiglianza è:

\[ L(\mu, \sigma^2 | x_1, \ldots, x_n) = \prod_{i=1}^n f(x_i | \mu, \sigma^2) \]

Sostituendo la PDF:

\[ L(\mu, \sigma^2) = \prod_{i=1}^n \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{(x_i-\mu)^2}{2\sigma^2}\right) \]

Possiamo separare il prodotto:

\[ L(\mu, \sigma^2) = \left(\frac{1}{\sqrt{2\pi\sigma^2}}\right)^n \exp\left(-\frac{1}{2\sigma^2}\sum_{i=1}^n(x_i-\mu)^2\right) \]

Semplificando:

\[ L(\mu, \sigma^2) = (2\pi\sigma^2)^{-n/2} \exp\left(-\frac{1}{2\sigma^2}\sum_{i=1}^n(x_i-\mu)^2\right) \]

Passo 2: Passare alla Log-Verosimiglianza

Prendiamo il logaritmo naturale di entrambi i lati. Ricordiamo le proprietà dei logaritmi: - \(\ln(a^b) = b\ln(a)\) - \(\ln(ab) = \ln(a) + \ln(b)\) - \(\ln(e^x) = x\)

\[ \ell(\mu, \sigma^2) = \ln L(\mu, \sigma^2) \]

\[ \ell(\mu, \sigma^2) = \ln\left[(2\pi\sigma^2)^{-n/2}\right] + \ln\left[\exp\left(-\frac{1}{2\sigma^2}\sum_{i=1}^n(x_i-\mu)^2\right)\right] \]

\[ \ell(\mu, \sigma^2) = -\frac{n}{2}\ln(2\pi\sigma^2) - \frac{1}{2\sigma^2}\sum_{i=1}^n(x_i-\mu)^2 \]

Espandiamo ulteriormente usando \(\ln(ab) = \ln a + \ln b\):

\[ \ell(\mu, \sigma^2) = -\frac{n}{2}\ln(2\pi) - \frac{n}{2}\ln(\sigma^2) - \frac{1}{2\sigma^2}\sum_{i=1}^n(x_i-\mu)^2 \]

Nota importante: Il termine \(-\frac{n}{2}\ln(2\pi)\) è una costante (non dipende da \(\mu\) o \(\sigma^2\)), quindi possiamo ignorarlo nella massimizzazione. Otteniamo:

\[ \ell(\mu, \sigma^2) = -\frac{n}{2}\ln(\sigma^2) - \frac{1}{2\sigma^2}\sum_{i=1}^n(x_i-\mu)^2 \]

Passo 3: Stimare \(\mu\) (Media)

Per trovare \(\hat{\mu}\), deriviamo \(\ell\) rispetto a \(\mu\) e poniamola uguale a zero.

Perché derivare? Ai punti di massimo (o minimo), la pendenza della funzione è zero. Stiamo cercando il picco della curva di log-verosimiglianza.

\[ \frac{\partial \ell}{\partial \mu} = \frac{\partial}{\partial \mu}\left[-\frac{n}{2}\ln(\sigma^2) - \frac{1}{2\sigma^2}\sum_{i=1}^n(x_i-\mu)^2\right] \]

Il primo termine non dipende da \(\mu\), quindi la sua derivata è zero:

\[ \frac{\partial \ell}{\partial \mu} = -\frac{1}{2\sigma^2} \frac{\partial}{\partial \mu}\sum_{i=1}^n(x_i-\mu)^2 \]

Calcoliamo la derivata della somma. Usando la regola della catena:

\[ \frac{\partial}{\partial \mu}(x_i-\mu)^2 = 2(x_i-\mu) \cdot (-1) = -2(x_i-\mu) \]

Quindi:

\[ \frac{\partial \ell}{\partial \mu} = -\frac{1}{2\sigma^2} \sum_{i=1}^n [-2(x_i-\mu)] \]

\[ \frac{\partial \ell}{\partial \mu} = \frac{1}{\sigma^2} \sum_{i=1}^n (x_i-\mu) \]

Poniamo la derivata uguale a zero (condizione del primo ordine):

\[ \frac{1}{\sigma^2} \sum_{i=1}^n (x_i-\mu) = 0 \]

Poiché \(\sigma^2 \neq 0\), possiamo moltiplicare entrambi i lati per \(\sigma^2\):

\[ \sum_{i=1}^n (x_i-\mu) = 0 \]

Espandiamo la somma:

\[ \sum_{i=1}^n x_i - \sum_{i=1}^n \mu = 0 \]

Il secondo termine è \(n\mu\) (sommiamo \(\mu\) per \(n\) volte):

\[ \sum_{i=1}^n x_i - n\mu = 0 \]

Risolviamo per \(\mu\):

\[ n\mu = \sum_{i=1}^n x_i \]

\[ \hat{\mu} = \frac{1}{n}\sum_{i=1}^n x_i = \bar{x} \]

Risultato: Lo stimatore MLE della media è la media campionaria \(\bar{x}\).

Interpretazione: Il valore di \(\mu\) che rende i dati più verosimili è esattamente la media dei dati. Intuitivamente: se i dati sono distribuiti attorno a \(\mu\), la migliore stima di \(\mu\) è il centro dei dati osservati.

Passo 4: Stimare \(\sigma^2\) (Varianza)

Ora troviamo \(\hat{\sigma}^2\). Deriviamo \(\ell\) rispetto a \(\sigma^2\) e poniamola uguale a zero.

Nota tecnica: Deriviamo rispetto a \(\sigma^2\) (non \(\sigma\)) perché rende i calcoli più semplici. \(\sigma^2\) è il parametro naturale della distribuzione normale.

\[ \frac{\partial \ell}{\partial \sigma^2} = \frac{\partial}{\partial \sigma^2}\left[-\frac{n}{2}\ln(\sigma^2) - \frac{1}{2\sigma^2}\sum_{i=1}^n(x_i-\mu)^2\right] \]

Calcoliamo le derivate dei due termini separatamente.

Primo termine: Usando \(\frac{d}{dx}\ln(x) = \frac{1}{x}\):

\[ \frac{\partial}{\partial \sigma^2}\left[-\frac{n}{2}\ln(\sigma^2)\right] = -\frac{n}{2} \cdot \frac{1}{\sigma^2} \]

Secondo termine: Riscriviamo come \(-\frac{1}{2}(\sigma^2)^{-1}\sum(x_i-\mu)^2\). Usando la regola della potenza \(\frac{d}{dx}x^{-1} = -x^{-2}\):

\[ \frac{\partial}{\partial \sigma^2}\left[-\frac{1}{2\sigma^2}\sum_{i=1}^n(x_i-\mu)^2\right] = -\frac{1}{2} \cdot (-1)(\sigma^2)^{-2}\sum_{i=1}^n(x_i-\mu)^2 \]

\[ = \frac{1}{2(\sigma^2)^2}\sum_{i=1}^n(x_i-\mu)^2 \]

Combinando i due termini:

\[ \frac{\partial \ell}{\partial \sigma^2} = -\frac{n}{2\sigma^2} + \frac{1}{2(\sigma^2)^2}\sum_{i=1}^n(x_i-\mu)^2 \]

Poniamo uguale a zero:

\[ -\frac{n}{2\sigma^2} + \frac{1}{2(\sigma^2)^2}\sum_{i=1}^n(x_i-\mu)^2 = 0 \]

Moltiplichiamo entrambi i lati per \(2(\sigma^2)^2\) per eliminare i denominatori:

\[ -n\sigma^2 + \sum_{i=1}^n(x_i-\mu)^2 = 0 \]

Risolviamo per \(\sigma^2\):

\[ n\sigma^2 = \sum_{i=1}^n(x_i-\mu)^2 \]

\[ \sigma^2 = \frac{1}{n}\sum_{i=1}^n(x_i-\mu)^2 \]

Ma attenzione! Abbiamo derivato rispetto a \(\sigma^2\) trattando \(\mu\) come noto. In realtà, \(\mu\) è ignoto e dobbiamo sostituirlo con la sua stima \(\hat{\mu} = \bar{x}\):

\[ \hat{\sigma}^2 = \frac{1}{n}\sum_{i=1}^n(x_i-\bar{x})^2 \]

Risultato: Lo stimatore MLE della varianza è la varianza campionaria (con denominatore \(n\)).

Nota importante sulla distorsione: Questo stimatore è distorto (biased). Il suo valore atteso è:

\[ E[\hat{\sigma}^2] = \frac{n-1}{n}\sigma^2 \neq \sigma^2 \]

Per ottenere uno stimatore non distorto, si usa il denominatore \(n-1\) invece di \(n\):

\[ s^2 = \frac{1}{n-1}\sum_{i=1}^n(x_i-\bar{x})^2 \]

Perché questa distorsione? Quando stimiamo \(\mu\) con \(\bar{x}\), "usiamo" un grado di libertà dei dati. La media campionaria \(\bar{x}\) è costruita per minimizzare la somma degli scarti quadratici, quindi \(\sum(x_i-\bar{x})^2\) sottostima sistematicamente \(\sum(x_i-\mu)^2\). La correzione \(n-1\) compensa questa sottostima.

Riepilogo delle Stime MLE per la Normale

Per un campione i.i.d. \(x_1, \ldots, x_n\) da \(\mathcal{N}(\mu, \sigma^2)\):

\[ \begin{align} \hat{\mu}_{MLE} &= \bar{x} = \frac{1}{n}\sum_{i=1}^n x_i \\ \hat{\sigma}^2_{MLE} &= \frac{1}{n}\sum_{i=1}^n(x_i-\bar{x})^2 \end{align} \]

Altri Esempi: Distribuzioni Esponenziale e Binomiale

Distribuzione Esponenziale

PDF: \(f(x|\lambda) = \lambda e^{-\lambda x}\) per \(x \geq 0\), \(\lambda > 0\)

Log-verosimiglianza:

\[ \ell(\lambda) = \sum_{i=1}^n \ln(\lambda e^{-\lambda x_i}) = n\ln\lambda - \lambda\sum_{i=1}^n x_i \]

Derivata:

\[ \frac{d\ell}{d\lambda} = \frac{n}{\lambda} - \sum_{i=1}^n x_i = 0 \]

Soluzione:

\[ \hat{\lambda}_{MLE} = \frac{n}{\sum_{i=1}^n x_i} = \frac{1}{\bar{x}} \]

La MLE del parametro di tasso è il reciproco della media campionaria.

Distribuzione Binomiale

PMF: \(P(X=k) = \binom{n}{k}p^k(1-p)^{n-k}\)

Per \(m\) ripetizioni indipendenti con \(k_1, \ldots, k_m\) successi:

Log-verosimiglianza:

\[ \ell(p) = \text{const} + \left(\sum_{i=1}^m k_i\right)\ln p + \left(mn - \sum_{i=1}^m k_i\right)\ln(1-p) \]

Derivata:

\[ \frac{d\ell}{dp} = \frac{\sum k_i}{p} - \frac{mn - \sum k_i}{1-p} = 0 \]

Soluzione:

\[ \hat{p}_{MLE} = \frac{\sum_{i=1}^m k_i}{mn} = \frac{\text{successi totali}}{\text{prove totali}} \]

La MLE della probabilità di successo è la proporzione empirica di successi.

Proprietà degli Stimatori MLE

1. Consistenza

Per \(n \to \infty\), \(\hat{\theta}_{MLE} \overset{P}{\to} \theta_0\) (converge in probabilità al valore vero).

Significato: Con abbastanza dati, la MLE trova il parametro vero.

2. Normalità Asintotica

Per \(n\) grande:

\[ \sqrt{n}(\hat{\theta}_{MLE} - \theta_0) \overset{d}{\to} \mathcal{N}(0, I(\theta_0)^{-1}) \]

dove \(I(\theta)\) è l'informazione di Fisher:

\[ I(\theta) = -E\left[\frac{\partial^2 \ell}{\partial \theta^2}\right] \]

Significato: La distribuzione campionaria della MLE è approssimativamente normale. Questo ci permette di costruire intervalli di confidenza e test di ipotesi.

3. Efficienza

Tra tutti gli stimatori non distorti, la MLE raggiunge la varianza minima asintoticamente (raggiunge il limite di Cramér-Rao).

Significato: Non esiste stimatore non distorto con varianza inferiore (asintoticamente). La MLE è "ottimale" in questo senso.

4. Invarianza

Se \(\hat{\theta}\) è la MLE di \(\theta\), allora \(g(\hat{\theta})\) è la MLE di \(g(\theta)\) per qualsiasi funzione \(g\).

Esempio: Se \(\hat{\sigma}^2\) è la MLE della varianza, allora \(\sqrt{\hat{\sigma}^2} = \hat{\sigma}\) è la MLE della deviazione standard.

Informazione di Fisher

L'informazione di Fisher quantifica quanto "informazione" un'osservazione fornisce sul parametro ignoto.

\[ I(\theta) = E\left[\left(\frac{\partial \ln f(X|\theta)}{\partial \theta}\right)^2\right] = -E\left[\frac{\partial^2 \ln f(X|\theta)}{\partial \theta^2}\right] \]

Interpretazione: - Maggiore \(I(\theta)\), più precisamente possiamo stimare \(\theta\) - La varianza asintotica della MLE è \(1/(nI(\theta))\)

Esempio per la Normale: Per \(X \sim \mathcal{N}(\mu, \sigma^2)\) con \(\sigma^2\) noto:

\[ I(\mu) = \frac{1}{\sigma^2} \]

Quindi \(\text{Var}(\hat{\mu}) \approx \frac{\sigma^2}{n}\), che corrisponde esattamente alla varianza della media campionaria.

Test di Rapporto di Verosimiglianza

La verosimiglianza non serve solo per stimare parametri, ma anche per confrontare modelli e testare ipotesi.

Statistica del Rapporto di Verosimiglianza

Per testare \(H_0: \theta \in \Theta_0\) contro \(H_1: \theta \in \Theta_1\):

\[ \Lambda = \frac{\max_{\theta \in \Theta_0} L(\theta)}{\max_{\theta \in \Theta_1} L(\theta)} \]

Sotto \(H_0\), per \(n\) grande:

\[ -2\ln\Lambda \overset{d}{\to} \chi^2_k \]

dove \(k\) è la differenza nel numero di parametri tra i modelli.

Esempio: Testare se una moneta è equa (\(H_0: p = 0.5\)) contro \(H_1: p \neq 0.5\).

Criteri di Selezione del Modello

AIC (Criterio di Informazione di Akaike)

\[ AIC = 2k - 2\ln L(\hat{\theta}) \]

dove \(k\) è il numero di parametri. Si sceglie il modello con AIC minimo.

Penalità per complessità: Il termine \(2k\) penalizza modelli con troppi parametri (evita overfitting).

BIC (Criterio di Informazione Bayesiano)

\[ BIC = k\ln n - 2\ln L(\hat{\theta}) \]

Penalizza più fortemente la complessità rispetto ad AIC (penalità \(k\ln n\) invece di \(2k\)).

Errori Comuni e Fraintendimenti

1. Verosimiglianza ≠ Probabilità: \(L(\theta|x)\) non è \(P(\theta|x)\). La verosimiglianza non è una distribuzione per \(\theta\).

2. La MLE può essere distorta: Come nel caso di \(\hat{\sigma}^2\) per la normale. Consistenza ≠ non distorsione.

3. La MLE può non esistere o non essere unica: In alcuni modelli patologici, la verosimiglianza può non avere un massimo ben definito.

4. Massimi locali: In modelli complessi (es. mixture models), \(\ell(\theta)\) può avere multipli massimi locali. Servono metodi numerici (EM algorithm, gradiente).

5. Piccoli campioni: Le proprietà ottimali della MLE sono asintotiche. Per \(n\) piccolo, altri stimatori potrebbero comportarsi meglio.

Variabili e Simboli

Simbolo	Nome	Descrizione
\(\theta\)	Parametro	Quantità ignota da stimare
\(X_i\)	Variabile aleatoria	Modello per l'\(i\)-esima osservazione
\(x_i\)	Osservazione	Valore realizzato di \(X_i\)
\(f(x\|\theta)\)	PDF/PMF	Funzione di densità/massa
\(L(\theta\|x)\)	Verosimiglianza	Plausibilità di \(\theta\) dati i dati
\(\ell(\theta)\)	Log-verosimiglianza	\(\ln L(\theta)\)
\(\hat{\theta}_{MLE}\)	Stimatore MLE	Valore che massimizza \(L\) o \(\ell\)
\(I(\theta)\)	Informazione di Fisher	Quantità di informazione su \(\theta\)
\(n\)	Dimensione campionaria	Numero di osservazioni

Concetti Correlati

• Metodo dei Momenti — Metodo alternativo di stima
• Intervalli di Confidenza — Costruiti usando la normalità asintotica della MLE
• Distribuzioni Gaussiane — La distribuzione più comune per MLE
• Varianza — Stimata tramite MLE
• Test di Ipotesi — Basati sul rapporto di verosimiglianza

Riferimenti Storici e Moderni

• Fisher, R. A. (1922). "On the mathematical foundations of theoretical statistics." Philosophical Transactions of the Royal Society A, 222:309-368.
• Fisher, R. A. (1925). "Theory of Statistical Estimation." Proceedings of the Cambridge Philosophical Society, 22:700-725.
• Casella, G., & Berger, R. L. (2002). Statistical Inference. Duxbury Press.
• Lehmann, E. L., & Casella, G. (1998). Theory of Point Estimation. Springer.