SUPERCAT.DEV

Supponiamo di osservare un processo nel quale certi eventi si presentano a intervalli irregolari.

Potrebbero essere:

arrivi di un autobus
comparsa di un certo risultato
successi in una sequenza di prove
segnali registrati nel tempo

Conosciamo la durata degli intervalli fra un evento e il successivo e vogliamo stimare quanto siano lunghi in media.

Una strategia apparentemente naturale è:

Arrivo in un istante scelto a caso, guardo l'intervallo nel quale sono capitato e registro la sua lunghezza.

Il problema è che questa osservazione non campiona gli intervalli tutti con la stessa probabilità.

Un intervallo lungo contiene più possibili istanti di arrivo.

Perciò viene intercettato più spesso.

Questo effetto è chiamato paradosso dell'ispezione.

Il paradosso non consiste in una contraddizione matematica. Nasce dal fatto che stiamo confrontando due protocolli di campionamento diversi:

scegliere un intervallo a caso

contro:

scegliere un istante a caso
poi osservare l'intervallo che contiene quell'istante

Vediamo la differenza con un esempio che possiamo contare esattamente.

Un piccolo calendario di intervalli

Immaginiamo di avere esattamente:

50 intervalli di lunghezza 1
50 intervalli di lunghezza 5

In totale abbiamo quindi:

100 intervalli

Se scegliamo un intervallo uniformemente tra i 100, le due lunghezze hanno probabilità:

$$ \begin{gathered} P(L=1) = 1/2 \ P(L=5) = 1/2 \end{gathered} $$

La lunghezza media è:

E[L]
=
(1·50 + 5·50) / 100
=
300/100
=
3

Questa è la media degli intervalli come oggetti.

Ora scegliamo un istante, non un intervallo

Gli intervalli corti occupano complessivamente:

50 · 1
=
50

unità di tempo.

Gli intervalli lunghi occupano invece:

50 · 5
=
250

unità di tempo.

La linea temporale contiene quindi:

50 + 250
=
300

possibili unità di osservazione.

Se scegliamo una di queste 300 unità uniformemente, la probabilità di cadere in un intervallo di lunghezza 1 è:

50/300
=
1/6
≈
16,67%

mentre la probabilità di cadere in un intervallo di lunghezza 5 è:

250/300
=
5/6
≈
83,33%

Gli intervalli lunghi costituiscono soltanto metà degli intervalli, ma contengono cinque volte più istanti ciascuno.

L'osservatore li incontra quindi cinque volte più spesso.

La media vista dall'osservatore

La lunghezza media dell'intervallo intercettato diventa:

$$ E[L*] = 1 \cdot 1/6 + 5 \cdot 5/6 $$

quindi:

E[L*]
=
1/6 + 25/6
=
26/6
=
13/3
≈
4,3333

Confrontiamo:

media degli intervalli            = 3
media dell'intervallo osservato   = 13/3 ≈ 4,3333

Non è cambiato nessun intervallo.

È cambiato come lo abbiamo scelto.

La regola generale: campionamento proporzionale alla lunghezza

Supponiamo che una lunghezza l abbia probabilità originaria:

$$ P(L=l) $$

quando scegliamo un intervallo uniformemente.

Un intervallo di lunghezza l contiene l volte più possibili istanti di osservazione di un intervallo di lunghezza 1.

Perciò, osservando a un istante casuale, il suo peso diventa proporzionale a:

$$ l \cdot P(L=l) $$

Per normalizzare dividiamo per la lunghezza media:

P(L*=l)
=
l · P(L=l)
---------------
E[L]

Questa è la distribuzione distorta dalla lunghezza, o length-biased distribution.

La probabilità originaria non viene sostituita da una nuova legge fisica. Stiamo descrivendo la distribuzione prodotta da un diverso metodo di osservazione.

Anche la nuova media ha una forma semplice

Usando la formula precedente:

$$ E[L*] = \sum l \cdot P(L*=l) $$

sostituiamo il peso distorto:

$$ E[L*] = \sum l \cdot l P(L=l) / E[L] $$

quindi:

E[L*]
=
E[L²]
------
 E[L]

Nel nostro esempio:

E[L²]
=
(1² + 5²)/2
=
13

perciò:

$$ E[L*] = 13/3 $$

come avevamo trovato contando direttamente le 300 unità temporali.

Perché la varianza conta

Se tutti gli intervalli avessero la stessa lunghezza, per esempio sempre 3, non ci sarebbe alcun bias:

$$ \begin{gathered} E[L] = 3 \ E[L*] = 3 \end{gathered} $$

Il paradosso compare perché le durate variano.

Infatti:

$$ E[L^{2}] = \operatorname{Var}(L) + E[L]^{2} $$

quindi:

$$ E[L*] = E[L] + \operatorname{Var}(L)/E[L] $$

La differenza è:

$$ E[L*] - E[L] = \operatorname{Var}(L)/E[L] $$

Se la varianza è positiva, la media vista da un osservatore casuale è necessariamente più grande della media degli intervalli.

Nel nostro modello:

E[L]   = 3
Var(L) = 4

quindi:

$$ E[L*] = 3 + 4/3 = 13/3 $$

Il modello di Foata e Fuchs: successi in una sequenza Bernoulli

Consideriamo ora una sequenza di prove indipendenti.

A ogni data abbiamo:

successo       con probabilità p
insuccesso     con probabilità q = 1-p

Possiamo pensare, per esempio, a lanci ripetuti di un dado e chiamare successo:

"esce 6"

In questo caso:

$$ p = 1/6 $$

La distanza T fra due successi consecutivi ha distribuzione geometrica:

$$ P(T=t) = p q^{t-1} t=1,2,... $$

come nell'articolo 14.

La sua media è:

$$ E[T] = 1/p $$

Per il dado:

E[T]
=
6

Questa è la distanza media fra due 6 consecutivi quando campioniamo gli intervalli uno dopo l'altro.

Arriviamo invece in una data casuale

Ora immaginiamo un ispettore che arriva a una data molto lontana dall'inizio della sequenza.

Chiamiamo:

U = tempo trascorso dall'ultimo successo
V = tempo fino al prossimo successo

L'intervallo che contiene la data di ispezione ha lunghezza:

$$ T* = U + V $$

Nel modello discreto di Foata e Fuchs, per date sempre più lontane dall'origine:

V

ha la stessa legge geometrica del normale tempo fra successi, mentre:

U

ha la stessa legge di:

T' - 1

con T' geometrica indipendente e con lo stesso parametro p.

Quindi l'intervallo osservato tende ad avere la stessa distribuzione di:

T* = T + T' - 1

con T e T' geometriche indipendenti.

La media dell'intervallo osservato

Poiché:

E[T]  = 1/p
E[T'] = 1/p

otteniamo:

$$ E[T*] = 1/p + 1/p - 1 $$

ossia:

$$ E[T*] = 2/p - 1 $$

Per una moneta equa:

$$ p = 1/2 $$

quindi:

intervallo medio normale       = 2
intervallo medio ispezionato   = 3

Per il nostro dado, osservando i 6:

$$ p = 1/6 $$

abbiamo:

intervallo medio normale
=
6

ma:

intervallo medio contenente
una data di ispezione casuale
=
2·6 - 1
=
11

L'ispettore registra quindi, in media, un intervallo quasi doppio rispetto alla distanza media fra 6 consecutivi.

Possiamo ritrovare la distribuzione con il bias di lunghezza

Per la geometrica:

$$ P(T=t) = p q^{t-1} $$

e:

$$ E[T]=1/p $$

Applicando il campionamento proporzionale alla lunghezza:

P(T*=t)
=
t · p q^(t-1)
-------------
    1/p

quindi:

$$ P(T*=t) = t p^{2} q^{t-1} $$

La stessa formula nasce da:

T* = T + T' - 1

perché per ottenere T*=t ci sono esattamente t coppie positive:

(T,T')

con:

T + T' = t+1

Ognuna ha probabilità:

$$ p^{2} q^{t-1} $$

quindi il totale è:

$$ t p^{2} q^{t-1} $$

Abbiamo raggiunto lo stesso risultato da due strade diverse:

bias di lunghezza
↔
somma di due attese geometriche meno 1

Attenzione: il prossimo successo non è diventato meno probabile

Questo punto evita una confusione importante con la gambler's fallacy.

Nel modello Bernoulli indipendente, se siamo arrivati oggi e non è ancora comparso il prossimo successo, la probabilità del successo alla prossima prova resta:

$$ p $$

La memoria del processo non è cambiata.

In particolare, il tempo futuro V fino al prossimo successo resta geometrico con media:

$$ 1/p $$

Il paradosso riguarda invece la lunghezza totale dell'intervallo nel quale siamo capitati.

Un intervallo lungo ha più punti nei quali l'ispettore può arrivare.

Quindi viene sovracampionato.

Non stiamo dicendo:

"siccome è passato molto tempo,
il successo è diventato meno probabile"

Stiamo dicendo:

"se scelgo un istante a caso,
è più facile che quell'istante appartenga
a un intervallo lungo"

Sono affermazioni completamente diverse.

Verifichiamo il piccolo modello in C#

Lo standalone C# associato a questo articolo è:

ParadossoIspezione.cs

Per il catalogo:

50 intervalli da 1
50 intervalli da 5

possiamo calcolare direttamente entrambe le medie.

int[] lunghezze = { 1, 5 };
int[] frequenze = { 50, 50 };

long numeroIntervalli = 0;
long tempoTotale = 0;
long sommaQuadrati = 0;

for (int i = 0; i < lunghezze.Length; i++)
{
    numeroIntervalli += frequenze[i];
    tempoTotale +=
        (long)lunghezze[i] * frequenze[i];
    sommaQuadrati +=
        (long)lunghezze[i]
        * lunghezze[i]
        * frequenze[i];
}

double mediaIntervalli =
    (double)tempoTotale / numeroIntervalli;

double mediaIspezionata =
    (double)sommaQuadrati / tempoTotale;

Console.WriteLine(mediaIntervalli);   // 3
Console.WriteLine(mediaIspezionata); // 4,333333...

Non è Monte Carlo: stiamo pesando esattamente tutti gli intervalli e tutti gli istanti del piccolo modello.

Il file standalone associato all'articolo aggiunge anche:

probabilità osservate 1/6 e 5/6
formula geometrica
media 2/p-1
simulazione riproducibile come controllo empirico

Il punto pratico

Il paradosso dell'ispezione insegna una lezione che va oltre i tempi di attesa.

Il dato che osserviamo può dipendere dal meccanismo con cui abbiamo ottenuto il campione.

Nel nostro esempio:

scegliere un intervallo

produce una distribuzione.

Scegliere invece:

un istante
→
poi l'intervallo che lo contiene

produce una distribuzione diversa, perché gli intervalli lunghi hanno più occasioni di essere selezionati.

La regola generale è:

$$ P(L*=l) = l P(L=l) / E[L] $$

con:

$$ E[L*] = E[L^{2}]/E[L] = E[L] + \operatorname{Var}(L)/E[L] $$

Nel processo Bernoulli:

$$ \begin{gathered} E[T] = 1/p \ E[T*] = 2/p - 1 \end{gathered} $$

Per i 6 di un dado:

6
→
11

senza che il dado abbia acquisito memoria e senza che la probabilità del prossimo 6 sia cambiata.

Nel prossimo articolo useremo un'altra idea molto importante: quando abbiamo moltissime prove e un evento raro, una distribuzione binomiale può essere approssimata sorprendentemente bene da una Poisson.