La legge dei grandi numeri, detta anche teorema di Bernoulli (in quanto la sua prima formulazione è dovuta a Jakob Bernoulli), descrive il comportamento della media di una sequenza di prove di una variabile casuale, indipendenti e caratterizzate dalla stessa distribuzione di probabilità ( misure della stessa grandezza, lanci della stessa moneta, ecc.), al tendere a infinito della numerosità della sequenza stessa.
Secondo la legge dei grandi numeri è ragionevolmente sicuro che la media, che determiniamo a partire da un numero sufficiente di campioni, sia sufficientemente vicina alla media vera, ovvero quella calcolabile teoricamente. Che cosa significhi "ragionevolmente sicuri" dipende da quanto vogliamo essere precisi nel nostro test: con dieci prove, avremmo una stima grossolana, con cento, ne otterremmo una molto più precisa, con mille, ancora di più, e così via: il valore di che siamo disposti ad accettare come sufficiente dipende dal grado di casualità che riteniamo necessario per il dato in questione.
In termini generici, per la legge dei grandi numeri si può dire:
Un caso particolare di applicazione della legge dei grandi numeri è la previsione probabilistica della proporzione di successi in una successione di realizzazioni indipendenti di un evento ossia la frequenza di nelle misurazioni: per che tende a infinito, la proporzione di successi converge alla probabilità di .
Unita a questa si ha un'altra nozione interessante, ossia la legge dei piccoli numeri, che va al di là del concetto di equiprobabilità e considera la dimensione del campione rispetto ai possibili eventi e conseguenti esiti. In particolare, a seguito di esperimenti ripetuti considerando un campione più piccolo, è molto più semplice allontanarsi dal valore atteso, banalmente perché avendo meno valori da considerare vi è più probabilità che essa si approssimi a un certo valore, sottostimando il numero di campioni per stime accurate. Essa fu teorizzata da Kahneman.[1]