Νόμος των μεγάλων αριθμών

Γράφημα μέσου όρου αθροίσματος 2 ζαριών. Ο μέσος όρος αρχικά μεταβάλλεται, αλλά τελικά συγκλίνει προς την αναμενόμενη τιμή 7.

Ο Νόμος των Μεγάλων Αριθμών (Law of Large Numbers) είναι ένα από τα πιο γνωστά αποτελέσματα της Θεωρίας Πιθανοτήτων. Σύμφωνα με το θεώρημα κάτω από κατάλληλες υποθέσεις, ο δειγματικός μέσος μιας ακολουθίας ανεξάρτητων τυχαίων μεταβλητών που ακολουθούν μία κοινή κατανομή συγκλίνει προς τον θεωρητικό μέσο (η μέση τιμή) της κατανομής.

Παραδείγματα

Τα πιθανά αποτέλεσμα ενός δίκαιου νομίσματος μπορεί ναι είναι είτε κορώνα είτε γράμματα, με ίση πιθανότητα. Οπότε η αναμενόμενη αναλογία κορώνας και γραμμάτων είναι 1. Σύμφωνα με τον νόμο τον μεγάλων αριθμών όσο το πλήθος των δοκιμών (δοκιμές Μπερνούλι σε αυτό το παράδειγμα) τείνει στο άπειρο, η αναλογία κορώνα/γράμματα θα συγκλίνει στο 1.

Ο μέσος όρος 6 ζαριών πρέπει να είναι 3.5, καθώς όλες οι ζαριές έχουν πιθανά ενδεχόμενα 1,2,3,4,5,6 με ίση πιθανότητα το καθένα (1/6). Οπότε η μέση τιμή των δοκιμών θα συγκλίνει στη θεωρητική τιμή 3.5:

${\frac {1+2+3+4+5+6}{6}}=3.5$

Μορφές

Υπάρχουν δύο μορφές του νόμου των μεγάλων αριθμών. Είναι ο «αδύναμος νόμος των μεγάλων αριθμών» και ο «ισχυρός νόμος των μεγάλων αριθμών». Για μία άπειρη ακολουθία ανεξάρτητων και όμοια κατανεμημένων (IID) τυχαίων μεταβλητών ολοκληρώματος Λεμπέγκ $X_{1},X_{2}{\text{...}}$ , με αναμενόμενη τιμή $E(X_{1})=E(X_{2})={\text{...}}={\text{μ}}$, και οι δύο μορφές λένε ότι ο δειγματικός μέσος

${\overline {X}}_{n}={\frac {1}{n}}(X_{1}+...+X_{n})$

τείνει στην αναμενόμενη τιμή

${\overline {X}}_{n}\rightarrow {\text{μ}}\quad {\text{όσο }}n\to \infty$

Αδύναμος νόμος

Ο αδύναμος νόμος των μεγάλων αριθμών (γνωστός και ως νόμος του Khinchin) ορίζεται ως: σε ένα σύνολο ανεξάρτητων και όμοια κατανεμημένων δειγμάτων από μία τυχαία μεταβλητή με πεπερασμένο μέσο, ο δειγματικός μέσος συγκλίνει με πιθανότητα στην αναμενόμενη τιμή

${\overline {X}}_{n}\ {\overset {P}{\rightarrow }}\ \mu \quad {\text{με}}\ n\to \infty .$

Που σημαίνει ότι με ε θετικό:

$\lim _{n\to \infty }{\text{Π}}\!\left(\,|{\overline {X}}_{n}-\mu |<\varepsilon \,\right)=1$

Δηλαδή όσο μικρό και να είναι το περιθώριο ε, με αρκετά μεγάλο δείγμα ο μέσος θα είναι αρκετά κοντά στην αναμενόμενη τιμή μ.

Ισχυρός νόμος

Ο ισχυρός νόμος των μεγάλων αριθμών (γνωστός και ως νόμος του Κολμογκόροφ) ορίζει ότι ο δειγματικός μέσος συγκλίνει σχεδόν βέβαια στην αναμενόμενη τιμή.

${\overline {X}}_{n}\ {\overset {\text{σ.β.}}{\longrightarrow }}\ \mu \quad {\text{με}}\ n\to \infty .$

Που είναι

${\text{Π}}\!\left(\lim _{n\to \infty }{\overline {X}}_{n}=\mu \right)=1$

Δηλαδή όσο οι δοκιμές n τείνουν στο άπειρο, η πιθανότητα ο μέσος των δειγμάτων να είναι ίσος με την αναμενόμενη τιμή.