Εκτιμήτρια συνάρτηση

Από τη Βικιπαίδεια, την ελεύθερη εγκυκλοπαίδεια
Μετάβαση σε: πλοήγηση, αναζήτηση

Εκτιμήτρια συνάρτηση ή εκτιμητής στη στατιστική ονομάζεται μία συνάρτηση του τυχαίου δείγματος που χρησιμοποιείται για την εκτίμηση μίας άγνωστης παραμέτρου μίας συνάρτησης κατανομής.

Επιθυμητές ιδιότητες[Επεξεργασία | επεξεργασία κώδικα]

Έστω θ η παράμετρος που θέλουμε να εκτιμήσουμε, X=(X_1,\dots,X_n) το τυχαίο δείγμα από κοινή συνάρτηση κατανομής και Τ(Χ) ο εκτιμητής.

Αμεροληψία[Επεξεργασία | επεξεργασία κώδικα]

Ένας εκτιμητής λέγεται αμερόληπτος (unbiased), αν ισχύει

\,E[T(X)]=\theta, για κάθε θ.

Mέσο σφάλμα (bias) ονομάζεται η τιμή

\,B(T(X))=E[T(X)]-\theta=E[T(X)-\theta].

Αν το μέσο σφάλμα είναι διάφορο του μηδενός, ο εκτιμητής λέγεται μεροληπτικός (biased).

Αποτελεσματικότητα[Επεξεργασία | επεξεργασία κώδικα]

Ένας εκτιμητής λέγεται αποτελεσματικός (efficient), αν έχει την ελάχιστη διασπορά μεταξύ των αμερόληπτων εκτιμητών. Εάν υπάρχει τέτοιος εκτιμιτής, είναι και μοναδικός.

Συνέπεια[Επεξεργασία | επεξεργασία κώδικα]

Έστω X^{(n)}=(X_1,\dots,X_n) το τυχαίο δείγμα. Ένας εκτιμητής λέγεται συνεπής (consistent), αν συγκλίνει κατά μέτρο στην θ, δηλαδή:

\lim_{n\to\infty}P(|T(X^{(n)})-\theta|>\varepsilon)=0,\quad\forall\varepsilon=0.

Ο εκτιμητής λέγεται ισχυρά συνεπής (strongly consistent), αν συγκλίνει σχεδόν βέβαια στην θ, δηλαδή:

\lim_{n\to\infty}P(\sup_{k\geq n}|T(X^{(k)})-\theta|>\varepsilon)=0,\quad\forall\varepsilon=0.

Ελαχιστοποίηση μέσου τετραγωνικού σφάλματος[Επεξεργασία | επεξεργασία κώδικα]

Ένα περαιτέρω κριτήριο εκτιμητή είναι το μέσο τετραγωνικό σφάλμα (mean squared error) MSE

\mathrm{MSE}(T(X)) = E\bigl[ (T(X)-\theta)^2 \bigr] =  \mathrm{B}(T(X))^2 + \mathrm{Var}(T(X))\,.

Αυτό χρησημοποιείται κυρίως για μεροληπτικούς εκτιμητές. Για αμεροληπτούς το μέσο σφάλμα (bias) ισούται με μηδέν, οπότε το μέσο τετραγωνικό σφάλμα είναι ίσο με τη διασπορά του εκτιμητή. Επομένως για έναν αμερόληπτο εκτιμητή η ελαχιστοποίηση του μέσου τετραγωνικού σφάλματος ταυτίζεται με την αποτελεσματικότητα.

Εφαρμογές[Επεξεργασία | επεξεργασία κώδικα]

Μέση τιμή[Επεξεργασία | επεξεργασία κώδικα]

Έστω X=(X_1,\dots,X_n) ένα τυχαίο δείγμα από κοινή συνάρτηση κατανομής μέσω του οποίου θέλουμε να εκτιμήσουμε τη μέση τιμή μ της κατανομής αυτής. Θεωρούμε ως εκτιμήτρια συνάρτηση τον αριθμητικό μέσο όρο

\bar{X}= \frac{1}{n}\sum_{i=1}^n X_i.

Όταν οι τυχαίες μεταβλητές παίρνουν τις τιμές X_i=x_i, 1\le i\le n η συνάρτηση ονομάζεται δειγματική μέση τιμή

\hat{\mu} = \bar{x} = \frac{1}{n}\sum_{i=1}^n x_i.

Ο εκτιμητής αυτός είναι αμερόληπτος αφού

E\left[\bar{X}\right]= E \left[\frac{1}{n}\sum_{i=1}^n X_i \right]= \frac{1}{n}E\left[\sum_{i=1}^n X_i\right]= \frac{1}{n}\sum_{i=1}^n E[X_i]=\frac{1}{n}\sum_{i=1}^n \mu =\frac{1}{n}n \mu=\mu .

Σύμφωνα με το κεντρικό οριακό θεώρημα για μεγάλο αριθμό παρατηρήσεων και για οποιαδήποτε κατανομή των X_i το \bar{X} είναι κανονικά κατανεμημένο σύμφωνα με

 \bar X\sim N(\mu; \frac{\sigma^2}{n}) .

όπου σ2 η διακύμανση της κατανομής των X_i. Για τον λόγο αυτό ο εκτιμητής είναι συνεπής.