Κοπούλα (θεωρία πιθανοτήτων)

Στην θεωρία των πιθανοτήτων και στατιστική, ένα επίπεδο είναι μια πολυμεταβλητή κατανομή πιθανότητας για την οποία η οριακή πιθανότητα κατανομής ειναι ομοιόμορφη.Copulas χρησιμοποιείται για να περιγράψει την εξάρτηση μεταξύ τυχαίων μεταβλητών.Το όνομα του προέρχεται απο το λατινικό 'link' ή ΄tie' αλλά είναι άσχετο με τη γραμματική copulas στη γλωσσολογία.

Το θεώρημα του Sklar ορίζει ότι κάθε πολυμεταβλητή κοινής διανομής μπορεί να γραφεί σε όρους μονοδιάστατης οριακής κατανομής λειτουργιών και ένα copula το οποίο περιγράφει τη δομή εξάρτησης μεταξύ των μεταβλητών.

Copulas είναι δημοφιλής στην υψηλές διαστατικές στατιστικές εφαρμογές καθώς επιτρέπουν την εύκολη μοντελοποιήση και εκτίμηση της κατανομής των τυχαίων διανυσμάτων με εκτίμηση περιθωριακή και copula ξεχωριστά.Υπάρχουν πολλές παραμετρικές οικογένειες copula διαθέσιμες,οι οποίες έχουν συνήθως παραμέτρους που ελέγχουν τη δύναμη εξάρτησης.Μερικές δημοφιλείς copula περιγράφονται παρακάτω.

Μαθηματικός Ορισμός

Θεωρούμε ένα τυχαίο διάνυσμα$(X_{1},X_{2},\dots ,X_{d})$.  Ας υποθέσουμε ότι οι περιθωριακοί είναι συνεχής,δηλαδή το οριακό CDFs $F_{i}(x)=\mathbb {P} [X_{i}\leq x]$ είναι συνεχής συνάρτηση.Εφαρμόζοντας την πιθανότητα για την μετατροπή του κάθε στοιχείου,το τυχαίο διάνυσμα

$(U_{1},U_{2},\dots ,U_{d})=\left(F_{1}(X_{1}),F_{2}(X_{2}),\dots ,F_{d}(X_{d})\right)$

έχει ομοιόμορφα κατανεμημένες περιθωριακές.

Το επίπεδο της $(X_{1},X_{2},\dots ,X_{d})$ ορίζεται ως η από κοινού αθροιστική συνάρτηση κατανομής της $(U_{1},U_{2},\dots ,U_{d})$:

$C(u_{1},u_{2},\dots ,u_{d})=\mathbb {P} [U_{1}\leq u_{1},U_{2}\leq u_{2},\dots ,U_{d}\leq u_{d}].$

Το επίπεδο C περιέχει όλες τις πληροφορίες σχετικά με τη δομή εξάρτησης μεταξύ των εξαρτημάτων του $(X_{1},X_{2},\dots ,X_{d})$ , ενώ το οριακό αθροιστικές συναρτήσεις κατανομής $F_{i}$ περιέχει όλες τις πληροφορίες σχετικά με τις περιθωριακές κατανομές.

Η σημασία των παραπάνω  είναι ότι η αντιστροφή αυτων των βημάτων μπορεί να χρησιμοποιηθεί για την παραγωγή ψευδοτυχαίων δειγμάτων από γενικές κατηγορίες πολυμεταβλητών κατανομής πιθανοτήτων.Δηλαδή,δωθείσας μιας διαδικασίας για τη δημιουργία δείγματος $(U_{1},U_{2},\dots ,U_{d})$  από το επίπεδο διανομής,το απαιτούμενο δείγμα μπορεί να κατασκευαστεί ως

$(X_{1},X_{2},\dots ,X_{d})=\left(F_{1}^{-1}(U_{1}),F_{2}^{-1}(U_{2}),\dots ,F_{d}^{-1}(U_{d})\right).$

Οι αντίστροφες $F_{i}^{-1}$  είναι μη προβληματικές καθώς η$F_{i}$ θεωρήθηκε ότι είναι συνεχής.Ο παραπάνω τύπος για το επίπεδο λειτουργίας μπορεί να ξαναγραφεί έτσι ώστε να ανταποκρίνεται σε αυτό,όπως:

$C(u_{1},u_{2},\dots ,u_{d})=\mathbb {P} [X_{1}\leq F_{1}^{-1}(u_{1}),X_{2}\leq F_{2}^{-1}(u_{2}),\dots ,X_{d}\leq F_{d}^{-1}(u_{d})].$

Ορισμός

Στην πιθανοτική όρους, $C:[0,1]^{d}\rightarrow [0,1]$ είναι ένα d-διάστατο επίπεδο αν C είναι μια κοινή αθροιστική συνάρτηση κατανομής μιας d-διάστατο τυχαίο διάνυσμα του μοναδιαίου κύβου $[0,1]^{d}$ με στολή περιθωριακοί.

Στην αναλυτική άποψη, $C:[0,1]^{d}\rightarrow [0,1]$ είναι ένα d-διάστατο επίπεδο αν

• $C(u_{1},\dots ,u_{i-1},0,u_{i+1},\dots ,u_{d})=0$ το επίπεδο είναι μηδέν, εάν ένα από τα ορίσματα είναι μηδέν,
• $C(1,\dots ,1,u,1,\dots ,1)=u$το επίπεδο είναι ίση με u αν ένα όρισμα είναι το u και όλους τους άλλους 1,
• C είναι d-μη φθίνουσα, δηλαδή, για κάθε υπερορθογώνιο$B=\prod _{i=1}^{d}[x_{i},y_{i}]\subseteq [0,1]^{d}$ το Γ-ο όγκος του B είναι μη αρνητικός:

  $\int _{B}dC(u)=\sum _{\mathbf {z} \in \times _{i=1}^{d}\{x_{i},y_{i}\}}(-1)^{N(\mathbf {z} )}C(\mathbf {z} )\geq 0,$

πού την $N(\mathbf {z} )=\#\{k:z_{k}=x_{k}\}$.

Για παράδειγμα, στη διμεταβλητή περίπτωση, $C:[0,1]\times [0,1]\rightarrow [0,1]$ είναι μια διμεταβλητή επίπεδο, αν $C(0,u)=C(u,0)=0$, $C(1,u)=C(u,1)=u$ και $C(u_{2},v_{2})-C(u_{2},v_{1})-C(u_{1},v_{2})+C(u_{1},v_{1})\geq 0$ για όλους $0\leq u_{1}\leq u_{2}\leq 1$ και $0\leq v_{1}\leq v_{2}\leq 1$.

Το θεώρημα του Sklar

Πυκνότητα και το περίγραμμα οικοπέδου μιας διμεταβλητής κατανομής Gaussian 

Πυκνότητα και το περίγραμμα οικοπέδου δύο κανονικών περιθωριακών κοινά με το επίπεδο Gumbel

To θεώρημα του Sklar,που πήρε το όνομα του από τον Abe Sklar,παρέχει το θεωρητικό υπόβαθρο για την εφαρμογή των copulas.To θεώρημα του Sklar αναφέρει ότι κάθε πολυμεταβλητή συνάρτηση αθροιστικής κατανομής 

$H(x_{1},\dots ,x_{d})=\mathbb {P} [X_{1}\leq x_{1},\dots ,X_{d}\leq x_{d}]$

από ένα τυχαίο διάνυσμα$(X_{1},X_{2},\dots ,X_{d})$ μπορεί να εκφραστεί σε όρους περιθωριακούς $F_{i}(x)=\mathbb {P} [X_{i}\leq x]$ και ένα επίπεδο $C$.Πράγματι:

$H(x_{1},\dots ,x_{d})=C\left(F_{1}(x_{1}),\dots ,F_{d}(x_{d})\right).$

Σε περίπτωση που η πολυμεταβλητή κατανομή έχει μια πυκνότητα  $f$, και αυτή είναι δεδομένη, έχουμε

$f(x_{1},\dots x_{d})=c(F_{1}(x_{1}),\dots F_{d}(x_{d}))\cdot f_{1}(x_{1})\cdot \dots \cdot f_{d}(x_{d}),$

όπου $c$ είναι η πυκνότητα του επιπέδου.

Το θεώρημα επίσης αναφέρει οτι με δεδομένο $H$, το επίπεδο είναι μοναδικό για$\operatorname {Ran} (F_{1})\times \cdots \times \operatorname {Ran} (F_{d})$, το οποίο είναι το καρτεσιανό γινόμενο που κυμαίνεται στο οριακό cdf's.Αυτό σημαίνει ότι το επίπεδο είναι μοναδικό αν οι  περιθωριακές $F_{i}$ είναι συνεχείς.

Ισχύει επίσης και το αντίστροφο:με δεδομένο ένα επίπεδο$C:[0,1]^{d}\rightarrow [0,1]$ και τα περιθωριακά $F_{i}(x)$ τότε η $C\left(F_{1}(x_{1}),\dots ,F_{d}(x_{d})\right)$ ορίζει μια δ-διάστατη αθροιστική συνάρτηση κατανομής.

Το Fréchet–Hoeffding επίπεδο έχει όρια

Τα γραφήματα του διμεταβλητού Fréchet–Hoeffding επιπέδου ορίων και του ανεξάρτητου επιπέδου(στη μέση)

Το θεώρημα Fréchet–Hoeffding  (μετά των Maurice René Fréchet και Wassily Hoeffding ) αναφέρει ότι για κάθε επίπεδο $C:[0,1]^{d}\rightarrow [0,1]$ και κάθε $(u_{1},\dots ,u_{d})\in [0,1]^{d}$ τα ακόλουθα όρια:

$W(u_{1},\dots ,u_{d})\leq C(u_{1},\dots ,u_{d})\leq M(u_{1},\dots ,u_{d}).$

Η συνάρτηση W ονομάζεται κάτω φραγμένη Fréchet–Hoeffding και ορίζεται ως

$W(u_{1},\ldots ,u_{d})=\max \left\{1-d+\sum \limits _{i=1}^{d}{u_{i}},0\right\}.$

Η συνάρτηση M ονομάζεται άνω φραγμένη Fréchet–Hoeffding και ορίζεται ως

$M(u_{1},\ldots ,u_{d})=\min\{u_{1},\dots ,u_{d}\}.$

Το ανώτερο όριο ειναι το σημείο αιχμής :M είναι πάντα ένα επίπεδο, που αντιστοιχεί σε τυχαίες μεταβλητές.

Το κατώτερο όριο ειναι το σημείο-σοφής τομής,με την έννοια ότι για σταθερό u, υπάρχει ένα επίπεδο C τέτοιο ώστε ${\tilde {C}}(u)=W(u)$. Ωστόσο,W είναι ένα επίπεδο μόνο σε δύο διαστάσεις, που σε κάθε περίπτωση αντιστοιχούν τυχαίες μεταβλητές.

Σε δύο διαστάσεις, δηλαδή τη διμεταβλητή περίπτωση,το θεώρημα Fréchet–Hoeffding αναφέρει 

$\max(u+v-1,0)\leq C(u,v)\leq \min\{u,v\}$

Οι οικογένειες copulas

Αρκετές οικογένειες των copulas έχουν περιγραφεί.

Επίπεδο Gaussian

Aθροιστική και πυκνότητα κατανομής του επιπέδου Gaussian με ρ=0.4

Το επίπεδο Gaussian είναι μια διανομή μέσω του μοναδιαίου κύβου $[0,1]^{d}$. Είναι κατασκευασμένο από μια πολυμεταβλητή κανονικής κατανομής στο  $\mathbb {R} ^{d}$ χρησιμοποιώντας την πιθανότητα ολοκληρωτικού μετασχηματισμού.

Για ένα δεδομένο πίνακα συσχετισης $R\in \mathbb {R} ^{d\times d}$, το Gaussian επίπεδο με την σχετική παράμετρο  $R$ μπορεί να γραφεί ως

$C_{R}^{\text{Gauss}}(u)=\Phi _{R}\left(\Phi ^{-1}(u_{1}),\dots ,\Phi ^{-1}(u_{d})\right),$

όπου $\Phi ^{-1}$  είναι η αντίστροφη συνάρτηση κατανομής μιας τυποποιημένης κανονικής κατανομής και $\Phi _{R}$ είναι η από κοινού αθροιστική συνάρτηση κατανομής μιας πολυμεταβλητής κανονικής κατανομής με μέση διανυσματική 0 και πίνακα συνδιασποράς ίσο με τον πίνακα συσχέτισης $R$.  Ενώ δεν υπάρχει καμία απλή αναλυτική φόρμουλα για το επίπεδο λειτουργίας,$C_{R}^{\text{Gauss}}(u)$, μπορεί να είναι άνω ή κάτω όρια, και να προσεγγιστεί χρησιμοποιώντας αριθμητική ολοκλήρωση.Η πυκνότητα μπορεί να φραφεί ως

$c_{R}^{\text{Gauss}}(u)={\frac {1}{\sqrt {\det {R}}}}\exp \left(-{\frac {1}{2}}{\begin{pmatrix}\Phi ^{-1}(u_{1})\\\vdots \\\Phi ^{-1}(u_{d})\end{pmatrix}}^{T}\cdot \left(R^{-1}-\mathbf {I} \right)\cdot {\begin{pmatrix}\Phi ^{-1}(u_{1})\\\vdots \\\Phi ^{-1}(u_{d})\end{pmatrix}}\right),$

όπου $\mathbf {I}$ είναι  o ταυτοτικός πίνακας.

Eπίπεδο Αρχιμήδη

To επίπεδο του Αρχιμήδη είναι συνδυαστικό μάθημα των επιπέδων.Πιο κοινά αρχιμήδεια επίπεδα αποδέχονται έναν ειδικό τύπο,κάτι αδύνατον, για παράδειγμα στο επίπεδο του Gaussian.Στην πράξη το επίπεδα του Αρχιμήδη είναι δημοφιλή γιατί επιτρέπουν την μοντελοποιήση της εξάρτησης αυθαίρετα υψηλών διαστάσεων με μία μονο παράμετρο, που διέπουν τη δύναμη εξάρτησης.

Ένα επίπεδο C ονομάζεται αρχιμήδειο,αν μπορεί να αντικατασταθει από το

$C(u_{1},\dots ,u_{d};\theta )=\psi ^{[-1]}\left(\psi (u_{1};\theta )+\cdots +\psi (u_{d};\theta );\theta \right)\,$

όπου$\psi \!:[0,1]\times \Theta \rightarrow [0,\infty )$  είναι συνεχής,γνησίως φθίνουσα και κυρτή συνάρτηση $\psi (1;\theta )=0$. $\theta$ είναι μια παράμετρος μέσα σε κάποια παράμετρο χώρο  $\Theta$. $\psi$ είναι η λεγόμενη γεννήτρια συνάρτηση και $\psi ^{[-1]}$ είναι η ψευδοαντίστροφη που ορίζεται από

$\psi ^{[-1]}(t;\theta )=\left\{{\begin{array}{ll}\psi ^{-1}(t;\theta )&{\mbox{if }}0\leq t\leq \psi (0;\theta )\\0&{\mbox{if }}\psi (0;\theta )\leq t\leq \infty .\end{array}}\right.\,$

Επιπλέον ο παραπάνω τύπος για  C παράγει ένα επίπεδο για το $\psi ^{-1}\,$ αν και μόνο αν $\psi ^{-1}\,$ είναι d-μονότονη στο  $[0,\infty )$. Αυτό ισχύει μόνο όταν είναι  $d-2$ φορές διαφορίσιμες και τα παράγωγα πληρούν 

$(-1)^{k}\psi ^{-1,(k)}(t;\theta )\geq 0\,$

για κάθε $t\geq 0$ και$k=0,1,\dots ,d-2$ και$(-1)^{d-2}\psi ^{-1,(d-2)}(t;\theta )$ είναι μη αύξουσα και κυρτή.

Το πιο σημαντικό αρχημήδειο επίπεδο

Οι παρακάτω πίνακες έχουν αναδείξει τα πιο σημαντικά αρχημήδεια επίπεδα με την αντίστοιχη γεννήτρια.Σημειώστε οτι δεν είναι εντελώς μονότονα,δηλαδή d-μονότονα για κάθε $d\in \mathbb {N}$ ή d-μονότονα για ορισμένες  $\theta \in \Theta$ μόνο.

Table with the most important Archimedean copulas

Name of Copula	Bivariate Copula $\;C_{\theta }(u,v)$	parameter $\,\theta$
Ali-Mikhail-Haq	${\frac {uv}{1-\theta (1-u)(1-v)}}$	$\theta \in [-1,1)$
Clayton	$\left[\max \left\{u^{-\theta }+v^{-\theta }-1;0\right\}\right]^{-1/\theta }$	$\theta \in [-1,\infty )\backslash \{0\}$
Frank	$-{\frac {1}{\theta }}\log \!\left[1+{\frac {(\exp(-\theta u)-1)(\exp(-\theta v)-1)}{\exp(-\theta )-1}}\right]$	$\theta \in \mathbb {R} \backslash \{0\}$
Gumbel	${\textstyle \exp \!\left[-\left((-\log(u))^{\theta }+(-\log(v))^{\theta }\right)^{1/\theta }\right]}$	$\theta \in [1,\infty )$
Independence	${\textstyle uv}$
Joe	${\textstyle {1-\left[(1-u)^{\theta }+(1-v)^{\theta }-(1-u)^{\theta }(1-v)^{\theta }\right]^{1/\theta }}}$	$\theta \in [1,\infty )$

Table of correspondingly most important generators

name	generator $\,\psi _{\theta }(t)$	generator inverse $\,\psi _{\theta }^{-1}(t)$
Ali-Mikhail-Haq	$\log \!\left[{\frac {1-\theta (1-t)}{t}}\right]$	${\frac {1-\theta }{\exp(t)-\theta }}$
Clayton	${\frac {1}{\theta }}\,(t^{-\theta }-1)\,$	$\left(1+\theta t\right)^{-1/\theta }$
Frank	${\textstyle -\log \!\left({\frac {\exp(-\theta t)-1}{\exp(-\theta )-1}}\right)}$	$-{\frac {1}{\theta }}\,\log(1+\exp(-t)(\exp(-\theta )-1))$
Gumbel	$\left(-\log(t)\right)^{\theta }$	$\exp \!\left(-t^{1/\theta }\right)$
Independence	$-\log(t)\,$	$\exp(-t)\,$
Joe	$-\log \!\left(1-(1-t)^{\theta }\right)$	$1-\left(1-\exp(-t)\right)^{1/\theta }$

Expectation for copula models and Monte Carlo integration

In statistical applications, many problems can be formulated in the following way. One is interested in the expectation of a response function $g:\mathbb {R} ^{d}\rightarrow \mathbb {R}$ applied to some random vector $(X_{1},\dots ,X_{d})$. If we denote the cdf of this random vector with $H$, the quantity of interest can thus be written as

$\mathbb {E} \left[g(X_{1},\dots ,X_{d})\right]=\int _{\mathbb {R} ^{d}}g(x_{1},\dots ,x_{d})\,dH(x_{1},\dots ,x_{d}).$

If $H$ is given by a copula model, i.e.,

$H(x_{1},\dots ,x_{d})=C(F_{1}(x_{1}),\dots ,F_{d}(x_{d}))$

this expectation can be rewritten as

$\mathbb {E} \left[g(X_{1},\dots ,X_{d})\right]=\int _{[0,1]^{d}}g(F_{1}^{-1}(u_{1}),\dots ,F_{d}^{-1}(u_{d}))\,dC(u_{1},\dots ,u_{d}).$

In case the copula C is absolutely continuous, i.e. C has a density c, this equation can be written as

$\mathbb {E} \left[g(X_{1},\dots ,X_{d})\right]=\int _{[0,1]^{d}}g(F_{1}^{-1}(u_{1}),\dots ,F_{d}^{-1}(u_{d}))\cdot c(u_{1},\dots ,u_{d})\,du_{1}\dots du_{d},$

and if each marginal distribution has the density $f_{i}$ it holds further that

$\mathbb {E} \left[g(X_{1},\dots ,X_{d})\right]=\int _{\mathbb {R} ^{d}}g(x_{1},\dots x_{d})\cdot c(F_{1}(x_{1}),\dots ,F_{d}(x_{d}))\cdot f_{1}(x_{1})\cdot ...\cdot f_{d}(x_{d})\,dx_{1}\dots dx_{d}.$

If copula and margins are known (or if they have been estimated), this expectation can be approximated through the following Monte Carlo algorithm:

1. Draw a sample $(U_{1}^{k},\dots ,U_{d}^{k})\sim C\;\;(k=1,\dots ,n)$ of size n from the copula C
2. By applying the inverse marginal cdf's, produce a sample of $(X_{1},\dots ,X_{d})$ by setting $(X_{1}^{k},\dots ,X_{d}^{k})=(F_{1}^{-1}(U_{1}^{k}),\dots ,F_{d}^{-1}(U_{d}^{k}))\sim H\;\;(k=1,\dots ,n)$
3. Approximate $\mathbb {E} \left[g(X_{1},\dots ,X_{d})\right]$ by its empirical value:

$\mathbb {E} \left[g(X_{1},\dots ,X_{d})\right]\approx {\frac {1}{n}}\sum _{k=1}^{n}g(X_{1}^{k},\dots ,X_{d}^{k})$