Willkommen zu deinem umfassenden Leitfaden über mehrdimensionale Zufallsvariablen! In der Statistik stößt man oft auf Situationen, in denen mehrere Zufallsvariablen gleichzeitig betrachtet werden müssen. Hier lernst du alles Wichtige – von den Grundlagen über die Randverteilung und Unabhängigkeit bis hin zur Kovarianz und bedingten Verteilungen. Mach dich bereit, diese komplexen Konzepte einfach zu verstehen.
Was sind Mehrdimensionale Zufallsvariablen? Eine Einführung
Eine mehrdimensionale Zufallsvariable $X = (X_{1}, ext{...},X_{k})$ ist eine Funktion, die jedem Ergebnis eines Zufallsexperiments einen Vektor von reellen Zahlen zuordnet. Wenn zum Beispiel $e_j$ ein Ereignis ist und $x_{1}, ext{...},x_{k}$ reelle Zahlen sind, dann bildet die Zufallsvariable $X(e_j) = (X_1(e_j), ext{...}, X_k(e_j)) = (x_1, ext{...}, x_k)$ ab.
Dabei ist jede Koordinate $X_i$ selbst eine eindimensionale Zufallsvariable. Die Konzepte der Wahrscheinlichkeitsfunktion, Wahrscheinlichkeitsdichte und Verteilungsfunktion werden analog definiert.
Beispiel für eine mehrdimensionale Zufallsvariable
Stell dir ein Würfelspiel vor, bei dem zwei Dinge gleichzeitig betrachtet werden: die gewürfelte Augenzahl und ob diese Zahl gerade ist. Wir definieren eine 2-dimensionale Zufallsvariable $X = (X_1, X_2)$.
$X_1$ bildet auf die Anzahl der Augen ab (Werte 1 bis 6). $X_2$ ist 1, wenn die Augenzahl gerade ist, und 0, wenn sie ungerade ist. Wenn das Ereignis $e_3$ (Würfelseite mit 3 Augen) eintritt, dann ist $X(e_3) = (X_1(e_3), X_2(e_3)) = (3, 0)$. Die Wahrscheinlichkeit dafür wäre $W(X_1=3, X_2=0) = W(e_3) = 1/6$.
Wahrscheinlichkeits- und Verteilungsfunktion verstehen
Für diskrete mehrdimensionale Zufallsvariablen $X = (X_1, ext{...},X_k)$ ist die Verteilungsfunktion $W (X_1 \leqslant x_1, ext{...}, X_k \leqslant x_k)$ gegeben durch die Summe über alle Wahrscheinlichkeitsfunktionen $f(v_1, ext{...},v_k)$, wobei $v_i \leqslant x_i$ ist. Es gilt: $W (X_1 = x_1, ext{...}, X_k = x_k) = f (x_1, ext{...}, x_k)$.
Beispiel: Gemeinsame Wahrscheinlichkeitsfunktion
Betrachten wir eine 2-dimensionale diskrete Zufallsvariable $(X,Y)$ mit der gemeinsamen Wahrscheinlichkeitsfunktion $f(x,y)$:
| y = 0 | y = 1 | y = 2 | |
|---|---|---|---|
| x = 0 | 0,30 | 0,14 | 0,02 |
| x = 1 | 0,18 | 0,10 | 0,02 |
| x = 2 | 0,12 | 0,06 | 0,06 |
Die zugehörige Verteilungsfunktion $F(x,y)$ zeigt die kumulativen Wahrscheinlichkeiten:
| y = 0 | y = 1 | y = 2 | |
|---|---|---|---|
| x = 0 | 0,30 | 0,44 | 0,46 |
| x = 1 | 0,48 | 0,72 | 0,76 |
| x = 2 | 0,60 | 0,90 | 1,00 |
Für stetige mehrdimensionale Zufallsvariablen $X = (X_1, ext{...},X_k)$ ist die Verteilungsfunktion $W (X_1 \leqslant x_1, ext{...}, X_k \leqslant x_k)$ als Mehrfachintegral über die Dichtefunktion $f(v_1, ext{...},v_k)$ definiert:
$W (X_1 \leqslant x_1, ext{...}, X_k \leqslant x_k) = \int_{-\infty}^{x_1} \text{...} \int_{-\infty}^{x_k} f (v_1, ext{...}, v_k) , dv_k \text{...} dv_1$.
Randverteilung bei Mehrdimensionalen Zufallsvariablen
Die Randverteilung einer Komponente einer mehrdimensionalen Zufallsvariable (z.B. $X_1$ aus $X=(X_1, \text{...}, X_k)$) gibt die Verteilung dieser einzelnen Komponente an, unabhängig von den anderen. Sie wird ermittelt, indem man über alle möglichen Werte der anderen Variablen summiert oder integriert.
Randverteilung für diskrete Zufallsvariablen
Für diskrete Zufallsvariablen berechnet man die Wahrscheinlichkeitsfunktion der Randverteilung $f_{X_1}(x)$ durch Summieren über alle anderen Komponenten:
$f_{X_1} (x) = \sum_{v_2} \text{...} \sum_{v_k} f (x, v_2, \text{...}, v_k)$
Randverteilung für stetige Zufallsvariablen
Für stetige Zufallsvariablen wird die Dichtefunktion der Randverteilung $f_{X_1}(x)$ durch Integration über die anderen Komponenten bestimmt:
$f_{X_1} (x) = \int_{-\infty}^{\infty} \text{...} \int_{-\infty}^{\infty} f (x, v_2, \text{...}, v_k) , dv_k \text{...} dv_2$
Die Randverteilung kann analog für jede andere Variable $X_i$ definiert werden. Die Verteilungsfunktion der Randverteilung folgt direkt aus der Dichte- bzw. Wahrscheinlichkeitsfunktion.
Unabhängigkeit von Zufallsvariablen prüfen
Zufallsvariablen $X_1, \text{...}, X_k$ sind stochastisch unabhängig, wenn ihre gemeinsame Verteilungsfunktion dem Produkt ihrer einzelnen Verteilungsfunktionen entspricht. Formal gilt für alle $x_1, \text{...}, x_k \in \mathbb{R}$:
$W (X_1 \leqslant x_1, \text{...}, X_k \leqslant x_k) = \prod_{i = 1}^{k} W (X_i \leqslant x_i)$
Diese Eigenschaft überträgt sich auch auf die Dichte- bzw. Wahrscheinlichkeitsfunktionen. Für stochastisch unabhängige Variablen muss für alle $x_1, \text{...}, x_k \in \mathbb{R}$ gelten:
$f (x_1, \text{...}, x_k) = f_{X_1} (x_1) \cdot \text{...} \cdot f_{X_k} (x_k)$
Unabhängigkeit: Ein praktisches Beispiel
Betrachten wir eine 2-dimensionale diskrete Zufallsvariable $(X,Y)$ mit der folgenden Wahrscheinlichkeitsfunktion und ihren Randverteilungen:
| y = 1 | y = 2 | $f_X(x)$ | |
|---|---|---|---|
| x = 0 | 0,06 | 0,24 | 0,3 |
| x = 1 | 0,14 | 0,56 | 0,7 |
| $f_Y(y)$ | 0,2 | 0,8 | 1,00 |
Um die Unabhängigkeit zu prüfen, muss für jede Kombination von $x$ und $y$ gelten, dass $f(x,y) = f_X(x) \cdot f_Y(y)$.
- $f(0,1) = 0,06$. Und $f_X(0) \cdot f_Y(1) = 0,3 \cdot 0,2 = 0,06$. Passt!
- $f(0,2) = 0,24$. Und $f_X(0) \cdot f_Y(2) = 0,3 \cdot 0,8 = 0,24$. Passt!
- $f(1,1) = 0,14$. Und $f_X(1) \cdot f_Y(1) = 0,7 \cdot 0,2 = 0,14$. Passt!
- $f(1,2) = 0,56$. Und $f_X(1) \cdot f_Y(2) = 0,7 \cdot 0,8 = 0,56$. Passt!
Da alle Bedingungen erfüllt sind, sind die Zufallsvariablen $X$ und $Y$ in diesem Beispiel stochastisch unabhängig.
Abhängigkeit von Zufallsvariablen messen: Kovarianz
Die Kovarianz ist ein Maß für die Stärke des linearen Zusammenhangs zwischen zwei Zufallsvariablen $X$ und $Y$. Sie ist definiert als:
$\operatorname{Cov}(X, Y) = \operatorname{E}[ [X - \operatorname{E}(X)] [Y - \operatorname{E}(Y)] ]
Der Wertebereich der Kovarianz liegt zwischen $-\sigma_X \sigma_Y$ und $\sigma_X \sigma_Y$, wobei $\sigma_X$ und $\sigma_Y$ die Standardabweichungen von $X$ und $Y$ sind. Ein positiver Wert deutet auf einen gleichsinnigen Zusammenhang hin, ein negativer Wert auf einen gegensinnigen.
Wichtiger Hinweis: Sind $X$ und $Y$ stochastisch unabhängig, dann gilt $\operatorname{Cov}(X, Y) = 0$. Die Umkehrung gilt jedoch nicht! Eine Kovarianz von 0 bedeutet nicht zwingend Unabhängigkeit, sondern nur das Fehlen eines linearen Zusammenhangs.
Linearkombination von Zufallsvariablen: Erwartungswert und Varianz
Oft werden Zufallsvariablen kombiniert, beispielsweise $Z = aX \pm bY$. Die Formeln für den Erwartungswert und die Varianz einer solchen Linearkombination sind entscheidend:
| Z | E(Z) | Var(Z) |
|---|---|---|
| $aX \pm bY$ | $aE(X) \pm bE(Y)$ | $a^2\mathrm{Var}(X) + b^2\mathrm{Var}(Y) \pm 2ab\mathrm{Cov}(X,Y)$ |
| $X + Y$ | $E(X) + E(Y)$ | $\mathrm{Var}(X) + \mathrm{Var}(Y) + 2\mathrm{Cov}(X,Y)$ |
| $X - Y$ | $E(X) - E(Y)$ | $\mathrm{Var}(X) + \mathrm{Var}(Y) - 2\mathrm{Cov}(X,Y)$ |
| $\frac{1}{2}(X + Y)$ | $\frac{1}{2}\big[E(X) + E(Y)\big]$ | $\frac{1}{4}\mathrm{Var}(X) + \frac{1}{4}\mathrm{Var}(Y) + \frac{1}{2}\mathrm{Cov}(X,Y)$ |
Diese Formeln zeigen, wie die Kovarianz in die Berechnung der Varianz von Summen und Differenzen von Zufallsvariablen einfließt. Bei Unabhängigkeit (${\operatorname{Cov}(X,Y)=0}$) vereinfacht sich die Varianz-Formel deutlich.
Bedingte Verteilungen diskreter Zufallsvariablen
Manchmal möchte man die Wahrscheinlichkeit wissen, dass eine Zufallsvariable $X$ einen bestimmten Wert annimmt, unter der Bedingung, dass eine andere Zufallsvariable $Y$ bereits einen bestimmten Wert angenommen hat. Dies führt zum Konzept der bedingten Verteilung.
Für diskrete Zufallsvariablen wird die bedingte Wahrscheinlichkeitsfunktion $f(x_i / y_j)$ definiert als:
$W(X = x_i / Y = y_j) = \frac{W(X = x_i, Y = y_j)}{W(Y = y_j)} = \frac{f(x_i, y_j)}{f_Y(y_j)} =: f(x_i / y_j)$
Analog dazu gilt für die bedingte Wahrscheinlichkeit von $Y$ gegeben $X$:
$W(Y = y_j / X = x_i) = \frac{W(X = x_i, Y = y_j)}{W(X = x_i)} = \frac{f(x_i, y_j)}{f_X(x_i)} =: f(y_j / x_i)$
Bedingte Verteilung: Beispiel mit Maschinenausfällen
Stell dir eine Maschine mit zwei störanfälligen Bauteilen B1 und B2 vor. $X$ sei die Anzahl der Ausfälle pro Tag von B1 ($x_1=0, x_2=1, x_3=2$), und $Y$ die Anzahl der Ausfälle pro Tag von B2 ($y_1=0, y_2=1, y_3=2$). Die gemeinsame Wahrscheinlichkeitsfunktion mit Randverteilungen sieht so aus:
| $x_i \downarrow y_j \rightarrow$ | 0 | 1 | 2 | $f_X(x)$ |
|---|---|---|---|---|
| 0 | 0,30 | 0,14 | 0,02 | 0,46 |
| 1 | 0,18 | 0,10 | 0,02 | 0,30 |
| 2 | 0,12 | 0,06 | 0,06 | 0,24 |
| $f_Y(y)$ | 0,60 | 0,30 | 0,10 | 1,00 |
Angenommen, es ist eingetreten, dass $Y = 0$ (keine Ausfälle bei Bauteil B2). Die bedingte Verteilung der Zufallsvariablen $X$ ergibt sich dann aus $f(x_i/0) = \frac{f(x_i,0)}{f_Y(0)}$:
| x | f(x,0) | f(x/0) |
|---|---|---|
| 0 | 0,30 | 0,50 |
| 1 | 0,18 | 0,30 |
| 2 | 0,12 | 0,20 |
| $\sum$ | 0,60 | 1,00 |
Diese Tabelle zeigt, dass, wenn Bauteil B2 nicht ausfällt, die Wahrscheinlichkeit, dass Bauteil B1 auch nicht ausfällt, 0,50 beträgt.
Häufig gestellte Fragen zu Mehrdimensionalen Zufallsvariablen
Was ist der Unterschied zwischen Randverteilung und bedingter Verteilung?
Die Randverteilung beschreibt die Verteilung einer einzelnen Zufallsvariable, ohne Berücksichtigung der anderen. Man summiert oder integriert über alle Werte der anderen Variablen. Die bedingte Verteilung hingegen beschreibt die Verteilung einer Zufallsvariable unter der Annahme, dass eine oder mehrere andere Zufallsvariablen bereits bestimmte Werte angenommen haben. Es ist eine „eingeschränkte“ Sicht auf die Verteilung.
Wann sind zwei Zufallsvariablen stochastisch unabhängig?
Zwei Zufallsvariablen sind stochastisch unabhängig, wenn die gemeinsame Wahrscheinlichkeits- oder Dichtefunktion das Produkt ihrer jeweiligen Randwahrscheinlichkeits- oder Dichtefunktionen ist. Das bedeutet, das Eintreten eines Wertes der einen Variable beeinflusst nicht die Wahrscheinlichkeit des Eintretens eines Wertes der anderen Variable.
Kann die Kovarianz negativ sein?
Ja, die Kovarianz kann negativ sein. Ein negativer Wert der Kovarianz deutet auf einen gegensinnigen linearen Zusammenhang hin. Wenn die eine Variable zunimmt, tendiert die andere dazu, abzunehmen, und umgekehrt. Ein positiver Wert zeigt einen gleichsinnigen Zusammenhang an, während null Kovarianz das Fehlen eines linearen Zusammenhangs bedeutet.
Warum ist eine Kovarianz von null keine Garantie für Unabhängigkeit?
Eine Kovarianz von null bedeutet lediglich, dass es keinen linearen Zusammenhang zwischen den Zufallsvariablen gibt. Es könnte jedoch ein nicht-linearer Zusammenhang bestehen. Unabhängigkeit ist eine stärkere Bedingung, die besagt, dass es überhaupt keinen statistischen Zusammenhang gibt, weder linear noch nicht-linear. Daher impliziert Unabhängigkeit eine Kovarianz von null, aber eine Kovarianz von null impliziert nicht unbedingt Unabhängigkeit.