1. grundlagen der wahrscheinlichkeitstheorie 1.1 ... · lehrstuhl für empirische...
TRANSCRIPT
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
1
1. Grundlagen der Wahrscheinlichkeitstheorie
1.1 Zufallsereignisse, Ereignisraum und Ereignismenge
• Zufallsexperiment: nach einer bestimmten Vorschrift ausgeführter, unter gleichen
Bedingungen beliebig oft wiederholbarer Vorgang mit mindestens 2 möglichen
(bekannten) Ergebnissen. Es ist nicht bekannt bzw. ungewiss, welches Ergebnis
eintreten wird, d.h. es kann nicht exakt vorausgesagt werden.
(Bsp.: Werfen eines Würfels oder einer Münze)
• Elementarereignisse = einzelne, nicht mehr zerlegbare und sich gegenseitig aus-
schließende Ergebnisse eines Zufallsexperiments.
(Z.B. Zahl der Augen beim Würfel)
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
2
• Ereignisraum: Die Menge Ω aller n Elementarereignisse nωωω ,...,, 21 eines Zu-
fallsexperiments stellt den Ereignisraum (Stichprobenraum) dieses Zu-
fallsexperiments dar: nωωω ,...,, 21=Ω
Voraussetzung: endlich viele oder höchstens abzählbar unendlich viele nω
⇔ stetiges Kontinuum
• Zusammengesetztes Ereignis:
Ein zufälliges Ereignis A ist eine Teilmenge von Ω . Das Ereignis A ist eingetreten,
wenn das Ergebnis des Zufallsexperiments ein Element der Teilmenge A ist.
• Ereignismenge: Alle Ereignisse eines Zufallsexperiments mit Ereignisraum Ω
bilden die dazugehörige Ereignismenge )(ΩE .
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
3
1. sicheres Ereignis: Ω⊂Ω
2. unmögliches Ereignis: Ω∅⊂
Tritt das Ereignis A immer ein, wird es mit Ω=A bezeichnet; tritt es niemals ein wird
es mit ∅=A bezeichnet.
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
4
1.2 Ereignisse und ihre Verknüpfungen
• Wenigstens eines der beiden Ereignisse A oder B (oder beide) treten ein: BA ∪
(Vereinigung).
• Gemeinsam auftretende Ereignisse: sowohl A als auch B müssen eintreten:
BA ∩ (Durchschnitt)
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
5
• Komplementärereignis: Das Komplementärereignis A tritt genau dann ein, wenn
A nicht eintritt (Negation): A\: Ω=A , d.h. A und A sind komplementär zuein-
ander
Es gilt: ∅=∩ AA und Ω=∪ AA
AA = , ∅=Ω und Ω=∅
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
6
• Differenz B\A : Das Ereignis A ohne das Ereignis B :
• Disjunkte Ereignisse: Falls A und B niemals gleichzeitig eintreten können,
∅=∩ BA , dann gelten die Ereignisse als disjunkt (unvereinbar), d.h. sie schließen
sich gegenseitig aus.
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
7
• Implikation: Das Ereignis A enthält das Ereignis B : AB⊂ ( B impliziert A )
Da das Ergebnis eines Zufallsexperiments ist nicht vorhersagbar, aber man kann mög-
lichen Ereignissen Wahrscheinlichkeiten (reelle Zahlen) zuordnen:
ℜ→EP : (reellwertige Funktion)
)(: APAP →
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
8
Regeln für Ereignisoperationen:
ABBA ∪=∪ bzw. ABBA ∩=∩ Kommutativgesetze
CBACBA ∪∪=∪∪ )()( bzw. CBACBA ∩∩=∩∩ )()( Assoziativgesetze
)()()( CABACBA ∪∩∪=∩∪
bzw. )()()( CABACBA ∩∪∩=∪∩ Distributivgesetze
BABA ∩=∪ bzw. BABA ∪=∩ De Morgansche Regeln
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
9
1.3 Wahrscheinlichkeitsbegriffe
• Definition der Wahrscheinlichkeit nach Laplace (klassische Wahrscheinlich-
keit): Die Wahrscheinlichkeit für das Eintreten des Ereignisses A ist die Anzahl der
(günstigen) Fälle in denen A eintritt im Verhältnis zu allen möglichen Fällen. (Ach-
tung: Setzt die Gleichwahrscheinlichkeit für das Eintreten aller möglichen Fälle
voraus.)
Ω==
ElementederAnzahl
AElementederAnzahl
AusgängemöglichenderAnzahl
AusgängegünstigenderAnzahlAP :)(
Rechtfertigung: Prinzip des unzureichenden Grundes
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
10
• Definition der Wahrscheinlichkeit nach von Mises (statistische Wahrscheinlich-
keit): Nach n-maligem Durchführen eines Zufallsexperiments konvergiert die
relative Häufigkeit ( )Af bei sehr großen n gegen die statistische Wahrscheinlich-
keit des Auftretens von A , )(AP :
( ) ( )AfAPn ∞→
= lim bzw. ( ) ( )( ) 0lim =>−∞→
εAPAfPn
Bsp.: Würfel wird 3000mal hintereinander geworfen. Es interessiert die Anzahl der
Sechser:
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
11
Anzahl der Würfe Absolute H. der
Augenzahl 6 Relative Häufigkeit
der Augenzahl 6
1 1 1,00000
2 1 0,50000
3 1 0,33333
4 1 0,25000
5 2 0,40000
10 2 0,20000
M M M
3000 560 0,16867
Konvergenz der relativen Häufigkeit wird als Gesetz der großen Zahlen bezeichnet.
( )Af wird dann als Näherungswert oder Schätzwert P für die gesuchte
Wahrscheinlichkeit )(AP verwendet
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
12
• Subjektiver Wahrscheinlichkeitsbegriff
Risikosituation A: Man erhält 1000 EUR mit Wahrscheinlichkeit p .
Man erhält 0 EUR mit Wahrscheinlichkeit p−1 .
Risikosituation B: Man erhält 1000 EUR, wenn DAX innerhalb nächsten
drei Monate um 100 Punkte steigt.
Wenn nicht, geht man leer aus.
• Axiomatischer Wahrscheinlichkeitsbegriff nach Kolmogorov
Axiom 1 (Nichtnegativität): ( ) 0≥AP für jedes EA∈ . P(A) ist eine nichtnegative
reelle Zahl.
Axiom 2 (Normierung): Das sichere Ereignis hat die Wahrscheinlichkeit 1: ( ) 1=ΩP
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
13
Axiom 3 (Additivität): ( ) ( ) ( )BPAPBAP +=∪ , falls ∅=∩ BA (Additionsregel für
disjunkte Ereignisse).
Für die Ereignismenge E muss gelten:
(1) E∈Ω (sicheres Ereignis gehört zur Ereignismenge)
(2) EA ∈ , wenn EA∈ (jedes Ereignis besitzt komplementäres Ereignis)
(3) EAj
j ∈∞
=
U1
(Abgeschlossenheit der Menge E )
Axiom 3’: KK +++=∪∪∪ )()()()( 321321 APAPAPAAAP
Kolmogorovscher Wahrscheinlichkeitsraum: )](,,[ ⋅Ω PE
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
14
1.4 Wichtige Regeln der Wahrscheinlichkeitsrechnung
Theorem 1: Die Wahrscheinlichkeit des zu A komplementären Ereignisses ist:
( )APAP −= 1)( für jedes EA∈
Beweis: Ereignisse A und A sind disjunkt, folglich gilt (Axiom 3 und 2):
( ) ( ) ( ) ( ) 1=Ω=+=∪ PAPAPAAP ⇒ ( ) ( )APAP −= 1
Theorem 2: Die Wahrscheinlichkeit des unmöglichen Ereignisses beträgt:
0)( =∅P
Beweis: ∅ und Ω sind komplementäre Ereignisse. Nach Axiom 2 ist ( ) 1=ΩP und
nach Theorem 1 folgt 011)( =−=∅P .
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
15
Theorem 3: Sind die Ereignisse EAAA n ∈,,, 21 K paarweise disjunkt, dann ist die
Wahrscheinlichkeit für das Ereignis, das aus der Vereinigung all dieser
Ereignisse entsteht, die Summe der Einzelwahrscheinlichkeiten:
( )∑==
=
=∪∪∪
n
i
i
n
i
i APAPAAAP11
321 )( UK bei n disjunkte Ereignissen:
Beweis: vollständige Induktion nach Axiom 3 bzw. Axiom 3’.
Theorem 4: Für eine Differenzmenge B\A gilt stets: )()(( BAPAPB)\AP ∩−=
Beweis: Ereignis A setzt sich aus B\A und BA∩ zusammen, so dass aus Axiom 3
folgt: ( ) ( )BAPB)\APAP ∩+= (
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
16
Theorem 5: Additionsgesetz für beliebige (auch für nicht disjunkte) Ereignisse:
)()()()( BAPBPAPBAP ∩−+=∪
Beweis: Das Ereignis BA∪ setzt sich aus den drei disjunkten (gegenseitig aus-
schließenden) Ereignissen B\A , BA∩ und A\B zusammen und nach
Theorem 4 gilt:
)(( BAP-P(A)B)\AP ∩= und )(( BAP-P(B)A)\BP ∩=
Dann folgt nach Theorem 3:
A)\P(BBAPB)\P(AB)AP +∩+=∪ )((
)()()()( BAP-P(B)BAPBAPAP ∩+∩+∩−=
)()()()( BAP-P(B)BAPBAPAP ∩+∩+∩−=
)()( BAP-P(B)AP ∩+=
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
17
Additionsgesetz für (zwei) disjunkte Ereignisse:
P(B)APBAP +=∪ )()( , da ∅=∩ BA bzw. 0)( =∩ BAP
Theorem 6: Monotonieeigenschaft des Wahrscheinlichkeitsmaßes
Impliziert Ereignis A das Ereignis B ( BA ⊂ ) dann folgt grundsätzlich:
)()( BPAP ≤
Beweis: Ereignis B setzt sich aus den beiden disjunkten Ereignissen A und A\B
zusammen und nach Axiom 3 gilt: ( )BPA)\BPAP =+ ()( . Da A)\BP(
nach Axiom 1 nicht negativ sein kann, gilt:
)()( BPAP ≤ .
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
18
1.5 Bedingte Wahrscheinlichkeit und stochastische Unabhängigkeit
Bedingte Wahrscheinlichkeit: Die bedingte Wahrscheinlichkeit )( BAP ist die Wahr-
scheinlichkeit für das Eintreten des Ereignisses A unter der Voraussetzung, das B
bereits eingetreten ist.
)(
)()(
BP
BAPBAP
∩= , für 0)( >BP
= bedingte Wahrscheinlichkeit von A unter der Bedingung von B
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
19
A B
A∩∩∩∩B
Die bedingte Wahrscheinlichkeit )( BP ⋅ ist selbst ein Wahrscheinlichkeitmaß und
gehorcht ebenfalls den Kolmogorovschen Axiomen, denn es gilt:
(1) 0)( ≥BAP für beliebige Ereignisse EA∈
(2) 1)( =Ω BP für das sichere Ereignis Ω
(3) )()()( 2121 BAPBAPBAAP +=∪ , falls ∅=∩ 21 AA
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
20
)(
))()((
)(
))(()( 2121
21BP
BABAP
BP
BAAPBAAP
∩∪∩=
∩∪=∪
)()()(
)(
)(
)(21
21 BAPBAPBP
BAP
BP
BAP+=
∩+
∩=
Theorem 7: Multiplikationssatz der Wahrscheinlichkeitsrechnung (für beliebige Ereig-
nisse)
durch Umformen der Definition der bedingten Wahrscheinlichkeit:
( ) ( ) ( )ABPAPBAP ⋅=∩ , wenn ( ) 0>AP bzw.
( ) ( ) ( )BAPBPBAP ⋅=∩ , wenn ( ) 0>BP
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
21
Multiplikationssatz für drei Ereignisse:
( ) ( ) ( ) )(CPCBPCBAPCBAP ⋅⋅∩=∩∩ , wenn ( ) 0>∩ CBP
Aus ( ) 0>∩ CBP folgt ( ) 0)( >∩≥ CBPCP ist. Daher gilt:
( ) ( ) ( ) )())(( CPCBPCBAPCBAPCBAP ⋅⋅∩=∩∩=∩∩
Stochastische Unabhängigkeit: Zwei Ereignisse A und B heißen stochastisch
unabhängig, wenn
( ) ( ) ( )BPABPABP == bzw. ( ) ( ) ( )APBAPBAP ==
Theorem 8: Multiplikationssatz für stochastisch unabhängige Ereignisse:
( ) ( ) ( )BPAPBAP ⋅=∩
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
22
1.6 Totale Wahrscheinlichkeit und das Bayes Theorem
Theorem 9: Satz der totalen Wahrscheinlichkeit
Besteht ein Ereignisraum Ω aus n disjunkten Ereignissen nAAA ,...,, 21
(d.h. ∅=∩ ji AA für ji ≠ und Un
i
iA1=
Ω= bzw. vollständige Zerlegung
der Ereignismenge), und ist das Ereignis B ein Teil von Ω , Ω⊂B , dann
sind 1AB ∩ , 2AB ∩ , …, nAB ∩ disjunkte Ereignisse und es gilt:
( ) ( ) ( ) ( )n
n
i
i ABPABPABPABPBP ∩++∩+∩=
∩=
=
...)( 211U
( )∑=
∩=n
i
iABP1
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
23
Da ( ) ( ) ( )iii APABPABP ⋅=∩ ist, kann ( )BP auch als: ( ) ( )∑=
⋅=n
i
ii APABPBP1
)(
geschrieben werden.
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
24
Theorem von Bayes: Aus der Verknüpfung von bedingter und totalen Wahr-
scheinlichkeit folgt die Formel von Bayes:
( ) ( )( ) )(
)()(
BP
APABP
BP
BAPBAP
iii
i
⋅=
∩=
Ersetzt man ( )BP im Nenner durch den Ausdruck der totalen Wahrscheinlichkeit, dann
erhält man:
( )( ) ( )
( ) ( )∑=
⋅
⋅=
n
j
jj
ii
i
ABPAP
ABPAPBAP
1
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
Lehrstuhl für Empirische Wirtschaftsforschung und ÖkonometrieDr. Roland Füss Statistik II: Schließende Statistik SS 2007
25
Interpretation der Formel von Bayes:
nAAA ,...,, 21 sind sich ausschließende mögliche Zustände der Welt (alternative
Hypothesen), von denen genau eine zutrifft. B ist das Ergebnis einer Beobachtung.
Für jede der n Hypothesen iA ist die Wahrscheinlichkeit bekannt, dass B eintritt, wenn
iA gilt. )( iAP ist die A-priori-Wahrscheinlichkeit von iA bzw. die Wahrscheinlich-
keit, dass die i-te Hypothese zutrifft. Die bedingte Wahrscheinlichkeit ( )iABP ist die
Wahrscheinlichkeit von B , wenn die Hypothese iA zutrifft.
( )BAP i ist die A-posteriori-Wahrscheinlichkeit von iA bzw. die (nach der Beobachtung
von B ) ermittelte Wahrscheinlichkeit, dass die i-te Hypothese zutrifft, unter der
Bedingung, dass das Ergebnis B beobachtet worden ist.