Grundlagen
Mengenlehre und DE MORGANsche Regeln
und
Kombinatorik
Fakultät
Binomialkoeffizient
Zufallsstichproben
Anzahl der möglichen Stichproben vom Umfang n aus einer Grundgesamtheit vom Umfang N:
| Ohne Zurücklegen | Mit Zurücklegen | |
|---|---|---|
| Mit | ||
| Ohne Berücksichtigung der Reihenfolge |
Definition der Wahrscheinlichkeit
(Symmetrieprinzip oder Prinzip nach LAPLACE)
Jedes Ergebnis A aus der Ergebnismenge Ω sei gleich häufig. |A| ist die Zahl der Ergebnisse,
die durch A belegt werden (Anzahl der günstigen Ergebnisse), |Ω| ist die Zahl aller möglichen Ergebnisse. Es ist
Axiome der Wahrscheinlichkeiten (Kolmogoroff):
Gegeben sind zwei Ereignisse A,B ⊂ Ω.
- Nichtnegativität
- Normiertheit
- falls A und B disjunkt sind.
Additionssatz
Für zwei Ereignisse A, B aus Ω gilt :
Für drei Ereignisse A, B, C aus Ω gilt analog :
Falls die Ereignisse disjunkt sind, gilt
Bedingte Wahrscheinlichkeit
Unabhängigkeit von Ereignissen
Ein Ereignis A ist unabhängig von B, wenn
Totale Wahrscheinlichkeit
Sei A1 ...Ak eine disjunkte Zerlegung von Ω. Dann gilt für B ⊂ Ω:
.
BAYES Theorem
Für zwei Ereignisse und mit lässt sich die Wahrscheinlichkeit von
unter der Bedingung, dass eingetreten ist, angeben durch die Wahrscheinlichkeit von
unter der Bedingung, dass eingetreten ist:
- .
Hierbei ist
- die (bedingte) Wahrscheinlichkeit des Ereignisses unter der Bedingung, dass eingetreten ist,
- die (bedingte) Wahrscheinlichkeit des Ereignisses unter der Bedingung, dass eingetreten ist,
- die A-priori-Wahrscheinlichkeit des Ereignisses und
- die A-priori-Wahrscheinlichkeit des Ereignisses .
Endlich viele Ereignisse:
Wenn eine Zerlegung der Ergebnismenge in disjunkte Ereignisse ist, gilt für die A-posteriori-Wahrscheinlichkeit
- .
Den letzten Umformungsschritt bezeichnet man auch als Marginalisierung.
Da ein Ereignis und sein Komplement stets eine Zerlegung der Ergebnismenge darstellen, gilt insbesondere
- .
Zufallsvariablen und Verteilungsmodelle
diskrete Zufallsvariablen
Ein Merkmal X, das aufgrund zufälliger Ereignisse eine (endliche) Menge
von Ausprägungen x1, x2 ... annehmen kann, nennt man diskrete
Zufallsvariable X.
Eindimensionale Zufallsvariablen
Wahrscheinlichkeitsfunktion:
Verteilungsfunktion:
Normiertheit:
Erwartungswert
Varianz
bzw. mit dem Verschiebungssatz
Standardabweichung
Varianz der Summe unabhängiger Zufallsvariablen
Mehrdimensionale Zufallsvariablen
Einzelwahrscheinlichkeit
Kovarianz
bzw. mit dem Verschiebungssatz
Korrelationskoeffizient rxy nach Bravais-Pearson
für metrisch skalierte Merkmale zweier statistischer Variablen x und y
mit als dem arithmetischen Mittel des Merkmals x. Mit Hilfe des Verschiebungssatzes:
Rangkorrelationskoeffizient nach Spearman
- für Variablen, die stark von der Normalverteilung abweichen
- sowie ordinalskalierte Variablen
Nach Ordnung der einzelnen Beobachtungen von x bzw. y der Größe nach wird
jedem Wert wird seine Rangzahl rg(xi) und rg(yi) zugewiesen. Damit:
- .
diskrete Verteilungsmodelle
Binomialverteilung
Für eine binomialverteilte Zufallsvariable X mit den Parametern n und θ (0 ≤ θ ≤ 1) lautet die Wahrscheinlichkeitsfunktion
Erwartungswert
Varianz
Hypergeometrische Verteilung
Eine Zufallsvariable X ist hypergeometrisch verteilt mit den Parametern
N (Grundgesamtheit), M ("Kugeln der ersten Sorte") und n (Stichprobenumfang),
wenn ihre Wahrscheinlichkeitsfunktion lautet
Erwartungswert
Varianz
Der Bruch wird Korrekturfaktor genannt.
Poissonverteilung
Wahrscheinlichkeitsfunktion ()
Erwartungswert und Varianz
stetige Zufallsvariablen
Eine stetige Zufallsvariable kann in jedem beschränkten Intervall unendlich viele Ausprägungen annehmen.
Ihre Verteilung lässt sich durch eine Dichtefunktion f(x) beschreiben.
(f(x) ist hier keine Wahrscheinlichkeit, sondern eine Dichte !)
Verteilungsfunktion
- Es gilt: P(X = a) = 0.
- Wegen P(X = a) = 0 ist P(X ≤ a) = P(X < a) und P(X > a) = P(X ≥ a)
Die Dichtefunktion f(x) ist die erste Ableitung der Verteilungsfunktion, falls diese an der Stelle x differenzierbar ist.
- Die Dichtefunktion f(a) kann auch größer als 1 werden.
- Ausgehend von ist das p-Quantil x(p) der Wert x, der zu einer gegebenen Wahrscheinlichkeit p gehört. Speziell x(0,5) ist der Median.
Erwartungswert
falls E(X) existiert, d.h. nicht unendlich wird.
Varianz
wobei auch hier der Verschiebungssatz angewendet werden kann:
stetige Verteilungsmodelle
Stetige Gleichverteilung (Rechteckverteilung)
Dichtefunktion der Gleichverteilung im Intervall [a,b]
Erwartungswert
Varianz
Exponentialverteilung
Dichtefunktion der Exponentialverteilung
Verteilungsfunktion
Erwartungswert
Varianz
- .
Normalverteilung
Für eine Zufallsvariable lautet die Dichtefunktion der NV
- für
Normierung mit ergibt die Standardnormalverteilung mit der Dichtefunktion :
Anm.:Es wird auch die Schreibweise anstelle verwendet
Erwartungswert
Varianz
p-Quantil
Der zu einer gegebenen Wahrscheinlichkeit p zugehörige z-Wert z(p)
- .
Beispielsweise ist z(0,975) = 1,96.
Linearkombinationen normalverteilter Zufallsvariablen
Für n normalverteilte Zufallsvariablen
ist die Linearkombination
ebenfalls normalverteilt mit dem Erwartungswert
- .
Falls die stochastisch unabhängig sind, gilt für die Varianz
- .
Die Varianz muss größer Null sein, deshalb muss zudem für mindestens ein gelten.
Verteilung des Stichprobendurchschnitts
Sind die n Zufallsvariablen (i = 1, ... , n) sämtlich normalverteilt
mit gleichem μ und gleichem σ2, ist die Linearkombination
X mit a0 = 0, a1 = a2 = ... = an = 1/n, also :
normalverteilt dem Erwartungswert
und, falls die Xi (i = 1, ... , n) stochastisch unabhängig sind, mit der Varianz
- .
CHI-Quadrat-verteilung
Die seien unabhängige standardnormalverteilte Zufallsvariablen.
Dann ist die Verteilung der Zufallsvariablen
chi-quadrat verteilt mit n Freiheitsgraden
Erwartungswert:
Varianz
- .
Anm.: Die Gruppe der Hypothesentests mit -Verteilung bezeichnet man als -Test.
Hierunter sind mehrere Tests zu verstehen:
Verteilungstest oder Anpassungstest: Hier wird geprüft, ob vorliegende Daten auf eine bestimmte Weise verteilt sind.
Unabhängigkeitstest: Hier wird geprüft, ob zwei Merkmale stochastisch unabhängig sind.
Homogenitätstest: Hier wird geprüft, ob zwei oder mehr Stichproben derselben Verteilung bzw. einer homogenen Grundgesamtheit entstammen.
t- (Student-) Verteilung
Für die unabhängigen Variablen (standardnormalverteilt) und ist die Variable
t-verteilt mit n Freiheitsgraden.
Erwartungswert
- für
Varianz
- für
Fisher- Verteilung
Für die unabhängigen Variablen und ist die Verteilung der Variablen
Fisher- oder F-verteilt mit den Freiheitsgraden m und n.
Erwartungswert
- für
Varianz
- für
Approximation von Verteilungen
| Gesuchte Verteilung | Approximation durch | ||
| Binomial | Poisson | Normal | |
| Binomial | --- | | |
| Hypergeometrische | | über Binomialverteilung | |
| Poisson | --- | --- | |
| χ2-Verteilung → | --- | --- | |
| t-Verteilung | --- | --- | |
| F-Verteilung | --- | --- | |
Grenzwertsatz
Gesetz der großen Zahlen
Für ein beliebig kleines c > 0 gilt
- für
Theorem von Bernoulli
Die relative Häufigkeit, mit der ein Ereignis A bei n unabhängigen Wiederholungen
eines Zufallsereignisses eintritt, konvergiert nach Wahrscheinlichkeit gegen P(A)
Hauptsatz der Statistik
Für eine Zufallsvariable X mit der Verteilungsfunktion F(x) gilt für die Verteilungsfunktion Fn(x)
für die unabhängigen wie identisch wie X verteilten X1…Xn (x∈ R)
(sup: Maximale Abweichung zwischen und ).
Zentraler Grenzwertsatz
Für unabhängig identisch verteilte Zufallsvariablen X1…Xn mit E(Xi ) = μ
und Var(Xi ) =σ2 > 0 konvergiert die Verteilungsfunktion Fn(z) = P(Zn≤z)
der standardisierten Summe
für n → ∞ an jeder Stelle gegen die Verteilungsfunktion der Standardnormalverteilung
Grenzwertsatz von De Moivre
Die Verteilung der standardisierten absoluten Häufigkeit der Standardnormalverteilung
konvergiert für n → ∞ gegen eine Standardnormalverteilung.
Deskriptive Statistik
Skalenniveaus
Nominalskala
Die Ausprägungen des nominalskalierten Merkmals können nicht geordnet werden,
man kann sie nur vergleichen und abzählen.
Es handelt sich um qualitative Merkmale. Erhalten die Ausprägungen Ziffern zugeordnet,
handelt es sich nur um eine Verschlüsselung (Codierung): 1 = männlich, 2 = weiblich.
Ordinalskala
Zwischen den Ausprägungen des ordinalskalierten (rangskalierten) Merkmals existiert eine Beziehung
der Form mehr oder weniger, < oder >, besser oder schlechter.
Eine Quotientenbildung macht wenig Sinn (Beispiel Noten: 1, 2, 3, 4, 5).
Intervallskala
Die Abstände zwischen den Ausprägungen des (quantitativen) Merkmals der Intervallskala
können gemessen werden. Es handelt sich bei den Ausprägungen um (reelle) Zahlen.
Beispiel: Kinderzahl, Temperatur.
Verhältnissskala
Sowohl die Abstände als auch Verhältnisse zwischen den Ausprägungen des (quantitativen) Merkmals
können gemessen werden. Es handelt sich bei den Ausprägungen um (reelle) Zahlen. Beispiel: Einkommen.
Zweig-Blätter-(stem-leaf-) Diagramm
Die linke Spalte enthält als „Stämme“ die Äquivalenzklassen, in die die auf der rechten Seite als „Blätter“
dargestellten Merkmale eingeteilt werden. Beispiel: Gegeben sind die Werte 0,3 0,4 2,5 2,5 2,6 2,7 2,8 3,5 3,7.
Wählt man die natürlichen Zahlen als Klasseneinteilung, ergibt sich folgendes Stamm-Blatt-Diagramm:
| 3 | 5 | 7 | |||
| 2 | 5 | 5 | 6 | 7 | 8 |
| 1 | |||||
| 0 | 3 | 4 |
Lageparameter
Arithmetisches Mittel
Median (Zentralwert)
Sind die Beobachtungswerte der Größe nach geordnet, ist der Median z die Stelle, die die Teilgesamtheit in zwei gleiche Hälften teilt.
geometrisches Mittel
harmonisches Mittel
Modalwert
Der am häufigsten auftretende Wert
Varianz
Grundgesamtheit:
Stichprobe:
Verschiebungssatz
Für jedes gilt
Damit erhält man als Varianz
Variationskoeffizient
Konzentrationsmasse
Konzentrationsrate
Die Konzentrationsrate CRn ist die Summe der Marktanteile der n größten Unternehmen eines relevanten Marktes. Im GWB werden die Raten CR1, CR3 und CR5 herangezogen.
Lorenzkurve
Für eine geordnete Urliste x1 ≤ x2… ≤xn trägt man die kumulierte relative Merkmalssumme
über den Anteil der Merkmalsträger auf.
Liegen die Merkmale in gruppierter Form vor, trägt man die kumulierte relative Merkmalssumme
über der Häufigkeit auf.
Zwischen (0;0) und (1;1) wird die Winkelhalbierende des Koordinatensystems eingetragen.
Gini-Koeffizient
Als Ginikoeffizient G bezeichnet man das Verhältnis der Fläche zwischen Winkelhalbierender und der Lorenzkurve
zur Gesamtfläche unter der Winkelhalbierenden (= 1/2).
Die Fläche unterhalb der Lorenzkurve kann man einfach aus Teil-Trapezflächen zusammensetzen:
(p0 = 0 ; q0 = 0):
Ginikoeffizient: Ermittlung einer Trapezfläche für i=3
Ginikoeffizient
Herfindahl-Index
Parameterschätzung
Konfidenzintervall für den Erwartungswert μ
Normalverteiltes Merkmal mit bekannter Varianz
Das Zufallsintervall enthält mit einer Wahrscheinlichkeit 1-α den Parameter:
Konfidenzintervall
(Quantil z aus Normalverteilungstabelle)
Normalverteiltes Merkmal mit unbekannter Varianz
Für normalverteilte Merkmale und unbekannter Varianz muss die Varianz durch s2 geschätzt werden.
- .
Konfidenzintervall
(Quantil aus der t-Verteilungstabelle bei Freiheitsgrad n-1).
Merkmal mit unbekannter Verteilung und bekannter Varianz
Konfidenzintervall
- für n > 30.
Merkmal mit unbekannter Verteilung und unbekannter Varianz
Konfidenzintervall
- für n > 50
Konfidenzintervalle für den Anteilswert einer dichotomen Grundgesamtheit
Modell mit Zurücklegen
Beschreibung durch den geschätztem Anteilswert . Für n > 100 und )
erhält man das 1-α-Konfidenzintervall für p durch eine Approximation der Binomialverteilung mit Hilfe der Normalverteilung:
Modell ohne Zurücklegen
Für kann die hypergeometrische Verteilung durch die Normalverteilung approximiert werden:
- -Konfidenzintervall für :
Hypothesentests
Vorgehen beim Hypothesentest
I. Feststellung der Verteilung des Merkmals in der Grundgesamtheit
II. Aufstellen der Nullhypothese
III. Festlegen der Testfunktion T
IV. Festlegen des Annahmebereichs ("Nichtablehnungsbereichs") (für ein zu bestimmendes Signifikanzniveau)
Fällt die Prüfgröße in den Bereich [u; o],
wird H0 nicht abgelehnt. Es soll sein
(beachte: ein- oder zweiseitig)
α : Signifikanzniveau oder α-Fehler
V. Stichprobe erheben
VI. Entscheidung treffen
| H0 ist wirklich wahr | H1 ist wirklich wahr | |
|---|---|---|
| H0 wird beibehalten | richtige Entscheidung (1-α) | Fehler 2. Art (β-Fehler) |
| H1 wird angenommen | Fehler 1. Art (α-Fehler) | richtige Entscheidung (1-β) |
Tests auf Lageparameter (Erwartungswert, Median, Anteilswert)
Test auf Erwartungswert
| Test | ||
|---|---|---|
| zweiseitig | μ = μ0 | μ ≠ μ0 |
| rechtsseitig | μ ≤ μ0 | μ > μ0 |
| linksseitig | μ ≥ μ0 | μ < μ0 |
Zweiseitiger Test für
linksseitiger Test für
Rechtsseitiger Test für
1. X ist normalverteilt, σ ist bekannt bei beliebigem n bzw. näherungsweise normalverteilt bei n > 30
- Testfunktion
- (Gauß-Test):
| Ablehnungsbereich | |
|---|---|
| zweiseitig | |
| rechtsseitig | |
| linksseitig |
2. X ist normalverteilt, σ ist unbekannt bei beliebigem n
- Testfunktion
- (t-Test).
| Ablehnungsbereich | |
|---|---|
| zweiseitig | |
| rechtsseitig | |
| linksseitig |
3. X ist näherungsweise normalverteilt, σ ist unbekannt bei n > 30
- Testfunktion
- (Gauß-Test) .
| Ablehnungsbereich | |
|---|---|
| zweiseitig | |
| rechtsseitig | |
| linksseitig |
Vorzeichentest
Einstichprobenproblem
| Einseitig | Zweiseitig | ||
|---|---|---|---|
Die Stichprobenwerte, die größer als der hypothetische Median sind, bekommen ein "+" zugeordnet;
Werte, die kleiner sind, ein "-". Die Anzahl der positiven Vorzeichen wird gezählt und dient als Teststatistik.
Zweistichprobenproblem
Die Beobachtungspaare dürfen nicht voneinander abhängen, d.h. das Wertepaar muss unabhängig
vom Wertepaar sein.
Besitzen beide Grundgesamtheiten den gleichen Median, gilt .
Folgende Hypothesen können mit dem Vorzeichentest geprüft werden:
| Einseitig | Zweiseitig | ||
|---|---|---|---|
Die Wertepaare der Stichproben, bei denen gilt, bekommen ein "+" zugeordnet;
Wertepaare, für die gilt, ein "-". Die Anzahl der positiven Vorzeichen wird gezählt
und dient als Teststatistik. Die Teststatistik entspricht der Anzahl der positiven Vergleiche (Differenzen der Werte bzw. Ränge):
mit
Für das Einstichprobenproblem sind die Werte der zweiten Stichprobe durch den hypothetischen Median zu ersetzen.
Bei Gültigkeit der Nullhypothese ist die Summe der positiven Differenzen binomialverteilt mit ,
da der Median dem 50 %-Quantil entspricht. n' bezeichnet den nach Behandlung von Ties (Nulldifferenzen, Rangbindungen, s.u.)
verbleibenden Stichprobenumfang. Bei Gültigkeit der Nullyhypothese ist die Verteilung der Prüfgröße symmetrisch.
Approximation durch die Normalverteilung
Mit nähert sich die Binomialverteilung einer Normalverteilung mit ,
als Faustregel ().
Mit bzw. ist die z-standardisierte Größe
näherungsweise standardnormalverteilt.
Bindungen (Nulldifferenzen) Sind im Zweistichprobenproblem die Werte von Beobachtungen von der ersten zur zweiten Stichprobe unverändert
oder im Einstichprobenproblem einige Werte gleich dem Median, ergeben sich Nulldifferenzen bzw. Bindungen (Ties),
die man so behandeln kann:
- Beobachtungen mit Rangbindungen werden eliminiert, d.h. der Stichprobenumfang wird reduziert.
- Die Beobachtungen werden zu gleichen Teilen den Gruppen zugeordnet. Bei ungerader Anzahl von Bindungen wird ein Beobachtungspaar eliminiert.
- Die Beobachtungen werden jeweils mit einer Wahrscheinlichkeit von 0,5 einer der beiden Gruppen (+ oder -) zugeordnet.
Test auf Anteilswert (Binomialtest)
Der Anteilswert θ wird geschätzt durch
- .
Mit dem Binomialtest können folgende Hypothesenpaare für θ getestet werden:
| Test | ||
|---|---|---|
| zweiseitig | ||
| rechtsseitig | ||
| linksseitig |
- für n > 30 , nθ0 ≥ 10 n(1-θ0) ≥ 10
- kann man durch die Gauß-Verteilung approximieren:
- Testfunktion
- (Gauß-Test) .
| Ablehnungsbereich | |
|---|---|
| zweiseitig | |
| rechtsseitig | |
| linksseitig |
- für n < 30 oder nθ0 < 10 oder n(1-θ0) < 10
- ist der exakte Binomialtest anzuwenden:
- Testfunktion
Die Teststatistik gibt an, wie oft das Merkmal in einer zufälligen Stichprobe vom Umfang aufgetreten ist.
Unter der Nullhypothese ist die Teststatistik -verteilt, das heißt
- .
- Ablehnungsbereich
Da die Teststatistik diskret verteilt ist, kann das vorgegebene Signifikanzniveau in der Regel nicht eingehalten werden.
Daher wird gefordert, die kritischen Werte so zu wählen, dass für ein möglichst großes exaktes Signifikanzniveau gilt .
Für den zweiseitigen Test werden daher als kritische Werte das größte und das kleinste bestimmt, für die gilt
- und
- .
Das exakte Signifikanzniveau ergibt sich als
.
Für die beiden einseitigen Tests wird analog verfahren.
| Test | Kritische Werte | Kritischer Bereich | Grenze(n) |
|---|---|---|---|
| zweiseitig | und | ||
| rechtsseitig | c = kleinster Wert, für den | ||
| linksseitig | c = größter Wert, für den |
Tests auf Streuung
Test auf Varianz
| Test | ||
|---|---|---|
| zweiseitig | ||
| rechtsseitig | ||
| linksseitig |
1. X ist normalverteilt, μ ist unbekannt, n beliebig
- Testfunktion
| Ablehnungsbereich | |
|---|---|
| zweiseitig | oder |
| rechtsseitig | |
| linksseitig |
2. X ist normalverteilt, μ ist bekannt, n beliebig
- Testfunktion
| Ablehnungsbereich | |
|---|---|
| zweiseitig | oder |
| rechtsseitig | |
| linksseitig |
Tests auf Zusammenhangs- und Assoziationsparameter
Chi-Quadrat-Unabhängigkeitstest
- Nullhypothese
- : Die Merkmale und sind stochastisch unabhängig.
Die Beobachtungen der Merkmale und liegen paarweise in bzw. Klassen vor.
| Es gibt insgesamt paarweise Beobachtungen von und , die sich auf Kategorien verteilen. Aufstellung z. B. in einer Häufigkeitstabelle: | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Absolute Randhäufigkeiten bzw.
- und
Prüfgröße für den Unabhängigkeitstest:
Mit :
wird abgelehnt, wenn ist.
Anpassungs- oder Verteilungstests
Chi-Quadrat-Anpassungs- oder Verteilungstest
Die Wahrscheinlichkeiten eines Merkmals seien in der Grundgesamtheit unbekannt.
Nullhypothese: : Das Merkmal besitzt die Wahrscheinlichkeitsverteilung
Für unabhängige Beobachtungen des Merkmals wird die Zahl
der Beobachtungen in der -ten Klasse ist die beobachtete Häufigkeit .
Im Vergleich dazu wird die hypothetische Verteilung bestimmt aufgrund der Wahrscheinlichkeit ,
dass eine Ausprägung von in die Kategorie fällt. Die unter zu erwartende Häufigkeit ist:
Die Prüfgröße (Größe der Abweichung)
ist bei ausreichend großen annähernd chi-Quadrat-verteilt mit Freiheitsgraden.
wird abgelehnt, wenn gilt.
Kolmogorow-Smirnow-Anpassungstest
Test auf Übereinstimmung zweier Wahrscheinlichkeitsverteilungen.
Man betrachtet ein statistisches Merkmal X, dessen Verteilung in der Grundgesamtheit unbekannt ist.
- (Die Zufallsvariable X besitzt die Wahrscheinlichkeitsverteilung F0.)
- (Die Zufallsvariable X besitzt eine andere Wahrscheinlichkeitsverteilung als F0.)
Der Kolmogorow-Smirnow-Test vergleicht die empirische Verteilungsfunktion mit mittels der Teststatistik
- (sup: Supremum)
Die Teststatistik ist unabhängig von der hypothetischen Verteilung F0.
Ist der Wert der Teststatistik größer als der entsprechende tabellierte kritische Wert, so wird die Nullhypothese verworfen.
Einstichprobenproblem
Von einer reellen Zufallsvariablen liegen aufsteigend sortierte Beobachtungswerte () vor.
Von diesen Beobachtungen wird die relative Summenhäufigkeit mit der entsprechenden hypothetischen
Verteilung der Grundgesamtheit F0(xi) verglichen. Voraussetzung: ist stetig.
Für jedes werden die absoluten Differenzen
- und :
berechnet, wobei gesetzt wird. Wenn die größte Differenz aus allen Differenzen ,
einen kritischen Wert übersteigt, wird die Hypothese abgelehnt.
Bis n=40 greift man auf Tabellen zurück (s. Anhang). Für größere werden sie über angenähert.
Zweistichprobenproblem
Liegt nun zusätzlich zur Zufallsvariablen eine entsprechende Zufallsvariable vor (mit geordneten Werten ),
so kann durch den Zweistichprobentest überprüft werden, ob und derselben Verteilungsfunktion folgen.
Von beiden Beobachtungen werden die die Differenzen der relativen Summenfunktionen bzw. ermittelt:
- und : .
Die Nullhypothese wird abgelehnt, falls den kritischen Wert überschreitet.
Für kleine Werte von und greift man auf Tabellen zurück.
Für große Werte von n und m wird die Nullhypothese abgelehnt, falls
- ,
wobei für große und näherungsweise als berechnet werden kann.
Varianzanalyse
univariate Varianzanalyse (ANOVA)
Man untersucht man den Einfluss einer unabhängigen Variable (Faktor) mit k verschiedenen Stufen (Gruppen) auf die Ausprägungen einer Zufallsvariablen.
Dazu werden die k Mittelwerte der Ausprägungen für die Gruppen miteinander verglichen, und zwar vergleicht man die Varianz zwischen den Gruppen mit der Varianz innerhalb der Gruppen.
Weil sich die totale Varianz aus den zwei genannten Komponenten zusammensetzt, spricht man von Varianzanalyse.
Die einfaktorielle ANOVA ist die Verallgemeinerung des t-Tests bei mehr als zwei Gruppen. Für k=2 ist sie äquivalent mit dem t-Test.
Es sei der Erwartungswert der abhängigen Variable in der i. Gruppe.
- (Es besteht kein Unterschied zwischen den Erwartungswerten der Gruppen.)
- (Es besteht zwischen mindestens zwei Erwartungswerten ein Unterschied.)
→ Wir wissen dann nur mit einer bestimmten Wahrscheinlichkeit, dass mindestens zwei Ausprägungen einen bedeutsamen Unterschied aufweisen.
Effektdarstellung :
Darin sind:
Xij: Zielvariable; annahmegemäß in den Gruppen normalverteilt
k: Anzahl der Faktorstufen des betrachteten Faktors
ni: Stichprobenumfänge für die einzelnen Faktorstufen
μ: arithmetisches Mittel der Erwartungswerte in den Gruppen
αi: Effekt der i-ten Faktorstufe
εij: Störvariablen, unabhängig und normalverteilt mit Erwartungswert 0 und gleicher (unbekannter) Varianz σ2.
Erwartungswert in der i. Gruppe:
Betrachtung der Quadratsummen (Variabiliät)
Die gesamte Variabilität QST (gesamte quadratische Abweichung vom Mittelwert) lässt sich in zwei Teile zerlegen:
Der erste Teil QSA (Gruppenzugehörigkeit) entspricht der ('Inter-')Variabilität zwischen den Gruppen.
Der Rest QSE entspricht der Variabilität innerhalb der Gruppen (gesamte 'Intra'-Abweichung von den Mittelwerten in den Gruppen, der 'Zufall'):
Die zwei Quadratsummen QSA und QSE sind stochastisch unabhängig.
Im Fall von k Gruppen mit gleichem Umfang b=n/k gilt unter der Nullhypothese außerdem:
- folgt einer Chi-Quadrat-Verteilung mit k-1 Freiheitsgraden,
und
- folgt einer Chi-Quadrat-Verteilung mit n-k Freiheitsgraden.
mittlere Quadratsummen:
- und :
Prüfgröße:
Gruppen gleicher Größe
Im Falle Gruppen gleicher Größe ist F unter der Nullhypothese F-verteilt
mit Freiheitsgraden im Zähler und Freiheitsgraden im Nenner.
Wenn die Prüfgröße
signifikant (d.h. wird, unterscheiden sich mindestens zwei Faktoren ('Gruppen') voneinander.
In Post-Hoc-Tests kann dann berechnet werden, zwischen welchen einzelnen Gruppen der Unterschied liegt.
Regressionsrechnung
Lineare Regression
Methode der kleinsten Quadrate
bezüglich a und b.
Nach Ausmultiplikation, Ableiten und Nullsetzen
erhält man die gesuchten Regressionskoeffizienten als die Lösungen
und
wobei .
Mit dem Verschiebungssatz kann man auch so ermitteln:
Schätzungen ŷ
Residuen ri :
Stichprobenvarianz der Residuen:
Bestimmtheitsmaß
mit dem Verschiebungssatz :
Varianz der Residuen
Variablentransformation
| Funktion | u | v |
Die Methode kann auf weitere Parameter erweitert werden.
Zeitreihenanalyse
Komponentenunterteilung bei Zeitreihen
Mögliche Aufteilung einer Zeitreihe in Komponenten:
- Trend Q
- Konjunkturelle Schwankung K
- Saisonale Schwankung S
- Restschwankung r
Bei Unabhängigkeit dieser Komponenten kann man ein additives Modell annehmen:
Nehmen beispielsweise zyklische Schwankungen mit steigendem Trend zu, könnte ein multiplikatives Modell
angebracht sein. Variablentransformation durch Logarithmieren
Schätzung des Trends durch Regression
‘‘‘Regressionsmodell‘‘‘
- bzw.
mit den Lösungen
und
- .
Die Trendwerte Qt sind dann
- .
Nichtlinearer Trendverlauf: Lösung über Variablentransformation oder Anwendung eines nichtlinearen Regressionsansatzes
Schätzung der Saisonkomponente
Additives Modell
Nach Schätzung der Trendkomponente Qt bleibt noch die Abweichung
und
dt: trendbereinigter Zeitreihenwert
Bestimmung der saisonalen Komponente St über Fourieranalyse oder (einfacher)
Bildung des arithmetischen Durchschnitts aller Werte dt, die die gleiche Saison betreffen,
als Schätzung für die saisonale Komponente. Dann bleibt die nichterklärte Restschwankung
Prognose für den Zeitpunkt T+k (mit St als Wert in der Saison T+k)
Schätzung der glatten Komponente mit gleitenden Mittelwerten
Lässt sich die Trendkomponente des Zeitreihenmodells offensichtlich durch keine funktionale lineare oder
nichtlineare Beziehung darstellen, kann man eine glatte Komponente mit Hilfe gleitender Mittelwerte bestimmen.
einfacher gleitender Mittelwert
Beispiel: Mittelwert dritter Ordnung:
Die Ordnung des Mittelwerts sollte so gewählt werden, daß möglichst genau eine Periode umfasst wird.
Zur Prognose über den Beobachtungszeitraum hinaus sind gleitende Mittelwerte bedingt geeignet,
da die Randwerte der Zeitreihe nicht geschätzt werden.
gewichteter gleitender Mittelwert
Beispiel: Mittelwert dritter Ordnung mit z.B.
Exponentielle Glättung
Gewichtung durch den Glättungsfaktor mit :
Geglätteter Schätzwert y*t als gewichteter Durchschnitt aus dem aktuellen Zeitreihenwert yt
und dem Schätzwert der Vorperiode y*t-1 (y*0 geeignet wählen):
Auflösung der Rekursivität:
Für die Wahl des Glättungsfaktors wird häufig 0,2 bis 0,3 empfohlen. Man kann aber auch mit Hilfe der Regressionsanalyse den Glättungsfaktor schätzen.
Exponentielle Glättung bei trendbehafteten Werten
Bei Trend werden die Zeitreihenwerte systematisch unter- bzw. überschätzt. Abhilfe bieten ggf. gleitende Durchschnitte zweiter Ordung.
Die bereits einmal geglätteten Werte erneut einer Glättung unterzogen. Man erhält den Schätzwert , der sich analog zu oben berechnet aus
Für einen brauchbaren Prognosewert für Periode t+1 muss man dann bestimmen
- .
Symbolverzeichnis
allgemein
| Symbol | Verwendung |
|---|---|
| A,B | Ereignisse |
| Ω = {A,B,C...} | Ereignisraum |
| |A| | Anzahl der Ereignisse A |
| P(A) | Wahrscheinlichkeit für das Eintreten von A |
| ∪ ∩ | Und-Verknüpfung (Konjunktion) / Oder-Verknüpfung (Disjunktion) |
| P(A | B) | Bedingte Wahrscheinlichkeit (A wenn B) |
| E(X) | Erwartungswert von X |
| f(X) | Wahrscheinlichkeitsfunktion |
| F(X) | Verteilungsfunktion |
| N | Grundgesamtheit |
| n | Stichprobe |
| X | Zufallsvariable |
| Varianz von X | |
| Θ | Anteilswert einer Grundgesamtheit |
Verteilungsmodelle
| Symbol | Verwendung |
|---|---|
| Binomialverteilung | |
| F(m,n) | Fisherverteilung |
| Hypergeometrische Verteilung | |
| Poissonverteilung | |
| Normalverteilung | |
| t(n) | t- (Student-) Verteilung |
| Standardnormalverteilung | |
Tabellen
|
|
Weitere Werte können mittels =BINOMVERT(x;n;p;0) bei Tabellenkalkulationsprogrammen
oder der R-Funktion dbinom(x, n , p) bestimmt werden
|
Zur Bildung von z ist der Wert von linker Spalte und oberer Zeile zu addieren.
Ablesebeispiel:
weitere Werte: =NORM.S.VERT(z;WAHR) bzw. (R-Aufruf): pnorm(z)
|
- p = 1−α
weitere Werte: =CHIQU.INV(n;p) bzw. (R-Aufruf): qchisq(p,n)
|
Für kann näherungsweise die Formel verwendet werden.
Werte berechnet nach George Marsaglia et al. “Evaluating Kolmogorov’s Distribution”. Journal of Statistical Software, 8(18):1-4, Nov 2003.
|
|
- p = 1−α
weitere Werte: =F.INV(p;n1;n2) bzw. (R-Aufruf): qf(p,n1,n2)
|
- p = 1−α
weitere Werte: =T.INV(p ;n) bzw. (R-Aufruf): qt(p ,n)