Kerndichteschätzer

Die Kerndichteschätzung (auch Parzen-Fenster-Methode; englisch kernel density estimation, KDE) ist ein statistisches Verfahren zur Schätzung der Wahrscheinlichkeitsverteilung einer Zufallsvariablen.

In der klassischen Statistik geht man davon aus, dass statistische Phänomene einer bestimmten Wahrscheinlichkeitsverteilung folgen und dass sich diese Verteilung in Stichproben realisiert. In der nichtparametrischen Statistik werden Verfahren entwickelt, um aus der Realisierung einer Stichprobe die zu Grunde liegende Verteilung zu identifizieren. Ein bekanntes Verfahren ist die Erstellung eines Histogramms. Nachteil dieses Verfahrens ist, dass das resultierende Histogramm nicht stetig ist. Vielfach ist aber davon auszugehen, dass die zu Grunde liegende Verteilung eine stetige Dichtefunktion hat, etwa die Verteilung von Wartezeiten in einer Schlange oder der Rendite von Aktien.

Die im Folgenden beschriebenen Kerndichteschätzer sind dagegen Verfahren, die eine stetige Schätzung der unbekannten Verteilung ermöglichen. Genauer: Ein Kerndichteschätzer ist ein gleichmäßig konsistenter, stetiger Schätzer der Dichte eines unbekannten Wahrscheinlichkeitsmaßes durch eine Folge von Dichten.

Beispiel

Kerndichteschätzung

Im folgenden Beispiel wird die Dichte einer Standardnormalverteilung (schwarz gestrichelt) durch Kerndichteschätzung geschätzt. In der konkreten Situation des Schätzens ist diese Kurve natürlich unbekannt und soll durch die Kerndichteschätzung geschätzt werden. Es wurde eine Stichprobe (vom Umfang 100) generiert, die gemäß dieser Standardnormalverteilung verteilt ist. Mit verschiedenen Bandbreiten $h$ wurde dann eine Kerndichteschätzung durchgeführt. Man sieht deutlich, dass die Qualität des Kerndichteschätzers von der gewählten Bandbreite abhängt. Eine zu kleine Bandbreite erscheint „verwackelt“, während eine zu große Bandbreite zu „grob“ ist.

Kerne

Kerndichteschätzung mit Cauchykern

Mit Kern wird die stetige Lebesgue-Dichte $k$ eines fast beliebig zu wählenden Wahrscheinlichkeitsmaßes $K$ bezeichnet. Mögliche Kerne sind etwa:

• Gaußkern $k(t):={\frac {1}{\sqrt {2\pi }}}\exp \left(-{\frac {1}{2}}t^{2}\right)$
• Cauchy-Kern $k(t):={\frac {1}{\pi (1+t^{2})}}$
• Picard-Kern $k(t):={\frac {1}{2}}\exp(-|t|)$
• Epanechnikov-Kern $k(t):={\begin{cases}{\frac {3}{4}}(1-t^{2}),&{\text{wenn }}t\in [-1;1]\\0,&{\text{sonst.}}\end{cases}}$

Diese Kerne sind Dichten von ähnlicher Gestalt wie der abgebildete Cauchykern. Der Kerndichteschätzer stellt eine Überlagerung in Form der Summe entsprechend skalierter Kerne dar, die abhängig von der Stichprobenrealisierung positioniert werden. Die Skalierung und ein Vorfaktor gewährleisten, dass die resultierende Summe wiederum die Dichte eines Wahrscheinlichkeitsmaßes darstellt. Der folgenden Abbildung wurde eine Stichprobe vom Umfang 10 zu Grunde gelegt, die als schwarze Kreise dargestellt ist. Darüber sind die Cauchykerne (grün gestrichelt) dargestellt, aus deren Überlagerung der Kerndichteschätzer resultiert (rote Kurve).

Der Epanechnikov-Kern ist dabei derjenige Kern, der unter allen Kernen die mittlere quadratische Abweichung des zugehörigen Kerndichteschätzers minimiert.

Der Kerndichteschätzer

Definition

Ist $x_{1},\ldots ,x_{n}\in \mathbb {R}$ eine Stichprobe, $k$ ein Kern, so wird der Kerndichteschätzer zur Bandbreite $h>0$ definiert als:

${\tilde {f}}_{n}:\mathbb {R} \to \mathbb {R} _{+}$

${\tilde {f}}_{n}(t)={\frac {1}{n}}\sum _{j=1}^{n}k_{h}(t-x_{j})={\frac {1}{nh}}\sum _{j=1}^{n}k\left({\frac {t-x_{j}}{h}}\right)$.

Satz von Nadaraya

Die Wahl der Bandbreite $h$ ist entscheidend für die Qualität der Approximation. Mit entsprechender, in Abhängigkeit vom Stichprobenumfang gewählter Bandbreite konvergiert die Folge ${\tilde {f}}_{n}$ der Kerndichteschätzer fast sicher gleichmäßig gegen die Dichte des unbekannten Wahrscheinlichkeitsmaßes. Diese Aussage wird im Satz von Nadaraya konkretisiert. Der Satz liefert die Aussage, dass mit entsprechend gewählter Bandbreite eine beliebig gute Schätzung der unbekannten Verteilung durch Wahl einer entsprechend großen Stichprobe möglich ist:

Sei $k$ ein Kern von beschränkter Variation. Die Dichte $f$ eines Wahrscheinlichkeitsmaßes sei gleichmäßig stetig. Mit $0<\alpha <{\tfrac {1}{2}}$ und $c>0$ seien für $n\in \mathbb {N}$ die Bandbreiten $h(n)={\tfrac {c}{n^{\alpha }}}$ definiert. Dann konvergiert die Folge der Kerndichteschätzer ${\tilde {f}}_{n}$ mit Wahrscheinlichkeit 1 gleichmäßig gegen $f$, d. h.

$P\left(\lim _{n\to \infty }\sup _{t\in \mathbb {R} }|{\tilde {f}}_{n}(t)-f(t)|=0\right)=1$.

Anwendung

Die Kerndichteschätzung wird von Statistikern seit etwa 1950 eingesetzt und wird in der Ökologie häufig zur Beschreibung des Aktionsraumes eines Tieres verwendet, seitdem diese Methode in den 1990ern in den Wissenschaftszweig Einzug hielt. Damit kann die Wahrscheinlichkeit errechnet werden, mit der ein Tier sich in einem bestimmten räumlichen Bereich aufhält. Aktionsraum-Voraussagen werden durch farbige Linien (z. B. Isolinien) dargestellt. Diese Anwendung liegt auch der seit etwa 2010 üblichen „Heatmap“-Visualisierung des Aufenthaltsorts von Mannschaftsspielern (z. B. im Fußball) während der Spielzeit zugrunde.

Siehe auch

• Empirische Verteilungsfunktion