Karteikarten zu Maximum-Likelihood-Schätzung und numerische Methoden

Maximum-Likelihood-Schätzung & Numerische Methoden Erklärt

1 / 11

Was ist das Ziel des Newton-Verfahrens in der numerischen Maximierung hier beschrieben?

Die Nullstelle der Ableitung der Log-Likelihood (also das Maximum) iterativ zu approximieren, wenn sie nicht algebraisch gefunden werden kann.

Tippen zum Umdrehen · Wischen zur Navigation

Numerische Maximierung / Newton-Verfahren

11 Karten

Karte 1

Frage: Was ist das Ziel des Newton-Verfahrens in der numerischen Maximierung hier beschrieben?

Antwort: Die Nullstelle der Ableitung der Log-Likelihood (also das Maximum) iterativ zu approximieren, wenn sie nicht algebraisch gefunden werden kann.

Karte 2

Frage: Wie lautet die rekursive Aktualisierungsregel des eindimensionalen Newton-Verfahrens für die Schätzung θ̂?

Antwort: θ̂^(l+1)=θ̂^(l) - [d^2 ln L / dθ^2 (θ̂^(l))]^{-1} · [d ln L / dθ (θ̂^(l))].

Karte 3

Frage: Welche Funktion g(θ) wird im Vortrag als Zielnullstelle betrachtet und wie wird die Tangentenargumentation angewendet?

Antwort: g(θ)=d ln L(θ)/dθ. Man nähert sich der Nullstelle ausgehend von θ̂^(l) an, bildet die Tangente an g bei θ̂^(l) und verschiebt auf der Tangente um g(θ̂

Karte 4

Frage: Warum ist der Schritt um g(θ̂^(l))/g'(θ̂^(l)) sinnvoll beim Newton-Verfahren?

Antwort: Weil auf der Tangente eine Verschiebung um eine Einheit nach links einem sinken um g'(θ̂^(l)) entspricht, und mittels Dreisatz ergibt sich die notwend

Karte 5

Frage: Gilt die Tangentenargumentation auch für negative Werte von g(θ̂^(l)) oder g'(θ̂^(l))?

Antwort: Ja, die Argumentation ist auch für negative g(θ̂^(l)) und g'(θ̂^(l)) richtig.

Karte 6

Frage: Wann kann man die rekursive Berechnung des Newton-Verfahrens abbrechen?

Antwort: Wenn das Maximum ausreichend genau (hinreichend präzise) erreicht ist.

Karte 7

Frage: Welche zusätzlichen Ableitungen der Log-Likelihood werden für das Newton-Verfahren benötigt?

Antwort: Sowohl die erste Ableitung d ln L / dθ als auch die zweite Ableitung d^2 ln L / dθ^2.

Karte 8

Frage: Gebe die Formel für die zweite Ableitung der Log-Likelihood bei einer Binomialverteilung mit Stichprobenparametern x und n an.

Antwort: d^2 ln L / dθ^2 (θ̂) = - x / θ̂^2 - (n - x) / (1 - θ̂)^2.

Karte 9

Frage: Anhand des Beispiels: Mit n=1738 und x=1378, welcher ML-Schätzer des Anteils ergibt sich direkt (nur Ergebnis)?

Antwort: θ̂ = 1378 / 1738 = 0,793.

Karte 10

Frage: Im Beispiel mit Startwert θ̂^(0)=0,5: Wie groß sind d ln L / dθ(0,5) und d^2 ln L / dθ^2(0,5) (Zahlen aus der Präsentation)?

Antwort: d ln L / dθ(0,5) = 2036; d^2 ln L / dθ^2(0,5) = -6952.