Der Ausdruck $\forall$ bedeutet, dass die Gleichung für alle $x$ gilt, die in der Menge $X(\Omega)$ liegen. Das heißt, dass der bedingte Erwartungswert $E(Y|X=x)$ nicht nur für ein spezielles $x$ dem Wert $g(x)$ entspricht, sondern eben für alle Werte von der Zufallsvariable $X$ dem Wert der Regression $g$ entspricht.

Prinzipiell ist es egal, welche Formel man benutzt. Wenn man die Varianz des Residuums kennt, bietet sich die zweite Formel an, wenn man die Varianz der Regression kennt, die erste Formel.

Erwartungswerte, Varianzen und Kovarianzen kann man sehr einfach mit einem Datensatz schätzen. Wenn man sich für die Koeffizienten interessiert (das tut man meistens), kann man mithilfe der Formeln (geschätzte) Erwartungswerte und (Ko-)varianzen in (geschätzte) Regressionskoeffizienten umrechnen.

Die Parameter in der ersten Darstellung sind 6 und 3, die Parameter in der zweiten Darstellung sind 3 und 2. Trotzdem wird die gleiche bedingte Erwartung durch die beiden Parametrisierungen dargestellt.

Wenn man sich für Unterschiede zwischen den Erwartungswerten in den verschiedenen Gruppen interessiert, bietet sich die Referenzgruppenkodierung an. Wenn man sich für die die Erwartungswerte selbst interessiert, nimmt man die Zellenmittelwertkodierung.

Das ist eine mögliche Interpretation. Man muss allerdings vorsichtig mit der Verwendung des Begriffs "beinflusst" sein. Das klingt sehr nach kausaler Interpretation. Allerdings kann man an dem Interaktionsterm nicht sehen, welche Variable welche beeinflusst.

Man muss die Rechenregeln weder auswendig können, noch herleiten können. Man sollte sie aber bei einfache Problemen anwenden können.

Einfache Antwort: Weil das eine Rechenregeln ist
Komplizierte Antwort: Das kann man nachrechnen durch Anwendung der Definition von der Kovarianz: $$ \begin{align} Cov(X+Y,Z) &= E[(X+Y)Z]-E[X+Y]E[Z] \\ &= E[XZ+YZ]-[E(X)+E(Y)]E[Z] \\ &= E[XZ] - E[X]E[Z] + E[YZ]-E[Y]E[Z] \\ &= Cov(X,Z) + Cov(Y,Z) \end{align} $$

$\beta$ ist ein Spaltenvektor. Damit $\beta$ und die den Spaltenvektor $X$ kann man nicht einfach mit der Matrizenmultiplikation multiplizieren. Die Dimensionen der Vektoren stimmen nicht. Damit es klappt, muss man statt $\beta$ die Transposition von $\beta$, also $\beta'$ verwenden.

Man muss die Herleitung nicht auswendig hinschreiben können. Man sollte aber jeden Umformungsschritt verstehen.

Es gilt $A = \left(\begin{array}{ccc} -1 & 0.5 & 0.5 \\ 0 & 1 & -1 \end{array}\right)$ und $\delta = \left(\begin{array}{c}0 \\ 0 \end{array}\right)$. Die allgemeine lineare Hypothese lautet $A\beta-\delta =0$. Weil $A$ drei Spalten hat, muss $\beta$ drei Zeilen haben, sonst klappt die Matrizenmultiplikation nicht. Wenn man $A$ und $\delta$ einsetzt, erhält man also $$ \left(\begin{array}{ccc} -1 & 0.5 & 0.5 \\ 0 & 1 & -1 \end{array}\right)\left(\begin{array}{c}\mu_1 \\ \mu_2 \\ \mu_3\end{array}\right) - \left(\begin{array}{c}0 \\ 0 \end{array}\right) = \left(\begin{array}{c}0 \\ 0 \end{array}\right) $$ Wenn man jetzt die Matrizenmultiplikation berechnet erhält man $$ \begin{align} -1 \mu_1 + 0.5 \mu_2 + 0.5 \mu_3 &= 0 \\ \mu_2 - \mu_3 &= 0 \end{align} $$ Jetzt muss man die beiden Gleichungen nur noch nach $\mu_1$ und $\mu_2$ umstellen und erhält die angegebene Hypothese.

Ja im Prinzip kann man sich die Bilder aus der Übungsaufgabe vorstellen. Es ist außerdem richtig, dass die Regression immer eine Gerade mit Steigung 0 sein muss, wenn der Determinationskoeffizient gleich 0 ist.

1. Regression
$g_0(Z) = \alpha + \gamma Z$
$g_1(Z) = \beta + \delta Z$
2. Regression
$g_0(Z) = \alpha + \gamma Z$
$g_1(Z) = \beta$
3. Regression
$g_0(Z,W) = \alpha + \gamma Z$
$g_1(Z,W) = \beta + \delta Z + \lambda 1_{W=0} + \kappa 1_{W=1} + \phi Z$$
4. Regression
$g_0(W) = \lambda_0$
$g_1(W) = \lambda_1$
$g_2(W) = \lambda_2 W$
5. Regression
$g_0(W,Z) = \kappa_0 + \kappa_7 WZ$
$g_1(W,Z) = \kappa_1 + \kappa_3 W + \kappa_5 WZ$
$g_2(W,Z) = \kappa_2 + \kappa_4 W + \kappa_6 WZ$

Es gibt prinzipiell zwei Fälle:

• Bei kategorialen Regressoren kann man entweder die Zellenmittelwertkodierung oder die Referenzgruppenkodierung anwenden. Das gleiche gilt für numerische Regressoren mit endlich vielen Werten.
• Bei numerischen Regressoren mit unendlich vielen Werten kann man das nicht machen. Da braucht man dann lineare, polynomielle, exponentielle etc. Parametrisierung

Wenn man unterschiedliche Regressorentypen hat, braucht man ggf. eine Kombination aus den beiden Fällen.

Man sieht das am besten, wenn man sich die beiden Regressionen aufmalt. Die erste Regression hat überall den Wert $\mu_2$, außer bei $X=1$. Da hat sie den Wert $\mu_1$. Das ist also eine Funktion, die bei $X=1$ einen Sprung macht. Die andere Regression ist eine lineare Regression. Man kann nicht die eine Regression in die andere umformen, indem man einzelne Parameter gleich 0 setzt. Damit sind sie keine Spezialfälle voneinander und damit nicht geschachtelt.

Man muss unterscheiden zwischen der Referenzgruppe und Regressionskoeffizienten. Die Referenzgruppe ist ein Wert von $X$. Das kann in diesem Fall nur KG, Std oder Exp sein. $\alpha$ ist ein Regressionskoeffizient. In dieser Regression ist $\alpha$ der bedingte Erwartungswert in der Referenzgruppe und nicht die Referenzgruppe selbst.

$X$ ist eine kategoriale Variable mit Werten $a$, $b$ und $c$. Dafür kann man kein polynomielles Modell nehmen. Es ergibt ja keinen Sinn das Quadrat einer Kategorie zu berechnen.

Die Items sind ein bisschen kurz formuliert. Ausführlicher hätte man z.B. beim ersten Item schreiben können: Bedingt auf $Z$ ist die Regression $E(Y|X,Z)$ linear in $X$.

Nein. Wir haben nur bedingte Erwartungswerte gegeben, aber keine Aussage darüber, wie groß die Streuung um diese Erwartungswerte ist. Das bräuchte man, um den Determinationskoeffizient zu berechnen.

Das Item ist schon richtig so. Man betrachtet den Erwartungswert der $g_1$-Funktion. Der Erwartungswert ist ein einzelner Wert z.B. 3. Dieser Wert hängt nicht mehr von $Z$ ab.

Die Frage bezieht sich vermutlich auf die multiple lineare Regression und die Berechnung der Koeffizienten: $$\beta = \Sigma_{XX}^{-1} \Sigma_{XY}$$ bzw. $$\beta_0 = E(Y) - \beta E(X)$$ Die Formeln muss man nicht herleiten oder auswendig können, aber anwenden.

Meistens interessiert man sich eher für den Effekt, als für die bedingten Erwartungswerte in einer der beiden Gruppen. Deswegen wird das bei Effect-Lite nicht angegeben. Man kann sich aber, wie du sagst, den Wert einfach berechnen.