Regression
Statistische Auswertungen drehen sich oft darum, aus den Werten der Vergangenheit ein Model zu erstellen, mit dem man den Verlauf von bestimmten Variablen in der Zukunft voraus sagen kann. Eine Möglichkeit der Modellbildung ist die Lineare Regression.
Ganz vereinfacht gesagt: Für eine gegebene Anzahl von Werten \(Y=f(X)\) möchte man dabei die Funktion \(f(X)\) herausfinden. Damit können dann zukünftige Werte auf Basis des Vergangenen berechnet werden. \(Y\) ist die – von den unabhängigen Variablen in der Funktion \(f(X)\) – abhängige Variable. Die Funktion \(f(X)\) besteht aus einer liniearen Gleichung unabhängiger Variablen. Bei der Linearen Regression wird eine Gerade durch die Punkte \([X,Y]\) gelegt. Für die Gerade gilt \(Y=\beta X + \alpha\). Dabei ist \(\alpha\) der Offset, bei dem die Gerade die Y-Achse schneidet (\(X=0\)). \(\beta\) ist die Steigung der Gerade. Da wir nur die \([X,Y]\)-Koordinaten der Punkte haben, muß man eine Möglichkeit der Bewertung der Güte der Geraden haben. Dazu gibt es mehrere Verfahren, eines davon ist, die Abstände der Punkte zur Geraden über alle Punkte zu minimieren, z.B. mit Hilfe der Methode der kleinsten Quadrate. Das alles noch theoretischer nachlesen kann man hier bei Wikipedia.
Das Capital Asset Pricing Model
In dem Kurs wurde das alles am Beispiel des Capital Asset Pricing Models berechnet. Dabei soll die zukünftige Auschüttung einer Versicherung anhand der Wertentwicklung in der Vergangenheit vorhergesagt werden. Die Formel zur Bewertung einer Versicherung ist wie folgt:
\[ R_i = R_{riskfree} + \beta_i (R_{market} - R_{riskfree}) \]
Die Ausschüttung ergibt sich aus dem risikofreien Anteil \(R_{riskfree}\) und dem risikobehafteten Anteil, der Ausschüttung des Marktes \(R_{market}\) oberhalb dem risikofreien Anteil \(R_{riskfree}\) multipliziert mit \(\beta_i\), dem Risiko der Versicherung im Vergleich zum Markt. \(\beta_i\) ist gesucht. Umgestellt nach \(\beta_i\) zeigt die Gleichung:
\[ \beta_i = \frac{(R_i - R_{riskfree})}{(R_{market} - R_{riskfree})} \]
Um Werte zu erhalten, mit denen man eine Berechnung durchspielen kann, kann man diese bei Yahoo Finance herunterladen. Als Aufgabe sollte das \(\beta\) von Google berechnet werden. Dazu werden als erstes die historischen Werte des Google Index (GOOG) für die letzten 5 Jahre in Monatsschritten heruntergeladen. Man erhält eine CSV-Datei, die man in R einlesen kann. Als Market-Werte wird der NASDAQ Composite INdex (^IXIC) verwendet. Für denselben Zeitraum werden hier die historischen Werte herunterladen. Und dann noch als risikofreie Vergleichswerte die Werte von Schatzbriefen nehmen – hier Treasury Yield 5 Years (^FVX). Diese Dateien werden eingelesen und in der Funktion preProcess vorverarbeitet. Dabei werden aus den Werten der Aktien die Ausschüttungen berechnet. Die Ausschüttung ergibt sich aus
\[ R = \frac{Neuer Preis - Alter Preis}{Alter Preis} = \frac{Neuer Preis}{Alter Preis} - 1 \]
Am Schluß werden dann die Kennwerte der Regression ausgegeben. Wenn man ein Diagramm mit den Grunddaten anlegt, kann man mit plot(Kennwerte der Regression) die Regressiongerade in das zuletzt erstellte Diagramm zeichnen lassen.
# Bewertete Versicherung: Google
googFile <- '/home/holgre/Data/Kurse/Learn By Example - Statistics and Data Science in R/12 Linear Regression in Excel/goog-100101-170101-table.csv'
# Market-Werte: Nasdaq
nasdaqFile <-'/home/holgre/Data/Kurse/Learn By Example - Statistics and Data Science in R/12 Linear Regression in Excel/ixic-100101-170101-table.csv'
## Risikofreie Schatzbriefe: TBonds
tbondsFile <-'/home/holgre/Data/Kurse/Learn By Example - Statistics and Data Science in R/12 Linear Regression in Excel/fvx-100101-170101-table.csv'
preProcess <-function(googFile,nasdaqFile,tbondsFile){
# Es werden nur die Spalten Datum (Date) und Schlußwert (Adj.Close) verwendet
goog <- read.table(googFile,header =TRUE, sep =",")[,c("Date","Adj.Close")]
# Die Spalte Adj.Close mit einem eindeutigen Namen versehen
names(goog)[2]<-"goog.price"
# Date-Werte sind Strings -> umwandeln in Datumsformat
goog[,c("Date")] <-as.Date(goog[,c("Date")])
nasdaq <- read.table(nasdaqFile,header =TRUE, sep =",")[,c("Date","Adj.Close")]
names(nasdaq)[2]<-"nasdaq.price"
nasdaq[,c("Date")] <-as.Date(nasdaq[,c("Date")])
# Tabellen mergen mit dem Datum als Index
goog <-merge(goog, nasdaq, by ="Date")
goog[,c("Date")] <-as.Date(goog[,c("Date")])
# Tabelle ordnen
goog <-goog[order(goog$Date, decreasing =TRUE),]
# Aus den Schlußwerten Returns berechnen indem zeilenweise der alte Wert vom neuen abgezogen wird
goog[-nrow(goog),-1] <-goog[-nrow(goog),-1]/goog[-1,-1]-1
# Spalten neu benennen
names(goog)[2:3]<-c("goog.returns","nasdaq.returns")
# letzte Zeile verwerfen, da dafür der Subtrahent fehlt
goog <-goog[-nrow(goog),]
# Mit den risikofreien Werten dasselbe durchführen
tbonds <- read.table(tbondsFile,header =TRUE, sep =",")[,c("Date","Adj.Close")]
names(tbonds)[2]<-"tbonds.returns"
tbonds[,c("Date")] <-as.Date(tbonds[,c("Date")])
goog <-merge(goog, tbonds, by="Date")
# Werte in Prozent umrechnen
goog$tbonds.returns <-goog$tbonds.returns/100
# von beiden Spalten google und nasdaq die tbonds-Werte abziehen.
goog[,c("goog.returns","nasdaq.returns")] <-goog[,c("goog.returns","nasdaq.returns")]-goog[,"tbonds.returns"]
# NA-Werte: Wenn Werte fehlen, werden sie durch den Mittelwert erwetzt
goog[,"goog.returns"][is.na(goog[,"goog.returns"])] <-mean(goog[,"goog.returns"])
return(goog)
}
# Dateien vorbereiten
goog <-preProcess(googFile,nasdaqFile,tbondsFile)
# lm - lineares Modell für Regression berechnen
# NA-Werte: na.omit (default), na.exclude, na.fail
googM <-lm(goog$goog.returns~goog$nasdaq.returns, na.action = na.omit)
# Ergebnisse des linearen Modells ausgeben
summary(googM)
Call:
lm(formula = goog$goog.returns ~ goog$nasdaq.returns, na.action = na.omit)
Residuals:
Min 1Q Median 3Q Max
-0.184898 -0.039235 -0.003841 0.028819 0.194899
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 0.003339 0.006397 0.522 0.603
goog$nasdaq.returns 0.994451 0.148751 6.685 2.71e-09 ***
---
Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
Residual standard error: 0.05823 on 81 degrees of freedom
Multiple R-squared: 0.3556, Adjusted R-squared: 0.3476
F-statistic: 44.69 on 1 and 81 DF, p-value: 2.712e-09
plot(goog$goog.returns~goog$nasdaq.returns,xlab="Nasdaq Returns",ylab="Google Returns")
abline(googM)
# Robuste Regression, um den Einfluß der Ausreißer zu verringern
googRLM <-rlm(goog$goog.returns~goog$nasdaq.returns)
abline(googRLM, lty ='dashed',col='deepskyblue')
Regressionsanalysen, die die Methode der kleinsten Quadrate verwenden, sind nicht robust gegenüber Ausreißern. D.h. Ausreißer können das Ergebnis der Regression stark beeinflußen. Hier kann die Robuste Regression angewendet werden, bei der die Ausreißer das Ergebnis nicht so stark ins Gewicht fallen und so diese Schwäche der klassischen Verfahren umgange wird. Dies kann z.B. über die Berechnung eines M-Schätzers unter Verwendung des IWLS-Algorithmus (iterated re-weighted least squares) wie in der Funktion rlm() geschehen.
Bewertung der Daten
Wie ich finde, ist das eines der wichtigsten Themen: die Bewertung der Daten, die man zur Berechnung der Regression verwendet. Man kann ziemlich viel mit Statistik und der Darstellung von Ergebnissen und Auswertungen anstellen. Man kann Sachverhalte genauso verdeutlichen wie verschleiern oder die Interpretation und Wahrnehmung der Ergebnisse in bestimmte Richtungen lenken. Daher hier ein kurzer Blick auf eine der Möglichkeiten, mit der man die Eignung der Daten für eine Regression bewerten kann. Mit plot() kann man 4 Diagnose-Plots der Residuen der Regressionsdaten ausgeben.
Damit die Daten sich für eine Regression eignen, müssen sie folgenden Annahmen genügen.
Annahme 1: Die Residuen sind normalverteilt
Um diese Annahme zu überprüfen, kann man sich den Plot Normal Q-Q anschauen, einen Quantil-Quantil-Plot. Quantilen sind Punkte, die den sortierten Datensatz in gleichfroße Gruppen einteilen. Eine Quartile teilt den Datensatz z.B. in vier gleichgroße Gruppen. Die Idee ist, das, wenn die Quantilen zweier Datensätze gleich sind, sie die gleiche Verteilung haben. Wenn sie die gleiche Verteilung haben, dann müßten die Punkte auf der Linie \(Y=X\) liegen. Der Q-Q-Plot trägt die Quantilen der Residuen unserer Daten über den Quantilen der Normalverteilung auf. Wie man sieht, liegen die Werte bis auf ein paar Ausreißer ganz gut auf der Linie \(Y=X\). Genaueres über einen Q-Q-Plot kann man hier bei Wikipedia nachlesen.
Annahme 2: Die Varianz der Residuen ändert sich nicht entlang der Regressionslinie
Zum Einschätzen dienen hier die Plots Residuals vs Fitted und Scale-Location. Im letzteren Plot sind die Residuen standartisiert. Das bedeutet, daß ihre Verteilung der Standardnormalverteilung entspricht (Mittelwert = 0, Standardabweichung = 1). Um die Annahme zu überprüfen, schaut man sich die beiden Plots an und schätzt ein, ob der Bereich, in dem die Werte liegen, konstant bleibt und in seiner Größe nicht variiert. Die beiden Plots zeigen, daß die Bereiche ungefähr konstant bleiben und sich daher die verwendeten Werte gut für die Regression eignen.
Mit Hilfe des letzten Plots Residuals vs Leverage kann man abschätzen, ob einige Punkte – wie z.B. Ausreißer – größeren Einfluß auf das Regressionsergebnis haben als andere. Näheres zu Cook’s Distance wieder hier bei Wikipedia. Liegen Datenpunkte jenseits der mit 0.5 gekennzeichneten gestrichelten Linie, dann müssen diese näher untersucht werden.
---
title: "Regression in R"
output:
  html_notebook:
    code_folding: none
    df_print: kable
    highlight: pygments
    theme: flatly
    toc: yes
  html_document:
    highlight: pygments
    keep_md: yes
---

## Regression

Statistische Auswertungen drehen sich oft darum, aus den Werten der Vergangenheit ein Model zu erstellen, mit dem man den Verlauf von bestimmten Variablen in der Zukunft voraus sagen kann. Eine Möglichkeit der Modellbildung ist die Lineare Regression. 

Ganz vereinfacht gesagt: Für eine gegebene Anzahl von Werten $Y=f(X)$ möchte man dabei die Funktion $f(X)$ herausfinden. Damit können dann zukünftige Werte auf Basis des Vergangenen berechnet werden. $Y$ ist die -- von den unabhängigen Variablen in der Funktion $f(X)$ -- abhängige Variable. Die Funktion $f(X)$ besteht aus einer liniearen Gleichung unabhängiger Variablen. Bei der Linearen Regression wird eine Gerade durch die Punkte $[X,Y]$ gelegt. Für die Gerade gilt $Y=\beta X + \alpha$. Dabei ist $\alpha$ der Offset, bei dem die Gerade die Y-Achse schneidet ($X=0$). $\beta$ ist die Steigung der Gerade. Da wir nur die $[X,Y]$-Koordinaten der Punkte haben, muß man eine Möglichkeit der Bewertung der Güte der Geraden haben. Dazu gibt es mehrere Verfahren, eines davon ist, die Abstände der Punkte zur Geraden über alle Punkte zu minimieren, z.B. mit Hilfe der Methode der kleinsten Quadrate. Das alles noch theoretischer nachlesen kann man [hier bei Wikipedia](https://de.wikipedia.org/wiki/Lineare_Regression#Einfache_lineare_Regression){:target="_blank"}.  

## Das Capital Asset Pricing Model

In dem Kurs wurde das alles am Beispiel des Capital Asset Pricing Models berechnet. Dabei soll die zukünftige Auschüttung einer Versicherung anhand der Wertentwicklung in der Vergangenheit vorhergesagt werden. Die Formel zur Bewertung einer Versicherung ist wie folgt:

$$
R_i = R_{riskfree} + \beta_i (R_{market} - R_{riskfree})
$$

Die Ausschüttung ergibt sich aus dem risikofreien Anteil $R_{riskfree}$ und dem risikobehafteten Anteil, der Ausschüttung des Marktes $R_{market}$ oberhalb dem risikofreien Anteil $R_{riskfree}$ multipliziert mit $\beta_i$, dem Risiko der Versicherung im Vergleich zum Markt. $\beta_i$ ist gesucht. Umgestellt nach $\beta_i$ zeigt die Gleichung:

$$
\beta_i = \frac{(R_i - R_{riskfree})}{(R_{market} - R_{riskfree})}
$$

Um Werte zu erhalten, mit denen man eine Berechnung durchspielen kann, kann man diese bei Yahoo Finance herunterladen. Als Aufgabe sollte das $\beta$ von Google berechnet werden. Dazu werden als erstes die historischen Werte des Google Index (GOOG) für die letzten 5 Jahre in Monatsschritten heruntergeladen. Man erhält eine CSV-Datei, die man in R einlesen kann. Als Market-Werte wird der NASDAQ Composite INdex (^IXIC) verwendet. Für denselben Zeitraum werden hier die historischen Werte herunterladen. Und dann noch als risikofreie Vergleichswerte die Werte von Schatzbriefen nehmen -- hier Treasury Yield 5 Years (^FVX). Diese Dateien werden eingelesen und in der Funktion *preProcess* vorverarbeitet. Dabei werden aus den Werten der Aktien die Ausschüttungen berechnet. Die Ausschüttung ergibt sich aus 

$$
R = \frac{Neuer Preis - Alter Preis}{Alter Preis} = \frac{Neuer Preis}{Alter Preis} - 1
$$

Am Schluß werden dann die Kennwerte der Regression ausgegeben. Wenn man ein Diagramm mit den Grunddaten anlegt, kann man mit *plot(Kennwerte der Regression)* die Regressiongerade in das zuletzt erstellte Diagramm zeichnen lassen. 

```{r}
# Bewertete Versicherung: Google
googFile <- '/home/holgre/Data/Kurse/Learn By Example - Statistics and Data Science in R/12 Linear Regression in Excel/goog-100101-170101-table.csv'
# Market-Werte: Nasdaq
nasdaqFile <-'/home/holgre/Data/Kurse/Learn By Example - Statistics and Data Science in R/12 Linear Regression in Excel/ixic-100101-170101-table.csv'
## Risikofreie Schatzbriefe: TBonds
tbondsFile <-'/home/holgre/Data/Kurse/Learn By Example - Statistics and Data Science in R/12 Linear Regression in Excel/fvx-100101-170101-table.csv'

preProcess <-function(googFile,nasdaqFile,tbondsFile){
  # Es werden nur die Spalten Datum (Date) und Schlußwert (Adj.Close) verwendet
  goog <- read.table(googFile,header =TRUE, sep =",")[,c("Date","Adj.Close")]
  # Die Spalte Adj.Close mit einem eindeutigen Namen versehen
  names(goog)[2]<-"goog.price"
  # Date-Werte sind Strings -> umwandeln in Datumsformat 
  goog[,c("Date")] <-as.Date(goog[,c("Date")])
  nasdaq <- read.table(nasdaqFile,header =TRUE, sep =",")[,c("Date","Adj.Close")]
  names(nasdaq)[2]<-"nasdaq.price"
  nasdaq[,c("Date")] <-as.Date(nasdaq[,c("Date")])
  # Tabellen mergen mit dem Datum als Index
  goog <-merge(goog, nasdaq, by ="Date")
  goog[,c("Date")] <-as.Date(goog[,c("Date")])
  # Tabelle ordnen
  goog <-goog[order(goog$Date, decreasing =TRUE),]
  # Aus den Schlußwerten Returns berechnen indem zeilenweise der alte Wert vom neuen abgezogen wird 
  goog[-nrow(goog),-1] <-goog[-nrow(goog),-1]/goog[-1,-1]-1
  # Spalten neu benennen
  names(goog)[2:3]<-c("goog.returns","nasdaq.returns")
  # letzte Zeile verwerfen, da dafür der Subtrahent fehlt 
  goog <-goog[-nrow(goog),]
  # Mit den risikofreien Werten dasselbe durchführen
  tbonds <- read.table(tbondsFile,header =TRUE, sep =",")[,c("Date","Adj.Close")]
  names(tbonds)[2]<-"tbonds.returns"
  tbonds[,c("Date")] <-as.Date(tbonds[,c("Date")])
  goog <-merge(goog, tbonds, by="Date")
  # Werte in Prozent umrechnen
  goog$tbonds.returns <-goog$tbonds.returns/100
  # von beiden Spalten google und nasdaq die tbonds-Werte abziehen.
  goog[,c("goog.returns","nasdaq.returns")] <-goog[,c("goog.returns","nasdaq.returns")]-goog[,"tbonds.returns"]
  # NA-Werte: Wenn Werte fehlen, werden sie durch den Mittelwert erwetzt
  goog[,"goog.returns"][is.na(goog[,"goog.returns"])] <-mean(goog[,"goog.returns"])
  return(goog)
}
# Dateien vorbereiten
goog <-preProcess(googFile,nasdaqFile,tbondsFile)
# lm - lineares Modell für Regression berechnen 
# NA-Werte: na.omit (default), na.exclude, na.fail
googM <-lm(goog$goog.returns~goog$nasdaq.returns, na.action = na.omit)
# Ergebnisse des linearen Modells ausgeben
summary(googM)
plot(goog$goog.returns~goog$nasdaq.returns,xlab="Nasdaq Returns",ylab="Google Returns")
abline(googM)
# Robuste Regression, um den Einfluß der Ausreißer zu verringern
googRLM <-rlm(goog$goog.returns~goog$nasdaq.returns)
abline(googRLM, lty ='dashed',col='deepskyblue')
```

Regressionsanalysen, die die Methode der kleinsten Quadrate verwenden, sind nicht robust gegenüber Ausreißern. D.h. Ausreißer können das Ergebnis der Regression stark beeinflußen. Hier kann die Robuste Regression angewendet werden, bei der die Ausreißer das Ergebnis nicht so stark ins Gewicht fallen und so diese Schwäche der klassischen Verfahren umgange wird. Dies kann z.B. über die Berechnung eines M-Schätzers unter Verwendung des IWLS-Algorithmus (iterated re-weighted least squares) wie in der Funktion rlm() geschehen.

## Bewertung der Daten

Wie ich finde, ist das eines der wichtigsten Themen: die Bewertung der Daten, die man zur Berechnung der Regression verwendet. Man kann ziemlich viel mit Statistik und der Darstellung von Ergebnissen und Auswertungen anstellen. Man kann Sachverhalte genauso verdeutlichen wie verschleiern oder die Interpretation und Wahrnehmung der Ergebnisse in bestimmte Richtungen lenken. Daher hier ein kurzer Blick auf eine der Möglichkeiten, mit der man die Eignung der Daten für eine Regression bewerten kann.
Mit `plot()` kann man 4 Diagnose-Plots der Residuen der Regressionsdaten ausgeben.

```{r}
plot(googM)
```

Damit die Daten sich für eine Regression eignen, müssen sie folgenden Annahmen genügen.

### Annahme 1: Die Residuen sind normalverteilt

Um diese Annahme zu überprüfen, kann man sich den Plot _Normal Q-Q_ anschauen, einen Quantil-Quantil-Plot. Quantilen sind Punkte, die den sortierten Datensatz in gleichfroße Gruppen einteilen. Eine Quartile teilt den Datensatz z.B. in vier gleichgroße Gruppen. Die Idee ist, das, wenn die Quantilen zweier Datensätze gleich sind, sie die gleiche Verteilung haben. Wenn sie die gleiche Verteilung haben, dann müßten die Punkte auf der Linie $Y=X$ liegen. Der Q-Q-Plot trägt die Quantilen der Residuen unserer Daten über den Quantilen der Normalverteilung auf. Wie man sieht, liegen die Werte bis auf ein paar Ausreißer ganz gut auf der Linie $Y=X$. Genaueres über einen Q-Q-Plot kann man [hier bei Wikipedia](https://de.wikipedia.org/wiki/Quantil-Quantil-Diagramm){:target="_blank"} nachlesen. 

### Annahme 2: Die Varianz der Residuen ändert sich nicht entlang der Regressionslinie

Zum Einschätzen dienen hier die Plots _Residuals vs Fitted_ und _Scale-Location_. Im letzteren Plot sind die Residuen standartisiert. Das bedeutet, daß ihre Verteilung der Standardnormalverteilung entspricht (Mittelwert = 0, Standardabweichung = 1). Um die Annahme zu überprüfen, schaut man sich die beiden Plots an und schätzt ein, ob der Bereich, in dem die Werte liegen, konstant bleibt und in seiner Größe nicht variiert. Die beiden Plots zeigen, daß die Bereiche ungefähr konstant bleiben und sich daher die verwendeten Werte gut für die Regression eignen.

Mit Hilfe des letzten Plots _Residuals vs Leverage_ kann man abschätzen, ob einige Punkte -- wie z.B. Ausreißer -- größeren Einfluß auf das Regressionsergebnis haben als andere. Näheres zu Cook's Distance wieder [hier bei Wikipedia](https://en.wikipedia.org/wiki/Cook%27s_distance){:target="_blank"}. Liegen Datenpunkte jenseits der mit 0.5 gekennzeichneten gestrichelten Linie, dann müssen diese näher untersucht werden.  




