{"word_count": 1278, "character_count": 10989}
Lors du dernier cours, on a évoqué l'utilisation du bootstrap pour obtenir des intervalles de confiance sur des prévisions. Je mets en ligne les codes tapés en cours (très sommairement commentés, je peux renvoyer vers des vieux billets du cours ACT6420 pour des compléments). On va travailler sur ma base préférée pour évoquer la régression linéaire (avant de parler triangles de provisionnement, revenons cinq minutes sur des choses simples).&#62; plot(cars)&#62; reg=lm(dist~speed,data=cars)&#62; abline(reg,col="red")&#62; n=nrow(cars)&#62; x=21&#62; points(x,predict(reg,newdata= data.frame(speed=x)),pch=19,col="red")On cherche ici à faire une prédiction en un point. Comme rappelé en cours (mais aussi dans le cours de modèles de prévision), quand on veut donner un intervalle de confiance pour la prévision, il convient de distinger l'intervalle de confiance pour le prédicteur (qui va dépendre de l'erreur d'estimation des paramétres) et l'intervalle de confiance pour une potentielle valeur (on peut parler de génération de scénarios, qui va dépendre en plus de l'erreur de modèle, c'est à dire de la dispersion des résidus). Commençons par l'intervalle de confiance sur la prédiction, sur le best estimate comme on dit en provisionnement&#62; Yx=rep(NA,500)&#62; B=matrix(NA,500,2)&#62; for(s in 1:500){+ indice=sample(1:n,size=n,+ replace=TRUE)+ base=cars[indice,]+ #points(base,pch=3)+ reg=lm(dist~speed,data=base)+ abline(reg,col="light blue")+ points(x,predict(reg,newdata=data.frame(speed=x)),pch=19,col="blue")+ Yx[s]=predict(reg,newdata=data.frame(speed=x))+ B[s,]=coefficients(reg)+ }Les valeurs bleues sont ici des prévisions possibles, obtenues en rééchantillonnant dans notre base d'observations. Pour rappel, l'intervalle de confiance (à 90%), sous hypothèse de normalité des résidus (et donc des estimateurs de la pente et de la constante de la droite de régression) s'obtient de la manière suivante&#62; reg=lm(dist~speed,data=cars)&#62; U=predict(reg,interval ="confidence",+ level=.9,newdata=+ data.frame(speed=0:30))&#62; lines(0:30,U[,2],col="red",lwd=2)&#62; lines(0:30,U[,3],col="red",lwd=2)On peut comparer ici la distribution des valeurs obtenues sur nos 500 jeux de données générées, et comparer les quantiles empiriques, avec les quantiles sous hypothèse de normalité,&#62; hist(Yx,proba=TRUE,col="light blue",border="white")&#62; boxplot(Yx,horizontal=TRUE,at=.07,boxwex = 0.02,add=TRUE,col="light green")&#62; abline(v=U[x+1,2:3],col="red",lwd=2)&#62; D=density(Yx)&#62; lines(D)&#62; I=which(D$x&#60;=quantile(Yx,.05))&#62; polygon(c(D$x[I],rev(D$x[I])),c(D$y[I],rep(0,length(I))),col="blue",border=NA)&#62; I=which(D$x&#62;=quantile(Yx,.95))&#62; polygon(c(D$x[I],rev(D$x[I])),c(D$y[I],rep(0,length(I))),col="blue",border=NA)On peut noter que les ordres de grandeur sont comparables.&#62; reg=lm(dist~speed,data=cars)&#62; quantile(Yx,c(.05,.95))      5%      95% 58.63689 70.31281 &#62; predict(reg,interval ="confidence",+ level=.9,newdata=data.frame(speed=x))        fit      lwr      upr1 65.00149 59.65934 70.34364Regardons maintenant l'autre type d'intervalle de confiance, sur la valeur possible de la variable d'intérêt. Cette fois, en plus de tirer des nouveaux échantillons et calculer des prédictions, on va en plus rajouter un bruit à chaque tirage, qui permettra d'obtenir une valeur possible.&#62; Yx=rep(NA,500)&#62; for(s in 1:500){+ indice=sample(1:n,size=n,+ replace=TRUE)+ base=cars[indice,]+ #points(base,pch=3)+ reg=lm(dist~speed,data=base)+ erreur=residuals(reg)+ #abline(reg,lty=2)+ E=sample(erreur,size=1)+ Yx[s]=predict(reg,newdata=data.frame(speed=x))+E+ points(x,Yx[s],pch=19,col="red")+ }Là encore, on peut comparer (graphiquement pour commencer) les valeurs obtenues par rééchantillonnage, et celle obtenues sous hypothèse de normalité,&#62; hist(Yx,proba=TRUE,col="light blue",border="white")&#62; boxplot(Yx,horizontal=TRUE,at=.025,boxwex = 0.005,add=TRUE,col="light green")&#62; abline(v=U[2:3],col="red",lwd=2)&#62; D=density(Yx)&#62; lines(D)&#62; I=which(D$x&#60;=quantile(Yx,.05))&#62; polygon(c(D$x[I],rev(D$x[I])),c(D$y[I],rep(0,length(I))),col="blue",border=NA)&#62; I=which(D$x&#62;=quantile(Yx,.95))&#62; polygon(c(D$x[I],rev(D$x[I])),c(D$y[I],rep(0,length(I))),col="blue",border=NA)Ce qui donne, numériquement, les comparaisons suivantes&#62; quantile(Yx,c(.05,.95))      5%      95% 44.43468 96.01357 &#62; (U=predict(reg,interval ="prediction",level=.9,newdata=data.frame(speed=x)))       fit      lwr      upr1 67.63136 45.16967 90.09305On observe cette fois une légère asymméytrie vers la droite. Manifestement, on ne peut pas supposer les résidus Gaussien, car il y a plus de grandes valeurs positives, que négatives. Ce qui fait du sens compte tenu de la nature des données (une distance ne peut être négative).On avait ensuite commencé à discuter de l'utilisation des modèles de régression en provisionnement. Afin d'avoir des données présentant de l'indépendance, on avait rappelé qu'il fallait travailler avec les incréments de paiments, et non pas les paiements cumulés.&#62; T     [,1] [,2] [,3] [,4] [,5] [,6][1,] 3209 4372 4411 4428 4435 4456[2,] 3367 4659 4696 4720 4730   NA[3,] 3871 5345 5398 5420   NA   NA[4,] 4239 5917 6020   NA   NA   NA[5,] 4929 6794   NA   NA   NA   NA[6,] 5217   NA   NA   NA   NA   NA&#62; n=ncol(T)&#62; Y=T&#62; Y[,2:n]=T[,2:n]-+         T[,1:(n-1)]&#62; Y     [,1] [,2] [,3] [,4] [,5] [,6][1,] 3209 1163   39   17    7   21[2,] 3367 1292   37   24   10   NA[3,] 3871 1474   53   22   NA   NA[4,] 4239 1678  103   NA   NA   NA[5,] 4929 1865   NA   NA   NA   NA[6,] 5217   NA   NA   NA   NA   NAOn peut alors constituer une base de données, avec comme variables explicatives la ligne et la colonne.&#62; y=as.vector(as.matrix(Y))&#62; base=data.frame(+ y,+ ai=rep(2000:2005,n),+ bj=rep(0:(n-1),each=n))&#62; &#62; head(base,12)      y   ai bj1  3209 2000  02  3367 2001  03  3871 2002  04  4239 2003  05  4929 2004  06  5217 2005  07  1163 2000  18  1292 2001  19  1474 2002  110 1678 2003  111 1865 2004  112   NA 2005  1&#62; tail(base,12)    y   ai bj25  7 2000  426 10 2001  427 NA 2002  428 NA 2003  429 NA 2004  430 NA 2005  431 21 2000  532 NA 2001  533 NA 2002  534 NA 2003  535 NA 2004  536 NA 2005  5On peut alors commencer par utiliser le modèle Regression models based on log-incremental payments de Stavros Christofides, basé sur une modélisation lognormale, introduite initialement par Etienne de Vylder en 1978 (Markus en parle, en trois parties, sur son blog http://lamages.blogspot.ca/Barnett%20Zehnwirth)&#62; reg1=lm(log(y)~+ as.factor(ai)++ as.factor(bj),data=base)&#62; summary(reg1)Call:lm(formula = log(y) ~ as.factor(ai) + as.factor(bj), data = base)Residuals:     Min       1Q   Median       3Q      Max -0.26374 -0.05681  0.00000  0.04419  0.33014 Coefficients:                  Estimate Std. Error t value Pr(&#62;|t|)    (Intercept)         7.9471     0.1101  72.188 6.35e-15 ***as.factor(ai)2001   0.1604     0.1109   1.447  0.17849    as.factor(ai)2002   0.2718     0.1208   2.250  0.04819 *  as.factor(ai)2003   0.5904     0.1342   4.399  0.00134 ** as.factor(ai)2004   0.5535     0.1562   3.543  0.00533 ** as.factor(ai)2005   0.6126     0.2070   2.959  0.01431 *  as.factor(bj)1     -0.9674     0.1109  -8.726 5.46e-06 ***as.factor(bj)2     -4.2329     0.1208 -35.038 8.50e-12 ***as.factor(bj)3     -5.0571     0.1342 -37.684 4.13e-12 ***as.factor(bj)4     -5.9031     0.1562 -37.783 4.02e-12 ***as.factor(bj)5     -4.9026     0.2070 -23.685 4.08e-10 ***---Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 Residual standard error: 0.1753 on 10 degrees of freedom  (15 observations deleted due to missingness)Multiple R-squared: 0.9975,Adjusted R-squared: 0.9949 F-statistic: 391.7 on 10 and 10 DF,  p-value: 1.338e-11 &#62; base$py=exp(predict(reg1,+ newdata=base)+summary(reg1)$sigma^2/2)&#62; round(matrix(base$py,n,n),1)       [,1]   [,2] [,3] [,4] [,5] [,6][1,] 2871.2 1091.3 41.7 18.3  7.8 21.3[2,] 3370.8 1281.2 48.9 21.5  9.2 25.0[3,] 3768.0 1432.1 54.7 24.0 10.3 28.0[4,] 5181.5 1969.4 75.2 33.0 14.2 38.5[5,] 4994.1 1898.1 72.5 31.8 13.6 37.1[6,] 5297.8 2013.6 76.9 33.7 14.5 39.3&#62; sum(base$py[is.na(base$y)])[1] 2481.857On obtient un montant un peu différent de celui obtenu par la méthode Chain Ladder, mais néanmoins comparable. On peut aussi tenter une régression de Poisson (avec un lien logarithmique), comme suggéré en 1975 par Hachemeister et Stanard,&#62; reg2=glm(y~+ as.factor(ai)++ as.factor(bj),data=base,+ family=poisson)&#62; summary(reg2)Call:glm(formula = y ~ as.factor(ai) + as.factor(bj), family = poisson,     data = base)Deviance Residuals:     Min       1Q   Median       3Q      Max  -2.3426  -0.4996   0.0000   0.2770   3.9355  Coefficients:                  Estimate Std. Error z value Pr(&#62;|z|)    (Intercept)        8.05697    0.01551 519.426  &#60; 2e-16 ***as.factor(ai)2001  0.06440    0.02090   3.081  0.00206 ** as.factor(ai)2002  0.20242    0.02025   9.995  &#60; 2e-16 ***as.factor(ai)2003  0.31175    0.01980  15.744  &#60; 2e-16 ***as.factor(ai)2004  0.44407    0.01933  22.971  &#60; 2e-16 ***as.factor(ai)2005  0.50271    0.02079  24.179  &#60; 2e-16 ***as.factor(bj)1    -0.96513    0.01359 -70.994  &#60; 2e-16 ***as.factor(bj)2    -4.14853    0.06613 -62.729  &#60; 2e-16 ***as.factor(bj)3    -5.10499    0.12632 -40.413  &#60; 2e-16 ***as.factor(bj)4    -5.94962    0.24279 -24.505  &#60; 2e-16 ***as.factor(bj)5    -5.01244    0.21877 -22.912  &#60; 2e-16 ***---Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 (Dispersion parameter for poisson family taken to be 1)    Null deviance: 46695.269  on 20  degrees of freedomResidual deviance:    30.214  on 10  degrees of freedom  (15 observations deleted due to missingness)AIC: 209.52Number of Fisher Scoring iterations: 4&#62; base$py2=predict(reg2,+ newdata=base,type="response")&#62; &#62; round(matrix(base$py2,n,n),1)       [,1]   [,2] [,3] [,4] [,5] [,6][1,] 3155.7 1202.1 49.8 19.1  8.2 21.0[2,] 3365.6 1282.1 53.1 20.4  8.8 22.4[3,] 3863.7 1471.8 61.0 23.4 10.1 25.7[4,] 4310.1 1641.9 68.0 26.1 11.2 28.7[5,] 4919.9 1874.1 77.7 29.8 12.8 32.7[6,] 5217.0 1987.3 82.4 31.6 13.6 34.7&#62; &#62; sum(base$py2[is.na(base$y)])[1] 2426.985La prédiction coïncide avec l'estimateur obtenu par la méthode Chain Ladder. Le lien avec les méthodes de biais minimal a été établi par  Klaus Schmidt et Angela Wünsche en 1998, dans Chain ladder, marginal sum and maximum likelihood estimation. La semaine prochaine, on parlera des méthodes de bootstrap pour obtenir des intervalles de confiance, ou des quantiles, sur les montants de réserve. Je ne sais pas si j'aurais le temps de taper des transparents, je préfère, sur cette partie du cours taper au fur et à mesure, et écrire au tableau. Je renvoie au Chapitre 3 du livre avec Christophe Dutang - en ligne sur http://cran.r-project.org/doc/contrib/ - pour le détail. C'est le code que je tape en cours, tout en essayant de répondre aussi aux questions.