Бели шум

Бели шум је сваки случајни процес са независним вредностима, средње вредности 0 и дисперзије \(\sigma^2\). Није обавевезно да буде из нормалне расподеле. Ако јесте из нормалне расподеле, онда се назива Гаусов бели шум. Ово је идеални модел за резидуале.

Након што временску серију уклопимо у неки модел (моделе ћемо касније дефинисати), идеално је да разлика реализоване вредности и вредности предвиђене моделом буде бели шум.

w <- rnorm(100)
plot(w, type = "l")

x <- seq(-3,3, length = 1000)
hist(rnorm(100), prob = TRUE)
points(x, dnorm(x), type = "l") # funkcijom points na vec postojeci grafik dodajemo tacke
curve(dnorm(x),xlim=c(-3,3),add=TRUE) # ovo je drugi nacin za dodavanje linije na grafik

w <- rnorm(500,0,1) # 500 N(0,1) realizacija
# MA belog suma - izravnavanje serije
v <- filter(w, sides=2, rep(1/12,12)) # ova fja je mogla umesto rucno napravljene funkcije MA na prvom casu
v
## Time Series:
## Start = 1 
## End = 500 
## Frequency = 1 
##   [1]            NA            NA            NA            NA            NA
##   [6] -0.0288187737  0.2527491135  0.3215348208  0.4106315128  0.5460314320
##  [11]  0.5360678292  0.4191318017  0.3549915021  0.2903192452  0.4075803922
##  [16]  0.3127947077  0.3805319745  0.2781843221  0.2378043880  0.2482830790
##  [21]  0.1571644851  0.1701297928  0.0088572205  0.0812590150  0.0761410040
##  [26]  0.1442528320  0.3445557991  0.3694262905  0.3694490237  0.3153574935
##  [31]  0.1169211064  0.0466062555  0.1669812410  0.1209008404  0.3291765538
##  [36]  0.2202877445  0.2255229016  0.2728063289 -0.0649170456  0.1191687981
##  [41]  0.0658959394  0.0902139749  0.3139904926  0.4033109298  0.4329648803
##  [46]  0.4251709845  0.2475343700  0.3143921077  0.3879840826  0.4523440754
##  [51]  0.4338138884  0.2241721746  0.3003974965  0.2244282651  0.1331585980
##  [56] -0.1378104946 -0.1594020885 -0.2431411438 -0.2100076540 -0.2078737461
##  [61] -0.3804317784 -0.3603180602 -0.1152761658 -0.0819743154  0.0613213062
##  [66] -0.0404863738 -0.0446189480  0.3400068942  0.3928343913  0.5028604649
##  [71]  0.2105552706  0.1477436848  0.0542223351 -0.0341182995 -0.1419155383
##  [76] -0.1797017944 -0.3685983840 -0.2186792694 -0.2467070443 -0.6125185453
##  [81] -0.7333954522 -0.7731141290 -0.3351678015 -0.0682103242  0.0980680249
##  [86] -0.0311405827 -0.0169710590  0.0877954275  0.0567552045 -0.0300798118
##  [91]  0.1473941810  0.4634455646  0.3782005656  0.4449978987  0.3189535870
##  [96]  0.1407749940  0.2009334879  0.2381164864  0.1334913743 -0.0164642473
## [101]  0.1107590707  0.2627495330  0.1274186796 -0.0115433147  0.1350216855
## [106]  0.0280337769 -0.0671081531  0.0015797789 -0.0437219037 -0.0116326737
## [111]  0.1748972039  0.1126847004  0.0416005767  0.0311902371 -0.0319473512
## [116] -0.2455237589 -0.3051337688 -0.1925567520  0.0584175542  0.1139073135
## [121]  0.0917861722  0.1476629626 -0.0123689419  0.1088377661  0.1465394263
## [126]  0.0713036175  0.0319168085  0.3615383621  0.3873569177  0.2628771780
## [131]  0.1364702878  0.0017314979 -0.0936085177 -0.1108051778 -0.1216089125
## [136] -0.0543757584 -0.1309471786 -0.0616186880 -0.0558100138 -0.1622419382
## [141] -0.1048206552 -0.1870020705 -0.2195866591 -0.2344395257 -0.2418233023
## [146] -0.2872778374 -0.3430957622 -0.3748279539 -0.2872506039 -0.2533240690
## [151] -0.1977218323 -0.2709571964 -0.3518185245 -0.1785925131 -0.1671505393
## [156] -0.1926598559 -0.1301076508 -0.0834430159  0.0729375242  0.1629747773
## [161]  0.0472710277 -0.1461532881 -0.1640087748 -0.1088851385 -0.0526268526
## [166]  0.0043494900  0.0402878810  0.0736095826  0.3407704561  0.3379351159
## [171]  0.2902746875  0.2050221704  0.2792569116  0.4033491037  0.3326550547
## [176]  0.3382363276  0.1524346177  0.0957660807  0.0248272149 -0.0232811301
## [181] -0.2150725143 -0.2225938069 -0.0935160468 -0.1027051656 -0.2240126752
## [186] -0.2736804770 -0.2480739121 -0.2906851175 -0.1960367907 -0.3949055847
## [191] -0.3625638637 -0.2211741331 -0.3104519749 -0.2302456198 -0.3347644673
## [196] -0.3523923867 -0.0657476343 -0.0687347269 -0.1242886051  0.0117778699
## [201]  0.0745451650  0.2341496836  0.3391225741  0.2833602572  0.3425140570
## [206]  0.2023890444  0.3442361056  0.3591287083  0.3260380338  0.2405095641
## [211]  0.3518094526  0.3122770981  0.3238140268  0.2873181308  0.2340705119
## [216]  0.3533264204  0.3999451169  0.4572081070  0.2580273737  0.1394472514
## [221] -0.1014929854 -0.0021448751 -0.0466578210 -0.1452605271 -0.3090795245
## [226] -0.3131119131 -0.4021658041 -0.5526798477 -0.7681683243 -0.6848193719
## [231] -0.8074876325 -0.7139203702 -0.6982415050 -0.6004538043 -0.5264594344
## [236] -0.5977236399 -0.4430040090 -0.3548235121 -0.3266551123 -0.3489352932
## [241] -0.0497821423 -0.2161314276 -0.1635795551 -0.2131328109 -0.1898094242
## [246] -0.2697948147 -0.2793417393 -0.1037800436 -0.1244567134 -0.1852035583
## [251] -0.1615567352  0.0598894671 -0.0835953028  0.0752252389  0.2233404789
## [256]  0.2457511240  0.1202286078  0.1584634453  0.1583815848  0.0194967551
## [261] -0.0076587729  0.0554174011  0.1033040656 -0.0360236065 -0.0311131055
## [266] -0.1461039319 -0.1461621412  0.0031612148  0.1112018440  0.1221941864
## [271]  0.0322126993  0.2102889517  0.1733193691  0.1630752851  0.0186063230
## [276] -0.0032980160 -0.0308487098 -0.0301409010 -0.2422710463 -0.3968369828
## [281] -0.1888032425 -0.3297477131 -0.4115687244 -0.5075815978 -0.5558242778
## [286] -0.5508129336 -0.5726972202 -0.5443731698 -0.5853369088 -0.5527085212
## [291] -0.2839841447 -0.1930077705 -0.3019989096 -0.2103721459 -0.2565386957
## [296] -0.1831110327  0.0764843625 -0.0289807568  0.1196563524  0.0416378964
## [301]  0.1473153180  0.1805488944  0.1952614699  0.3210629739  0.3343401176
## [306]  0.4708492246  0.6508791238  0.5247592159  0.4731842945  0.4038658056
## [311]  0.3574426193  0.3837433601  0.2849358654  0.2769337991  0.2142249121
## [316] -0.0358522738 -0.0840154430 -0.1724917242 -0.2471861381 -0.1797852219
## [321] -0.3996618295 -0.3160781485 -0.5084241896 -0.4067233681 -0.3115686222
## [326] -0.4044549531 -0.3893610047 -0.3197512571 -0.2987026064 -0.3311958480
## [331] -0.1793441912 -0.3017720659 -0.2975399344 -0.2165367393 -0.0134796449
## [336] -0.1020992566 -0.0033381320  0.2056856665  0.1638265586  0.1530486493
## [341] -0.0013147766 -0.0307266745 -0.0707921353  0.0156631416  0.0492510236
## [346]  0.0247365102  0.0624690016  0.0776021554 -0.1207090132 -0.2175575632
## [351] -0.2804507280 -0.2987464462 -0.1891505114 -0.1919179089 -0.3465639177
## [356] -0.3544531588 -0.3652531202 -0.3964673864 -0.4531195397 -0.4467999076
## [361] -0.4512452561 -0.4752997632 -0.4540020087 -0.4664947806 -0.3834058459
## [366] -0.4241708195 -0.1699727782 -0.2399019606 -0.0551333697 -0.1954878865
## [371] -0.2408258426 -0.2044962466 -0.1307895596 -0.1864820173 -0.2044424226
## [376] -0.1811472940 -0.2483268865 -0.2590035187 -0.3064788343 -0.3471076646
## [381] -0.5581425983 -0.5240162059 -0.3045299665 -0.2198365865 -0.1810328935
## [386]  0.0035691308  0.2451343080  0.2833745063  0.3895424433  0.6209107389
## [391]  0.4810208372  0.4926051344  0.4093765032  0.4285924891  0.2648271135
## [396]  0.1237535268 -0.0393958363 -0.1157335170 -0.1255989321 -0.2141809605
## [401] -0.3864079872 -0.6026106100 -0.4880154208 -0.2917805863  0.0905651863
## [406]  0.1390798120  0.1653708601  0.1729055965  0.2604144920  0.0175009472
## [411] -0.2107891062  0.0113943692  0.0231331354  0.1207742856 -0.0595506138
## [416] -0.2288564883 -0.5108031623 -0.3531626905 -0.3854938427 -0.3676614781
## [421] -0.3724071044 -0.2857513277 -0.2958839867 -0.4694677447 -0.3467070476
## [426] -0.5146942241 -0.0726923312 -0.0781882007 -0.0948200080 -0.2085880535
## [431] -0.1093683271 -0.2481574219 -0.0943651898  0.0402364126  0.0003100900
## [436]  0.0401973238  0.1104750834  0.2408426668  0.0346302561  0.1258987913
## [441]  0.3713372021  0.4319532391  0.4860385498  0.6359488116  0.5070999019
## [446]  0.5166997228  0.6513655812  0.4005572062  0.3217080984  0.2498267237
## [451]  0.0990245685  0.0791540525 -0.1121359077 -0.2635739072 -0.2918229548
## [456] -0.2170266873 -0.1409478264 -0.2229368151 -0.4003977719 -0.0878019049
## [461] -0.0428579626  0.0522760541  0.1360171189 -0.0080714025  0.1819129914
## [466]  0.2802100631  0.1495390031  0.0006066594  0.0747647173  0.1111984275
## [471]  0.2191747513  0.0167734344  0.0228223096 -0.1304237175 -0.1122639165
## [476]  0.0462642791 -0.0288782782  0.1324391642  0.1736378938  0.2065584840
## [481]  0.0859959563  0.1568600112  0.0083776571  0.1565449590 -0.0019596073
## [486]  0.2327821952  0.0259313800 -0.0754828835 -0.1742394168 -0.3019177573
## [491] -0.4341048086 -0.5590132016 -0.4979379473 -0.5346925336            NA
## [496]            NA            NA            NA            NA            NA
plot.ts(w, main="white noise")

plot.ts(v, main="moving average")

Видимо да је друга временска серија мирнија по понашању.

Брауново кретање (Винеров процес)

У финансијској математици један од модела за цене акција је процес \(e^{W_t}\), где је \(W_t\) Брауново кретање. Овакав процес назива се геометријско Брауново кретање.

За симулацију Брауновог кретања користи се \(B_0=0\), независност прираштаја и расподела \(B_t-B_s\). Ако хоћемо да симулирамо, ограничени смо дискретним временом.

# u 1000 tacaka aproksimirati Braunovo kretanje na intervalu [0,1000]
# prirastaji na vremenskom intervalu duzine k imaju N(0,k) raspodelu
x <- w <- rnorm(1000)
for (t in 2:1000) x[t] <- x[t - 1] + w[t]
plot(x, type = "l")

# Braunovo kretanje na [0,1]
t <- seq(0,1,0.001) #1001 podeona tacka
B <- vector()
B[1] <- 0
for(i in 1:1000){
  B[i+1] <- B[i]+rnorm(1,0,0.001) # sada prirastaj izmedju susednih tacaka ima raspodelu N(0,0.001), a malopre je imao N(0,1)
}
plot(t,B, type="l")

Корелација

У моделима које ћемо касније изучавати важан је појам корелације, јер се у тим моделима претпоставља да садашња вредност зависи од вредности из прошлости. Ако одредимо ту корелацију, то нам може помоћи у прогнозирању и бољем уклапању модела. Коваријација две случајне величине је мера њихове линеарне зависности.

Herald <- read.delim("Herald.txt") 
Herald # koncentracije benzoapirena i ugljen monoksida u 16 uzoraka vazduha na Herald Square-u na Menhetnu, oba se nalaze u izduvnim gasovima automobila
##      CO Benzoa
## 1   2.8    0.5
## 2  15.5    0.1
## 3  19.0    0.8
## 4   6.8    0.9
## 5   5.5    1.0
## 6   5.6    1.1
## 7   9.6    3.9
## 8  13.3    4.0
## 9   5.5    1.3
## 10 12.0    5.7
## 11  5.6    1.5
## 12 19.5    6.0
## 13 11.0    7.3
## 14 12.8    8.1
## 15  5.5    2.2
## 16 10.5    9.5
attach(Herald)
x <- CO
y <- Benzoa
n <- length(x)
sum((x - mean(x))*(y - mean(y))) / (n - 1)
## [1] 5.511042
cov(x,y)
## [1] 5.511042
mean((x - mean(x))*(y - mean(y))) # formula za kovarijaciju i dve sl vel, uzoracke ocene
## [1] 5.166602
plot(x,y)

cov(x,y)/(sd(x)*sd(y)) # Koeficijent korelacije - deljenje proizvodom standarnih devijacija
## [1] 0.3550973
cor(x,y)
## [1] 0.3550973

Познато је да слабо стационарни процеси имају константни функцију средње вредности.

Претпоставка строге стационарности је веома јака у тешко би било испитати да ли је нека серија реализација строго стационарног случајног процеса. Зато се испитује слаба стационарност. Од сада стационарним процесом зовемо слабо стационарне процесе.

Кажемо да временска серија није корелисана ако је аутокорелациона функција једнака 0 свуда, осим у нули где је по дефиницији једнака 1.

wave <- read.csv("wave.txt", sep="") # U date su razlike u vrednosti nivoa vode u sredini bunara koje su posledica simulatora talasa, merenja su vrsena na svakih 0.1s i poslednji trenutak je 39.7s 
attach(wave)
plot(ts(waveht)) 

plot(ts(waveht[1:60]))

Са графика видимо да нема фиксне фреквенције, али да су узастопне вредности релативно сличне.

Корелограм

Корелограм је график аутокорелационе функције. На \(x\) оси се налазе природни бројеви, а на \(y\) оси су вредности аутокорелационе функције са задршком k.

acf(waveht)$acf[2]
## [1] 0.4702564
acf(waveht)$acf[1] # vrednost autokorelacione funkcije u 0 je 1

## [1] 1
acf(waveht, type = "covariance")$acf[2] # vrednost autokovarijacione funkcije dobijemo kada funkciji acf dodamo jos jedan argument type

## [1] 33328.39
acf(waveht)$acf # mozemo dobiti i odgovarajuci niz brojeva:

## , , 1
## 
##               [,1]
##  [1,]  1.000000000
##  [2,]  0.470256396
##  [3,] -0.262911528
##  [4,] -0.498917020
##  [5,] -0.378706643
##  [6,] -0.214992933
##  [7,] -0.037917306
##  [8,]  0.177644329
##  [9,]  0.269315275
## [10,]  0.130385337
## [11,] -0.074313293
## [12,] -0.079345616
## [13,]  0.028727319
## [14,]  0.070023128
## [15,]  0.063197459
## [16,] -0.009774170
## [17,] -0.101956108
## [18,] -0.125238283
## [19,] -0.108903118
## [20,] -0.047593090
## [21,]  0.077382508
## [22,]  0.164775681
## [23,]  0.124267904
## [24,]  0.049328615
## [25,] -0.004555037
## [26,] -0.065743573

Као што смо рекли раније, вредност коефицијента корелације је мера линеарне зависности. Oсим вредности саме функције, можемо нацртати графике да бисмо се уверили у линеарну или неку другу зависност између вредности на растојању k временских тренутака. На пример, са задршком (lag) 1.

plot(waveht[1:396],waveht[2:397])

Особине корелограма

  1. Полиномијални тренд
y <- 1:100
y.ts<-ts(y)
acf(y.ts) 

y <- -y^2+y+5 # polinom drugog stepena
y
##   [1]     5     3    -1    -7   -15   -25   -37   -51   -67   -85  -105  -127
##  [13]  -151  -177  -205  -235  -267  -301  -337  -375  -415  -457  -501  -547
##  [25]  -595  -645  -697  -751  -807  -865  -925  -987 -1051 -1117 -1185 -1255
##  [37] -1327 -1401 -1477 -1555 -1635 -1717 -1801 -1887 -1975 -2065 -2157 -2251
##  [49] -2347 -2445 -2545 -2647 -2751 -2857 -2965 -3075 -3187 -3301 -3417 -3535
##  [61] -3655 -3777 -3901 -4027 -4155 -4285 -4417 -4551 -4687 -4825 -4965 -5107
##  [73] -5251 -5397 -5545 -5695 -5847 -6001 -6157 -6315 -6475 -6637 -6801 -6967
##  [85] -7135 -7305 -7477 -7651 -7827 -8005 -8185 -8367 -8551 -8737 -8925 -9115
##  [97] -9307 -9501 -9697 -9895
acf(y)

Видимо да су све корелације позитивне, статистички значајне и споро опадају. Генерално, за све строго монотоне временске серије, корелограм слично изгледа.

  1. Периодичне - тригонометријске
y <- seq(from=0,to=100,by=1)
acf(sin(y)) # oblik korelograma- kao cos

  1. Периодичне - понавњајучи низ бројева
y <- rep(1:10,40)
acf(y) # ponavlja se 10 brojeva, najvece su korelacije sa korakom 10*k

Пример 1

Испитујемо ово на временској серији AirPassengers која има и тренд и сезонску компоненту. Ова серија није стационарна, а видећемо како тренд и сезонска компонента утичу на корелограм.

data(AirPassengers)
AP <- AirPassengers
AP.ts <- ts(AP,freq=12,start=1958)
plot(AP.ts) 

acf(AP.ts) # izdvaja se autokorelacija sa korakom 12, zbog sezonske komponente

n <- (length(AP.ts)-6)
AP.decom <- decompose(AP.ts,type="mult")
plot(ts(AP.decom$random[7:138]))

Када смо склонили тренд и сезонску компоненту, видимо да је највећа позитивна корелација са кораком 12.

acf(AP.decom$random[7:138])

И овде видимо косинусни облик на корелограму што може да значи да је модел лош. Косинусни облик је карактеристичан за AR(2) модел (касније).

sd(AP[7:138])
## [1] 109.4187
sd(AP[7:138] - AP.decom$trend[7:138])
## [1] 41.11491
sd(AP.decom$random[7:138])
## [1] 0.0333884

Издвајање детерминистичких компоненти смањује дисперзију почетког процеса.

Пример 2

Fontdsdt <- read.csv("Fontdsdt.txt", sep="") # protok vode (m^3/s) (prosecno, mesecna serija, od 1.1909 do 12.1980)
attach(Fontdsdt) # prethodno je ocenjen trend i sezonska komponenta, a adflow predstavlja samo slucajnu komponentnu
plot(ts(adflow), ylab = 'adflow')

acf(adflow, xlab = 'lag (months)', main="")

Једино је статистички значајна корелација са кораком 1, што се може објаснити: у зависности од подземних вода чије се понашање тј. колико доприносе језеру споро мења, па су током узастопних месеци сличне вредности. Са друге стране вредност корелације није велика, јер други начин на који се пуни језеро су падавине, а падавине у узастопним месецима нису корелисане. Овакав облик корелограма (експоненцијално опадање) је карактеристично за AR(1) модел.

Корелограм Гаусовог белог шума

acf(w) # w - Gausov beli sum N(0,1)

Задатак

  • Учитати временске серије vs1.txt и vs2.txt и графички их представити. Нацртати графике зависности између вредности са задршком (lag) 1. Нацртати корелограме за обе серије и донети закључке.