Bootstrap (Yeniden Örnekleme) Nedir ?
(1 votes, average: 3,00 out of 5)
Loading...Utku Kubilay ÇINAR
Bootstrap Yöntemi, istatistik alan(lar)ında sıklıkla kullanılan yöntemlerin başında gelmektedir. Bootstrap yöntemleri ya da algoritmalarındaki asıl amaç veriden, büyük veri setleri oluşturmak (üretmek) ve yeniden örnekleme yapmaktır.
Bootstrap yönteminde, yapılacak olan yorumu bazı parametrelerin istatistiksel çıkarımlarıyla yeniden çizilmesiyle yapılmaktadır. Ardından bu işlemin daha güvenilir olabilmesi için fazlaca tekrarlanır. Bootstrap yöntemiyle, varyans tahminleri başarılıyla elde edilmektedir ve varyans tahminleri konusunda sıklıkla kullanılmaktadır. Ayrıca Bootstrap metodu, örnek dağılışının normal olmadığı durumlarda ya da çok küçük veri setlerinde varyans analizine göre üstünlük taşımaktadır (TAKMA, Ç. ve ATIL, H).
Bootstrap metodu, yoğun matematik formüllerinden uzak, sınırlı varsayımlara sahip, anlaşılması ve kullanılması oldukça kolay bir yöntemdir (Simon ve Bruce, 1991). Özellikle varsayımların yetersiz kaldığı durumlarda güvenilir sonuçlar vermektedir. Bootstrap metodu, olasılıkta olduğu gibi (Takma, Ç. ve Atıl, H.), güven aralıkları, hipotez testi ve regresyon analizinde de kullanılmaktadır (Efron ve Tibshirani 1993).
Bootstrap Örneklemesi
Kitle dağılımı hakkında hiçbir varsayım yapılmamışsa, küçük hacimli örneklemede, kitle ortalaması için güven aralığı söyleyemeyiz, aralık tahmini yapamayız. Bu gibi sorunların altından kalmak için elimizdeki veri üzerinde “yeniden n hacimlik örneklemeler” yapılıp, ilgili istatistiğin değeri çok kez gözlenip, dağılımı hakkında fikir elde edilebilir. (Kaynak: http://80.251.40.59/science.ankara.edu.tr/ozturk/Dersler/ist312/Ders10/Ders10.pdf)
Uygulama
R programındaki hazır veri seti üzerinden Bootstrap örneklemesi kullanarak yeni gözlemler oluşturalım. “ACSWR” kütüphanesinden “nerve” veri seti bu analizde kullanılmıştır.
library(ACSWR) # veri seti için
data("nerve")
library(boot) # Bootstrap İşlemleri için Kullanılan Kütüphane
carpiklik <- function(x,i){
ort = mean(x[i])
toplam = sum((x[i]-ort) ̂ 2)/length(x[i])
ortalama = mean((x[i]-ort) ̂ 3)/(toplam ̂ (3/2))
return(ortalama)
}
# örneklemenin temsiliyet durumu
# 1.000 örneklem ile işlemimizi yapalım
boot(data = nerve, # veri seti
statistic = carpiklik , # yapılacak işlem
R =c1000) # Bootstrap işlemi tekrar sayısı
Yaptığımız işlemler sonucunda orjinal değerimiz 1.76 olarak bulunmuştur. Yaklaşık 1.000 tane bootstrap yani yeniden örnekleme yaptığımızda orjinal veriye olan yanlılığımız (bias) 0.012 olmuştur, standart sapmamız ise 0.16 olarak belirlenmiştir. Dağılımını bilmediğimiz bir veriden üretilen yeni örneklemlerin yanlılık ve sapma değerleridir.
Eğer 1.000 tekrar yerine 5.000 tekrar yapsaydık yani, bootstrap değerimizi (R) yükselttiğimizde yanlılık ve sapma değerimiz nasıl bir değişime uğrayacak bunu inceleyelim.
# 5.000 örneklem ile
boot(data = nerve, # veri seti
statistic = carpiklik, # yapılacak işlem
R = 5000) # Bootstrap işlemi tekrar sayısı
Görüldüğü üzere yanlılık hafif miktarda artmış ve standart sapmamız azalmıştır.
Başka bir Uygulama Yapalım
İris veri seti ile yeniden örnekleme yapalım ve ürettiğimiz veriler ile orjinal verilerin yanlılığını-sapmalarını inceleyelim.
# istatistik fonksiyonu oluşturalım. Bununla 2 bileşenli veri setimizde bileşenler arasındaki ilişkiye bakalım ve ayrı ayrı ortanca değerlerini inceleyelim.
istatistik <- function(data, indeks){
dt= data[indeks,]
c(
cor(dt[,1], dt[,2], method = "s"), # spearman korelasyonu
median(dt[,1]),
median(dt[,2])
)
}
bootstrap_sonuc <- boot(data = iris, # iris veri seti
statistic = istatistik, # oluşturduğumuz fonksiyon
R=1000) # Bootstrap işleminde tekrarlı örnek sayısı (number of repetitions)
# $t0 = Orjinal veri
# $t = ürettiğimiz veri
# bootstrap_sonuc$t = bootstrap prosedürü (R'nin bootstrap gerçekleştirmeleri) tarafından oluşturulan istatistiklerimizin R değerlerini içerir.
head(bootstrap_sonuc$t, 10)## [,1] [,2] [,3] ## [1,] -0.26405188 5.70 3.0 ## [2,] -0.12973299 5.80 3.0 ## [3,] -0.07972066 5.75 3.0 ## [4,] -0.16122705 6.00 3.0 ## [5,] -0.20664808 6.00 3.0 ## [6,] -0.12221170 5.80 3.0 ## [7,] -0.29356913 5.70 3.0 ## [8,] -0.11368900 5.70 3.0 ## [9,] -0.15260835 5.85 3.1 ## [10,] -0.15772740 6.00 3.0
bootstrap_sonuc$t0 # Orjinal veri setindeki istatistiklerimiz ( korelasyon, medyan 1, medyan 2)
## [1] -0.1667777 5.8000000 3.0000000
bootstrap_sonuc # Parametrik Olmayan Bootstrap işlemimizdeki sapma ve yanlılık değerlerimiz # (gerçekleşen ile ürettiğimiz arasındaki fark (korelasyon - medyan 1 - medyan 2 değerleri farklılıkları))
## ## ORDINARY NONPARAMETRIC BOOTSTRAP ## ## ## Call: ## boot(data = iris, statistic = istatistik, R = 1000) ## ## ## Bootstrap Statistics : ## original bias std. error ## t1* -0.1667777 0.002546391 0.07573983 # korelasyon ## t2* 5.8000000 -0.013350000 0.10295571 # medyan 1 ## t3* 3.0000000 0.007900000 0.02726414 # medyan 2
Orjinal veriye göre ürettiğimiz değerlerin sapmaları ve yanlılıkları tablodaki gibidir.
Güven Aralıklarını İnceleyelim
Nokta tahmini yapmaktansa Güven Aralıkları ile yapılan tahminler daha fazla bilgi vermektedir. Bu sebeple Bootstrap yönteminde hipotez testleri ve güven aralıklarının kullanılmasındaki asıl amaç, veri setimizin dağılımını bilmeden hipotez testinin yapılmasıdır.
boot.ci(bootstrap_sonuc, index=1, type=c('basic','perc'))## BOOTSTRAP CONFIDENCE INTERVAL CALCULATIONS
## Based on 1000 bootstrap replicates
##
## CALL :
## boot.ci(boot.out = bootstrap_sonuc, type = c("basic", "perc"), index = 1)
##
## Intervals :
## Level Basic Percentile
## 95% (-0.3212, -0.0329 ) (-0.3007, -0.0124 )
## Calculations and Intervals on Original ScaleOlarak güven aralıklarını bulmuş oluyoruz.
Varsayımlarınızın sağlanması dileğiyle,
Veri ile kalın, Hoşça kalın..
Kaynakça
- EFRON, B. and Tibshirani, R., (1993), An introduction to the Bootstrap, Chapman and Hall, New York.
- TAKMA, Ç. ve ATIL, H., (2006), “Bootstrap Metodu ve Uygulanışı Üzerine Bir Çalışma 2. Güven Aralıkları, Hipotez Testi ve Regresyon Analizinde Bootstrap Metodu”, Ege Üniversitesi, Ziraat Fakültesi Dergisi, 43(2):63-72.
- WEHRENS, R., H. Putter and L.M.C. Buydens, (2000), The bootstrap: a tutorial. Chemometrics and Intelligent Laboratory Systems, 54:35-52.
- https://www.datacamp.com/community/tutorials/bootstrap-r
- Görsel Kaynak: https://www.statisticshowto.datasciencecentral.com/bootstrap-sample/
![](https://www.veribilimiokulu.com/wp-content/uploads/2020/05/logo-e1590873495165.png"){kind=logo}