Analisis Regresi

Analisis regresi dalam statistika adalah salah satu metode untuk menentukan hubungan sebab-akibat antara satu variabel dengan variabel(-variabel) yang lain. Variabel "penyebab" disebut dengan bermacam-macam istilah: variabel penjelas, variabel eksplanatorik, variabel independen, atau secara bebas, variabel X (karena seringkali digambarkan dalam grafik sebagai absis, atau sumbu X) dalam modul ini selanjutnya akan disebut dengan variabel independen. Variabel terkena akibat dikenal sebagai variabel yang dipengaruhi, variabel dependen, variabel terikat, atau variabel Y dalam modul ini selanjutnya akan disebut variabel dependen. Kedua variabel ini dapat merupakan variabel acak (random), namun variabel yang dipengaruhi harus selalu variabel acak.

Analisis regresi adalah salah satu analisis yang paling populer dan luas pemakaiannya. Analisis regresi dipakai secara luas untuk melakukan prediksi dan ramalan, dengan penggunaan yang saling melengkapi dengan bidang pembelajaran mesin. Analisis ini juga digunakan untuk memahami variabel bebas mana saja yang berhubungan dengan variabel terikat, dan untuk mengetahui bentuk-bentuk hubungan tersebut.

Analisis regresi dapat digunakan untuk dua hal pokok yaitu a) untuk memperoleh suatu persamaan dan garis yang menunjukan persamaan hubungan antara dua variabel. Persamaan dan garis yang didapat disebut dengan persamaan regresi, yang dapat berbentuk linier maupun nonlinier, b). Untuk menaksir satu variabel yang disebut dependen variabel, dengan variabel lain yang disebut independent variabel, berdasarkan hubungan yang ditunjukan persamaan regresi

Salah satu tujuan analisis regresi adalah untuk memperkirakan / memperhitungkan besarnya efek atau pengaruh kuantitaif dari perubahan suatu kejadian terhadap kejadian-kejadian lainya. Untuk keperluan evaluasi / penilaian suatu kebijakan mungkin ingin diketahui besarnya efek kuantitatif dari perubahan suatu kejadian terhadap kejadian lainya. Kejadian-kejadian tersebut, untuk keperluan analisis, bisa dinyatakan di dalam perubahan nilai variabel. Untuk analisis dua kejadian(events) kita gunakan dua variabel X dan Y. Apabila variabel X dan Y mempunyai hubungan (korelasi), maka perubahan nilai variabel yang satu akan mempengaruhi nilai variabel lainya. Hubungan variabel dapat dinyatakan dalam bentuk fungsi, misalnya Y= f(X) à Y= 2 + 1,5X. Apabila bentuk fungsinya sudah diketahui, maka dengan mengetahui nilai dari dari satu variabel (X), maka nilai variabel lainya (Y) dapat diperkirakan atau diramalkan. Data hasil ramalan yang dapat menggambarkan kemampuan untuk waktu yang akan datang, sangat berguna bagi dasar perencanaan.

Variabel yang akan diramalkan harus diletakan pada ruas kiri persamaan dan disebut variabel tidak bebas (dependent) , sedangkan variabel yang nilainya dipergunakan untuk meramalkan disebut variabel bebas (independent).

1.     Model Regresi Sederhana

Jika analisis regresi dilakukan untuk satu variabel dependen dan satu variabel independent maka regresi ini dinamakan regresi sederhana. Analisis regresi linear diperoleh dari suatu motivasi bahwa plot data variabel X (pengaruh) dan Y (respons) cenderung linear.

Model regresi adalah cara yang digunakan untuk menyatakan dua hal :

a.         Kecenderungan berubah-ubahnya variabel dependen terhadap variabel independent dalam bentuk yang sistematis (teratur).

b.         Berpencarnya observasi di sekitar kurve yang menyatakan hubungan statistik.

Kedua karakteristik itu ada dalam model regresi dengan mempostulasikan bahwa :

a.          Dalam populasi observasi di mana sample diambil, terdapat distribusi probabilitas dari Y untuk setiap level dari X.

b.         Harga – harga mean distribusi probabilitas ini berbeda-beda dalam cara yang sistematik dengan X.

Model regresi linear sederhana :

Y_i = β₀ + β₁X_i + ε_i,    i = 1, 2,...,n

Keterangan:

·         Yi harga variabel respons pada trial ke i.

·         Xi konstan yang diketahui , yaitu harga variabel independent pada trial ke i.

·         β₀ ,β₁ adalah parameter yang tidak diketahui nilainya dan akan diestimasi denganstatistik b₀,b₁.

·         εi= N(0;σ²) adalah suku sesatan random yang independent

Model di atas dapat dipahami sebagai model linear dengan melihat Yi = β₀ + β₁ Xi ditambah dengan adanya unsur εi = N( 0;σ²) yang membuat data naik turun dari garis linear.

2.     Model Regresi Berganda

                 Regresi Berganda sebenarnya tidak jauh berbeda dengan regresi sederhana yang membedakan hanya pada jumlah variabel independenya saja. jika pada regresi sederhana terdapat 1 variabel independen maka pada regresi berganda terdapat lebih dari 1 variabel independen (X) yang biasa dinotasikan dengan X1, X2, X3, .... 

untuk contoh penggunaan dengan SPSS dan aplikasi lainya akan dijelaskan dipostingan selanjutnya.