Teori Analisis Regresi Linier Sederhana

Bab ini membahas masalah pengenalan analisis regresi dan teori regresi. Setelah selesai membaca bagian ini maka pembaca akan dapat memahami:

• Pengertian regresi linear
• Konsep-konsep dasar dalam regresi
• Kegunaan teknik analisis regresi

2.1  Pengertian

Untuk mengukur besarnya pengaruh variabel bebas terhadap variabel tergantung dan memprediksi variabel tergantung dengan menggunakan variabel bebas. Gujarati (2006) mendefinisikan analisis regresi sebagai kajian terhadap hubungan satu variabel yang disebut sebagai variabel yang diterangkan (the explained variabel) dengan satu atau dua variabel yang menerangkan (the explanatory). Variabel pertama disebut juga sebagai variabel tergantung dan variabel kedua disebut juga sebagai variabel bebas. Jika variabel bebas lebih dari satu, maka analisis regresi disebut regresi linear berganda. Disebut berganda karena pengaruh beberapa variabel bebas akan dikenakan kepada variabel tergantung.

2.2  Tujuan

Tujuan menggunakan analisis regresi ialah

• Membuat estimasi rata-rata dan nilai variabel tergantung dengan didasarkan pada nilai variabel bebas.
• Menguji hipotesis karakteristik dependensi
• Untuk meramalkan nilai rata-rata variabel bebas dengan didasarkan pada nilai variabel bebas diluar jangkaun sample.

2.3   Asumsi

Penggunaan regresi linear sederhana didasarkan pada asumsi diantaranya sbb:

• Model regresi harus linier dalam parameter
• Variabel bebas tidak berkorelasi dengan disturbance term (Error) .
• Nilai disturbance term sebesar 0 atau dengan simbol  sebagai berikut: (E (U / X) = 0
• Varian untuk masing-masing error term (kesalahan) konstan
• Tidak terjadi otokorelasi
• Model regresi dispesifikasi secara benar. Tidak terdapat bias spesifikasi dalam model yang digunakan dalam analisis empiris.
• Jika variabel bebas lebih dari satu, maka antara variabel bebas (explanatory) tidak ada hubungan linier yang nyata

2.4  Persyaratan Penggunaan Model Regresi

Model kelayakan  regresi linear didasarkan pada hal-hal sebagai berikut:

• Model regresi dikatakan layak  jika angka signifikansi pada ANOVA sebesar < 0.05
• Predictor yang digunakan sebagai variabel bebas harus layak. Kelayakan ini diketahui jika angka Standard Error of Estimate < Standard Deviation
• Koefesien regresi harus signifikan. Pengujian dilakukan dengan Uji T. Koefesien regresi signifikan jika T hitung > T table (nilai kritis)
• Tidak boleh terjadi multikolinieritas, artinya tidak boleh terjadi korelasi yang sangat tinggi atau sangat rendah antar variabel bebas. Syarat ini hanya berlaku untuk regresi linier berganda dengan variabel bebas lebih dari satu.
• Tidak terjadi otokorelasi. Terjadi otokorelasi jika angka Durbin dan Watson (DB) sebesar < 1 dan > 3
• Keselerasan model regresi dapat diterangkan dengan menggunakan nilai r² semakin besar nilai tersebut maka model semakin baik. Jika nilai mendekati 1 maka model regresi semakin baik. Nilai r² mempunyai karakteristik diantaranya: 1) selalu positif, 2) Nilai r² maksimal sebesar 1. Jika Nilai r² sebesar 1 akan mempunyai arti kesesuaian yang sempurna. Maksudnya seluruh variasi dalam variabel Y dapat diterangkan oleh model regresi. Sebaliknya jika r² sama dengan 0, maka tidak ada hubungan linier antara X dan Y.
• Terdapat hubungan linier antara variabel bebas (X) dan variabel tergantung (Y)
• Data harus berdistribusi normal
• Data berskala interval atau rasio
• Kedua variabel bersifat dependen, artinya satu variabel merupakan variabel bebas (disebut juga sebagai variabel predictor) sedang variabel lainnya variabel tergantung (disebut juga sebagai variabel response)

2.5  Linieritas

Ada dua macam linieritas dalam analisis regresi, yaitu linieritas dalam variabel dan linieritas dalam parameter. Yang pertama, linier dalam variabel merupakan nilai rata-rata kondisional variabel tergantung yang merupakan fungsi linier dari variabel (variabel) bebas. Sedang yang kedua, linier dalam parameter  merupakan fungsi linier parameter dan dapat tidak linier dalam variabel.

2.6  Uji Hipotesis

Pengujian hipotesis dapat didasarkan dengan menggunakan dua hal, yaitu: tingkat signifikansi atau probabilitas (α) dan tingkat kepercayaan atau confidence interval. Didasarkan tingkat signifikansi pada umumnya orang menggunakan 0,05. Kisaran tingkat signifikansi mulai dari 0,01 sampai dengan 0,1. Yang dimaksud dengan tingkat signifikansi adalah probabilitas melakukan kesalahan tipe I, yaitu kesalahan menolak hipotesis ketika hipotesis tersebut benar. Tingkat kepercayaan pada umumnya ialah sebesar 95%, yang dimaksud dengan tingkat kepercayaan ialah tingkat dimana sebesar 95% nilai sample akan mewakili nilai populasi dimana sample berasal. Dalam melakukan uji hipotesis terdapat dua hipotesis, yaitu:

• H0 (hipotessis nol)  dan H1 (hipotesis alternatif)

Contoh uji hipotesis misalnya rata-rata produktivitas pegawai sama dengan 10 (μ x= 10), maka bunyi hipotesisnya ialah:

• H0: Rata-rata produktivitas pegawai sama dengan 10
• H1: Rata-rata produktivitas pegawai tidak sama dengan 10

Hipotesis statistiknya:

• H0: μ x= 10
• H1: μ x > 10 Untuk uji satu sisi (one tailed) atau
• H1: μ x < 10
• H1: μ x ≠ 10 Untuk uji dua sisi (two tailed)

Beberapa hal yang harus diperhatikan dalam uji hipotesis ialah;

• Untuk pengujian hipotesis kita menggunakan data sample.
• Dalam pengujian akan menghasilkan dua kemungkinan, yaitu pengujian signifikan secara statistik jika kita menolak H0 dan pengujian tidak signifikan secara statistik jika kita menerima H0.
• Jika kita menggunakan nilai t, maka jika nilai t yang semakin besar atau menjauhi 0, kita akan cenderung menolak H0; sebaliknya jika nila t semakin kecil atau mendekati 0  kita akan cenderung menerima H0.

Menggunakan kurva untuk menguji hipotesis dapat digambarkan sebagai berikut:

a)      Untuk uji dua sisi

b)      Untuk uji sebelah kanan

c)      Untuk uji sebelah kiri

2.7  Karakteristik Model yang Baik

Model dikatakan baik menurut Gujarati (2006), jika memenuhi beberapa kriteria seperti di bawah ini:

        Parsimoni: Suatu model tidak akan pernah dapat secara sempurna menangkap realitas; akibatnya kita akan melakukan sedikit abstraksi ataupun penyederhanaan dalam pembuatan model.

        Mempunyai Identifikasi Tinggi: Artinya dengan data yang ada, parameter-parameter yang diestimasi harus mempunyai nilai-nilai yang unik atau dengan kata lain, hanya akan ada satu parameter saja.

        Keselarasan (Goodness of Fit): Tujuan analisis regresi ialah menerangkan sebanyak mungkin variasi dalam variabel tergantung dengan menggunakan variabel bebas dalam model. Oleh karena itu, suatu model dikatakan baik jika eksplanasi diukur dengan menggunakan nilai adjusted r² yang setinggi mungkin.

        Konsitensi Dalam Teori: Model sebaiknya segaris dengan teori. Pengukuran tanpa teori akan dapat menyesatkan hasilnya.

        Kekuatan Prediksi: Validitas suatu model berbanding lurus dengan kemampuan prediksi model tersebut. Oleh karena itu, pilihlah suatu model yang prediksi teoritisnya berasal dari pengalaman empiris.

2.8  Ringkasan

Analisis regresi berbeda dengan analisis korelasi. Jika analisis korelasi digunakan untuk melihat hubungan dua variable; maka analisis regresi digunakan untuk melihat pengaruh variable bebas terhadap variable tergantung serta memprediksi nilai variable tergantung dengan menggunakan variable bebas. Dalam analisis regresi variable bebas berfungsi untuk menerangkan (explanatory) sedang variable tergantung berfungsi sebagai yang diterangkan (the explained).  Dalam analisis regresi data harus berskala interval atau rasio. Hubungan dua variable bersifat dependensi. Untuk menggunakan analisis regresi diperlukan beberapa persyaratan yang harus dipenuhi.

2.9  Pertanyaan

1)      Apa yang dimaksud dengan analisis regresi?

2)      Apa tujuan kita menggunakan analisis regresi?

3)      Apa perbedaan dasar antara regresi linier sederhana dan regresi linier berganda?

4)      Sebutkan asumsi dalam analisis regresi?

5)      Sebutkan persyaratan dalam menggunakan analisis regresi?

6)      Apa yang dimaksud dengan linieritas dalam analisis regresi?

7)      Ada berapa jenis hipotesis dalam analisis regresi?

8)      Bagaimana menguji suatu model regresi dikatakan sudah baik?

9)      Terangkan uji hipotesis dua sisi dan satu sisi?

10)  Sebutkan syarat-syarat model yang baik?

Sumber:
www.jonathansarwono.info/regresi/regresi.htm