ว.วทย. มข. 47(3) 551-562 (2562) KKU Sci. J. 47(3) 551-562 (2019)

การประมาณคาสมประสทธการถดถอยสำหรบขอมลทมปญหาสหสมพนธเชงเสนพห ดวยวธการถดถอยแบบรดจและวธการคนหาแบบนกกาเหวา

Estimation of Multiple Linear Regression Analysis Coefficients with Multicollinearity by Ridge Regression and Cuckoo Search

พรทวา ธรรมชยหลง1* และกลจรา กงไพร1

1ภาควชาคณตศาสตรและสถต คณะวทยาศาสตรและเทคโนโลย มหาวทยาลยราชภฏเชยงใหม เชยงใหม 50300 Corresponding Author, E-mail: phornthiwar2539@gmail.com

Received: 21 November 2018 Revised: 11 January 2019 Accepted: 10 August 2019

บทคดยอ การศกษาครงมวตถประสงคเพอประมาณคาสมประสทธการถดถอยในการวเคราะหการถดถอยเชงเสนพห กรณมปญหา

สหสมพนธเชงเสนพห (Multicollinearity) โดยใชวธการถดถอยแบบรดจ (Ridge Regression) ทใชวธการประมาณคาพารามเตอรรดจของ โฮเอรล เคนนารด และ บาลดวน (Hoerl, Kennard and Baldwin) เปรยบเทยบกบวธการประมาณคาพารามเตอรดงกลาวโดยวธการคนหาแบบนกกาเหวา (Cuckoo Search) ทใชฟงกชนเปาหมายเปนคาความคลาดเคลอนกำลงสองเฉลย (Mean Square Error: MSE) เกณฑทใชในการเปรยบเทยบประสทธภาพของสมประสทธการถดถอยทไดจากวธการประมาณคา 2 วธดงกลาว คอคาความคลาดเคลอนกำลงสองเฉลยและคาปจจยการขยายตวความแปรปรวน (Variance Inflation Factor : VIF) ทตำทสด การศกษาทำการเปรยบเทยบโดยใชขอมลจากการจำลอง ซงประกอบดวยตวแปรอสระ 3 ตว และมจำนวน 30 รายการ และขอมลจากสถานการณจรงประกอบดวยตวแปรอสระ 14 ตว และมจำนวน 252 รายการ ในขนตอนของวธการคนหาแบบนกกาเหวากำหนดจำนวนรอบในการสมคา r เทากบ 5 10 และ 15 รอบ จำนวนรงเทากบ 20 รง และกระทำซำ 100 500 1,000 5,000 และ 10,000 ครง ผลการศกษาพบวา สำหรบวธการถดถอยแบบรดจทใชวธการประมาณคาพารามเตอรรดจ โดยวธการคนหาแบบนกกาเหวา ทมจำนวนรอบในการสมคา r เทากบ 15 รอบ และทำซำทงหมด 10,000 ครง ทำใหไดคาประมาณสมประสทธการถดถอยทเหมาะสมทสด นอกจากนน วธการคนหาแบบนกกาเหวายงทำใหไดสมประสทธการถดถอยทมคาความคลาดเคลอนกำลงสองเฉลยและคาปจจยการขยายตวความแปรปรวนตำกวาวธการประมาณคาพารามเตอรรดจของ โฮเอรล เคนนารด และบาลดวน ทง 2 ชดขอมล

ABSTRACT The purpose of this study is to estimate the coefficients in multiple linear regression analysis that has

multicollinearity problems by the method of Ridge Regression by Hoerl, Kennard and Baldwin compare with those method by the Cuckoo Search using Mean Squared Error (MSE) as the objective function. The efficiency criteria are MSE and Variance Inflation Factor (VIF). The comparison, using a simulation data composes of 3 independent variables with a sample size 30 and a real data set consists of 14 independent variables with 252 observations. In the Cuckoo Search Algorithms, 5, 10 and 15 iterations of searching r constant in ridge, 20 nests and 100, 500, 1,000,

552 KKU Science Journal Volume 47 Number 3 Research 5,000 and 1 0 ,0 0 0 repeated times are proposed. The result revealed that, the Ridge Regression by the Cuckoo Search with 15 iterations of searching r constant and 10,000 times of repetition gives the most appropriate regression coefficients. Moreover, those method by the Cuckoo Search also provides regression coefficients with lower MSE and VIF values than those method by Hoerl, Kennard and Baldwin in both data sets.

คำสำคญ: สมประสทธการถดถอย สหสมพนธเชงเสนพห การถดถอยแบบรดจ คาพารามเตอรรดจ การคนหาแบบนกกาเหวา Keywords: Regression Coefficients, Multicollinearity, Ridge Regression, Ridge Parameter, Cuckoo Search

บทนำ การวเคราะหการถดถอยเปนวธการทางสถตอยางหนงทใชในการศกษาและอธบายลกษณะความ สมพนธระหวางตวแปรหนง

กบตวแปรตวอน ๆ และคาดคะเนคาของตวแปรนนโดยอาศยหลกความสมพนธเบองตน ซงตวแบบทนยมใชกนอยางแพรหลาย คอ ตวแบบการถดถอยเชงเสนพหคณ โดยตวแบบนเปนความสมพนธระหวางตวแปรอสระทมมากกวา 1 ตว กบตวแปรตาม 1 ตว ทงนความสมพนธระหวางตวแปรอสระและตวแปรตาม อยในรปเชงเสน การใชตวแบบการถดถอยเชงเสนในการทำนายใหมประสทธภาพนนจะขนอยกบการเลอกตวแบบทมความเหมาะสมสงสด ซงเกดจากการคดเลอกตวแปรอสระทมอทธพลมากตอตวแปรตาม และจำนวนตวแปรอสระทอยในตวแบบตองไมมากและไมนอยเกนไป เนองจากตวแปรอสระทมมากเกนไปจะทำใหคาทำนายทไดมความคลาดเคลอนสงและอาจทำใหเกดปญหาสหสมพนธเชงเสนพห นอกจากนนแลวหากตวแบบทสรางขนขาดตวแปรอสระทสำคญไปจะทำใหคาทำนายมความคลาดเคลอนสงไดเชนเดยวกน (รฐพงศ และ ปรม, 2560)

ในปจจบนวธการทนยมนำมาใชในการแกปญหาสหสมพนธเชงเสนพห คอ การวเคราะหการถดถอยแบบรดจ ซงวธนไมจำเปนทจะตองตดตวแปรอสระทมพหสมพนธ เชงเสนออกจากตวแบบ แตตวประมาณทไดจากวธนจะเปนตวประมาณทเอนเอยงของ β หลกการของวธนคอการบวกคาคงตว r คาหนงทมคามากกวาศนยใหกบสมาชกทก ๆ ตว บนแนวทแยงมมของเมทรกซ WW เพอใหสมาชกบนแนวทแยงมมมคามากขนจะทำใหสภาวะการปวย (Ill Condition) ของเมทรกซ W W ลดลงและเพอหาเมทรกซผกผนของ WW ทมความเสถยรมากขนทำใหสมาชกบนแนวทแยงมมของเมทรกซผกผน W W มคานอยลงเปนการลดความคลาดเคลอนกำลงสองเฉลยของคาประมาณพารามเตอร β ซงจะไดตวประมาณคาสมประสทธการถดถอยแบบรดจ คอ -1ˆ = ( + )r rβ W W I W y เมอ r > 0 และในการวเคราะหการถดถอยแบบรดจนนจะตองมการประมาณคาคงตว r ซงมผศกษาวธการประมาณคาคงตว r หลายวธ เชน วธของโฮเอรล เคนนารด และ บาลดวน วธนอมระ (Nomura) และวธของคาลาฟ และ ชเกอร (Khalaf and Shukur) เปนตน

นอกจากวธการทกลาวมาขางตนยงมวธการแกปญหาสหสมพนธเชงเสนพหทประยกตมาจากวธการหาคำตอบทดทสดโดยอาศยหลกการประมาณเปนกลมวธการทเรยกวา เมตาฮวรสตก (Metaheuristic) ซงเปนวธการหาคำตอบทดทสดทเขามาชวยในการหาคำตอบสำหรบบางปญหาทไมสามารถใชวธการทางทฤษฏแบบดงเดม หรอถาหากทำไดกจะใชเวลานาน (Babak et al., 2011) เชน วธเชงพนธกรรม (Genetic Algorithm) วธการจำลองการอบเหนยว (Simulate Annealing) วธคนหาแบบตองหาม (Tabu Search) รวมถงวธการคนหาแบบนกกาเหวา (Cuckoo Search) ทนำมาใชในการประมาณคาสมประสทธการถดถอยในงานวจยน โดยหลก ๆ แลวหลกการทำงานของเมตาฮวรสตกในทกวธทกลาวมานนมสวนทเหมอนกนคอ การหาคำตอบดวยการสมและมการวนรอบการทำซำ คำตอบทไดแตละครงและแตละรอบการทำซำจงไมเทากน เนองจากเปนการคนหาคำตอบทมพนฐานมาจากการสม (อารรตน, 2556)

ในงานวจยตาง ๆ ทผานมาไดมการนำวธการทางเมตาฮวรสตกมาแกปญหาในหลากหลายรปแบบ อาทเชน วธการคนหาแบบกลมอนภาคและวธเชงพนธกรรมถกนำมาประยกตใชในการแกปญหาการจดเรยงเครองจกรในระบบการผลตแบบยดหยน (ณฏฐพงศ, 2551) วธการคนหาแบบนกกาเหวาถกนำมาประยกตใชในการจดวางตำแหนงตดตงอปกรณชบอกความผดพรอง (อรรถพล, 2557) และวธการคนหาแบบตองหามถกนำมาประยกตใชในการคดเลอกตวแปรในตวแบบการถดถอยเชงเสนพห (กานตณฐ, 2554) การศกษาในครงนผวจยจงไดสนใจนำวธการคนหาแบบนกกาเหวามาประยกตใชในการประมาณคาสมประสทธการถดถอย เนองจากเปนกระบวนการทำงานทไมซบซอนและไมมขอบงคบหรอมเงอนไขทางสถต และจากการทบทวนวรรณกรรมทผานมา ยงไมพบงานวจยใดทนำเอาวธการ

งานวจย วารสารวทยาศาสตร มข. ปท 47 เลมท 3 553 คนหาแบบนกกาเหวามาประยกตใชในการประมาณคาสมประสทธการถดถอย ในกรณทเกดปญหาสหสมพนธเชงเสนพห จากทกลาวมาจงทำใหเหนวาวธการคนหาแบบนกกาเหวาเปนวธการใหมและมความนาสนใจในการนำมาประยกตใชในงานวจยน

ดงนน งานวจยนมวตถประสงคเพอศกษาวธการประมาณคาสมประสทธการถดถอยเชงเสนพหคณ โดยวธการถดถอยแบบรดจและวธการคนหาแบบนกกาเหวา และเปรยบเทยบประสทธภาพของทง 2 วธ การประมาณคาคงตว r ในการถดถอยแบบรดจ

ในการศกษาครงนไดเปรยบเทยบการประมาณคาสมประสทธการถดถอยโดยวธการถดถอยแบบรดจทมการประมาณคา r ทเปนคาคงตว ในการประมาณคาพารามเตอรของตวแบบการถดถอย โดยวธของโฮเอรล เคนนารด และ บาลดวน (rHKB)

จากการประมาณคา r ของโฮเอรล และ เคนนารด (rHK) ทตองการเลอกคา rHK ททำใหคาความคลาดเคลอน กำลงสองเฉลยของ r มคาตำสด โดยการหาอนพนธบางสวนเทยบกบคา rj จะไดวา

2

2j

ˆ

ˆjr

(1)

แตเนองจาก T ดงนน อาจมกรณท j มคาเทากบศนย ซงจะทำใหไมสามารถหาคา r ได และเนองจากคา r มผลตอความเอนเอยงกำลงสองและคาความแปรปรวนของตวประมาณ ดงนน โฮเอรล และ เคนนารดจงทำการกำหนดคา r ทเหมาะสมเพยงคาเดยว โดยกำหนดใหคา jα จากสมการ (1) เปนคามากทสดจะไดวา

2

2max

ˆ

ˆHKr

เมอ max 1 2( )maxˆ ˆ ˆ ˆ, ,..., p

และ 2 ˆ-ˆ

-n p

y y T W y

จากสมการ (1) โฮเอรล เคนนารด และ บาลดวน ไดเสนอวธการกำหนดคาคงตว r ทเหมาะสมเพอชวยลดผลกระทบทเกดขน ดงน

2σˆ ˆHKB

pr

α α

เมอ p คอจำนวนพารามเตอรในตวแบบการถดถอย วธการคนหาแบบนกกาเหวา

วธการคนหาแบบนกกาเหวาถกนำเสนอในป 2009 โดย Yang และ Deb เพอนำมาใชแกปญหาการคนหาคาทเหมาะสมทสด โดยวธการนไดแรงบนดาลใจจากกลยทธการสบพนธของนกกาเหวาตามธรรมชาต ซงมความนาสนใจคอ นกกาเหวาจะสบพนธโดยการนำไขของตนเองไปฝากไวในรงนกชนดอนทมลกษณะไขคลาย ๆ กน โดยนกกาเหวาจะทำการเลยนแบบไขของตนเอง เชน ส ลวดลาย ใหเหมอนกบไขของนกเจาของรงทมอยแลว ถาเลยนแบบไดด ไขนนกจะถกฟกโดยแมนกเจาของรง แตถาไขไมดกจะถกนกเจาของรงโยนทง หรอทงรงไปเพอสรางรงใหม ดงนน การลอกเลยนแบบ ส ลวดลายไข จะเปรยบเสมอนการปรบปรงคาคำตอบ (Generate Solution) ซงอาจมโอกาสเปนคำตอบทดกวา กจะไดรบการถายทอดสรนตอไป แตถาเปนคำตอบทไมดกจะมโอกาสถกคดทง เพอใหเขาใจงายในการอธบายการวธคนหาแบบนกกาเหวาจะใชกฎพนฐาน 3 ขอ (Yang and Deb, 2009) คอ

1. นกกาเหวาแตละตวสามารถวางไขไดเพยง 1 ครง ๆ ละ 1 ฟอง โดยจะทำการวางไขของตนเองลงไปในรงทไดรบการสมเลอกมา

2. รงทดทสด ซงมไขคณภาพสงจะไดรบการถายทอดไปยงรนตอไป 3. จำนวนรงของนกเจาของรงท มอย จะคงท โดยนกกาเหวาจะมโอกาสถกคนพบโดยนกเจาของรงดวยความนาจะเปน

[0,1]ap ซงในกรณนนกเจาของรงสามารถโยนไขนกกาเหวาทงไปหรอทงรงแลวสรางรงใหมทดกวา

554 KKU Science Journal Volume 47 Number 3 Research

จากกฎพนฐาน 3 ขอ สามารถอธบายขนตอนการทำงานของวธการคนหาแบบนกกาเหวาไดดงน ขนตอนท 1 : กำหนดสมการเปาหมาย ขนตอนท 2 : สรางจำนวนประชากรของรงนกเพอใหเกดความเรยบงายจะกำหนดรงนก 1 รงจะมไขของนกเจาของรงเพยง

1 ฟอง โดยทไขนกในรงแตละฟองจะเปนตวแทนของคำตอบ ขนตอนท 3 : นกกาเหวาจะทำการสมเลอกรงทมไขของนกเจาของรงวางอยแลว และทำการวางไขของตนเองลงในรงททำการ

สมเลอก โดยจะทำการเลยนแบบไขของตนเองจากไขของนกเจาของรงทมอยแลว ดงนน การเลยนแบบไขของนกกาเหวาเปรยบเสมอนการปรบปรงคำตอบ โดยใชหลกการ Lévy Flights ซงในการสรางคำตอบใหมของ Lévy Flights จะอยในรปของสมการ (2)

( +1) α ( )t ti ix = x + Levy λ (2)

เมอ tix คอ คำตอบเดม ( +1)tix คอ คำตอบใหมททำการปรบปรง

α ( )Levy λ คอ ชวงระยะหางทเกดการเปลยน แปลงตำแหนงของคำตอบ โดยท α ทมคามากกวาศนยจะเปนขนาดของชวงการสม (Step Size) ซงจะขนอยกบขนาดของปญหา ทตองการจะหา

คำตอบ สวนมากจะกำหนด α = 1 จากสมการ (2) เปนหลกการเดนสมแบบ Markov Chain (Yang and Deb, 2010) คอตำแหนงถดไปจะขนอยกบพารามเตอร 2 ตว คอ ตำแหนงเดม ณ ปจจบน ( t

ix ) และระยะทาง หรอความนาจะเปนทมการเปลยนตำแหนงใหม ในขนตอนการสมแบบ Lévy Flights จะมการกระจายตวดงสมการ (3) มคาความแปรปรวนไปเรอย ๆ และมคาเฉลยทไมคงท

~Levy u t (3) โดยท (0,3]

ขนตอนท 4 : ทำการประเมนคาความเหมาะสมของไขทไดรบการปรบปรงและทำการเปรยบเทยบไขเปนคทอยภายในรงเดยวกน ในกรณทคำตอบใหมดกวาจะทำการแทนทคำตอบเกาดวยคำตอบใหม โดยไขทดมคณภาพทสดในแตละรงจะไดรบการถายทอดสรนตอไป โดยจะกำหนดใหไขใบนนเปนคำตอบทดทสดของแตละรง

ขนตอนท 5 : หาจำนวนรงนกทมคำตอบไมดและมโอกาสถกนกเจาของรงทำการทงรงและไปสรางรงใหม โดยพจารณาคาความนาจะเปน ap โดยท [0,1]ap เชน มรงนกทงหมด 100 รง กำหนดคา ap = 0.25 ดงนน จะมจำนวนรงทมคำตอบไมดจำนวน 25 รงจะถกทงรง โดยเรมนบจากรงทแยทสดจนครบตามจำนวน จากนนทำการตดชดคำตอบทถกเลอกนนทง แลวทำการสรางรงขนมาใหมเพอแทนรงทถกคดออก

ขนตอนท 6 : นำผลเฉลยทดทสดของแตละรงมาเรยงลำดบ โดยพจารณาจากคาความเหมาะสมและกำหนดใหไขทมคณภาพมากทสด (คำตอบทดทสด) ไว เปนลำดบแรกแลวเกบคาคำตอบทดทสดไว

ขนตอนท 7 : ทำการหาคำตอบในรอบตอไป ทำจนครบรอบทกำหนดไว แลวเลอกคำตอบทดทสด คาสถตทใชในการพจารณาเลอกตวแบบการถดถอย

เกณฑทใชในการพจารณาในการเลอกตวแบบการถดถอยคอ คาความคลาดเคลอนกำลงสองเฉลย (MSE) และคาปจจยการขยายตวความแปรปรวน (VIF) การหาคาความคลาดเคลอนกำลงสองเฉลยสำหรบสมประสทธการถดถอยในแตละวธ มดงน

1. วธการถดถอยแบบรดจ

1ru ru

RMSEn k

e e

2. วธการคนหาแบบนกกาเหวา ˆ ˆ( ) ( )

1CMSEn k

y X y X

และการหาคาปจจยการขยายตวความแปรปรวนของทงสองวธคอ

งานวจย วารสารวทยาศาสตร มข. ปท 47 เลมท 3 555

-1 -1( + ) ( + )VIF r r WW I WW WW I

วธการดำเนนการวจย ขนตอนการดำเนนวจย

งานวจยนศกษากรณทตวแปรอสระเกดปญหาสหสมพนธเชงเสนพห โดยใชขอมล 2 ชด ดงน ขอมลชดท 1 คอขอมลทไดจากการจำลองโดยใชขอมลจากหนงสอการวเคราะหการถดถอย (Regression Analysis) (จรา

วลย, 2558) ซงประกอบดวยตวแปรอสระ 3 ตว จำนวน 30 รายการ ขอมลชดท 2 คอขอมลทไดจากสถานการณจรงโดยใชขอมลคาประมาณเปอรเซนตของไขมนในรางกายท ไดจากการชงนำหนก

ใตนำและการวดขนาดสวนตาง ๆ ของรางกาย (StatLib Datasets Archive, 2005) ซงประกอบดวยตวแปรอสระ 14 ตว จำนวน 252 รายการ

โดยการศกษาทง 2 กรณกำหนดจำนวนรอบในการสมคา r เทากบ 5 10 และ 15 รอบ จำนวนรงเทากบ 20 รง และกระทำซำ 100 500 1,000 5,000 และ 10,000 ครง มขนตอนดงน

1. ทำการแปลงรปขอมลดวยวธสเกลหนวยความยาว (Unit Length Scaling) โดยเรมคำนวณคา ijr และคา jyr จากสตร

1/ 2

1

( )( )

( )

ui i uj j

ij

ii jj

n

u

x x x xr

S S

1/2

1

( )( )

( )

uj j u

jy

jj T

n

u

x x y yr

S SS

เมอ 2

1

( )n

ii ui iu

S x x

เปนผลบวกกำลงสองของตวแปรอสระ ix

2

1

( )n

jj uj ju

S x x

เปนผลบวกกำลงสองของตวแปรอสระ jx

และ 2

1

( )n

T uu

SS y y

เปนผลบวกกำลงสองของตวแปรตาม y

โดยท uix เปนคาของขอมลลำดบท u ของตวแปรอสระตวท ; 1, 2,...,i i k ujx เปนคาของขอมลลำดบท u ของตวแปรอสระตวท ; 1, 2,...,j j k

จากนนทำการจดคา ijr และคา jyr ในรปของเมทรกซความสมพนธ ดงน 12 13 1

21 23 2

31 32 3

1 2 3

1

1

1

1

k

k

k

k k k

r r r

r r r

r r r

r r r

W W

1

2

3

y

y

y

ky

r

r

r

r

, W y

2. คำนวณคาสมประสทธการถดถอย ( β ) โดยใชวธประมาณคาพารามเตอรรดจดวยวธของโฮเอรล เคนนารด และ บาลดวน และวธการคนหาแบบนกกาเหวา

3. ทำการคดเลอกคาสมประสทธการถดถอย ทเหมาะสมจากวธการประมาณคาสมประสทธการถดถอย 2 วธ

556 KKU Science Journal Volume 47 Number 3 Research การประมาณคาสมประสทธการถดถอย 1. ประมาณคาสมประสทธการถดถอยดวยวธการถดถอยแบบรดจ

1. หล งจากทำการแปลงร ปข อม ลตามข นตอนท กล าวไว ข างต น จะได ส มประส ทธ การถดถอยมาตรฐาน คอ -1ˆ = ( + )r rβ W W I W y จากนนเขยนใหในรปฟงกชนคาเฉพาะโดยท

1

( )k

ii

tr

W W และ 1, 2,...,i k

เมอ k เปนจำนวนตวแปรอสระในตวแบบ 2. คำนวณคาสมประสทธการถดถอยแบบรดจมาตรฐาน (ภายใตตวแบบแปลงรป)

1/2

1/2( )T

ruj rj

jj

SSb b

S

01

k

ru ruj jj

b y b x

โดยท 1, 2,...,j k เมอ rjb เปนสมประสทธการถดถอยรดจมาตรฐาน และ rujb เปนสมประสทธการถดถอยรดจ 3. เนองจากการกำหนดคา r ทเหมาะสมโดยวธของวธโฮเอรล เคนนารด และ บาลดวน (rHKB) จะชวยลดผลกระทบทเกดขน

เมอ 2ˆ j มคานอย ซง 2ˆ j สามารถ คำนวณไดจาก T จากนนทำการคำนวณคา rHKB จากสตร 2σ

ˆ ˆHKB

pr

α α

4. หลงจากไดคา rHKB จากการคำนวณในขอ 3) แลวทำการประมาณคาสมประสทธการถดถอยรดจมาตรฐานตามขอ 1. และ 2. หลงจากนนทำการคำนวณคาความคลาดเคลอนกำลงสองเฉลยและคาปจจยการขยายตวความแปรปรวน เพอนำไปเปรยบเทยบกบวธการคนหาแบบนกกาเหวาในขนตอนตอไป 2. ประมาณคาสมประสทธการถดถอยดวยวธการคนหาแบบนกกาเหวา

1. ทำการสมคาคงตว r จากชวงทกำหนด 2. คำนวณคาปจจยการขยายตวความแปรปรวน 3. กำหนดจำนวนรงเรมตนและฟงกชนเปาหมายซงเปนเกณฑในการพจารณาเลอกตวแบบการถดถอย โดยในงานวจยนใชคา

ความคลาดเคลอนกำลงสองเฉลย 4. คำนวณคาสมประสทธการถดถอยเรมตน โดยวธการถดถอยแบบรดจทมการประมาณคาคงตว r ดวยวธการสมจากขอ 1. 5. สมคาสมประสทธการถดถอยโดยใชลกษณะการเคลอนทของ Lévy Flights 6. นำคาสมประสทธการถดถอยทไดมาคำนวณในฟงกชนเปาหมาย 7. ดำเนนการคนหาคาสมประสทธการถดถอยเซตตอไปแลวนำคาทไดมาคำนวณในฟงกชนเปาหมาย 8. นำผลลพธทไดมาเรยงลำดบและเลอกเซตคำตอบทใหคาความคลาดเคลอนกำลงสองเฉลยตำสด 9. คนหารงใหม โดยพจารณาจากคาความนาจะเปนทมากกวาคา ap และมเงอนไขวารงทไมผานคาความนาจะเปน ap ท

กำหนดจะถกละทงรงและรบคารงใหมแบบสม 10. ทำการคนหาคำตอบ (คาสมประสทธการถดถอย) ในรอบตอไป ทำจนครบรอบทกำหนดไวแลวเลอกคำตอบทดทสด 11. หลงจากทไดคำตอบทดทสดแลว ทำการ เปรยบเทยบคำตอบอกครงโดยใชคาปจจยการขยายตวความแปรปรวนเปนเกณฑ

รายละเอยดแสดงดงรปท 1

งานวจย วารสารวทยาศาสตร มข. ปท 47 เลมท 3 557 การคดเลอกตวแบบ

นำขอมลทไดจากการคำนวณตามทกลาวมาขางตนมาคดเลอกตวแบบทเหมาะสมจากวธการประมาณคาสมประสทธการถดถอย 2 วธ คอ วธการถดถอยแบบ รดจและวธการคนหาแบบนกกาเหวา โดยพจารณาจากคาความคลาดเคลอนกำลงสองเฉลย และคาปจจยการขยายตวความแปรปรวน จากนนบนทกผลการคดเลอก

รปท 1 กระบวนการทำงานของวธการคนหาแบบนกกาเหวา

เรมตน

คำนวณคา VIF

คำนวณคา

ทำการสมโดยใช Lévy Flights จะไดรง i

ประเมนคณภาพของรง Fi และ Fj

Fi > Fj

ให j เปนคำตอบ

ทำการแทน j ดวยคำตอบใหม

ละคารงทไมผานความนาจะเปน pa และคนหารงใหม

เกบคำตอบทดทสด

จำนวนรอบเทากบ ทกำหนด

ใช

ไมใช

ไมใช

กำหนดจำนวนรงและฟงกชนเปาหมาย

ใช

ทำการสมโดยใช Lévy Flights จะไดรง j

จบ

ไดคำตอบทดทสด

สมคาคงตว r

VIFk < VIFk+1 ไมใช

ใช

558 KKU Science Journal Volume 47 Number 3 Research ผลการวจย

ในสวนนผวจยจะนำเสนอผลการวจยเปน 2 สวน คอ ความสามารถในการประมาณคาสมประสทธการถดถอยโดยวธการคนหาแบบนกกาเหวา เมอกำหนดจำนวนรอบในการสมคา r ท 5 10 และ 15 รอบ จำนวนรงเทากบ 20 รง และกระทำซำ 100 500 1,000 5,000 และ 10,000 ครง และผลการเปรยบเทยบการประมาณคาสมประสทธการถดถอยของวธการถดถอยแบบรดจและวธการคนหาแบบนกกาเหวา โดยมรายละเอยดดงน

1. ความสามารถในการประมาณคาสมประสทธการถดถอยโดยวธการคนหาแบบนกกาเหวา สรปไดดงตารางท 1 จากตารางท 1 พบวาคาประมาณสมประสทธการถดถอยทประมาณไดจากวธการคนหาแบบนกกาเหวาทใชฟงกชนเปาหมาย

เปนคาความคลาดเคลอนกำลงสองเฉลย สำหรบขอมลชดท 1 คา MSE ทไดจากการสมคา r เทากบ 5 รอบ จำนวนรอบในการกระทำซำ 100 ครง คอ 13.56584 ซงเทากบคา MSE ทไดจากการสมคา r เทากบ 15 รอบ จำนวนรอบในการกระทำซำ 10,000 ครง เปนคา MSE ตำสด ดงนน สำหรบขอมลชดท 1 จำนวนรอบของการสม และการทำซำจงไมสงผลตอคา MSE แตเมอพจารณาจากคา VIFmax พบวาจะมคาลดลงอยางตอเนอง เมอมการเพมจำนวนรอบในการสม r และจำนวนรอบในการทำซำ และลดลงถงคาตำทสดเทากบ 282.1708 ท r เทากบ 15 รอบ และกระทำซำ 10,000 ครง จากทกลาวมานนทำใหไดตวแบบทเหมาะสมทสด คอ 1 2 33.8109 8.3618 2.9041 6.5657ˆ x x xy

สำหรบขอมลชดท 2 คา MSE ทไดจากการสมคา r เทากบ 5 รอบ จำนวนรอบในการกระทำซำ 10,000 ครง ไดคา MSE ตำสด เทากบ 1.62467 รองลงมาคอ 1.62664 ซงเปนคา MSE ทไดจากการสมคา r เทากบ 15 รอบจำนวนรอบในการกระทำซำ 10,000 ครง แตเมอพจารณาจากคา VIFmax พบวา คา VIFmax ทไดจากการสมคา r เทากบ 15 รอบ จำนวนรอบในการกระทำซำ 10,000 ครง มคาตำกวากรณทกำหนดจำนวนรอบในการสมคา r เทากบ 5 รอบ จำนวนรอบในการกระทำซำ 10,000 ครง จากทกลาวมานนทำใหไดตวแบบทเหมาะสมทสด คอ 1 2 3443.8594 405.9960 0.0132 0.0082ˆ x x xy

4 5 6 70.0084 0.0324 0.0266 0.0302x x x x 8 9 10 110.0171 0.0130 0.0035 0.0815x x x x 12 13 140.0511 0.0385 0.0130x x x

ในสวนของเวลาในการประมาณคาสมประสทธการถดถอยจะแปรผนตรงกบจำนวนรอบในการทำซำทเพมขนในทง 2 ชดขอมล

2. เปรยบเทยบผลการประมาณคาสมประสทธการถดถอยแตละวธสรปไดดงตารางท 2 จากตารางท 2 พบวาการประมาณคาสมประสทธ การถดถอยดวยวธการคนหาแบบนกกาเหวาในขอมลทง 2 ชด ใหคาความ

คลาดเคลอนกำลงสองเฉลยและคาปจจยการขยายตวความแปรปรวนมากสด ตำกวาวธการถดถอยแบบรดจทใชวธการประมาณคาพารามเตอรรดจ โดยวธของโฮเอรล เคนนารด และ บาลดวน โดยขอมลชดท 1 ใหคาความคลาดเคลอนกำลงสองเฉลยเทากบ 13.56584 และคาปจจยการขยายตวความแปรปรวนมากสดเทากบ 282.1708 เมอคาคงตว r เทากบ 0.00000112 สำหรบขอมลชดท 2 ใหคาความคลาดเคลอนกำลงสองเฉลยเทากบ 1.62664 และคาปจจยการขยายตวความแปรปรวนมากสดเทากบ 4.0018 เมอคาคงตว r เทากบ 0.00351594

งานวจย วารสารวทยาศาสตร มข. ปท 47 เลมท 3 559 ตารางท 1 คาสมประสทธการถดถอย คาคลาดเคลอนกำลงสองเฉลย และคาปจจยการขยายตวความแปรปรวน โดยวธการ

คนหาแบบนกกาเหวา เมอกำหนดจำนวนรอบในการสม r เทากบ 5 10 และ 15 รอบ ขอมลชดท 1 จำนวนตวแปรอสระเทากบ 3 ตว

จำนวนรอบ ในการสม r จำนวนรอบในการทำซำ คาสมประสทธการถดถอย

MSE VIFmax เวลา (วนาท) b0 b1 b2 b3

5

100 3.8168 8.3630 2.9040 6.5650 13.56584 285.1072 01.08 500 3.8189 8.3633 2.9040 6.5648 13.56585 283.4198 03.03 1000 3.8124 8.3621 2.9041 6.5655 13.56584 282.8767 05.64 5000 3.8327 8.3661 2.9038 6.5633 13.56591 282.6167 24.96 10000 3.8229 8.3642 2.9040 6.5644 13.56586 282.4940 49.15

10

100 3.8106 8.3618 2.9041 6.5657 13.56584 283.1074 01.53 500 3.8132 8.3623 2.9041 6.5655 13.56584 283.0622 05.22 1000 3.8295 8.3655 2.9039 6.5636 13.56589 282.5958 09.71 5000 3.8144 8.3625 2.9041 6.5653 13.56584 282.4559 44.96 10000 3.8217 8.3640 2.9040 6.5645 13.56586 282.2897 89.01

15

100 3.8157 8.3628 2.9040 6.5651 13.56584 282.6090 01.91 500 3.8217 8.3639 2.9040 6.5645 13.56586 282.5239 07.14 1000 3.8166 8.3629 2.9040 6.5650 13.56584 282.4854 13.19 5000 3.8268 8.3649 2.9039 6.5639 13.56588 282.3485 62.66 10000 3.8109 8.3618 2.9041 6.5657 13.56584 282.1708 124.33

ขอมลชดท 2 จำนวนตวแปรอสระเทากบ 14 ตว จำนวนรอบในการ

สม r จำนวนรอบในการ

ทำซำ คาสมประสทธการถดถอย

b0 b1 b2 b3 b4 b5 b6 b7 b8

5

100 147.5652 -150.0013

0.0526 0.0128 -0.1221

0.0377 0.0888 0.1152 0.0653

500 186.5306 -182.6464

0.0545 0.0115 -0.1204

0.0048 0.0887 0.1255 0.0600

1000 216.2084 -207.6483

0.0548 0.0102 -0.1126

-0.0186

0.0861 0.1304 0.0541

5000 437.6437 -400.6372

0.0140 0.0067 -0.0092

-0.0366

0.0267 0.0410 0.0151

10000 446.6796 -408.4074

0.0129 0.0090 -0.0081

-0.0306

0.0266 0.0250 0.0180

560 KKU Science Journal Volume 47 Number 3 Research ตารางท 1 คาสมประสทธการถดถอย คาคลาดเคลอนกำลงสองเฉลย และคาปจจยการขยายตวความแปรปรวน โดยวธการ

คนหาแบบนกกาเหวา เมอกำหนดจำนวนรอบในการสม r เทากบ 5 10 และ 15 รอบ (ตอ) ขอมลชดท 2 จำนวนตวแปรอสระเทากบ 14 ตว

จำนวนรอบในการสม r

จำนวนรอบในการทำซำ

คาสมประสทธการถดถอย b0 b1 b2 b3 b4 b5 b6 b7 b8

10

100 169.1664 -168.0890

0.0542 0.0121 -0.1226

0.0193 0.0893 0.1208 0.0628

500 218.8121 -209.8500

0.0545 0.0100 -0.1117

-0.0206

0.0857 0.1305 0.0535

1000 361.9463 -333.8356

0.0305 0.0027 -0.0377

-0.0720

0.0454 0.1145 0.0145

5000 262.2825 -246.9079

0.0499 0.0078 -0.0926

-0.0493

0.0775 0.1340 0.0423

10000 404.1153 -371.1767

0.0204 0.0028 -0.0185

-0.0573

0.0318 0.0847 0.0098

15

100 436.4210 -399.5771

0.0142 0.0064 -0.0094

-0.0374

0.0267 0.0431 0.0147

500 360.4046 -332.4735

0.0309 0.0028 -0.0385

-0.0722

0.0460 0.1151 0.0148

1000 378.6614 -348.6250

0.0265 0.0024 -0.0294

-0.0680

0.0395 0.1050 0.0115

5000 383.7768 -353.1568

0.0252 0.0024 -0.0270

-0.0663

0.0378 0.1016 0.0109

10000 443.8594 -405.9960

0.0132 0.0082 -0.0084

-0.0324

0.0266 0.0302 0.0171

ขอมลชดท 2 จำนวนตวแปรอสระเทากบ 14 ตว (ตอ) จำนวนรอบในการสม r

จำนวนรอบในการทำซำ

คาสมประสทธการถดถอย MSE VIFmax

เวลา (วนาท) b9 b10 b11 b12 b13 b14

5

100 0.0747 0.0885 -0.0506 0.0683 0.0662 -0.2409 13.33844 0.2416 1.86 500 0.0712 0.0688 -0.0663 0.0531 0.0660 -0.3415 9.85335 0.2591 7.40 1000 0.0662 0.0533 -0.0717 0.0413 0.0688 -0.3969 7.77124 0.2644 14.04 5000 -0.0092 -0.0028 -0.0778 -0.0474 0.0430 -0.0346 1.63524 17.3510 85.24 10000 -0.0147 -0.0040 -0.0834 -0.0529 0.0364 -0.0035 1.62467 19.5022 169.39

10

100 0.0727 0.0782 -0.0606 0.0600 0.0655 -0.3003 11.28505 0.2372 3.22 500 0.0658 0.0520 -0.0713 0.0402 0.0690 -0.4008 7.61126 0.4615 13.07 1000 0.0281 -0.0004 -0.0606 -0.0149 0.0770 -0.3006 2.30391 2.3508 33.07 5000 0.0572 0.0305 -0.0716 0.0228 0.0752 -0.4373 5.30111 0.2456 162.02 10000 0.0095 -0.0023 -0.0647 -0.0313 0.0629 -0.1590 1.79257 4.2163 311.99

งานวจย วารสารวทยาศาสตร มข. ปท 47 เลมท 3 561 ตารางท 1 คาสมประสทธการถดถอย คาคลาดเคลอนกำลงสองเฉลย และคาปจจยการขยายตวความแปรปรวน โดยวธการ

คนหาแบบนกกาเหวา เมอกำหนดจำนวนรอบในการสม r เทากบ 5 10 และ 15 รอบ (ตอ) ขอมลชดท 2 จำนวนตวแปรอสระเทากบ 14 ตว (ตอ)

จำนวนรอบในการสม r

จำนวนรอบในการทำซำ

คาสมประสทธการถดถอย MSE VIFmax

เวลา (วนาท) b9 b10 b11 b12 b13 b14

15

100 -0.0085 -0.0027 -0.0771 -0.0467 0.0438 -0.0390 1.63763 17.0928 7.34 500 0.0287 -0.0002 -0.0607 -0.0144 0.0773 -0.3051 2.33016 2.2040 18.77 1000 0.0214 -0.0019 -0.0610 -0.0212 0.0728 -0.2488 2.05511 2.2020 45.33 5000 0.0191 -0.0021 -0.0614 -0.0232 0.0712 -0.2316 1.99143 2.1170 223.25 10000 -0.0130 -0.0035 -0.0815 -0.0511 0.0385 -0.0130 1.62664 4.0018 411.84

ตารางท 2 เปรยบเทยบผลการประมาณคาสมประสทธการถดถอยแตละวธ ขอมลชดท 1 จำนวนตวแปรอสระเทากบ 3 ตว

วธการ คาคงตว r คาสมประสทธการถดถอย

MSE VIFmax b0 b1 b2 b3 วธการคนหาแบบนกกาเหวา 0.00000112 3.8109 8.3618 2.9041 6.5657 13.56584 282.1708 วธการถดถอยแบบรดจ 0.00002271 3.8265 8.3649 2.9039 6.5639 13.56588 285.9030

ขอมลชดท 2 จำนวนตวแปรอสระเทากบ 14 ตว

วธการ คาคงตว r คาสมประสทธการถดถอย

b0 b1 b2 b3 b4 b5 b6 b7 วธการคนหาแบบนกกาเหวา 0.00351594 443.8594 -405.9960 0.0132 0.0082 -0.0084 -0.0324 0.0266 0.0302 วธการถดถอยแบบรดจ 0.03085340 407.5415 -374.2087 0.0197 0.0030 -0.0172 -0.0555 0.0310 0.0812

ขอมลชดท 2 จำนวนตวแปรอสระเทากบ 14 ตว (ตอ)

วธการ คาสมประสทธการถดถอย

MSE VIFmax b8 b9 b10 b11 b12 b13 b14 วธการคนหาแบบนกกาเหวา 0.0171 -0.0130 -0.0035 -0.0815 -0.0511 0.0385 -0.0130 1.62664 4.0018 วธการถดถอยแบบรดจ 0.0099 0.0077 -0.0023 -0.0656 -0.0327 0.0612 -0.1462 1.76721 6.6519

สรปผลการวจย งานวจยนศกษาการประมาณคาสมประสทธ การถดถอยสำหรบขอมลทมปญหาสหสมพนธเชงเสนพหดวยวธการถดถอยแบ

บรดจและวธการคนหาแบบนกกาเหวา โดยใชขอมลทไดจากการจำลองและขอมลทไดจากสถานการณจรง และเปรยบเทยบผลการคำนวณโดยใชคาความคลาดเคลอนกำลงสองเฉลยและคาปจจยการขยายตวความแปรปรวนเปนเกณฑในการเลอกตวแบบการถดถอยทเหมาะสม ผลการวจยพบวาวธการคนหาแบบนกกาเหวาทใชฟงกชนเปาหมายเปนคาความคลาดเคลอนกำลงสองเฉลย ใหคาความคลาดเคลอนกำลงสองเฉลย และคาปจจยการขยายตวความแปรปรวนตำกวาวธการถดถอยแบบรดจทใชวธการประมาณคาพารามเตอรรดจ โดยวธของ โฮเอรล เคนนารด และบาลดวน

562 KKU Science Journal Volume 47 Number 3 Research เอกสารอางอง กานตณฐ ณ บางชาง. (2554). การคดเลอกตวแปรในตวแบบการถดถอยเชงเสนพหโดยใชวธการคนหาแบบตองหาม. วทยาศาสตรมหาบณฑต. คณะสถต

ประยกต สถาบนบณฑตพฒนบรหารศาสตร. จราวลย จตถรเวช. (2558). การวเคราะหการถดถอย. โครงการสงเสรมและพฒนาเอกสารวชาการ สถาบนบณฑตพฒนบรหารศาสตร. ณฏฐพงศ คำขาด. (2551). การศกษาเปรยบเทยบประสทธภาพวธการพารทเคลสวอม ออปตไมเซชนและเจเนตกอลกอรทม เพอการจดเรยงเครองจกรใน

ระบบการผลตแบบยดหยน. วทยาศาสตรมหาบณฑต. มหาวทยาลยนเรศวร. รฐพงศ ชยเอก และปรม ชคากร. (2560). วธการคดเลอกตวแปรในการวเคราะหการถดถอยเชงเสนพหคณ. วทยาศาสตรบณฑต. สาขาวชาสถต คณะ

วทยาศาสตร มหาวทยาลยขอนแกน. อรรถพล วฒนสาครกล. (2557). การจดวางตำแหนงการตดตงอปกรณชบอกความผดพรองทเหมาะสมทสดในระบบจำหนายดวยวธการคนหาแบบนกกาเหวา.

วศวกรรมศาสตรมหาบณฑต. มหาวทยาลยเกษตรศาสตร. อารรตน เนอสจน. (2556). การประยกตใชวธการคนหาแบบนกกาเหวาเพอจดเรยงเครองจกรในอตสาหกรรม. วศวกรรมศาสตรมหาบณฑต. สาขาวชา

วศวกรรมการจดการ มหาวทยาลยนเรศวร. Babak, A., S.T.A. Niakia, M.A. Khalifeb and Y. Faizeb. (2010). A Hybrid Variable Neighborhood Search and Simulated Anneling Algorithm to

Estimate The Three Parameters of The Weibull Distribution. Expert Systems with Applications 38: 700-708. StatLib Datasets Archive. (2005). Body Fat. From: http://lib.stat.cmu.edu/datasets/bodyfat.Retrieved on August 6, 2018. Yang, X. - S. , and Deb, S. (2009). Cuckoo Search via Levy flights. in Proc of World Congress on Nature Biologically Inspired Computing

(Nabic 2009). USA: IEEE Publications. pp. 210-214. Yang, X.- S. , and Deb, S. (2010). Engineering Optimization by Cuckoo Search. Mathematical Modelling and Numerical Optimization 1(4):

330–343.