โครงรางวทยานพนธ

เรอง การเปรยบเทยบวธโครงขายประสาทเทยมและวธจนเนตกอลกอรทม

โดยใชองคประกอบหลกในการพยากรณอนทรยวตถในดน : กรณศกษาพนท

เกษตรกรรมสวนผลไมในภาคตะวนตกของประเทศไทย

อาจารยทปรกษา

ผศ. ดร.กมลชนก พานชการ

โดย

นางสาวสรกลยา ประมวล

สาขาวชาสถตประยกต คณะวทยาศาสตร

1

บทนำ

2

1. ทมาและความสำคญของปญหา

การสรางโมเดลทางคณตศาสตร

ดานสงแวดลอม ดานการเงน ดานการแพทย

การพยากรณ

ดานอนๆ

สรางโมเดลสำหรบการพยากรณอนทรยวตถในดน

3

1. ความสำคญของอนทรยวตถในดน

1. คณสมบตทางกายภาพ

๏ ความหนาแนนและความพรนของดน

๏ โครงสรางของดนและความสามารถในการอมนำของดน

2. คณสมบตทางชวภาพ

๏ การปลดปลอยไนโตรเจนในรปของแอมโมเนยหรอไนเตรตทเปนประโยชน

๏ การยบยงการเจรญเตบโตของเชอโรคในพช

3. คณสมบตทางเคม

๏ เปนแหลงธาตอาหารใหแกพช

๏ ทำใหดนมคาการแลกเปลยนประจบวกเพมขน ชวยในการดดซบอาหาร

4

1. ความสำคญของอนทรยวตถในดน

ปรมาณอนทรยวตถ

เปนคณสมบตอยางหนงในการบงชคณภาพของดน

5

2. การเลอกใชโมเดลในการพยากรณ

1. วธการถดถอยเชงเสนพหคณ

๏ นยมใชกบการพยากรณตวแปรตามทมลกษณะขอมลแบบตอเนอง

๏ สามารถหาความสมพนธของตวแปรอสระหลายตวกบตวแปรตามทเปนแบบเชงเสน

2. วธโครงขายประสาทเทยม

๏ ใชกบขอมลทมลกษณะแบบไมเปนเชงเสน

๏ สามารถใชไดกบปญหาทยงยากซบซอน

3. วธจนเนตกอลกอรทม

๏ มกระบวนการทซบซอนแตสามารถใหคำตอบทดและรวดเรวได

๏ สามารถใชไดกบปญหาทยงยากซบซอน

6

3. สรปขนตอนการสรางโมเดลในการพยากรณ

7

4. วตถประสงคของงานวจย

1. ศกษาความสมพนธของตวแปรอสระและลดมตของขอมลโดยใชการวเคราะห

องคประกอบหลก

2. เปรยบเทยบประสทธภาพของโมเดลทไดจากองคประกอบหลก โดยพจารณา

2.1 วธการถดถอยเชงเสนพหคณ

2.2 วธโครงขายประสาทเทยมแบบทมการเชอมโยงไปขางหนา

2.3 วธจนเนตกอลกอรทม

8

5. สมมตฐานของการวจย

โมเดลในการพยากรณปรมาณอนทรยวตถในดนทมประสทธภาพ

มากทสดคอโมเดลทไดจากวธจนเนตกอลกอรทม

9

6. ขอบเขตของการวจย

6.1 ขอมลดน

ภาพท 1 พนทศกษาทเกบขอมลตวอยางดนทงหมด 58 ชด จากพนทเกษตกรรมสวนผลไม

10

6. ขอบเขตของการวจย

6.2 ตวแปรทใชในการสรางโมเดล

อลมนม (Al), แมงกานส (Mn), เหลก ( Fe), โครเมยม (Cr),

แมกนเซยม (Mg), สงกะส (Zn), ทองแดง (Cu), ตะกว (Pb),

โพแทสเซยม (K), โซเดยม (Na), แคลเซยม (Ca), กรดฟลวก (FA),

กรดฮวมก (HA), คาการแลกเปลยนประจบวก (CEC), Percent clay

(%clay), ไนโตรเจนรวม (TN) และ อนทรยคารบอน (OC)

ตวแปรตาม คอปรมาณอนทรยวตถ (Organic Matter )

ตวแปรพยากรณ คอคณสมบตทางเคมของดน ทงหมด 17 ตวแปร ไดแก

11

6. ขอบเขตของการวจย

6.3 คาวดประสทธภาพ (Performance Index)

6.3.1 ดชนการยอมรบ (Index of Agreement : IA)

6.3.2 คารากทสองของคาความคลาดเคลอนเฉลยกำลงสอง (Root Mean Square Error: RMSE)

(1)

(2)

12

6. ขอบเขตของการวจย

6.3.3 คาความคลาดเคลอนเอนเอยงเฉลย (Mean Bias Error: MBE)

6.3.4 คาความคลาดเคลอนสมบรณเฉลย (Mean Absolute Error: MAE)

(3)

(4)

13

ทฤษฎทเกยวของ

14

1. การวเคราะหองคประกอบหลก

เปนเทคนคการลดจำนวนตวแปร โดยสรางเซตของตวแปรใหมใหเปนฟงกชนเชงเสน

ของตวแปรเดม โดยยงคงรายละเอยดหรอสารสนเทศจากขอมลเดมไวในตวแปรใหมทได

ภาพท 2 ตวอยาง scree plot จากการวเคราะหองคประกอบหลก

15

1. การวเคราะหองคประกอบหลก

ใชการทดสอบ Bartlett’s sphericity ตรวจสอบวาควรใช PCA กบชดขอมลนหรอไม ?

ln |R| คอคา log ของดเทอรมแนนตของเมตรกซสหสมพนธ R

p คอจำนวนตวแปร

n คอจำนวนขอมล

(5)

16

1. การวเคราะหองคประกอบหลก

ใชการทดสอบ Bartlett’s sphericity ตรวจสอบวาควรใช PCA กบชดขอมลนหรอไม ?

สมมตฐานทพจารณา

H0 : ตวแปรอสระไมมสหสมพนธตอกน (R=I)

H1 : ตวแปรอสระมสหสมพนธตอกน (R≠I)

∴ จะใช PCA ถา ปฏเสธสมมตฐานหลก นนคอ ตวแปรอสระมสหสมพนธตอกน (R≠I)

17

2. วธการถดถอยเชงเสนพหคณ

Y = β0+β1X1 +β2X2+...+βkXk +e

โดยท

Y คอตวแปรตาม (dependent variable)

X คอตวแปรพยากรณ (Independent variable)

β0 คอสวนตดแกน Y หรอคาของ Y เมอกำหนด X1 = X2 = ... = Xk = 0

β1, β2, ..., βk คอสมประสทธการถดถอยเชงสวน

= a+b1X1 +b2X2+...+bkXk (Least Square Method)

(6)

(7)

18

3. วธโครงขายประสาทเทยม

ภาพท 2 โครงสรางระบบประสาทในสมอง

ทมา : Lippmann, Klimasauskas and Medsker et al. อางถงใน ศรลย ปานศรพงษ, การพฒนาแบบจำลองโครงขายใยประสาทประดษฐและแบบ

จำลองความถดถอยเชงพห เพอทำนายความเขมขนของ PM10 ในพนทกรงเทพมหานครและเทศบาลนครราชสมา (2005), 14

19

3. วธโครงขายประสาทเทยม

ภาพท 3 โมเดลของโครงขายประสาทเทยมแบบ Single Layer

20

3. วธโครงขายประสาทเทยม

สถาปตยกรรมโครงขายประสาทเทยม

ภาพท 4 สถาปตยกรรมโครงขายประสาทเทยมแบบ Feed-forward และ แบบ Feedback

21

3. วธโครงขายประสาทเทยม

ภาพท 5 กระบวนการทำงานของโครงขายประสาทเทยม ทมา : ปรบปรงจาก Haykin, Simon, Neural Networks: A Comprehensive Foundation (Upper Saddle River, NJ: Prentice Hall, 1998), 11

22

3. วธโครงขายประสาทเทยม

Activation Function

‣ Sigmoid Function

‣ Binary Function

‣ Linear Function

Learning Algorithm

‣ Backpropagation Algorithm

‣ Levenberg-Marquardt Algorithm

‣ Quasi-Newton Algorithm

‣ Conjugate Gradient Algorithm

กระบวนการสอนหรอการเรยนร (Training or Learning)กระบวนการสอนหรอการเรยนร (Training or Learning) 23

3. วธโครงขายประสาทเทยม

ชดขอมล (Samples)

‣ แบบสอบถาม

‣ ขอมลทางสถต

‣ การทดลอง

การทดสอบโครงขาย (Testing)

‣ แบงขอมลเปนสองชด ชดแรกสำหรบสอนอกชดสำหรบทดสอบโครงขาย

‣ ใชชดขอมลทงหมดมาเปนชดสอน และใชชดเดมนนมาทดสอบโครงขาย

กระบวนการสอนหรอการเรยนร (Training or Learning)กระบวนการสอนหรอการเรยนร (Training or Learning)

ชดขอมลจะแบงเปนสองชดคอชดการสอน และชดทดสอบ (อยางนอย 5 ชด)

24

3. วธโครงขายประสาทเทยม

สรปขนตอนการสรางแบบจำลองโครงขายประสาทเทยม

25

4. วธจนเนตกอลกอรทม (Genetic Algorithm)

“จนเนตกอลกอรทม เปนวธการคนหาคำตอบทดทสดโดยใชหลกการคด

เลอกแบบธรรมชาตและหลกการทางสายพนธ ซงเปนการคำนวณ

ทมววฒนาการในการหาคำตอบ”

‣ การคดเลอกทางสายพนธ (Selection)

‣ ปฏบตการทางสายพนธ (Genetic Operation)

‣ การแทนท (Replacement)

26

4. วธจนเนตกอลกอรทม (Genetic Algorithm)

องคประกอบทสำคญของ Genetic Algorithm

องคประกอบท 1 Chromosome Encoding คอขนตอนสำหรบแปลงทางเลอกสำหรบการแกปญหาท

เปนไปไดใหอยในรปของโครโมโซม

องคประกอบท 2 Initial Population คอการสมเลอกเพอสรางประชากรตนแบบขนมาเพอใชเปนจด

เรมตนของขนตอนการววฒนาการ

องคประกอบท 3 Fitness Function คอฟงกชนสำหรบประเมนคาความเหมาะสม เพอใหคะแนน

สำหรบคำตอบตางๆ ทเปนไปไดของปญหา

องคประกอบท 4 Genetic Operator คอการดำเนนงานตามขนตอนตางๆของ Genetic Algorithm เพอ

ใหเกดววฒนาการไปสคำตอบทดขน ซงไดแก Selection, Crossover และ Mutation

องคประกอบท 5 Parameter คอปจจยทสงผลตอการทำงานของ Genetic Algorithm เชนขนาดของ

ประชากร, ความนาจะเปนของการ crossover หรอ ความนาจะเปนของการ mutation

27

4. วธจนเนตกอลกอรทม (Genetic Algorithm)

4.1 Chromosome Encoding

1. Binary Encoding

โครโมโซม A : 1 0 1 1 0 0 1 0 1 0 0

โครโมโซม B : 1 1 0 1 0 0 0 1 1 1 1

2. Permutation Encoding

โครโมโซม A : 1 5 3 2 6 4 7 9 8

โครโมโซม B : 8 5 6 7 2 3 1 4 9

28

4. วธจนเนตกอลกอรทม (Genetic Algorithm)

3. Valued Encoding

โครโมโซม A : 1.2324 5.2343 0.4556 2.3293 2.4545

โครโมโซม B : (back) (back) (right) (left) (left)

4. Tree Encoding

29

4. วธจนเนตกอลกอรทม (Genetic Algorithm)

4.2 Initial Population

ขนตอนนเปนขนตอนแรกทเกดขนกอนกระบวนการของ Genetic Algorithm

โดยประชากรกลมแรก หรอประชากรตนกำเนด จะเกดจากการสมเลอกขนมาจาก

กลมของประชากรทงหมดทมอย โดยสมตามทกำหนดไว

4.3 Fitness Function

โครโมโซมทกตวจะมคาความเหมาะสมของตวเองเพอใชสำหรบพจารณาวา โครโมโซม

ตวนน เหมาะหรอไมทจะนำมาใชสบทอดพนธกรรมสำหรบสรางโครโมโซมรนใหม

โดยวธการคดคาความเหมาะสมนน จะใชสมการทสอดคลองกบปญหาทตองการ

30

4. วธจนเนตกอลกอรทม (Genetic Algorithm)

4.4 Genetic Operator

ประกอบดวยกระบวนการพนฐานทสำคญ 3 ขนตอนคอ

4.4.1 Selection

4.4.2 Crossover

4.4.3 Mutation

31

4. วธจนเนตกอลกอรทม (Genetic Algorithm)

4.4.1 Selection (การคดเลอกสายพนธ)

1. วธแบงเปนสดสวน (Proportionate Selection)

2. วธของโบลตซมน (Boltzmann Selection)

3. วธการจดอนดบ (Ranking Selection)

4. วธการแขงขน (Tournament Selection)

5. วธการชกตวอยางแบบวงลอรเลท (Roulette Wheel Sampling)

32

4. วธจนเนตกอลกอรทม (Genetic Algorithm)

4.4.2 Crossover (ครอสโอเวอร)

Single point

Two point

33

4. วธจนเนตกอลกอรทม (Genetic Algorithm)

4.4.3 Mutation (มวเทชน)

โครโมโซมเกา

โครโมโซมใหม

โครโมโซมเกา

โครโมโซมใหม

Binary Encoding

Permutation Encoding 1 2 3 4 5 6 7 8 9

1 9 3 4 5 6 7 8 2

34

4. วธจนเนตกอลกอรทม (Genetic Algorithm)

4.5 Parameter

พารามเตอรพนฐานทสำคญตอการทำงานของ Genetic Algorithm ม 3 ตวคอ

4.5.1 Crossover Probability คอความนาจะเปนของการเกด Crossover มคาใน 0-100 โดย

ทวไปคาความนาจะเปนในการเกด Crossover จะอยท 60% - 95%

4.5.2 Mutation Probability คอความนาจะเปนของการเกด Mutation มคาใน 0-100 โดย

ทวไปคาความนาจะเปนในการเกด Mutation จะถกกำหนดใหอยในชวง 0% - 1%

4.5.3 Population Size คอจำนวนของประชากรในแตละรน ถามจำนวนมากเกนไปจะ

ทำใหเสยเวลาในการประมวลผลมาก และทำงานไดชาลง

35

5. ทฤษฎทเกยวของ

เงอนไขในการหยดกระบวนการคนหาคำตอบ

1. ครบจำนวนรอบทไดกำหนดไว

2. พบเปาหมายหรอคำตอบทตองการแลว

3. พบคำตอบใกลเคยงกบคำตอบทตองการ หรอคำตอบทไดไมม

การเปลยนแปลงหรอคงทเปนจำนวนตดตอกน

36

5. งานวจยทเกยวของ

Hasan , Ozer, Ramazan และ Mehmet (2005)

เรอง การเปรยบเทยบวธโครงขายประสาทเทยมและการถดถอย สำหรบฟงกชนการแปลงคาสำหรบการ

เกบรกษานำในดนและความสามารถในการทำใหนำซมผาน

ผลการศกษา ‣ ผลลพธจากทงสองวธไมแตกตางกนอยางมนยสำคญ

‣ ผลลพธจากวธการถดถอยวดประสทธภาพดกวาวธโครงขายประสาทเทยม

‣ วธโครงขายประสาทเทยมสามารถใชเปนเทคนคใหมในการพฒนางานในอนาคต

วธการศกษา ‣ ใชขอมลคณสมบตพนฐานของดน เชนความพรน การกระจายของขนาดดน

‣ ในการหาฟงกชนการแปลงคาสำหรบการเกบรกษานำในดน

‣ เปรยบเทยบคาวดประสทธภาพ R2 และ RMSE ในฟงกชนการแปลงคาทหาได

37

5. งานวจยทเกยวของ

Sousa, Martin, Alvim-Ferraz และ Pereira (2006)

เรอง การวเคราะหการถดถอยเชงเสนพหคณและโครงขายประสาทเทยมทมการเชอมโยงไปขางหนา ในการ

ทำนายความเขมขนของโอโซนรายชวโมงในวนถดไป

ผลการศกษา ‣ วธ FANN ใหผลลพธดกวาวธ MLR

‣ วธ PC-FANN ใหผลลพธดกวาวธ PCR ผลลพธดทสดทเมอใช 5 องคประกอบหลก

‣ การใชองคประกอบหลกทำใหผลลพธดขน (ขจดปญหา Multicollinearity)

‣ การใชวธ FANN ใหผลลพธดเนองจากเหมาะกบปญหาทไมเปนเชงเสน

วธการศกษา ‣ ใชขอมลความเขมขนโอโซน, ไนโตรเจนมอนอกไซด ฯ และตวแปรทางอตนยมวทยา

‣ สรางโมเดลโดยใชและไมใชวธวเคราะหองคประกอบหลก

‣ เปรยบเทยบคาวดประสทธภาพ R, MBE, MAE, RMSE และ d2 ในการเปรยบเทยบโมเดล

38

5. งานวจยทเกยวของ

Karunakar และ Datta (2007)

เรอง การควบคมคณสมบตแบบทรายชนโดยใชวธโครงขายประสาทเทยมและวธจนเนตกอลกอรทม : ศกษา

เชงเปรยบเทยบ

ผลการศกษา ‣ โดยภาพรวมวธ Genetic Algorithm ใหผลลพธแมนยำกวา

‣ วธโครงขายประสาทเทยมใหผลลพธเปนทนาพอใจแตมความยงยากกวาวธจนเนตกอลกอรทม

วธการศกษา ‣ คณสมบตของแมพมพ เชนแรงอดในสภาวะชน ความสามารถในการซมผาน ฯ เปนอนพต

‣ พารามเตอรการควบคมเปนเอาทพต เชน %ดนเหนยว %ความชน

‣ วธโครงขายประสาทเทยมใช back-propagation algorithm ในการเรยนร

‣วธจนเนตกอลกอรทม กำหนดขนาดประชากร 5, crossover = 1.0, mutation = 0

‣เปรยบเทยบประสทธภาพของโมเดล ดวย %error

39

5. งานวจยทเกยวของ

Yang, Dawson, และ Brown (2006)

เรอง วธโครงขายประสาทเทยมและวธจนเนตกอลกอรทมสำหรบการพยากรณจำนวนการเกดไฟใหมในทพก

อาศย

ผลการศกษา ‣ วธการถดถอยโลจสตก, วธโครงขายประสาทเทยม, วธจนเนตกอลกอรทม ใหคา MSE

เทากบ 4.875, 2.375 และ 2.875 ตามลำดบ

‣วธโครงขายประสาทเทยมใหผลลพธดทสด ใกลเคยงกบวธจนเนตกอลกอรทม

วธการศกษา ‣ พยากรณโดยวธการถดถอยโลจสตก วธโครงขายประสาทเทยมและ วธจนเนตกอลกอรทม

‣ เกบรวมรวมตวแปรทเกยวของแลวใชการวเคราะหองคประกอบหลกเพอลดตวแปรพยากรณ

‣ เปรยบเทยบคาวดประสทธภาพ MSE ในการเปรยบเทยบโมเดล

40

วธดำเนนงานวจย

41

1. ภาพรวมขนตอนการศกษา

ภาพท 2 ภาพรวมขนตอนการศกษา

๏ วธการถดถอยเชงเสนพหคณและวธโครง

ขายประสาทเทยม ใชโปรแกรม SAS

๏ วธจนเนตกอลกอรทม ใชโปรแกรม

MATLAB

42

2. การสรางโมเดลดวยวธการถดถอยเชงเสนพหคณ

ภาพท 3 ขนตอนการสรางโมเดลการถดถอยเชงเสนพหคณ

43

3. การสรางโมเดลดวยวธโครงขายประสาทเทยม

ภาพท 4 ขนตอนการสรางโครงขายประสาท

เทยมแบบทมการเชอมโยงไปขางหนา

ทมา : ปรบปรงจาก Jiang et al., Progress in developing an ANN

model for air pollution index forecast (Atmospheric Environment

38), 7055-7064

๏ Levenberg-Maquardt Algorithm

๏ Sigmoid Function

44

4. ขนตอนการทำงานของจนเนตกอลกอรทม

ภาพท 5 ขนตอนการทำงานของ Genetic Algorithm

ทมา : ปรบปรงจาก Kucuk and Derebasi , Prediciton of power loss in transformer cores using

feed forward neural network and genetic algorithm , (Measurement 39 ,2005), 607

Population Size 50

Probability of crossover 1.0

Probability of mutation 0.0

Maximum generation 20

45

5. ผลของงานวจยบางสวน

วธการถดถอยเชงเสนพหคณกบวธโครงขายประสาทเทยมแบบทมการเชอมโยงไปขางหนา

46

5. ผลของงานวจยบางสวน

เปรยบเทยบคาพยากรณกบขอมลจรงจากโมเดล MLR และ FANN ในขอมลชดเรยนร

✓f✓f✓f

✓.47

จบการนำเสนอ

Q&A48

ขอบคณคะ

49