ビット空間における GAの解探索モニタリングシステム

52
I S D L 同同同同同同同同同同同同同 同同同同同同同同同同同同同 ○ 同同同同 同同同同同 同同同同 ,, 同同同同同同同同同 同同同同同同同同同同同同同同 GA Monitoring System of Searching History of in a Bit Spa

Upload: beau-boyer

Post on 03-Jan-2016

38 views

Category:

Documents


0 download

DESCRIPTION

ビット空間における GAの解探索モニタリングシステム. Monitoring System of Searching History of GA in a Bit Space. †. ‡. ‡. ○赤塚浩太,廣安知之,三木光範. † 同志社大学大学院工学研究科. ‡ 同志社大学工学部知識工学科. 遺伝的アルゴリズム. 生物の進化を模倣 数多くの問題に適用可能 多点探索. 遺伝的操作. 適合度の 高い個体が 多く生き残る. 選択. 母集団. 個体間の 情報交換. 交叉. 個体情報の 変更. 突然変異. 個体. 1. 1. 0. 0. - PowerPoint PPT Presentation

TRANSCRIPT

Page 1: ビット空間における GAの解探索モニタリングシステム

I S D L

‡ 同志社大学工学部知識工学科

† 同志社大学大学院工学研究科

○ 赤塚浩太,廣安知之,三木光範† ‡

ビット空間におけるGAの解探索モニタリングシステム

Monitoring System of Searching History of GAin a Bit Space

Page 2: ビット空間における GAの解探索モニタリングシステム

I S D L

遺伝的アルゴリズム遺伝的アルゴリズム

交叉

突然変異

遺伝的操作

母集団

生物の進化を模倣数多くの問題に適用可能多点探索

適合度の高い個体が多く生き残る

個体間の情報交換

個体情報の変更個体

選択

Page 3: ビット空間における GAの解探索モニタリングシステム

I S D L

コーディングコーディング

y

z

x0

対象問題

Decoding

Encoding

RealNumberSpace

Bit Space

染色体

個体

1 1 0 0

0 1 1 0

11 0 1

GA は一般的に対象問題の設計変数値をコード化し利用

探索空間がなんらかの影響を受ける可能性

Page 4: ビット空間における GAの解探索モニタリングシステム

I S D L

コーディングの影響コーディングの影響

Encoding

我々が把握している外観とは異なった空間を探索している可能性

??

実数値空間 ビット空間

GA は対象問題の設計変数値をコード化し利用

01 00

0 1 1 0

Page 5: ビット空間における GAの解探索モニタリングシステム

I S D L

※ すべて 10 設計変数, 1 設計変数あたり 10bit※ 640 個体を用い 100,000 世代 x10 試行の探索結果

対象問題と対象問題と GAGA の解探索能力の解探索能力Ridge

331

Rastrigin

136終了世代

Rosenbrock Rotated Rastrigin

終了世代100,000 以上

終了世代100,000 以上終了世代

我々が把握している関数の外観と,GA による探索の困難さはまったく異なっている.

Page 6: ビット空間における GAの解探索モニタリングシステム

I S D L

研究目的研究目的

GA が対象問題の解探索に有効か否か対象問題の設計変数値による外観とは異なる

コーディングにより, GA が探索している空間と実数値による空間が異なる可能性

コーディング後の GA の探索過程  ( 適合度空間・ランドスケープ ) を把握したい

Page 7: ビット空間における GAの解探索モニタリングシステム

I S D L

探索過程を把握する手法探索過程を把握する手法ハミング距離,適合度,頻度の3軸を用いる

Ex . Stationary fitness-probability Landscape (内藤 ’ 94 )

設計変数値を用いる手法Ex .適合度空間のランドスケープ可視化と ユーザーの能動的探索による進化計算の高速化 (林田,高木 ’ 01 )Ex .ラディアルベーシス関数ネットワークと領域適応型 遺伝的アルゴリズムを用いた最適設計 (荒川ら ’ 99 )

離散的最適化問題向き

コーディング前の情報を利用

Page 8: ビット空間における GAの解探索モニタリングシステム

I S D L

解探索モニタリングシステムの解探索モニタリングシステムの提案提案

連続最適化問題において,コーディング後のビット空間のランドスケープを把握するシステム

提案システム

0 1 1 001 00

0 1 1 0

実数値空間 ビット空間

情報抽出

ビット空間の視覚化

Encoding

Page 9: ビット空間における GAの解探索モニタリングシステム

I S D L

提案システムの概観提案システムの概観

探索時( いくつかのView modeがある )

初期化時 (Parameter 入力 )

Page 10: ビット空間における GAの解探索モニタリングシステム

I S D L

提案システム

提案システムの構成提案システムの構成 (( 出力出力 ))

GA 部 GUI 部Analyze部

通常のGA を行う

ビット空間を把握する手法

( 染色体から情報を抽出 )

ユーザーから    の入力

出力情報   の視覚化

Page 11: ビット空間における GAの解探索モニタリングシステム

I S D L

提案システム

提案システムの構成提案システムの構成 (( 出力出力 ))

Analyze部GA 部 GUI 部

0 1 1 001 00

0 1 1 0

ビット空間 情報抽出 視覚化Hamming

DistanceTopology実数値空間

Page 12: ビット空間における GAの解探索モニタリングシステム

I S D L

染色体情報の抽出手法:染色体情報の抽出手法:AnalyzeAnalyze 部部

Analyze部

情報抽出Hamming

DistanceTopology

Hamming

Distance

Topology

Page 13: ビット空間における GAの解探索モニタリングシステム

I S D L

染色体情報の抽出手法:染色体情報の抽出手法:AnalyzeAnalyze 部部

Hamming

Distance

Topology

1 00 0 1 0 0

0 1 00 10 1

遺伝子座ごとに 2 個体を比較し,異なる遺伝子座の数

HammingDistance = 3

0 1 00 10 1

Topology = 4

同じ遺伝子が連続する部分を 1 つのグループとし,そのグループ数

Page 14: ビット空間における GAの解探索モニタリングシステム

I S D L

染色体情報の抽出手法:染色体情報の抽出手法:AnalyzeAnalyze 部部

Hamming

DistanceTopology

Topology が近い個体同士が交叉すると,Topology が近い個体が生まれやすい

ハミング距離と突然変異の回数に関係有り

0 1 00 10 1

Topology = 4

0 00 111 0Topology = 5

1 0 11001

Topology = 5

0 11 0000

Topology = 4

Page 15: ビット空間における GAの解探索モニタリングシステム

I S D L

提案システム

提案システムの構成提案システムの構成 (( 出力出力 ))

GA 部 GUI 部

0 1 1 001 00

0 1 1 0

ビット空間 情報抽出 視覚化Hamming

DistanceTopology実数値空間

Analyze部

Page 16: ビット空間における GAの解探索モニタリングシステム

I S D L

提案システムの構成提案システムの構成 ::GUIGUI 部部

実数値空間による表示

ビット空間による表示

探索履歴を用いた表示

対象問題の設計変数値を利用

Analyze 部で抽出した Topology,Hamming Distance を利用

過去の探索点を元にTopology の分散を利用

GUI 部

視覚化

Page 17: ビット空間における GAの解探索モニタリングシステム

I S D L

Dim1

Dim3

Dim2

GUIGUI 部:実数値空間による表示部:実数値空間による表示

対象問題の設計変数値を利用

コーディング前の情報を用いる

3 設計変数を抜き出して表示する

GA が探索している空間を把握するには不向きだと考えられる

Page 18: ビット空間における GAの解探索モニタリングシステム

I S D L

GUIGUI 部:実数値空間による表示部:実数値空間による表示

対象問題の設計変数値を利用

設計変数 1

設計変数 2

設計変数 3

個体群

Page 19: ビット空間における GAの解探索モニタリングシステム

I S D L

GUIGUI 部:ビット空間による表示部:ビット空間による表示

Analyze 部からの,染色体から抽出した情報を利用

コーディング後の情報を用いる

GA が探索している空間を把握するのに比較的有効だと考えられる

HammingDistance

Topology

EvaluationValue

密集した個体群の傾向を把握するため,共分散をもとにした楕円体を用いる

個体群 楕円 ( 体 )

Page 20: ビット空間における GAの解探索モニタリングシステム

I S D L

・島毎に色分け・楕円体表示

GUIGUI 部:ビット空間による表示部:ビット空間による表示

HammingDistance

Topology

EvaluationValue

Analyze 部からの,染色体から抽出した情報を利用

個体群

真の解

Page 21: ビット空間における GAの解探索モニタリングシステム

I S D L

GUIGUI 部:探索履歴を用いた表示部:探索履歴を用いた表示

Topology に注目,過去100世代に渡って探索点を記憶

n 世代

n+1 世代

過去 100 世代を記録

…適合度順にソート

…グループに分割

全個体のTopology を計算

…2,3,1 5,9,8

グループ毎にTopology の分散を計算

…4.241.33

Variance of

Topology Fitness

Page 22: ビット空間における GAの解探索モニタリングシステム

I S D L

GUIGUI 部:探索履歴を用いた表示部:探索履歴を用いた表示

Topology に注目,過去100世代に渡って探索点を記憶

Varianceof

Topology

Fitness(High) (Low)

Page 23: ビット空間における GAの解探索モニタリングシステム

I S D L

提案システムの特徴提案システムの特徴

楕円体による個体群の傾向を把握

複数母集団の色分け表示

GA 部は GUI 部やAnalyze 部と独立 Ana

-lyze

GA

GUI

ビット空間による表示コーディング後の情報を用いて視覚化を行うためより GA の探索に近い情報が把握可能

0 1 1 001 00

Page 24: ビット空間における GAの解探索モニタリングシステム

I S D L

数値実験数値実験

1: 遺伝的操作が GA の個体群に与える影響

2: GA の探索履歴による対象問題の分類

分散 GA の移住操作により個体群に        どのような傾向が出るか検討

数学的テスト関数とトラス構造物を対象に,その解探索の難易度別に分類できるか検討

Page 25: ビット空間における GAの解探索モニタリングシステム

I S D L

分散遺伝的アルゴリズム分散遺伝的アルゴリズム

母集団

並列モデルの 1種

サブ母集団個体

母集団を複数に分割移住操作により分割母集団間で個体を交換

Page 26: ビット空間における GAの解探索モニタリングシステム

I S D L

数値実験数値実験

1: 遺伝的操作が GA の個体群に与える影響

2: GA の探索履歴による対象問題の分類

移住操作により個体群に        どのような傾向が出るか検討

数学的テスト関数とトラス構造物を対象に,その解探索の難易度別に分類できるか検討

Page 27: ビット空間における GAの解探索モニタリングシステム

I S D L

数値実験数値実験 1:1: 遺伝的操作が与える影響

Dim1

Dim3

Dim2

実数値空間

HammingDistance

Topology

EvaluationValue

ビット空間 Rastrigin

DGA4 島200 個体

遺伝的操作が GA の個体群に与える影響移住操作により個体群に        どのような傾向が出るか検討

移住有り,移住無しで比較

Page 28: ビット空間における GAの解探索モニタリングシステム

I S D L

数値実験数値実験 1:1:実数値空間による表実数値空間による表示示

I S D LGeneration 100

 移住有り   移住無し

Page 29: ビット空間における GAの解探索モニタリングシステム

I S D L

数値実験数値実験 1:1:ビット空間による表ビット空間による表示示

I S D LGeneration 100

  移住無し

 移住有り

Page 30: ビット空間における GAの解探索モニタリングシステム

I S D L

数値実験数値実験 2:2: 探索履歴による対象問題分類

Rastrigin , RosenbrockRidge , Rotated Rastrigin

Truss A , Truss B

SGA200 個体

数学的テスト関数とトラス構造物を対象に,その解探索の難易度別に分類できるか検討

GA の探索履歴による対象問題の分類

Variance of

Topology Fitness

履歴による表示

10bit/1 設計変数10 設計変数

Page 31: ビット空間における GAの解探索モニタリングシステム

I S D L

数値実験数値実験 2:2: 数学的テスト関数の結数学的テスト関数の結果果

I S D LGeneration 200

Rastrigin Rosenbrock

RidgeR Rastrigin

Fitness

Variance of Topology

lowhigh

Page 32: ビット空間における GAの解探索モニタリングシステム

I S D L

数値実験数値実験 2:2: 探索履歴による対象問題分類

トラス構造物最適化問題

Truss A Truss B

変位座屈応力

制約条件変位制約条件

対象 : 6接点 10 部材トラス構造物最適化問題

設計変数 : 各部材の体積目的 : 制約条件内で,総体積の最小化

部材1kN

1kN

Page 33: ビット空間における GAの解探索モニタリングシステム

I S D L

数値実験数値実験 2:2:探索履歴による表示探索履歴による表示

I S D LGeneration 200

Truss AHigh Fitness Low

High Fitness Low

Truss B

Fitness

Variance of Topology

lowhigh

Page 34: ビット空間における GAの解探索モニタリングシステム

I S D L

数値実験数値実験 2:2: 探索履歴による対象問題分類

実験結果Rastrigin

Rosenbrock

Ridge

R Rastrigin

Truss ATruss B

331 世代136 世代

100,000世代以上

GA による探索結果

適合度の高いグループの分散値と,問題の難易度に関係がある

制約条件の数

1 つ3 つ

Page 35: ビット空間における GAの解探索モニタリングシステム

I S D L

数値実験数値実験 2:2: 探索履歴による対象問題分類

考察適合度の高いグループの分散値と,問題の難易度に関係がある

Topology

Fitness

Topology

Fitness

分散大 分散小High

Low

High

Low

解探索容易解探索困難

Page 36: ビット空間における GAの解探索モニタリングシステム

I S D L

GA の探索過程を把握するシステムを構築移住無しと移住有りではそれぞれ探索の様子が異なる事を把握可能.

結論結論

GA による解探索が容易な問題と,困難な問題を分類することが可能.

提案システムはコーディング後のビット空間やGA の探索過程を把握するのに有効.

Page 37: ビット空間における GAの解探索モニタリングシステム

I S D L

作成したシステム作成したシステム

移住無しと移住有りではそれぞれ探索の様子が異なる事を把握可

能.

GA による解探索が容易な問題と,困難な問題を分類することが可能.

Page 38: ビット空間における GAの解探索モニタリングシステム

I S D L

数値実験数値実験 1:1:GA の個体群に与える影響

対象問題が GA の個体群に与える影響実数値空間とビット空間で比較し,関数の違いが判別できるか検討

Dim1

Dim3

Dim2

実数値空間

HammingDistance

Topology

EvaluationValue

ビット空間 RastriginRosenbrock

SGA200 個体

Page 39: ビット空間における GAの解探索モニタリングシステム

I S D L

数値実験数値実験 1:1:実数値空間による表実数値空間による表示示

I S D LGeneration 200

Rosenbrock

Rastrigin

Page 40: ビット空間における GAの解探索モニタリングシステム

I S D L

数値実験数値実験 1:1:実数値空間による表実数値空間による表示示

I S D LGeneration 200

Rosenbrock

Rastrigin

Page 41: ビット空間における GAの解探索モニタリングシステム

I S D L

数値実験数値実験 1:1:実数値空間による表実数値空間による表示示

I S D LGeneration 200

Rastrigin Rosenbrock

Page 42: ビット空間における GAの解探索モニタリングシステム

I S D L

コーディングの影響コーディングの影響

0 1 2 3 4 5 6 7

3210

コーディング後染色体をもとに,真の解からn 回の突然変異で到達する点の平均評価値

コーディング前関数の設計変数値による外観

単峰性で比較的簡単 真の解に近いと評価値悪い設計変数値

評価値

0 1   2   3   (n)

3210

平均評価値

突然変異回数

Page 43: ビット空間における GAの解探索モニタリングシステム

I S D L

コーディングの影響コーディングの影響コーディングの影響コーディングの影響コーディング後染色体をもとに,真の解からn 回の突然変異で到達する点の平均評価値

コーディング前関数の設計変数値による外観

多峰性で比較的複雑 真の解に向かって単調減少

0 1 2 3 4 5 6 7

3210

設計変数値

評価値

0 1   2   3   (n)

3210

平均評価値

突然変異回数

Page 44: ビット空間における GAの解探索モニタリングシステム

I S D L

設計変数値 評価値

013

設計変数値

コーディングの影響コーディングの影響GA は対象問題の設計変数値をコード化し利用

0 1 2 3 4

3210

評価値

430

距離評価値

真の解に近いほど良い解

1 41 3

3 0設計変数値

真の解からの距離( 実数値 )

真の解の変数値 4 4

Page 45: ビット空間における GAの解探索モニタリングシステム

I S D L

染色体評価値013

コーディングの影響コーディングの影響GA は対象問題の設計変数値をコード化し利用

1 0 0

0 0 01 10Coding

設計変数値0 1 2 3 4

3210

評価値

真の解からの距離(突然変異)1 0 0

1 10

1 11

1 0 0

13

評価値距離

真の解に近いほど悪い解

31

1 10 0 0 0

Page 46: ビット空間における GAの解探索モニタリングシステム

I S D L

関数の外観と関数の外観と GAGA による探索による探索

DGA のパラメータ総個体数島数交叉方法交叉率

640 81 点1.0

選択方法Elite保存突然変異

10.01

Roulette + Ranking

移住率

移住間隔Coding

0.3

5Gray

試行回数 10

数値実験 (1) 目的:関数の外観と GA による探索の困難さ 対象: Ratrigin, Rosenbrock, Ridge, Rotated Rastrigin 方法: DGA を用い最適解発見に要する世代数

Page 47: ビット空間における GAの解探索モニタリングシステム

I S D L

トラスの解の形状トラスの解の形状

Page 48: ビット空間における GAの解探索モニタリングシステム

I S D L

内藤の手法内藤の手法

Ex . Stationary fitness-probability Landscape (内藤’ 94)

対象問題として組み合わせ最適化問題

frequ

en

cy

fitness value

最適解とのハミング距離小 (<L/8)大 (>L/8)

ハミング距離,フィットネス,頻度の3軸を用いる

連続最適化問題では,適合度値の最大と最小の差が影響し,そのままでは利用できない

Page 49: ビット空間における GAの解探索モニタリングシステム

I S D L

林田,高木の手法林田,高木の手法

適合度空間のランドスケープ可視化とユーザーの能動的探索による進化計算の高速化 (2001)

コーディング前の設計変数値を用いているため,ビット空間の適合度空間を把握できない可能性がある

n-D searching space 2D

SOM を用いてデータ間の関係性を保持したまま写像

Page 50: ビット空間における GAの解探索モニタリングシステム

I S D L

荒川らの手法荒川らの手法

ラディアルベーシス関数ネットワークと領域適応型遺伝的アルゴリズムを用いた最適設計(2001)

コーディング前の設計変数値を用いているため,ビット空間の適合度空間を把握できない可能性がある

RBF を用いて目的関数を探索点から近似し,良好な近似大局解を求める

Page 51: ビット空間における GAの解探索モニタリングシステム

I S D L

その他の検討手法その他の検討手法 ((Analyze)Analyze)

ビルディングブロックのエントロピー

ビットの偏り

Page 52: ビット空間における GAの解探索モニタリングシステム

I S D L

その他の検討手法その他の検討手法 ((GUI)GUI)

Histogram