avx2時代の正規表現マッチング〜半群でぐんぐん！〜

Ryoma Sin’ya @sinya8282

AVX2時代の正規表現マッチング～半群でぐんぐん！～

Saturday, March 31, 12

はじめに・発表者　新屋良磨 (しんやりょうま@東工大院生 @sinya8282)

　正規表現好き。正規表現エンジンとか作ってます(grepも)　　→ https://github.com/sinya8282/regen

・内容　AVX２で夢が広がる命令が色々入る!!　正規表現マッチングのSIMD実装を先日　思いついたのでソレを (正規表現パート長めです)

・Keywords:正規表現, 半群, AVX2


https://twitter.com/%23!/sinya8282

https://twitter.com/%23!/sinya8282

https://github.com/sinya8282/regen

https://github.com/sinya8282/regen

正規表現


正規とは!! (1)

X言語　が正規

, e　は正規表現　で書ける

X = L(e)X


正規とは!! (1)

X言語　が正規

, e　は正規表現　で書ける

X = L(e)X

eの受理言語集合


^(((X?|X6)|X8)|(((([^X]|X[^68])|X6[^4])|X8[^6])|(X64|X86).).*)$

→ IMAP認証のオーバーフロー攻撃パケット (Snort)

・ .*AUTH\s[^\n]{100}

・.*(hoge|fuga|piyo)→ 複数文字列探索 (strstrの上位互換)

・

正規表現で何が書ける？


^(((X?|X6)|X8)|(((([^X]|X[^68])|X6[^4])|X8[^6])|(X64|X86).).*)$

→ “X86”, “X64”以外の文字列

→ IMAP認証のオーバーフロー攻撃パケット (Snort)

・ .*AUTH\s[^\n]{100}

・.*(hoge|fuga|piyo)→ 複数文字列探索 (strstrの上位互換)

・

正規表現で何が書ける？


・テキスト長nに対して線形時間で探索可

・文字列探索において能力が高い

正規表現で何が嬉しい？

・モノイド, DFA, 論理式,,, 性質の良いモデル　と対応

→ 正規表現 ⊃ 複数文字列 ⊃ 固定文字列

→ 後述するDFAを作ればO(n)→ NFAだとO(n × NFAの状態数)


正規とは!! (2)

X言語　が正規,　　はある有限モノイド

の受理言語MX = L(M)

X


正規とは!! (2)

X言語　が正規,　　はある有限モノイド

の受理言語MX = L(M)

X

このモノイドは特にSyntactic Monoid と呼ばれる


モノイド？(復習)

M = {S, e, ·}

単位元

なんかの集合

e 2 S :

S :· :結合則を満たす二項演算

モノイド

8x 2 S [e · x = x · e = x]



M = {S, e, ·}

単位元

なんかの集合

e 2 S :


モノイド

例えば → 自然数の加算,乗算{N, 0,+}{N, 1,⇥}

8x 2 S [e · x = x · e = x]



M = {S, e, ·}

単位元

なんかの集合

e 2 S :


モノイド

例えば → 自然数の加算,乗算{N, 0,+}{N, 1,⇥}

「単位元のある」半群(単位元なんて飾りです(ぇ)

8x 2 S [e · x = x · e = x]


モノイドと言語受理

a · b · a · a · b⌧ 7!: “abaab” ：文字列→モノイドへの準同型写像

文字列　が受理文字列受理元　が存在して：

⌧

x

s, ⌧ s 7! x


モノイドと言語受理

a · b · a · a · b⌧ 7!: “abaab” ：文字列→モノイドへの準同型写像

文字列　が受理文字列受理元　が存在して：

⌧

x

s,

a*注意文字“a”とモノイド　　　の元　はベツモノ

⌧ s 7! x


M = {{✏, a, b, aa, ab, ;}, ✏, ·}


M = {{✏, a, b, aa, ab, ;}, ✏, ·}✏ a b aa ab ;

✏ ✏ a b aa ab ;a a aa ab a b ;b b ; ; ; ; ;aa aa a b aa ab ;ab ab ; ; ; ; ;; ; ; ; ; ; ;


M = {{✏, a, b, aa, ab, ;}, ✏, ·}✏ a b aa ab ;


a · a = aa


M = {{✏, a, b, aa, ab, ;}, ✏, ·}✏ a b aa ab ;


a · b = ab


M = {{✏, a, b, aa, ab, ;}, ✏, ·}✏ a b aa ab ;


a · aa = a


M = {{✏, a, b, aa, ab, ;}, ✏, ·}✏ a b aa ab ;


a · ab = b


M = {{✏, a, b, aa, ab, ;}, ✏, ·}✏ a b aa ab ;


✏との二項演算は不変(単位元)


M = {{✏, a, b, aa, ab, ;}, ✏, ·}✏ a b aa ab ;



M = {{✏, a, b, aa, ab, ;}, ✏, ·}✏ a b aa ab ;


との二項演算は常に　(零元);

;


M = {{✏, a, b, aa, ab, ;}, ✏, ·}✏ a b aa ab ;



M = {{✏, a, b, aa, ab, ;}, ✏, ·}✏ a b aa ab ;


bを受理元とすれば!!⌧ : 7! a“a” , 7! b“b” 7! ✏, “”


M = {{✏, a, b, aa, ab, ;}, ✏, ·}✏ a b aa ab ;


bを受理元とすれば!!⌧ : 7! a“a” , 7! b“b” 7! ✏, “”

“aaaab” a · a · a · a · b = b⌧ : 7!のように受理文字列が定められ


M = {{✏, a, b, aa, ab, ;}, ✏, ·}✏ a b aa ab ;


bを受理元とすれば!!⌧ : 7! a“a” , 7! b“b” 7! ✏, “”

“aaaab” a · a · a · a · b = b⌧ : 7!のように受理文字列が定められL(M) = L((aa)*b)


モノイドわかった？

・正規表現から対応するモノイドを　「作る」ことはできる？

・この説明では正規表現とモノイドの　具体的関係が良く掴めないと思います





できる!!





できる!! (´・ω・`)ｼただもうちょっと待って


正規とは!! (3)

X言語　が正規, ある有限オートマトン

の受理言語

X = L(A)A


正規とは!! (3)

X言語　が正規, ある有限オートマトン

の受理言語

X = L(A)A

今回はDFAのみが登場


DFAの5個組表現(基本)

DFA D = {Q,⌃, �, q0, F}Q :⌃ :

q0 :F :

� : Q ! Q

状態集合(有限)文字集合(有限)

遷移関数初期状態受理状態集合


q0 = 0F = {2}

� : (0, a) 7! 1, (0, b) 7! 2

Q = {0, 1, 2, 3}⌃ = {a, b}

· · ·

01

a

2

ba

3

b

a, b

a, b

DFA D


01

a

2

ba

3

b

a, b

a, b

DFA D


01

a

2

ba

3

b

a, b

a, b

DFA D

�(0, “aab”) = �(1, “ab”) = �(0, “b”) = 2


01

a

2

ba

3

b

a, b

a, b

DFA D

�(0, “aab”) = �(1, “ab”) = �(0, “b”) = 2

�(0, “aba”) = �(1, “ba”) = �(3, “a”) = 3


01

a

2

ba

3

b

a, b

a, b

DFA D

�(0, “aab”) = �(1, “ab”) = �(0, “b”) = 2

�(0, “aba”) = �(1, “ba”) = �(3, “a”) = 3による文字列DFA D s

の受理判定は�(q0, s) 2 F?

の判定


01

a

2

ba

3

b

a, b

a, b

DFA D

�(0, “aab”) = �(1, “ab”) = �(0, “b”) = 2

�(0, “aba”) = �(1, “ba”) = �(3, “a”) = 3


01

a

2

ba

3

b

a, b

a, b

DFA D

�(0, “aab”) = �(1, “ab”) = �(0, “b”) = 2

�(0, “aba”) = �(1, “ba”) = �(3, “a”) = 3

　受理状態に辿り着く→受理!!


01

a

2

ba

3

b

a, b

a, b

L(D) = L((aa)*b)

DFA D

�(0, “aab”) = �(1, “ab”) = �(0, “b”) = 2

�(0, “aba”) = �(1, “ba”) = �(3, “a”) = 3


DFAの行列表現(応用)

DFA D = {I, �, F}I :

� :F :

初期状態ベクトル

受理状態ベクトル

遷移行列


=

8>><

>>:

�1 0 0 0

�,

0

BB@

; {a} {b} ;{a} ; ; {b}; ; ; {a, b}; ; ; {a, b}

1

CCA ,

0

BB@

0010

1

CCA

9>>=

>>;

DFA D = {I, �, F}

01

a

2

ba

3

b

a, b

a, b


=

8>><

>>:

�1 0 0 0

�,

0

BB@

; {a} {b} ;{a} ; ; {b}; ; ; {a, b}; ; ; {a, b}

1

CCA ,

0

BB@

0010

1

CCA

9>>=

>>;

初期状態のみ１

DFA D = {I, �, F}

01

a

2

ba

3

b

a, b

a, b


=

8>><

>>:

�1 0 0 0

�,

0

BB@

; {a} {b} ;{a} ; ; {b}; ; ; {a, b}; ; ; {a, b}

1

CCA ,

0

BB@

0010

1

CCA

9>>=

>>;

DFA D = {I, �, F}

01

a

2

ba

3

b

a, b

a, b

受理状態のみ１


=

8>><

>>:

�1 0 0 0

�,

0

BB@

; {a} {b} ;{a} ; ; {b}; ; ; {a, b}; ; ; {a, b}

1

CCA ,

0

BB@

0010

1

CCA

9>>=

>>;

DFA D = {I, �, F}

01

a

2

ba

3

b

a, b

a, b

状態０から状態０に遷移する文字はない


=

8>><

>>:

�1 0 0 0

�,

0

BB@

; {a} {b} ;{a} ; ; {b}; ; ; {a, b}; ; ; {a, b}

1

CCA ,

0

BB@

0010

1

CCA

9>>=

>>;

DFA D = {I, �, F}

01

a

2

ba

3

b

a, b

a, b

状態０から状態０に遷移する文字はない

状態０から状態１に遷移する文字はa


01

a

2

ba

3

b

a, b

a, b

Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCATb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

「文字ごと」に遷移行列を考えてみる (要素は１,０のみ

　　　論理行列)


01

a

2

ba

3

b

a, b

a, b

Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCATb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA


01

a

2

ba

3

b

a, b

a, b

Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCATb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

文字aで状態０は状態１に遷移


01

a

2

ba

3

b

a, b

a, b

Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCATb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

文字aで状態０は状態１に遷移

文字aで状態１は状態０に遷移


Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCATb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

I =�1 0 0 0

�

F =

0

BB@

0010

1

CCA

行列演算で受理判定!!例題: “aaaab”


Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCATb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

I =�1 0 0 0

�

F =

0

BB@

0010

1

CCA


Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCATb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

I =�1 0 0 0

�

F =

0

BB@

0010

1

CCA

“aaaab”


Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCATb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

I =�1 0 0 0

�

F =

0

BB@

0010

1

CCA

“aaaab”

I · Ta4 · Tb · F


Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCATb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

I =�1 0 0 0

�

F =

0

BB@

0010

1

CCA

“aaaab”

I · Ta4 · Tb · F

= I · Ta2 · Tb · F


Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCATb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

I =�1 0 0 0

�

F =

0

BB@

0010

1

CCA

“aaaab”

I · Ta4 · Tb · F

= I · Ta2 · Tb · F =

�1 0 0 0

�·

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA ·

0

BB@

0010

1

CCA


Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCATb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

I =�1 0 0 0

�

F =

0

BB@

0010

1

CCA

“aaaab”

I · Ta4 · Tb · F

= I · Ta2 · Tb · F =

�1 0 0 0

�·

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA ·

0

BB@

0010

1

CCA

= 1


Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCATb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

I =�1 0 0 0

�

F =

0

BB@

0010

1

CCA

“aaaab”

I · Ta4 · Tb · F

= I · Ta2 · Tb · F =

�1 0 0 0

�·

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA ·

0

BB@

0010

1

CCA

= 1

結果が１→　受理結果が０→　非受理


回帰

Ta4 · Tb = Ta · Ta · Ta · Ta · Tb

先例中の行列積

正方行列同士の積は閉じているかつ結合則が成り立つ


回帰




閉じてる? 結合的演算?


回帰




閉じてる? 結合的演算?

半群だっ!!


遷移行列が成す半群

Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCA Tb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

この２つの行列が生成する全ての行列の集合　を計算(遷移閉包)TD



Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCA Tb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

この２つの行列が生成する全ての行列の集合　を計算(遷移閉包)TD

→ 読者自身で手を動かせ(圧迫)



Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCA Tb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA



Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCA Tb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

Ta · Ta =

0

BB@

1 0 0 00 1 0 00 0 0 10 0 0 1

1

CCA



Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCA Tb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

Ta · Ta = Ta2



Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCA Tb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

Ta · Ta = Ta2 Ta · Tb =

0

BB@

0 0 0 10 0 1 00 0 0 10 0 0 1

1

CCA



Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCA Tb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

Ta · Ta = Ta2 Ta · Tb = Tab



Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCA Tb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

Ta · Ta = Ta2

Ta2 · Ta = Ta · Ta

2 = Ta

Ta · Tb = Tab



Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCA Tb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

Ta · Ta = Ta2


2 = Ta

Ta · Tb = Tab

Ta2 · Tb = Tb



Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCA Tb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

Ta · Ta = Ta2


2 = Ta

Ta · Tb = Tab

Ta2 · Tb = Tb

8x 2 TD

2

664Tb · x =

0

BB@

0 0 0 10 0 0 10 0 0 10 0 0 1

1

CCA

3

775



Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCA Tb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

Ta · Ta = Ta2


2 = Ta

Ta · Tb = Tab

Ta2 · Tb = Tb

8x 2 TD [Tb · x = T;]



Ta =

0

BB@

0 1 0 01 0 0 00 0 0 10 0 0 1

1

CCA Tb =

0

BB@

0 0 1 00 0 0 10 0 0 10 0 0 1

1

CCA

Ta · Ta = Ta2


2 = Ta

Ta · Tb = Tab

Ta2 · Tb = Tb

8x 2 TD [Tb · x = T;]

遷移閉包が求まった!!→5つの行列TD = {Ta, Tb, Taa, Tab, T;}


半群+単位元=モノイド

I =

0

BB@

1 0 0 00 1 0 00 0 1 00 0 0 1

1

CCA単位行列　　　　　　　　を追加(　　に)TD



M 0 = {{I, Ta, Tb, Taa, Tab, T;}, I, ·}



M 0 = {{I, Ta, Tb, Taa, Tab, T;}, I, ·}

　単位行列を追加　(もちろん単位元) 行列積



M 0 = {{I, Ta, Tb, Taa, Tab, T;}, I, ·}I Ta Tb Taa Tab T;

I I Ta Tb Taa Tab T;Ta Ta Taa Tab Ta Tb T;Tb Tb T; T; T; T; T;Taa Taa Ta Tb Taa Tab T;Tab Tab T; T; T; T; T;T; T; T; T; T; T; T;



M 0 = {{I, Ta, Tb, Taa, Tab, T;}, I, ·}I Ta Tb Taa Tab T;

I I Ta Tb Taa Tab T;Ta Ta Taa Tab Ta Tb T;Tb Tb T; T; T; T; T;Taa Taa Ta Tb Taa Tab T;Tab Tab T; T; T; T; T;T; T; T; T; T; T; T;

これを　の Transition Monoid と呼び　　　　で表す。

(最初のモノイドの表と比べてみて :-)TM(D)

D


正規とは!! (4)

L(D) = L(M)

Mと　は同型

となる等価な最小DFA　とSyntactic Monoid 　について

DM

TM(D)([2] p691)


SIMD実装


普通のDFA実装

x86/x64最適化勉強会１「正規表現とJITとベンチマーク」


http://swatmac.info/etc/x86opti_1/


普通のDFA実装

x86/x64最適化勉強会１「正規表現とJITとベンチマーク」

bool DFA::FullMatch(unsigned char *beg, unsigned char *end){ unsigned int state = 0; // initial state while (beg < end) { // search whole string state = transition_[state][*beg++]; if (state == DFA::REJECT) break; } return IsAccept(state);}

O(n)




今回提案のSIMD実装

・文字列は結合的二項演算列 (モノイド上の)→ SIMDで並列reductionができれば!→ SIMD実装だと

ぐらい期待できる?(Wはワードサイズ)

O(n logW/W )


今回提案のSIMD実装

・文字列は結合的二項演算列 (モノイド上の)→ SIMDで並列reductionができれば!→ SIMD実装だと

ぐらい期待できる?(Wはワードサイズ)

O(n logW/W )

*注意 NFAのビットパラレル　　実装とはベツモノ


・加算等基本的な水平方向演算は現AVXにも

SIMD並列reduction



SIMD並列reduction

・今回やりたい演算と要素は正規表現に依存



SIMD並列reduction


・任意の二項演算なんてできるわけない



SIMD並列reduction


・任意の二項演算なんてできるわけない

そう、AVX２が出るまではねっ!!


AVX２追加命令群 [3][4]


AVX２追加命令群 [3][4]

・2013年のHaswellから入る(予定)・整数256bit命令群の追加!!・並列表引き命令gatherの追加!!・Any-to-Any置換命令permの追加!!(AVXのshuffleは128bit-laneに閉じてた)


gather: 並列表引き[4]

・引数3つ　→ DST,SRC1(index&table),SRC2(condition)

・浮動小数点は vgather, 整数はvpgather

　→ インデックス/値はDword, Qwordを指定　→ 2つの元をpack(2byte)して表引き　→ 任意の二項演算が可(表はもちろん作る)


gather: 並列表引き[4]

・引数3つ　→ DST,SRC1(index&table),SRC2(condition)

・浮動小数点は vgather, 整数はvpgather

　→ インデックス/値はDword, Qwordを指定　→ 2つの元をpack(2byte)して表引き　→ 任意の二項演算が可(表はもちろん作る)

VPGATHERDD (VEX.256 version)FOR j ← 0 to7 i ← j * 32; IF MASK[31+i] THEN MASK[i+31:i] ← 0xFFFFFFFF; // extend from most significant bit ELSE MASK[i +31:i] ← 0; FI;ENDFORFOR j ← 0 to 7 i ← j * 32; DATA_ADDR ← BASE_ADDR + (SignExtend(VINDEX1[i+31:i])*SCALE + DISP; IF MASK[31+i] THEN DEST[i +31:i] ← FETCH_32BITS(DATA_ADDR); // a fault exits the loop FI; MASK[i +31:i] ← 0;ENDFOR(non-masked elements of the mask register have the content of respective element cleared)


perm: Any-to-Any置換 [4]


perm: Any-to-Any置換 [4]

VPERMQ (VEX.256 encoded version)DEST[63:0] ← (SRC[255:0] >> (IMM8[1:0] * 64))[63:0];DEST[127:64] ← (SRC[255:0] >> (IMM8[3:2] * 64))[63:0];DEST[191:128] ← (SRC[255:0] >> (IMM8[5:4] * 64))[63:0];DEST[255:192] ← (SRC[255:0] >> (IMM8[7:6] * 64))[63:0];


実装方針

・reductionは並列表引き命令vpgatherdd

　→ モノイドの元は256個以下に限定(1byte)

　→ 2つの元をpack(2byte)して表引き　→ 任意の二項演算が可(表はもちろん作る)

・要素を並べ替えて1つになるまで繰り返す　→ vpshufとvperm


メモリ上に　　　　それぞれ1byte16個の元c0 ⇠ cFcF cE cD cC cB cA c9 c8 c7 c6 c5 c4 c3 c2 c1 c0



*注意　簡略化のため、各要素ci(i = 1, . . . , F )はそれぞれ１byteに収まるとし、演算列は１６個に固定



(256bit)YMMレジスタに2つずつpack (上位2byteは0)00cF cE 00cDcC 00cBcA 00c9c8 00c7c6 00c5c4 00c3c2 00c1c0




並列表引によって二項演算 (結果上位3byteにゴミが)00cF cE 00cDcC 00cBcA 00c9c8 00c7c6 00c5c4 00c3c2 00c1c0

???c07 ???c06 ???c05 ???c04 ???c03 ???c02 ???c01 ???c00





???c07 ???c06 ???c05 ???c04 ???c03 ???c02 ???c01 ???c00

0000 00c07c06 0000 00c05c

04 0000 00c03c

02 0000 00c01c

00

shuffle&permで結果を2つずつpackしなおす(他は0に)





???c07 ???c06 ???c05 ???c04 ???c03 ???c02 ???c01 ???c00

0000 00c07c06 0000 00c05c

04 0000 00c03c

02 0000 00c01c

00

shuffle&permで結果を2つずつpackしなおす(他は0に)結果が1つの元になるまで繰り返す!!


デモプログラム

・YASMでAVX2プログラミング　→ YASM 1.2.0 からAVX2対応　→ 実は初アセンブラプログラミング(というかSIMDも)

・IntelのEmulatorで動作確認できた! (動いた)

・コードは一式githubに挙げてます　→ https://github.com/sinya8282/AVX2REGEX


https://github.com/yasm/yasm

https://github.com/yasm/yasm

http://software.intel.com/en-us/articles/intel-software-development-emulator/

http://software.intel.com/en-us/articles/intel-software-development-emulator/

https://github.com/sinya8282/AVX2REGEX

https://github.com/sinya8282/AVX2REGEX

コード片(YASM) vpmovzxwd ymm0, [rdi] vmovdqa ymm1, [shuffle1] vmovdqa ymm2, [shuffle2] vpcmpeqd ymm3, ymm3, ymm3 vmovapd ymm4, ymm3 vpgatherdd ymm0, [rdx+ymm0], ymm4 vpshufb ymm0, ymm0, ymm1 vmovapd ymm4, ymm3 vpgatherdd ymm0, [rdx+ymm0], ymm4 vpshufb ymm0, ymm0, ymm1 vmovapd ymm4, ymm3 vpgatherdd ymm0, [rdx+ymm0], ymm4 vpermq ymm0, ymm0, 0x08 vpshufb ymm0, ymm0, ymm2 vmovapd ymm4, ymm3 vpgatherdd ymm0, [rdx+ymm0], ymm4 movq rax, xmm0

置換条件データ

最後は二つの元を

laneをまたいで置換する必要があるのでperm+shuffle

(32byte aligned)


速いんでしょうか？・知りません :-p gatherの速度次第!!

　→ Emulatorじゃ速度指標が得られなげ？　→ 16回の表引きが4回のvpgatherddに　→ 今後もSIMDデータ幅は大きくなるんでしょうか？

・その他の命令(YMM shuffle/perm/mov)は　高速([6])なのであまり問題にならない？・Haswell出るまで待ちましょう


不満な点

・gatherで条件レジスタが０クリアされる謎・byte単位256bit Any-to-Any置換命令がない　→ permとshufbを組み合わせ...

・デモプログラムは制約条件有りまくり　→ 制約無くせる!! もっと最適化もできる　→ (実機出ないとやる気が...)


おまけ


並列表引きのきっかけ


NEONにも並列表引き


参考文献


[1] Elements of 　AutomataTheory

正規全般

神本。[2] Syntactic Semigroups(in Handbook of Formal Languages volume 1)

(正規な理論はこの本読めばok)


http://software.intel.com/en-us/blogs/2011/06/13/haswell-new-instruction-descriptions-now-available/











SIMD周り

[3] Haswell New Instruction Descriptions 　Now Available! - Intel Software Blogs

[5] Intel® 64 and IA-32 Architectures 　　Optimization Reference Manual - PDF

[4] Intel® Advanced Vector Extensions　　 Programming Reference - PDF

[6] Instruction Tables (Lists of Instruction　latencies, throughputs) - PDF






http://www.intel.com/Assets/ja_JP/PDF/manual/248966.pdf




http://software.intel.com/file/36945




http://www.agner.org/optimize/instruction_tables.pdf




avx2時代の正規表現マッチング 〜半群でぐんぐん！〜

Technology

avx2時代の正規表現マッチング〜半群でぐんぐん！〜