improved algorithms and extensions for submodular...

1/ 50

Improved Algorithms and Extensionsfor Submodular Secretary Problems

Kaito Fujii (UTokyo)基盤 (S)離散構造処理系プロジェクトのセミナー

2017年 11月 20日

2/ 50

自己紹介

D1伊丹市出身

東大数理 7研→京大鹿島研→東大数理 7研組合せ最適化、近似アルゴリズム、機械学習

3/ 50

古典的秘書問題 [folklore’60s]

問題問題ランダムな順序で n人の候補を面接する（nは既知）面接したら直ちに採用するかどうか決める

アルゴリズムアルゴリズム最初の ⌊n/e⌋ 人は採用しないそれ以降にその時点までで最良の候補が現れたら採用

1/e以上の確率で最良の候補を採用できる

3 4 7 6 9 4 5 8 0 2

n = 10

3/ 50





3

4 7 6 9 4 5 8 0 2

n = 10

3/ 50





3 4

7 6 9 4 5 8 0 2

n = 10

3/ 50





3 4 7

6 9 4 5 8 0 2

n = 10

3/ 50





3 4 7 6

9 4 5 8 0 2

n = 10

3/ 50





3 4 7 6 9

4 5 8 0 2

n = 10

3/ 50





3 4 7 6 9 4 5 8 0 2

n = 10

4/ 50

競合比

α ∈ [0,1]がアルゴリズムの競合比def

任意の問題例について，アルゴリズムの解 SがE[f (S)] ≥ α maxS∗∈I f (S∗)

を満たす入力をすべて知っている場合の最適値

5/ 50

組合せ秘書問題 [Kleinberg’05, Babaioff–Immorlica–Kleinberg’07]

ランダムな順序で現れる n人の候補のなかから目的関数 f (S) =∑v∈Swv を最大化する組合せ Sを選びたい選択可能な組合せは制約 S ∈ I ⊆ 2V によって限定される

3 4 7 6 9 4 5 8 0 2

n = 10, I = {S : |S| ≤ 3}

f (S) = 7+ 9+ 8 = 24

6/ 50

応用：チームをつくる

組合せによってチームのよさが変化する場合を考えたいn人の候補それぞれに得意分野と不得意分野があるカバーできる分野の数を最大化したい

国語 × × × × × ×算数 × × × × × ×理科 × × × × × × × ×社会 × × × × × × ×

n = 10, I = {S : |S| ≤ 3}

7/ 50

劣モジュラ最大化

与えられた有限集合 V の “よい”部分集合を探す問題Maximize f (S)subject to S ∈ I

f : 2V → R≥0劣モジュラ関数

I ⊆ 2Vさまざまな制約

値オラクル値オラクル S ⊆ V を入力すると f (S)を返す独立性オラクル独立性オラクル S ⊆ V を入力すると S ∈ I かどうか判定

8/ 50

劣モジュラ性と単調性f (v|S) ≜ f (S ∪ {v})− f (S)

S ⊆ V に対して v ∈ V を追加したときの増分

劣モジュラ性劣モジュラ性 f (v|A) ≥ f (v|B) (∀A ⊆ B,∀v ∈ V \ B)

f ( )− f ( ) ≥ f ( )− f ( )

単調性単調性 f (v|A) ≥ 0 (∀A ⊆ V ,∀v ∈ V)f ( )− f ( ) ≥ 0

8/ 50

劣モジュラ性と単調性f (v|S) ≜ f (S ∪ {v})− f (S)

S ⊆ V に対して v ∈ V を追加したときの増分劣モジュラ性劣モジュラ性 f (v|A) ≥ f (v|B) (∀A ⊆ B,∀v ∈ V \ B)

f ( )− f ( ) ≥ f ( )− f ( )

単調性単調性 f (v|A) ≥ 0 (∀A ⊆ V ,∀v ∈ V)f ( )− f ( ) ≥ 0

9/ 50

劣モジュラ秘書問題 [Bateni–Hajiaghayi–Zadimoghaddam’13]

目的関数 f : 2V → Rが単調劣モジュラ関数の場合へと一般化n = 10, I = {S : |S| ≤ 3}

単調／非単調や制約の種類によってさまざまな問題設定が考えられてきた

値オラクルと独立性オラクルは，すでに現れた候補に関する部分だけアクセス可能

10/ 50

目次

1 非単調・サイズ制約に対するよりよい競合比背景主結果

2 k 劣モジュラ関数への拡張理論的な背景k 劣モジュラ関数主結果：線形関数への帰着

11/ 50

目次



12/ 50

概要サイズ制約非単調劣モジュラ秘書問題に対して既存のものよりよい競合比のアルゴリズムを提案

ふつうの最大化秘書問題

サイズ制約・単調(1− 1/e)Æ

サイズ制約・非単調1/eÆ

サイズ制約・単調0.170Æ

サイズ制約・非単調0.107

乱択化そのまま

Æ [Nemhauser–Wolsey–Fisher’78]Æ [Buchbinder–Feldman–Naor–Schwartz’14]Æ [Bateni–Hajiaghayi–Zadimoghaddam’10,’13, Feldman–Naor-Schwartz’11]

13/ 50

サイズ制約単調劣モジュラ最大化

Maximize f (S)subject to |S| ≤ r

f : 2V → R単調劣モジュラ関数

貪欲法 [Nemhauser–Wolsey–Fisher’78]1: S← ∅.2: for |S| < r do3: e∗ ∈ argmax{f (e|S) | e ∈ V}4: S← S ∪ {e∗}

貪欲法は (1− 1/e)近似 [Nemhauser–Wolsey–Fisher’78]

14/ 50

サイズ制約非単調劣モジュラ最大化

乱択貪欲法 [Buchbinder–Feldman–Naor–Schwartz’14]1: S :=∅.2: V にダミーのアイテムを 2r − 1個加える.3: for i = 1, · · · , r do4: M ∈ argmaxM⊆V :|M|=r∑e∈M f (e|S).5: Mからランダムに一つ選び e∗ とする.6: S := S ∪ {e∗}.7: return S.

乱択貪欲法は 1/e近似[Buchbinder–Feldman–Naor–Schwartz’14]

既存の最良近似比は 0.372 [Ene–Nguyen’16]

追加する要素の選択を乱択化

15/ 50

乱択貪欲法の理論保証のアイデア[Buchbinder–Feldman–Naor–Schwartz’14]

乱択によって，各要素を選ぶ確率を上から抑えられる各ステップで要素 v ∈ V を選ぶ確率は 1/r 以下全体で v を選ぶ確率は 1− (1− 1/r)r 以下

以下の補題を使って帰納法で示す補題 [Buchbinder–Feldman–Naor–Schwartz’14]Rランダム集合 s.t. Pr[v ∈ R] ≤ p (∀v ∈ V )

f (R) ≥ (1− p)f (∅)

16/ 50

サイズ制約劣モジュラ秘書問題

単調単調

競合比 0.090 [Bateni–Hajiaghayi–Zadimoghaddam’10,’13]Bateniらのアルゴリズムの競合比は 0.170

[Feldman–Naor-Schwartz’11]競合比 0.238 [Kesselheim–Tonnis’17]

非単調非単調

競合比 1/1417 [Gupta–Roth–Schoenebeck–Talwar’10]競合比 1/(8e2) [Bateni–Hajiaghayi–Zadimoghaddam’10,’13]

17/ 50

アルゴリズム [Bateni–Hajiaghayi–Zadimoghaddam’13]

n人の候補をを r 分割し，各分割に対して古典的秘書アルゴリズムを適用する

n/r elements

max f (v|S0)w/ prob. ≥ 1e

n/r elements


n/r elements


定理 [Feldman–Naor–Schwartz’11]単調な場合における競合比は e−1e+e2 ≈ 0.170

18/ 50

目次



19/ 50

アイデア

Bateniらのアルゴリズムは，各要素を選ぶ確率が 1/e以下になるよう改変できる

非単調の場合でも，この補題を使えば競合比が抑えられるのではないか？補題 [Buchbinder–Feldman–Naor–Schwartz’14]Rランダム集合 s.t. Pr[v ∈ R] ≤ p (∀v ∈ V )

f (R) ≥ (1− p)f (∅)

20/ 50

連続時間モデル [Kleinberg’05, Feldman–Naor-Schwartz’11]

ランダム順序モデル

連続時間モデル

0.01 0.120.17 0.25 0.40 0.46 0.710.76 0.88 0.97 t各候補に [0,1]上一様分布から生成した時刻を割り当て時刻 1/e以降に現れたそれまでで最良の人を選べば，ちょうど確率 1/eで最良の候補を選択できる

21/ 50

提案手法

r 分割して得られた各分割に対して，連続時間モデルにおける古典的秘書アルゴリズムを適用

tn/r elementsmax f (v|S0)w/ prob. 1e

n/r elements

max f (v|S1)w/ prob. 1e

n/r elements

max f (v|S2)w/ prob. 1e

· · ·

ただし，増分が 0の要素は選択しない定理非単調な場合における競合比は (e−1)2e2(1+e) ≈ 0.107

22/ 50

証明 (1/3)V の r 分割 V1, · · · ,Vr を固定するU = {u1, · · · ,ur}各分割 Vi から一要素 ui ∈ Vi ずつ選ぶ集合のなかで最良のものS = {s1, · · · , sr}アルゴリズムの解Ui = {u1, · · · ,ui}, Si = {s1, · · · , si}古典的秘書アルゴリズムの保証V1, · · · ,Vi−1 の内部の各要素の時刻を固定すれば，

E[f (si|Si−1)] ≥ 1e max{f (ui|Si−1),0}

23/ 50

証明 (2/3)U = {u1, · · · ,ur}各分割 Vi から一要素 ui ∈ Vi ずつ選ぶ集合のなかで最良のものS = {s1, · · · , sr}アルゴリズムの解Ui = {u1, · · · ,ui}, Si = {s1, · · · , si}劣モジュラ性

max{f (ui|Si−1),0} ≥ f (ui|Sr ∪ Ui−1)補題よりv ∈ V の各要素が Sr に含まれる確率は 1/e以下なので，

E[f (S ∪ U)] ≥ (1− 1/e)f (U)

24/ 50

証明 (3/3)U = {u1, · · · ,ur}各分割 Vi から一要素 ui ∈ Vi ずつ選ぶ集合のなかで最良のものS = {s1, · · · , sr}アルゴリズムの解S∗ 最適解V1, · · · ,Vr の分割のランダム性より

E[f (U)] ≥ (1− 1/e)f (S∗)以上をまとめると

E[f (S)] ≥ (1− 1/e)21+ e f (S∗)

25/ 50

目次



26/ 50

目次



27/ 50

組合せ秘書問題

目的関数と制約の組合せでさまざまな問題が考えられる

Maximize f (S)目的関数subject to S ∈ I 制約目的関数目的関数線形関数，単調劣モジュラ関数，非単調劣モジュラ関数，...

制約制約サイズ制約，マトロイド制約，マトロイド交叉制約，...

組合せ秘書問題の理論的な動機どの問題に定数競合比アルゴリズムが存在するか？

28/ 50

横断マトロイド（transversal matroids）

S ⊆ V が独立⇔ Sを端点とするマッチングが存在V = {1,2,3,4}1234

独立

1234

独立

1234独立でない

29/ 50

層マトロイド（laminar matroids）F ⊆ 2V が層族 △⇔ ∀S, T ∈ F , S ⊆ T or T ⊆ S or S ∩ T =∅S ⊆ V が独立⇔ ∀T ∈ F , |S ∩ T | ≤ kT（kT ∈ Z≥0 定数）

≤ 2≤ 1 ≤ 1

≤ 1独立独立

≤ 1

独立でない

30/ 50

マトロイド

V 有限集合，I ⊆ 2VM = (V ,I)がマトロイド

def∅ ∈ IA ⊆ B ∈ I ⇒ A ∈ I∀A,B ∈ I, |A| < |B| ⇒ ∃i ∈ B \ A, A ∪ {i} ∈ I

定理 [Rado’57, Gale’68, Edmonds’71]任意の重みに対して，貪欲法で最大重み独立集合が求まる⇔ (V ,I)はマトロイド

31/ 50

マトロイド秘書問題Maximize f (S)線形関数subject to S ∈ I マトロイド制約予想 [Babaioff–Immorlica–Kleinberg’07]マトロイド秘書問題には定数競合比アルゴリズムが存在する

定理 [Lachish’14, Feldman–Svensson–Zenklusen’15]マトロイド秘書問題には競合比 O(1/ log log(rank))のアルゴリズムが存在する（rank = max{|S| : S ∈ I}）いくつかの特殊なマトロイドに対しては，定数競合比アルゴリズムが知られている

横断マトロイド [Dimitrov–Plaxton’08]層マトロイド [Im–Wang’11]など

32/ 50

劣モジュラから線形への帰着 [Feldman–Zenklusen’15]

線形関数・あるマトロイド制約に対する競合比 α アルゴリズム

劣モジュラ関数・同じマトロイド制約に対する競合比 Ω(α2)アルゴリズム

black-box reduction

線形関数に対する定数競合比アルゴリズム存在⇒劣モジュラ関数に対する定数競合比アルゴリズム存在

33/ 50

どの制約に定数競合比アルゴリズムが存在するか？

線形関数線形関数サイズ制約，横断マトロイド，層マトロイド，· · ·

単調劣モジュラ関数単調劣モジュラ関数サイズ制約，横断マトロイド，層マトロイド，· · ·

劣モジュラ関数劣モジュラ関数サイズ制約，横断マトロイド，層マトロイド，· · ·

34/ 50

近年の研究の動向より一般的な制約

下に閉じた制約 [Rubinstein’16]マトロイド交叉制約 [Feldman–Svensson–Zenklusen’18]

より一般的な目的関数supermodular degreeに関する保証 [Feldman–Iszak’17]適応的劣モジュラ関数 [Fujii–Kashima’16]k 劣モジュラ関数 [This work]

秘書問題以外のモデル組合せ預言者の不等式 [Alaei’11]など

35/ 50

昔の研究：適応的劣モジュラ秘書問題 [Fujii–Kashima’16]

プール型能動学習ラベルなしサンプルはすべて既知

適応的劣モジュラ最大化[Golovin–Krause’11]

ストリーム型能動学習サンプルはひとつずつ現れる

新たなフレームワーク

劣モジュラ秘書問題[Bateni–Hajiaghayi–Zadimoghaddam’13]

劣モジュラ秘書問題をストリーム型能動学習に応用

36/ 50

目次



37/ 50

応用：複数の役職

複数の役職を採用したい例）秘書だけではなく，CTOも採用したい

v0 v1 v2 v3 v4 v5 v6 v7 v8 v9解は k 個の集合の組 x = (X1, · · · , Xk)で表現（k は役職数）

X1 = {v3, v6}秘書として採用した候補の集合X2 = {v8} CTOとして採用した候補の集合

つねに Xi ∩ Xj =∅ (∀i ̸= j)とする

秘書

CTO

38/ 50

記法

[k] △= {1, · · · , k}役職全体の集合(k+ 1)V △= {(X1, · · · , Xk) | Xi ∩ Xj =∅ (i ̸= j)}台集合

x ⪯ y △⇔ Xi ⊆ Yi (∀i ∈ [k])⪯

supp(x) △=∪ki=1 Xisupp( v0 v1 v2 v3 v4 v5 v6 ) = {v1, v3, v6}

39/ 50

増分

現在の解が xのとき，eを Xi に追加した場合の関数の増分∆e,if (x) =f (X1, · · · , Xi−1, Xi ∪ {e}, Xi+1, · · · , Xk)− f (X1, · · · , Xk)�

∀e ̸∈∪kj=1 Xj, ∀i ∈ [k]�例）∆v1,2f (x) = f ( v0 v1 v2 v3 v4 v5 v6 v7 v8 v9 )

−f ( )

単調性単調性 ∆e,if (x) ≥ 0 (∀e ∈ V , ∀i ∈ [k], ∀x ∈ (k+ 1)V )

40/ 50

k劣モジュラ関数 [Huber–Kolmogorov’12, Ward–Zivny’14]f : (k+ 1)V → Rは k 劣モジュラ

deforthant submodularityorthant submodularity

∆e,if (x) ≥ ∆e,if (y)(∀x,y ∈ (k+ 1)V with x ⪯ y, ∀e ̸∈∪j∈[k] Yj)pairwise monotonicitypairwise monotonicity

∆e,if (x) +∆e,jf (x) ≥ 0(∀x ∈ (k+ 1)V , ∀e ̸∈∪ℓ∈[k] Xℓ, i ̸= j)

41/ 50

k劣モジュラ最大化と秘書問題k 劣モジュラ最大化k 劣モジュラ最大化Maximize f (x)subject to supp(x) ∈ I

f : (k+ 1)V → R≥0k 劣モジュラ関数

k 劣モジュラ秘書問題k 劣モジュラ秘書問題ランダムな順序で現れる V の各要素に対して，k 個のうち一つの役職で採用するかを決める

v0 v1 v2 v3 v4 v5 v6 v7 v8 v9

42/ 50

目次



43/ 50

既存研究：劣モジュラ関数の場合 [Feldman–Zenklusen’15]

線形関数・あるマトロイド制約に対する競合比 α アルゴリズム

劣モジュラ関数・同じマトロイド制約に対する競合比 Ω(α2)アルゴリズム

black-box reduction

線形関数に対する定数競合比アルゴリズム存在⇒劣モジュラ関数に対する定数競合比アルゴリズム存在

44/ 50

本研究：k劣モジュラ関数の場合線形関数・あるマトロイド制約に対する

競合比 α アルゴリズム

k 劣モジュラ関数・同じマトロイド制約に対する競合比 Ω(α2)アルゴリズム

black-box reduction

線形関数に対する定数競合比アルゴリズム存在⇒ k 劣モジュラ関数に対する定数競合比アルゴリズム存在

45/ 50

どの制約に定数競合比アルゴリズムが存在するか？

線形関数線形関数サイズ制約，横断マトロイド，層マトロイド，· · ·

単調劣モジュラ関数単調劣モジュラ関数サイズ制約，横断マトロイド，層マトロイド，· · ·

劣モジュラ関数劣モジュラ関数サイズ制約，横断マトロイド，層マトロイド，· · ·

k 劣モジュラ関数k 劣モジュラ関数サイズ制約，横断マトロイド，層マトロイド，· · ·

46/ 50

提案手法：simulated greedy前半の要素を用いて，後半の各要素の重みと役職を学習

w0 w1 w2 w3 w4 w5線形関数と各要素の役職を学習

線形関数に対するアルゴリズムを適用

47/ 50

提案手法：重みと役職の決め方

前半の要素集合 ∪ {新しく現れた要素 }に貪欲法を適用

wi貪欲法が vi を追加したらそのときの増分を wi とする

vi

線形関数に対するアルゴリズムが vi を採用した場合，貪欲法における vi の役職と同じ役職として採用目的関数が非単調の場合，確率 1− 13α で重みを 0にする

48/ 50

提案手法：理論保証

補題V の各要素を確率 1/2で含むランダム集合 Lに対して貪欲法を適用すると，全体の最適値に対して単調の場合単調の場合 1/4近似非単調の場合非単調の場合 1/12近似

定理線形関数に対するアルゴリズムが競合比 α なら，simulated greedyの競合比は単調の場合単調の場合 1/8α(α+ 1) 非単調の場合非単調の場合 1/36α(3α+ 1)

49/ 50

本研究の成果（の一部）

制約単調非単調サイズ制約 0.170 0.06unitary 0.153分割マトロイド 1/896横断マトロイド 1/81 1/896層マトロイド 1/814 1/10299ℓ疎線形 1/(8ℓe(ℓe+ 1)) 1/(36ℓe(3ℓe+ 1))一般のマトロイド Ω

� 1log log(rank)�

Ω

� 1log log(rank)�

個別サイズ制約 0.06simulated greedyによる競合比

50/ 50

参考文献

M. Bateni, M. Hajiaghayi, and M. Zadimoghaddam. Submodularsecretary problem and extensions. ACM Transactions on Algorithms(TALG), 9(4): 32, 2013.N. Buchbinder, M. Feldman, J. S. Naor, and R. Schwartz. Submodularmaximization with cardinality constraints. Proceedings of thetwenty-fifth annual ACM-SIAM symposium on Discrete algorithms(SODA), pp. 1433-1452, 2014.M. Feldman and R. Zenklusen. The submodular secretary problemgoes linear. Proceedings of the 56th Annual IEEE Symposium onFoundations of Computer Science (FOCS), pp. 486–505, 2015.J. Ward and S. Zivny. Maximizing k-submodular functions andbeyond. ACM Transactions Algorithms (TALG), 12(4): 26, 2016.

非単調・サイズ制約に対するよりよい競合比背景主結果

k劣モジュラ関数への拡張理論的な背景k劣モジュラ関数主結果：線形関数への帰着

improved algorithms and extensions for submodular...

Documents