T Ca S L

Hilar Greaves and William MacAskill

Work in Progress

1. I 1

2. A a b a a a 4

2.1 I e ec a , e f e a e 4

2.2 A c e e ce a e e a 5

2.3 T e a b a g e 6

3. T a ab b 7

3.1 S eed g g e 9

3.2 I f e c g e c ce a g a ac a e 9

3.3 M ga g f e a e a e c 10

3.4 I f e c g e c ce a g -e c a ac a e 11

3.5 A e a- : F d g e ea c g e e e ec 14

4. A a a - b 15

4.1 P a a g 15

4.2 R a e e ec e fa e 16

4.3 N -agg ega 17

4.4. G g e a e g be ef e bad ff 19

4.5. Dec - e e c b ec 19

5. T 20

6. D 21

7. S a a 24

R 25

1. I

A g fac ab e f c a ea e a e . T e e a e 5000 ea f ec ded be d , b a ea a e c e? If e e e a

a g a e ca a a a ec e , e a e 200,000 ea g ; e e a e a f e e b ea e Ea e ed b e S ; a d f ea e a c e a a f a . E e e c e a e f e e e e , e a e

g e ed g a f ac f ec ded . If a aga e e a e , e d be e e f age.

N a , e a ca a e fac . P ca d c a e ce e ed a d e e e a d , f c ed e a e ca da e e e ec . W e a d a e a

g- e e , e a ab e e f e e ea . We e e a e e ab ac da g f e ce c a d ed f a d f ea e ce.

We be e e a eg ec f e e g- e f e a g a e a e . A 1

a e a e e ec e g e b a b ge g e ca ed longtermism , c e 2d be a c a c ce ed e g a e g- f e g e e . I

a c e e acce e b g f e , a g g a ac e g a e e most a fea e f ac . M e ec e , e a g e f c a .

A a (AL): I a de c a f dec a , e a ex ante be c a ed a fa a b e f e ex

ante effec e e g- f e a e be . D (DL): I a de c a f dec a , e

e g , e a e, c e c a ed a fa a b e f e ex ante effec e e g- f e a e be .

B e e effec e e g- f e a e be , a e ea e e effec e f e from time t onwards a e be , e e a g

g e f ( a , 100 e e 1000 ea ). T e dea, e , a f e e f e a a g ac , e ca e f a ce f e simpl ignore a e effec c a ed

e f 100 ( e e 1000) ea , f c g a e f e -f e effec . S - effec ac a e e a e-b ea e .

N e a b AL a d DL a e a ed ex ante e . AL c ce ex ante a g . If e ec ed a e e e c ec acc f de ce a ec e f

e be e e e , g e AL, e ex ante be ac d be e e b e effec e e g- f e d ( ea e ) c ea e e ec ed a e.

1 I ef c de a de a a a g e: f e e e e e Ea e e ge ab ab e, c a e d be de a a a f a e g e e g- f e g e e ?

P e ab , fa e a e d d . 2 See MacA (2019) f a d c f dea.

H e e , e g e c a d e e e a e e e ec ed a e e ; e b ef c de e a e a e ec 4. S a , f DL, e g e

e b ec e g : e e a e e a f ac -g da ce, a d e a e, e e e, e be ef a e dec - a e g a e. 3

W c dec a fa e c e f c a ? I e f a ce, e a g e a e f g e c ca e: 4

T a - a a . S a a $10,000. He a e d e a e e a d e e d, a d e e

c de g a ec a a ea d g .

T e b f e a e de ed defe d g e c a a a e c e f a g ca g g e ; e f a ec e ge e a e a de a ge f dec a .

T e c e f e a e a f . I ec 2 e e a a b a g e f a g ca g g e . I e , e a e ec c e

a b a g e fa f a f a d e a , a a a e f e ca fac , a e g f e ce e c e f e e g- f e a a ac ab e. Sec 3 de ed defe d g e c c a ac ab c a .

I ec 2 a d 3, e a e e e e e a b c e a a g ca a d dec - e e c a ( ec f ca , a a a a d e ec ed

e ). T , e e , a f e ega ce f e . Sec 4 c d c e c e d g e a a e , a d a g e a a b e a f de a g f e e a a e e de e e a g e . Sec 5 a g e a , e f c c e e e e a e f c ed e ca e f e ca e- e a a , f a g ca

g g e e f a dec c e e a e be e f a fa de a e f e dec c e ( e e ca e- e a ab e , a d/ e e e

dec e f e d e ).

3 I de ag eed a e e ef d g be ee b ec e a d b ec e e e f g (E g 1948, .118-22; B a d 1959, .360-7; R e 1966; Pa f 1984, .25; P e 2011; D e 2012, O e 2017, G bba d 2005, Pa f 2011), g ca a d b ec e (P c a d 1932, R 1939 .139, H a d-S de 2005, Z e a 2006, Z e a 2008, Ma 2013). O d c e e a e f e e d c c ec . A f a d a g ca a d b ec e (M e 1912 .88-9; M e 1903 .199-200, 229-230; R 1930, .32; T 1986, . 177-9; G a a 2010; B

2011); acc d g a e e , e e c e e e f de c g g e e c f e e e a e d c . S a (b e d c ed), e g be e ca f e f e a e

a g ; aga , d c e e a a c e c g ded. 4 N e a S a eed be a private a . S e c d e a be c a ge f e g e e a

e g e e a f e ce , ded a e e f a ca e- e a , .e. e e a e e g d, a e a ( a ) e e ea a e . G e a ab e

c e f S a a , a a e ca e a f a g ca g g e e f S a dec a , e a de c g g e . We d c ca e c e c ec be ee a g ca a d de c g g e e d ec ec 5.

T fa , d c a e bee e c e f c ed a g ca g g e . Sec 6 e e f de c g g e . T e e, e a g e

a acc d g a a b e -c e e a a e , d c f a g ca g g e a ff ce e ab de c g g e . Sec 7 a e .

T e a g e a e a e ecede e e a e. N c B (2003) a a g ed, e ba f e a be f e e d e e f e f c a e e e a , a c ea g e bab a c e e e cc d be e

f a a a . N c Bec ead (2013) a g e f a e a b ade e f a a a c c . O a a e e a d 5

f a . F , e ea ea e a f c ed a e e a e f e c ga a d ( e e ) f ace e e e , e d c a a ge f e

g e e e , a d e a g e a g g e e e e f e e a de e b f e ( a - c ea g) e e . Sec d, e a e a g e g e g a de a ge f a g e a d dec e e , e c b a f a a a a d e ec ed e . T d, e a g e a fa a

g g e e f a dec c e a e a ca g e ce ac ca e a ea , e a be e f a e dec c e , c d g e a d e c -ca e c a a d e a d e a ca g e . F , add a g ca g g e , e a d c e de c c a : e a g e a de c g g e e, g e a f a de a e f a b e

-c e e a e e .

We be e e a a g ca a d de c g g e a e f e a ce. If c e ca e ad e e e , c f a e d e e d da

d c a ge.

2. A a b a a a

T ec ffe a a b a g e f a g ca g g e . F e ea d c ed b e e ec , a g e d e b e f e a g ca

g g e . H e e , e d e a , a d e e b ec e da g, e d be ed ed a d be e g a g ca g g e .

We a f a . O e e ca , e e e e a a e.

5 Bec ead Ma T e : F a g ba e ec e, a a e ( e ec a ) a e d a be ( e ec a ) f e ge e a a ec a g c de ce da de e e e c g

, b , a d f ea ( b d., .1).

2.1 In e pec a ion, he f re i a in i e I d be c e a a e e a a be f e ec ed be g e f e f

a c a .

A ca a a a ec e fe a a d 500,000 ea (Ceba e a 2015); ce homo sapiens a fa e ed f a d 300,000 ea (Sc eb c e a 2017), a c a d gge a e a e 200,000 ea g . H e e , e a e a

ca a a a ec e : e a e 100 e e b a f a a ge d a d a a a a e e ed (W 2002:29), ac a agge g d e f e e , a d,

e e , e a e e ec g ca e a d a d be e c - e e e e f e a a , c d g e e de ec a d def ec a e d (NASA 2007). Of c e, a c a e f d ce , c a f c ea a a d

a - ade a ge . B ee a d, g e a e f edge, be e c f de a e de e e , a d e d e e a ea a g f ca c a ce a e a e a e a ge f e a ead f e e .

F e e f a c e, e ge e a a e e a a e a a e e a e, e ec a , a ea 1 ad (10 15) e e c e 100,000 e a a

e e e f e a a e a e da . T e be e f, f e a e, e a g a ea a 1% c a ce c a c g e Ea ge ab ab e, g a e a e

f 1 b ea e f a e e a d a g e a e e -ce a a 6

da , f a a e 10 b e e e ce .

De e e ag de f be , e be e e a c e a e e f g a . F , beca e f f e ec g , Ea c d e a fa g ea e e -ce

a a b e da , a ec g da e a e ab ed fa g ea e e -ce a a e e b e e -ga e e e . Sec d, a d e e e

a , c a e f e a ead e a . Ha g e e a a c ede ce ace e e e d a ca c ea e e e ec ed e f e f e: e e a e a d 1022

a e affec ab e e e (O d 2016) a d e 100 b a e M Wa a e (H e 2018); e a f e e d e f ea e (Ada & La g , 1997; Ada & La g , 1999). E e f 0.01% f a e e M Wa 7

e e e ed e c e a e ce f Ea f e b ea , e e d be 1024 f e e e: e d ed e e f e e e a e da . O e d eed a e a c ede ce f e a e e b b de f

e e ec ed be f f e e e be fe e a e ad .

6 Acc d g Ada (2008), e e d f c e fe Ea a c e 0.9 1.5 b ea . 7 T g c e a a f a cea e ab 1 100 ea , e e a e a - a (ca ed b d a f ) a a e a g e e , a d e c c ea e a a b ead

ea f e a a ee g g f a ea a e a g a c e a a f a . O a T b O d f g a e .

2.2 A a a O ec d a a , f e e f a dec - a g a d e a a , all

e c e e ce f e ac a e , a d ( ce e c f e deg ee c e c e e ce e ed c ab e a e e f ac ) e a a e equall . I a c a , a e a e a e f e e efe e ce. S c a e a e d ea a e d ca efe a g d g c e a a ea e e a e a a a e e. If e e d ed dea, a g e d ge ff e g d.

T ee , e a f e e -be g d c ed a a de b g f ca e a e a , 1% e a . C de a f ed de c e f e ce a c a 8

e c a be f e e g e e f a f e g f e, a d a e f c a fe e e -be g e e- eg a f e a

e -be g. S e f e a a e age e a e -be g (a e aged, a , ac e e a a e) c a e. T e , a e -be g d c a e f 1% e a , e a f d c ed e -be g e e e e f e f e f e f 100 ea

a d ab e d f e a f d c ed e -be g e e 100 ea . W e ca c a c ce a e -be g a e a d ffe e ce e c d a e

e -be g, a c de a a e a e .

F e e e , e a e e a f a e a e f e e efe e ce be fa c e a . We f a e a d fe e e ca ec

d defe d a - e a e f e e efe e ce. 9

We a a e a , a ea dec c e e S a , e e a e e a d c be ee e d ec . e d ec effec f e ac . T e f c a ee g aga e a e ed ca e c , e e f e e d a d

be a a e f ( a ) a d c ea e ce e ea e f e a e e a e a ed ca de ca a , e g d a e f e a e cc e a

e ef e c e , a e g e f ea e d a e g ea e d ec be ef f e e e (Ka 1993, B c 2003). I ee c ea , e e , a

fa a e e a a b e ca e f g g d ec effec e ed ca c e , a ca e c c a ge fea e a a e e ec f c a dec c e , a d a

a e a a g S a dec c e . T e e a a g S a ca e, f a ce, f e c ce a a g d ec effec acc d de e e

a a e d c - a e e a (A ge 1993, Pe eg 1997), e

8 I e e b D e a (2015), a e ed a a e f e e efe e ce a g e e e e a e fa ed a a e e Ra e -S e a ge 0-0.1% .a.

9 See G ea e (2017) f a e f d c g b c c , c d g a e f e a g e f a d aga a e a e f e e efe e ce. A e a e f e e efe e ce e d ed b , e a a, S dg c , 1890; Ra e , 1928; P g , 1932; Ha d, 1948; S , 1974; C e, 1992; C e , 1992; S e , 2007; B e, 2008; Da g a, 2008; D e , He b , & S e , 2008; B c & Sc ac e , 2010; G e , 2013. I a ece e f acade c e e e c f c a d c g, 38% f e de ag eed

Ra e -S e e (D e a 2018, .119).

c ce a d g a b c f ded ea e ce g e e d e e a f c e ega d g e e a e a f c e (M ge e , a c ).

2.3 T a b a I f c e a e ca e a e fa -f e effec f e ac a e a de ed c

a e ea -f e effec . A d f c e e e a ex ante e a a . H e e , g ge e e a a e e ec ed e f e f e a a d e a

a a c e e ce a e e a , bec e a ea a b e a e a f ex ante g d e ca ge e a e b f e c g e e ec ed c e f e e g- f e e ceed

e a f ex ante g d e ca ge e a e a f e c g e e ec ed c e f - e e , even after a g acc e g ea e ce a f f e -f e effec . We ca f e e f g e ec e b e a a g e add a a a a e ( e e ) e e a e c e a g e . Le e a a e ( ) e ec ed e , ( ) e a ab f a e e ec e, a d ( ) a f e e

T ( e ec e a e a e ). T e (b e a e a ab ) e e e a a a f a g g a e e a ca ed a e f affa , c a e

g d e f a e f e e e (f e b g ba g e ea dea ) g e b add g e e a a e a e ac a e; a d, f e e f e a a

de ce a , e e e a a e e ec a a e f a . W e c a g ac , e ( - e de a ) a d ( g- e de a ) be e S L a e age a b c e ac e ec ed a e d ffe ac e d a f e

- f e ( .e. e e 100 1000 ea ) a d e e g- f e ( .e. e e a de f e f e be d a ), e ec e . T e , e e ec ed a e d ffe e ce

be ee e ac g e b .T )t S + ( t L

T e a , ce e d a f e e g- f e ( ) vastl g ea e T t a e d a f e - f e, e a b e a e g f e e ec ed t

a e d ffe e ce be d e b e g f . S e a e def e e a L e e 100 ea , a d e a a e e a 1% c a ce f c a a g f

1 b ea , a c a a e e . G e e e c ce f a a e e , de f g g e be e, e e ec ed a e, e e , f e be g- ac d eed be g ea e a 1/100000 f e e ec ed a e f e be - ac

f e e e . T a a e ba .

I e e ec e a g e a , f a e e g a f ac a e c d c de , ( e a ) be ff c e a ge a ee ba . T ea a , f L

e ac de c a , e ac a be e e a be e e a a e e be ef c a effec e e g- f e, a a g ca g g e d

ead e ec .

A c e e a ea f ec g a a g ca g g e e c ce e be a f e ac . I ge e a , e e a e d g a g a e e

e e d e f e ce a d a g e a , beca e e e - a g g f a e a c ed f . S a e c f e a a e e a c e e

a a be ee e . B S a a e e e e, a d e a a f e ac a e d ffe e e : beca e f g ea e c ce f e e e a d e

e a f f e a ge , beca e f a ce e e e ec c c e a d a e ea g e , a d beca e f a c a e de c a d

a e ce, e e b a g f ca a f efe e ce f ea - e e effec e g- e e effec (F ede c , L e e e a d O D g e 2002). S a

d e ef e e ec a e ac a e bee e ec e f d g ec a de e g - be ef , a d ea g f ded ec a a e be e b S a

g , b e g f ca be ef cc e e c e f e e g . T ea a S a d e ec f d a g ca g g e e a e c e a g provided ( c e a e e a g ed) a e e e e a ec g f ca be ef c a ex ante effec e e g- f e beg .

T a e a b a g e : beca e f e a e ec ed be f e e e f e, e a b e a f a a e a a e c e f a ff c e a ge c ce e , effec e e g- f e d a e ex ante e a a ,

e e af e a g acc e fac a f e -f e effec e d be e ce a . T e ef e, e be e a e e d be e e a a e e be ef c a effec e a e e e g- f e. F e , beca e f e ea - e b a e b ed b e a f e g ac , e d e ec e e be e a ca

de -e ed a e c e a g . T e de a g ca g g e a b e.

T e b f e e a de f e a e de ed a c a g a d a e g a e f e a ce e c a a e ab e c de a ead e f a g ca g

g e : e ca , a g ca a d dec - e e c.

3. T a ab b

O e e c e f c a a a a a e f e ca fac , a e e g a ge c a f ca e , e a a ge e g e de a g ca g g e e.

S

L

H e e , e ce a d b . O e g e a e e a b e g f ca f e ce e g- e f e: e a , f e a e, e

ag de f e effec f e ac ( a e-d ffe e ce e ) deca e f e f ac , a d ff c e fa a fac e - e effec e d d a e e

a - e eg a V. Ca the washing-out h pothesis . We e e ega d a e 10 e b ec a g ca g g e .

We ag ee a e a g- e e f e dec c e : a c a , f a e a e a dec c e , c a a dec ab e e c c e f ge . H e e , e c a a a fa e f a dec a , a d

a c a f S a . If S a ec f ca g f e effec d a , e c a e ca f d e.

I a a be , b S a ca e e e a fa a a a a : a a e f affa c S a d e g e e ( a , e ee e

e e ba acc def e ). O a g e a e e f c a a ( b e a a , BAU ) a , a g c c

de e de e c ce f a .

T a g e f a g ca g g e , e c a , ff ce e ab a e e e a ea e e a e f a a a ab e S a e e a fa -f e e ec ed a e ( e a e BAU) g f ca g ea e a e be a a ab e - e e ec ed a e (aga , e a e BAU).

T c a ff ce g d a a g e f a g ca g g e . T ee ff ce , e ea a f .

Le SR* be e e effec e a e be . T e e a e ca e c de : SR* a c a ed e a b e f g- -be , .

I e f ca e, a g ca g g e f a a . I fa e ca e a SR* e f a e a be . If SR* e a be , e e e a be

be e a be e a SR* e g- f e. B a ca e, be e a b e f a a e e a g- be . S a g ca g

g e e.

C de e ec d ca e. N e a acc d g e be e a e c e, e g e a a ab e g- e e e a b b gge , b b gge b a de

f ag de e, a e g e a a ab e - e e ( e a e BAU). I a ca e, e a e a -be a e a ea 9/10 f e g- a e ( e a e BAU) a e g- -be a ( e e e e a f e

- e e ff ce e de e e be e a , de e be g fa -f e- b a ; e a e e e, a ee a b e, a e f e

de c de a g f ca e detrimental, e a e BAU, e e ). T

10 I a e e d g be ee ex ante a d ex post e f e a g- c a . T e e e ce a fa e. T e ea f fa a f e ca e a e c e e e : e e

a ac ( c a dec ab e e a d e c e ad) a e (f a ce) de -affec g c e e ce , a d e ef e ex post e a e effec e e g- e f e a

a e a ce a e g e ac - e effec (M e 1903 93, S a 1973:33, Pa f 1984:351, G ea e 2016). H e e , e ex ante e a e e a e a g e f a e .

e ab e a e e a -be c a ed a a b e f e e a e effec e e g- e f e a e be . (T e a b e : e e e fa -f e e e , e a e BAU, a ea 9/10 a f e be a a ab e fa -f e

e e .) T a , e ab e a g ca g g e .

O e a g a , e , a e e d e deed e a ea e a a ab e S a e e a fa -f e e ec ed a e ( e BAU) g f ca

g ea e a e be a a ab e - e e ec ed a e (aga e a e BAU). T a e a f e e a de f ec . We ceed b c de g e e a b e

e a e , ee ca eg e : eed g g e , ga g e c , a d ee g a d a be e a e a a e a ac a e c e a d e a ea f

e c .

F e e a de f ec , e temporaril a e b a a a a a a e f a g , a d e ec ed e f e ea e f ce a . We 11

f e a e e a e ec a e -be g, a e ex ante a e f a e c e d g e ec ed a e fa e ( a e a e e ec a a e f a

ea a f a f a e fa e). T , e e , a f e ega ce f e . I ec 4, e a g e a a b e a f de a g f e e a a e e de e e a g e .

3.1 A a C d f a e fa e a e bee ge g g e e be e e e: e da e a be e g c d a e f e S e Age f ed e a e . M e c c e e a d ece , GDP e ca a g g e e a (B e a 2018); fe a a e c ea g (R e 2019a); a d a c ea g f e d e a de c ac (R e 2019b).

T gge a f e e a e ac e c d a e a d b g a c f g e f a d e, e e b a a a , c d a e g- a g be ef c a effec . S e, f a ce, e b g ab a e g e e e a d e e a e bee ea ed 2030 ead ea ed 2029 ( a , b a e g e ad e f e be ef c a e ec g ), a d a g e e c e f a a

d a e f e e ad bee eac ed e ea a e . T e , f a g a e g e c e e a a e e, e e g a e e f e e be a e b

be e ff a e d a e bee e e e . I c e, e e a be ef a eac f a e be f f e e c d add a e a ge agg ega e be ef .

J c f a e e a de e d , e e , e a e f e g e c e. I a d c e e- e de , e be ef f ad a c g g e b e e

11 T e f a c e , b ge a , e e f a e ade ec 2.3.

e d (a g a a e e d f , e e eb ge e add a e e d e e e d a e ) e a e d a f a e d ed b e d ffe e ce be ee

e a f a e a a e c a ed e f a d a e d . T e ef e, f a e e e e a ea ff a a e a e de e e , e e ga f ad a c g

g e a e c e d g de . S a , f a e e e e e a e a e e e g e a a f da , e e ga f ad a c g g e a e

c e d g e .

W c f e e ce a de c be ac a a ? If e a e e c e a e a a e be f e e e ce e a f ed, a d a e ca ac e f

e be g a e a , e ad a c g ec g ca e a e e a ge g- effec . We d e ec ec c g , a e e ea e e -be g a ead , a ea a e e e fe a d ea . I a ca e, e a e e

f ce a , a d e be ef f ad a c g g e a e e a e de . If, e e , e a e f e f e, e ce , c g e e fa f e a

da e e beca e e a e ce c a ge (d e ace e e e e e) beca e e f f e a ce e e de f e e e ca ab e f c

g e e e f e -be g, b e e ca e f ad a c g g e g f ca ge . F e a e, b g ea e be e e e f e M Wa , f a

e e d f c a e e a e 1017 e e g e 10 e a g d a da , e e ab g e e a ea f c a a be a e a e a e d ed

a d e e a f a e e e e f e e e a e da . 12

3.2 I a a a a He e a ab ac c e c , insofar as a a ed e ea d a e

e e ffe a ec e f de f g e effec a .

C de e ace S f a b e f e-g a ed a e e d c d be a a g e e f e ( a , e ace f a b e a a e c a e ). O e ca c e

e f e e e a a a g ace. Le a attractor state be a b e A f S e e a , g e e d a c f e e e, f e a a e a e f e

d ce e e A, e e d e a A f a e e e g e. N e a e e a e e c a ac a e , d ffe g g f ca f e a e

e f a e age g d e . S e f e a e d e a f e a e e , b fa e e e e e e f e a e e e

12 T a a g e a e , f c e, a e e e a a e d f e e f a g e e a e d before the decline of civilisation or humanit (e c.), a e a a a e f e e e af e a

e e a dec e. If, e e a d, e e e a ca e f a e c (e c.) a e e d ge , c a a a ad a c g g e b e ea e a a e a e e a dec e b e ea , e

ad a c g g e b e ea 2029 a ac f c g e a e a d e e a e bee c a ed e ea 2029.

f e eeab e f e. F a , e a e e e g e ca d a c a ge e bab a e d e d a be e . a e e f e e a ac a e . T e

a a e f e e e ce a b e def f a ac a e e effec f e e ac d a a a c .

T e e ca e e e e e a e, e ea d, a a a ab e S a a a a e e c e de c bed. We c a a e e a e.

3.3 M a a a H a e c a a ac a e par excellence . T a e e b : e c a ce f e

a ace e-e g, f e g e c , a e c e. S a , -e c ( a e e e e ) a a ac a e: e e e a e deed g a e f a e c e e , e e a ea a g e de c f a e e ce e .

T e e a ac a e a e e a e ec ed a e. I a c a , acc d g a a a a a a g , g e e e ec ed be f f e e e a d a g a

a e age e e e e d a e e f e e fa e, e a e a e c e d be a ca bad. C e d g , e e a e e e a ed c

e c e d a e e g e ec ed a e. T e e b N c B :

E e f e e e c e a e [e a e f a de ce da e e a c d a e f e d g e a e e c ], e f d a e e ec ed

f a e e a ca a e g ea e a e a e f 1016 a e . T e a e e ec ed a e f ed c g e e a b a e e e f e

e ce age a ea a d ed e e a e f a a e O e g c e e a g e a e e e e ed c f e e a a a

e ec ed a e g ea e a a f e def e f a d a g d, c a e d ec be ef f a g 1 b e . (B 2013:18)

A a e ca a e f fac , a c ea g ec g ed, e e a e g e ( S a ) c d d a d ed ce e c a ce f e a e a e c b a - eg g b e a . A a e , e c -effec e e f e c e e c a e e fa ab , b a a a g , a f e be a f g e .

F a ce, Ma e (2007) ca c a e a a b dge f $20 b e c d, e ec a , a e 8 b fe- ea a f e e e defe ce e aga e

b f a a a e d c d g Ea , g g a e ec ed c f $2.50 e fe- ea a ed. I add , f g e ba ed e c -effec e e f a e d defe ce e e a a e e e e e b d e c -effec e e f a a e d ec ed

eff ga e e c : g e a e e a e e e c -effec e e ga e e e c ea , a c a f e e g g ec g e

c a a f c a e ge ce a d e c b g . I add , Ma e e a e e e e e c e a e a ab e f e f e a ace. 13

F a , e e e a e a e c e . T e c c a c a a e a e a e c d be a ca bad, e e , e a e f ag e

a a a g ea ab a b e e a a e e .

T ee d e f a a a e e e a . F , e -affec g a ac e a e c e d ega d e a e e c a be g f de bad e , b a

e a , a d e e ( f e e e a c a e e a e ) b a a g d g (T a , a c ). Sec d , e g a e a a e b a e ca e g ega e e fa e e g a e e fa e -f - (A e a d B 1995, c a e 3); g e de e e ec ed a e f c ed

a a e c ea , a d e ef e aga e c c a e c d be a ca bad. T d , e e a a a a e , e e e c e f ea ab e d ag ee e ab e e e a e age e -be g e e e f e e

(A a a d G , 2018).

Beca e f f ag , a e e e ec f g e ex ante a e f e g f e c d a a , a g de ca e f ga g

e c .

3.4 I a - a a a E c e d a d b e a e f a a e- e e a a ac a e e

bab e ca f e ce, b fa f e e. He e a e e e e a e .

F , c a e c a ge c d a e def e ac e f e f c a . A ff c e a e c a e c d e a e g- g a e (P d c 2013, S e 2006), a g f e c a e def e ; c d ea a e a e ca e

f e a a a ge a a a (A a 2014); c d ca e ec e ab e ec e e , c a ec e e c a d de c f c a eef (IPCC 2014,

.1052-54). , S a c d ac ga e c a e c a ge. F e a e, e c d e 14 15

e e ce e C a f Ra f e Na e C ea A Ta F ce (Ha ead 2018) de e ed e ca eff ed ce ca b e , e c d f d e ea c c ea e e g , e c d e e e ce ga e g a - f

c a e c a ge ga a d a e g ac b g e e a g e c e d a ca ce e .

13 S a , M e a d S de -Bea e (2017) ca c a e e c f e e a a ed ce e c f b ec g be e a ge f $0.10-$100 e fe- ea a ed.

14 T e b f ab a d e e c a e c a ge d c ed b A e e a . (2003). 15 W e e a e a e f a a ac a e e c e e e a e e a a e f

e e e da age f c a e c a ge a a e f e c a ged c a e be g permanentl less conducive to well-being, e e e a a e- e e a g a g f ca c a e c a ge d ece a e a c but relativel time-limited e d f ada a . T ee c ea .

Sec d, a b e a e e ce e e g be de e ed g e a a g e a ce ga a , e e a d g e e . T c d cc a a

a e f ea : c d be de e ed g ad a f e g e a a ga a e e UN; c d be ace e af e a f a d d a , a ga a e e UN e e ace af e WWII; c d c e ab beca e e

c bec e d a , g ba , g a c e , g g ea e ec c e (R d 2000; Cab e a 2010; Cab e a 2012; L 2016; Yac b 2018).

B ce c e e c ea ed, e g e def e . P ca f e c a ge a a e f c f c c e e a e . F g d

g e e , c de a d a (Ca a 2008). I e a , g e e a e a f e c a ged a a e f c a e a e . H e e , ad a c g ec g g a e a fa e e f a f e d g e e : de a d f e

e a ce ec g e c d e e ec , a d AI-c ed ce a d a e c d be c ed b e eade f e g e e , e eb e g e b f a

a c (Ca a 2008; S 2014). 16

F e , e e e a e a a e a a g e a ce ga a a d g e e g be c ed, a d e f e b e a a e g f ca e c d c e e -be g a e . (F e a e, c a a e g f e ced b e a c a e e f a fe a e e e f a e e f f a a e

e g f ca de e g e e e f e e d ad a aged c e , a d be g f ca e c d c e e a g ba e -be g. C c f f a e

f e d ec ed aga e W d T ade O ga a (P gge 2008).) A d e e a e g a S a c d d - eg g b f e ce e bab a e e d a e a e a a e e -be g c d c e e f . F a ce, e c d f d e

de e e f be e e d f ca dec - a g c a a e G d J dg e P ec e Ce e f E ec Sc e ce, e c d a a a g ga e: e ab g a 17 18

f d e e e e f e e g ca e e be ef c a d ec e e ce f d f a , e e e e da d c e e c a f d

c d be g d e.

T d, a a b e a e e ce e g de e ad a ced a f c a ge e a e ge ce, a g e e ge ce e e a a f a (B 2014 c . 1-2; M e a d B 2016; G ace e a 2018). U e a , c a f c a age

d be a : e e g a g e ece f a d a e d ea , e de g c de a de e ed e age g a d be c ab e (a d e age e d a e e e ce e ee a a c ed), a d c d e ef e

16 F ea e e e, a g ca g g e e e be e f a a dec c e (f e a e, e dec c e f a ca e- e a a g 100 1000 ea ag ) a

be e f e e dec c e . We e a de e e f e e a g ca g e e f a dec c e ; c a e e a a g ca g g e (a ea ) g a b e f e e dec c e .

17 ://g d dg e .c / 18 :// .e ec c e ce. g/

e def e (Ha 2016, .57-8). F e e, e c e d f Homo Sapiens e e Ea a b d e be g e e ge ec e ; f a a f c a age age e e ge a a e e c ea ed, e , ge e a e

d e ec e e e e g f ca c e a affa , a d e ge e a e e c d eeded f e f g f e e fe, f a g a e d e

(C a e 2010; B 2014, . ). W a d ec f e ce de e d e g a a a e e b d ed e AI e . T e g a bab be e e e

d ff c b e f a c a ge ce e AI e a a ed ac g e d, b e e a e g a S a ca d , e c ea f a c e ,

e e bab a c a AI e e b d e g a a a e e a e a e c d c e e -be g. S e c d, f e a e, f d ec ca a d c

e g e afe de e e f a f c a e ge ce a O e AI e Ce e f Sec a d E e g g Tec g . 19

L e a d c f ecede ed f e b e , d c f c e e

ec a e (a d e e e b ef e e ca e d ce e c e f e e e a e ). A c , ca e d e e a eac a c e ce f c .

H e e , g e a d ece g e b a d a e a d e e f a ce f a AI e , d be e e e e c f de be e e a e e c a ce f c

ad a ce cc g e e c e f e e ce ; e e e f e d fac a g e a b a a bab . T e e a a de c e a g d e e ead g 20

e (b a d de e AI Re ea c c ) e effec a e e a e ed a a e deed e e e , a d a c e d be d e

ga e e . 21

T e e a e e ef e a be f e e a g cc e e e ce a g a e

def e g- a g effec , a d a a e a e ab e g f ca e e f e ce g d c c ce f de e ce . We a e a e ed a e e e a e

e ec , e c a c g e face f e b e . B e a a e e ab a e e e e e g e , f e d cc , a d d ffe e e f e e e e d be a ea e a ed c ab e e a e f e effec f e c a . If e

c ea e ff c e e f age f def e fe a , e e a f e age de e e e c e f e f e. If e c ea e a d g e e , e e a e

19 O e AI ( :// e a .c /) d ec a e g b d afe a d be ef c a a f c a ge e a e ge ce. T e Ce e f Sec a d E e g g Tec g ( ://c e .ge ge .ed /) de c ad ce e US g e e e e a g e de e e f AI. 20 I a e e e f AI e ea c e , G ace e a (2018) f d, f e a e, a e ed a ( e . ea ) e a e f e be f ea f a a f ab d be ac e ed 50% bab a 100 ea ( e . 122 ea ). (I c ea ec e e a e e e e e e , e e , a

e e b a a e c e c ac a e c e e a ed e . S e e a c a e e a ed e AI d e f a a a 50% bab ; a e , e ea e e

a 45 ea .) 21 See f e a e e e e e e ea c e f b a d be ef c a a f c a e ge ce ( ://f e f fe. g/a - e - e e ) c a g ed b e e a ead g e .

https://openai.com/https://cset.georgetown.edu/https://futureoflife.org/ai-open-letter

e b d ed e c f a g e e c a f e dec - a e def e . If e e c a e c a ge c e aba ed, e e a e g d a e

ca ge bac . A d e e a e c c e e f g e ca d a a e a f e ce e e b e g- a g c a ge .

N , e a g e e a e a g a e a a a e e: a e e ec ed ac

e ca a e e g- f e g ea e a e e ec ed ac e ca a e e . I e, ge e a , a a e bab e f g a e

e a ca ead g ea e e ec ed a e a a e g bab e f de a ff : e e g de e d e be . (F a ce, a a ce c ac

a e b g.) S e e g a e might be ab e f e ce e g , a e ca d a e e e ( e ec a ), e g f a g e . B , e c a , a ea ab e e f c ede ce d a a f a ea e f e e a a , e e ec ed ac g ea e f e g- .

S e, f a ce, S a e e a 1% bab f a a a d g e e e e ce , a d a $1 b f e - a ge ed g a a ed ( a ) a dec ea g e c a ce f g ea e a , a d g e a e f edge a

a de g d c ea e e e -be g a a e age f e fe, de e d g e e , b 0.1%, a 0.1% c a ce f a effec a g e e d f

c a , a d a e ac f g a a ea a a e ea e ec e a f e d g. T e , g f g e f e ad e c e, e e ec ed

g d d e b S a c b g $10,000 g a d, b e g f a a a a g , be 100 e . I c a , f d g f Aga Ma a a F da , f e ega ded a e c -effec e e e e a ea f - e g ba ea e e ,

a e age a e e fe e $3500. 22

A e a e , c de a f c a e ge ce. S e a $1b f e - a ge ed g a c d ed ce e bab f e e a ca a e f a f c a e ge ce b 0.001%. Aga ,

f c , a e a e ac f g a a a e ea a e . T e e e ec ed g d d e b S a c b g $10,000 AI afe d be e a e , b e g f a a a g , a d e a f e ad e c e, e d ed a d e a ed.

Of c e, e e ca e e c d deba e e e be . B , e ea , a e eed a e e be one c e f ac c a e g a e a - c e c ede ce a

ac a g - eg g b e g- a g f e ce. G e e de f a b e a b c e c d a e c f e ce, d e e f e a e e ag ee c a .

22 T f g e a e f G eWe c -effec e e de f Ma c 21 2019, g e ed a e a e f c e dea a e ed (af e acc g f e e age a d f g g). T e de acce b e e e:

:// .g e e . g/ - e- / -c e a/c -effec e e /c -effec e e - de

https://www.givewell.org/how-we-work/our-criteria/cost-effectiveness/cost-effectiveness-models

3.5 A a- : F a O f e a e f a b c -effec e f - de g e e e c ea

e ec a e, a d e e a a f c c e e e e de - e ea c ed. I ec 3.3 a d 3.4, e a g ed (f e ca e f e c ga a d e a ac a e c e e ec e ) a e e de e , e e a e ec ed

c -effec e e f e be g e e e e g f ca e ceed a f e be a a ab e a f g e , a a g ca g g e e.

He e e ffe a c e e a a g e . T a e d, e e ead, f e a e f a g e , a e ea ab e c ede ce d not a g g e e ec ed c -effec e e an particular one f e ed g e e e a e d e be

- e e e , beca e f e e f e ca e f eac c e e . S e a e a c e c ede ce ag ee e e e ce c a

e ed a e e d f e eced g ec a e : e ag ee g e a given sufficient additional information , a ea e f e ed g e e e ( a e c e e a a ) d c e a e g f ca g e e ec ed a e, e a e e da ed c ede ce , a e be - e . H e e , bef e ga e g a e a f a , e ca e which g e

e e a a e .

I d e f a e c ede ce e d ec e d f d g - e e e . T a beca e S a a a a e g ca a ec d- de g e : funding research into e c -effec e e f a b e a e

f e ce e e g , c a e d c ed ab e. P ded a b e e a d a e d e e f e e f c e ea c , ec d- de

c d ea a e g e e ec ed a e ( e a e S a c e bab e ) a e be - e , ce c d d a a ca c ea e e e ec ed effec e e f f e a (aga , e a e S a c e bab e ).

F a , e e a e a e a a : a e a e d g , S a c d a e e e f a a e e. T a , e c d e a f da a d -ad ed f d, a c a e g e . T f d d a

e e e e e c e a e e e e e ac e c d a e a , e ec a , ff c e affec e a e f e e g- f e. T e e c de a a e ba f e ca b ec a g e ee

e g . N d eed be e ca e a , f a e ( ) f ac a a ab e a ac e S a , f e f e d e a e - eg g b e c ede ce

a e ca e affec e e ec ed a e f e g- f e b a - eg g b e a . I d a eed be e ca e a e d be a ce a a e e be c ac e f e, a d a e e a e f d c e g a c ac g f e e ea c . T c e a f c d ee g e .

4. A a a - b

O d c ab e a c d c ed e a f ( ) a a a a a g a d ( ) a e ec ed- a e a ac ex ante e a a de ce a . B f e e a a e a ea e a c e a . T e e e ec e a e e e e

c a g e d be de ed b a a f de a g f e a . B ad , e be a e ca e f g g e e b

a b e de a f e e a g a g ca a d dec - e e c a .

4.1 P a a O e f e ca eg e f g e e e e d c ed ec 3 a a f

ga g e c . A e ed e e, e a g e e ga e f e c a a ga g e c a g e e g- e ec ed a e ( e a e BAU) a e

be a a ab e - e e (aga e BAU) e ed e e a a c e a e f a a a . Ma a g e ag ee a e a e e c

astronomicall bad, a e a e ed f a a g e g g . I a c a , e -affec g a ac e a e c e d e a c a . 23

Acc d g e f a e -affec g a ac , e a , e a e e c e f a e a : f a g e e a e e c , e e e d e fac e

a e e ff a a e f a e c , a d (acc d g e e -affec g e ) ff ce e ab a e e g a e f affa e.

E c ga a e ef e bea e be - e onl c d a a a a a g . 24

H e e , e e f g- f e ce e d c ed ( ec 3.4) a e a e e a e age f e e -be g, c d a a not g g e a e e c .

W e e ec e be a a e e e a de e d e ec e c ce f a g (a d e e c c c gge ed be f a e a g e ), a a b e

23 A ecd a a d ec e , e -affec g a ac e ee be e a fa f a e a e a a a , a g d ff c f a e a c e e e -affec g e fa g ab d (G ea e 2017b). F a e ce e e a f a e -affec g a ac d a d e e f e c ee T a ( a c ). S a e a e e a e a e

e b e e f agged ec 3.2, . e a e c e g g f ega e e e e fa e, a d e e a e e e e f e -be g ff c e g e a e a e age f e e -be g a e

e a e e c (a ea ) a ca bad. 24 I ed a e c ea ec e a a e -affec g a ac a ab e a e f e c

ga , ce e a f a f e e e d ec f e e e dea , a d ed a e c ea e e d e ca e a d e . T a ( a c ) f a e a

be f b e .

a g ag ee a a a ab e g a . T e ef e, e b f a g e 25

b a b e a a a a g .

4.2 R a a O e b f c a be ee e a ad g e a e f e e a a e g

- e e ec ed a e ( ) a d e a (a g ab ) a e g fa -f e e ec ed ST a e ( ) a e f e e d e g bab e f e a e de e fa e LT c ea e , e ea e a e e d e a bab e f e e fa e c ea e . O e g e ec , e , a a e e ec e fa e d

fa - e e fa -f e e fa e e e .

T e e a e ( e g) b ec e e a a e a -a e e f c f e fa e. B e e e e e e a de. T e e a f e e e a e:

(1) I c e c c a d g be ee e e f a e e ec e fa e , e f c a a c a ce f fa g - e e

g- e e fa e e e .

(2) E e a e e f a e e ec e fa e , de de e g g e e d eed fa e e e a e . E e f a e a e f e ea ab e, a g ab ea ab e be a

a e e a d be e ed.

We e ab a e e e .

F , e d g be ee e e f a e e ec e fa e . 26

T e a da d e e a e e ec a e fa e e f ( a , NM a e a c ca e f c f a e fa e, ). B a e a e e e d increase e

a ce f a d g c e e fa e a ( c a ea -f e e c ), e a e e a ce f c ea g e fa e f a a ead c g e ba e e (a e ca e f d b g bed e a d c e c e fa e f e).

A e d ffe e ca e a e e ec e difference made b one s intervention . ( NM a e a c ca e f c f .) T d f a e d e w

deed e d fa ac g - e d - be ef e a e e fa -f e e fa e. H e e , e d e a a a e e f

25 S -ca ed a e -affec g a ac e d ag ee, ce e ega d a e f affa a c a ab e e e e e a e f affa a e - de ca a (He d 1988). H e e , f

e ea , c a ac e a e a b e: fa c c a ab . F ea , e -affec g e e e e efe a de a ac . W e c a g d ffe e ed a , a de e -affec g a ac ca a e a e a a b e f e a ge a ,

a d c a e e -be g e -b - e acc d g a a g (Bade MS, Meac a 2012, Te 2012, R 2015). T e f e e d ag ee a ge e a a g e e -be g f f e e e a ab e, e e f d e a a a d e e e e e de e f f e e .

26 He e e d c ( ) e f a e a a e c a b e e ec ed e . De a f e ec ed e , c d g - e g ed e ec ed e , a e d c ed ec 4.4.

a e . F e , e e f a e e ec a e fa e acce ab e, ee a a e f a a c age be a e e ec d e e (S de 2015). 27

Sec d, a e be d c ec 3 gge ed, f a g ca g g e e a a , e e be e b a large margin. T a , ee e

a ( f g g e e a a ) e e e a be b g e g e e a b be e , b a ea a de f ag de be e , a e a be b

e - e g (a c a ed BAU). If , e a e ( e ec e d ffe e ce e a e e e f) b g e e g e e a e ec ed e fa e e e a d e e g e - e e fa e e e closer

together e f e ec ed a e, e a e e e deg ee f a e d ac a reverse the ranking f e e a e a e .

4.3 N -a a O e c b ec a a e e de d a e e a a e a ea f c f a e fa e together with a a g c e e a acc f a e

a a a e a a e fa e e a de e be ef ge be f e e e e e a de e a e a ge be ef a a be

f e e ( e a a g e e ). A g ab , f a ce, a a e fa g g a e e e a g e e fe, ega d e f b g .

T ca e , a e ca e a e a e c a -agg ega e , acc d g c , e a ge be ef a e a e a a e, ff c e a be ef a e c f nothing at all f a a f e . (Sca 1998:235 , F c 2015, V e e 2014.) I e ab e e a e, c a e d deed e d d a e g a e a fe a e a de e e e a a b a a ge be f c .

Ha a d be ef e e ca be de d e e a ex post a ex ante e e, ead g ex post a d ex ante e f -agg ega . T d c a e d ffe e ce

e ab e e a e ( e c a a be ef b e ex ante a d e ex post e e). H e e , e ca e , ex post a d ex ante -agg ega a c e a a . F a ce, a c ce be ee a g A ce fe f ce a a d d g a

- c e e dec de c f e e e a e, ex post -agg ega d f d g c e be ee e a e a e . B ex ante -agg ega d fa a g A ce, ce e ex ante e ec ed be ef eac f

e e e e e a f d a e .

A f g , ee a ex ante -agg ega g de e e a g e f a g ca g g e . T aga beca e e a c ca g e

e e de e g e ec ed a e a a ver small probabilit of a g f ca 27 T e e b ec a e e ga ed a g ea e e g G ea e , MacA , a d M ge e ( a c ).

be ef eac f a e a ge be f ( b e) f e e . I fa a e 28

g d - e - a ed e e ead e ex ante c a ge be ef a ea e f e be ef c a e , ex ante -agg ega e ef e e d fa

e e e e g e e e . 29

H e e , a a a g e aga a g ca g g e f -agg ega e f a a g ca e . B fac , e e a e e b ac e

e e g -agg ega a g ca e : -agg ega e ge e a e c c e , a d e e a de ead c e ( pace Te (2012)) a axiolog ca e b c c e (B e 2004 .50-63; V e e 2013). T e a e a e c

-agg ega e ef e e d e e e e e e e e de g ca , a e a a g ca , e (V e e 2014). (Ma -c e e a e e d

a ca e a e g c e a e a e a c c c; ee f e a e (Ka 1996, c a e 12, e . .339-44).) I e ab e e a e, e , one ought to

a e A ce a e a c e b e c f e e e e e a e, b a beca e e c e f d g ( a g e e ab e f e ac )

- a better ; fac e a a ab e c e a e e a g d. We c c de a e a b e -agg ega e d g de e a g ca g g e . (We e e ca f de c g

g e ec 5.)

4.4. G a b ba

A e a a e e f b ec a a a ea a g e c ea e a be g e a a ab e, a e e ff ff f e e e a e. A e ed ea e ( ec 3.1), ge e a ea g e -be g a ed b a a e e. C g

e e e d e f e, e d e a e ec e e e f e be fa be e ff a e a e da . G e a ff c e a ge e g g f be ef e e- ff

c a ed be ef e be e - ff, e d e ef e be e e a e be ac

28 T e e e f e de e f f e e a e affec ed b e e e e . A f e c ca a ge e a , c e e ( e a ac ) ead a ge- ca e c a ge e de e f fa -f e e e. T e e a e a , e e a d ffe g, a a -agg ega g c e ea

- de ca e , b f a g c ca c ea e e e e c -agg ega de e g- e .

29 We e a g a e - e e e a e e fea e a e de e a e a e a e be ef a e a ge be f e e. Bed e d b g be e c e e , ce for an given potential bednet recipient, e c a ce a a c ea e bed e d b e d a g a e

fe e e e a a g e fe a ed f a d ed f bed e d b ed. H e e , a - e e e a e fea e. F e a e, a g a f d ec ca a fe ( ff c e e- de f ed be ef c a e ) a e e fea e e . Ex ante -agg ega

d e ef e ead a b a a f a a g - e e e , add fa g e e -be - e e e e g e e .

a a ab e a e e e be effec e - ff e e. T e e, e b ec c e , a e e e e e e e a e da .

T e e a e b e b ec . F , c ea a f e e e be be e - ff a e e e e e da . T e e a e a ea e possibilities a f e e e be e e e ff f e a e, beca e f e ad e e f e ce f c a e c a ge, a g ed a f c a ge e a e e ge ce, d a b a e e e g ba ca eg e. I add , a f e c e de f g e e e

a e d c ed ab e a e ec e a ed a g e g f e e e bad ff b e f e e e, ed c g e c a ce a e a e e b e a ed

f g e . 30

T e ec d b e e b ec a g e e a ge a g b c ( e a e gge ed) g e e e de e a ge e e agg ega e e fa e a

a c e e e , e a e e e e g g ee e ead e e e . E e f e deg ee f a a a b e, e

deg ee e ed g be e e e be a b e b a ea ab e g .

4.5. D - b Ab e, e a ed a e c ec a e a a e ex ante a g ca e ,

de c d f ce a , e f e ec ed a e. T e d acc f a a dec - a g de c d f ce a . H e e , e e a e a acc .

We e ef e c de e e a a b e a e a e acc e d de e e a g e f a g ca g g e .

We b ef f ag e a acc a e ( a e ) c de a b e. T e acc acc d g c a ea de c d f K g a ce a a ,

e e e e b ec e g da ce a c bab d b e b e c e a e a a e a a e e be ex ante e e e c e ea bad. We a e c ced b e a b ec a acc .

H e e , f e e e , e e a a a a ca e supports , a e a de g, a g ca g g e . T e ea a e

c e , f a , a e e c e a a f e g- f e f g ega e a e ( , a be , a e e e e e a e). T e ef e,

acc d g a , e c de a a e e a e a e a g ca e a a e a da ce f e e g- e ca a c c e .

A ec d a a ac - e g ed e ec ed e . T e d f a e a e e e ac g g e ec e e a e a a e

30 A e a e a ed a g e ade b F e bae a d Z be (2015) aga e c a a e ec ed g f c f e a g d c a e f e g d .

e f a e d c ed ab e ( ec 4.2) d e ; e e ea a d c e e.

F a , g ee a f g a a b g a e d de e e ca e f g g e . I c e a g e e d c ed ec 3, e f - de

a a e a a e e a a c ede ce a e g e e e ( a ) ed ce e c , ed ce e c a ce f a g ba c f c , c ea e e afe f a f c a e ge ce, a d , d ead a a ge e a ff e g . T e 31

g a g ab a a hard. T e e e e da a g de c ede ce ; e a a c f ab e fee g f c g be , f e e f g d g

a dec , e a a b a . T a , c e e ge e a e g f ca a b g . H e e , ef ec , a e e e a ge e a e

g f ca a b g , ce e c ea a g be e g c e e ce f ( a ) bed e d b (G ea e , 2016). I add , e aga face e e f e e e

d be a b g a e e e ec e a e f e d, ead e ec e d ffe e ce e a e e e f a a e. We e e e e e a e a ed a e

(G ea e , MacA a d M ge e , a c ).

5. T

S fa , e a e d c ed e dec c e f a ca e- e a a . T fea e f dec c e a e e a a c a e e a . Beca e f ca e- e a , e

a e e f g g e fa a ce ed c -ca e c a (f a ce, e e S a c d d e g d, e ec a , b f c g AI afe ead a a a e e ). I add , c a fa a e bee f d ffe e

a e d e , a e a f e d f ac .

H e e , e e f e e fea e ee e be e e a e a g e . I fa a a g ca g g e e f S a dec c e , ee e be e a f a fa de a e f e dec c e .

T ee a ca e- e a e e a g g e , e a S e a a c g a a e c a g de g g a . T e g a , A a d 32

B, d e a e d ffe e c e ( e ec e , a d ). S e a e ca de a g ea e be f c d e e d a e c a c ( a , beca e f g ea e a de ). T , e short-term c -effec e e f g a A

g e a a f g a B: e d a e , e add a c d- ea d be e c , a d . H e e , e be ef f de g a e f - e

c a ac e : e e a e a effec a e fe c e , a d e eb ( e ab )

31 M e ec e : a e a a c ede ce d b e e ec f b e e f e a ff f c a e e .

32 De g f e ega ded a e f e c -effec e e f e e e f e d f g ba ea ( ee e.g. (G eWe , 2018)).

a e -ge e a c e . F a f e e c - effec , e ag de f e effec de e d c - ec f c fea e , c a e bac g d a e f ec c g e c e . S e e a c e a d a e d ffe e a e f ec c g , a e be ef f de g a c d c c d e e e a d e be ef f de g a c d c . T e c d ea be e ca e a a e d g e ge - e be ef f de g e e e e c a a e c -effec e e e a e f A . B a e d eac ba ed c de a f

- e be ef a e. G a ed, a c a e a e e e ca e f decade a e a e a. H e e , a f c ; ee e a a

a a e ge e ca e (b e de a f e e ec ed ge - e be ef bec g b a a e c ca ed a ge e ca e).

T ee a a e e a g g e , e a Ada a g g ad a e c g ca ee a . He ca c e a e e a a de e e ec ,

a a AI afe e ea c e . W e e e a e d ffe e ce be ee Ada dec c e a d S a , e e a e a a a e . I a c a , e c de a a

g a e be e ( e ec a ) f S a f d AI afe a e a de e g d e ed c a g a e be e ( e ec a ) f Ada a a

a AI afe e ea c e a e a a a de e e ec .

6. D

Le e e dec c e f a a ca e- e a a ea e ed e e a e a ge f a a ab e e e c ed a ca e a ea

( e e her aim c de ca e- e a ). I ec 2.1, e d g ed be ee a g ca g g e a d de c g

g e . Reca :

A a (AL): I a de c a f dec a , e a ex ante be c a ed a fa a b e f e ex

ante effec e e g- f e a e be . D (DL): I a de c a f dec a , e

e g , e a e, c e c a ed a fa a b e f e ex ante effec e e g- f e a e be .

S fa , d c a f c ed e c e e ca e f a g ca g g e . T ff ce f e a a f S a dec c e , ce (b

a ) her aim a a e e g d. G e a a , e a a a e e S a e ec e g- e be ef c a , f a g ca

g g e e.

H e e , e dec c e , c d a e a (b e g f a -c e e a a e ) de c g g e fa e, e e f a g ca

g g e e. M e e a , ee c d a e f e e a age - e e a e ga e c a e e a b ga c e a g e

, e g d a a e b e e a f e ace g f ca g e a e e - e . I ee g e d ca ? 33

A a g e f de c g g e c d be e e d ec (g g a a g ca g g e en route a de c g e c c ), d ec . We e

a a g e f e d ec e. T e e ga f e e e e a d d ec a g e f de c g g e be d e c e f a e .

T e d ec a g e e e the stakes-sensitivit argument : (P1) I dec c e C, e a a e be f e e g- f e a e enormousl be e e a , e a g ca e , a e e e a a e

e be f e . (Large-margin axiological strong longtermism)

(P2) W e e a g ca a e a e e g , -c e e a c a a d e ga e e d be e g ed, a a e g d c e e

be .

(C) I C, e g efe e a a e be f e g- f e e e a a e be f e .

(P1) g e a be d a g ca g g e a e a e f a ed e a e . H e e , de e d g e ac c a e e a b e e f be f

e a e , (P1) a g ab ed b e a e e a e a e a e ed a g ca g g e ( ec 3). I e c e f e e a e , eca , e

gge ed a a c a g e e e a b ge e a ed X e a c g d ( e a e b e a a ) a e be a a ab e - e g d.

(P2) de e e e d c . Ca -c e e a e a e d e P2 stakes-sensitive non-consequentialism . ((P2) f c e a e acc d g c e e a .)

T a e -c e e a e d be a e - e e e a b e, e . T e ac f a e - e a c b ec Ka ' e a a e e f a f e d' fe de e d , e d e a e (Ka , 1996). Nage (1978) b e e a

b c a e d be e c e e a c a ac e a a e a ; e a a a a e a a f ( g e e e a ed b Nage e f) a

b c c e ( c a g e e a c dec ), e a g ca a e e d be g e .

33 S a c de a a e e f c a , b e ga e a e e e a e de a e f c e e a e e e c e .

F e , e e ge c a a e a e, a g ca c de a e g -c e e a c de a (a ea f e f g g a a ). C de , f

e a e, e a e d a e e ec e d ac f e ed B a d g W d Wa II. I e e a , a a , a e a

b ga ed a e g f ca ac f ce f e g ea e g d a d a be e ed, c a b g fa e f ga , e a a g e e f f e fa , a d a g g f ca e fe a d beca e e a g ca a e a e g .

We f e ee f e f e a ce (P2).

F , e c d e ec e dea f e g d a ge e (T 2008). O e , e e c g a a g . I c ea a a g e d be e e a

e d c e . B c e a e e b e , c a e a e fac a , ca e e e e e a ge a a a e, c a d g a e, d a

e ga e ge e dde . I ee e a a c e a a e a c c e e a e d a , a a a g e .

Sec d, e g acce a e a e c d be e g ed b a g ca c de a , b c a a , f dec - a e a e da , e a e a e g e g . H e e ,

g e ca e , e f d a b e. We a g ed ab e a e a e e a e e e e a ge: a , e e de e c e a e a , b d a g

a f e c e, a dd e-c a e be f a aff e c c d d a c g d a a g f e . I d be e (a d c c e e ) f a e a ge e e ab e e g e e a e ga e e d ca e a a e ec a

fa ed b e e a f e .

T d, e g d a e e ga e a e ab e: e ca be e dde , a e a e c e e ce . Ab e e d be e a b e, a d a e fe

ad e e . (I e ca e f c a a ed e ga e , f a ce, fe e e a e Ka e a e e e a ce fe de e d , e d e a e e e a e d g de e .) H e e , f e , e e f e -c e e a

ab e ec e e ga e , a g e e g g f dec a . T beca e, f dec - a e , e ca e f g

g e d e e a ea d e e e e e ce f e a d a de a d g . Pe a , a e g ea e a e , e e e e ed g e

e fe, a f e c d, a d e a e e e e ed ed ce e e f f a We e a da d f g a a a ce f $2 e da . B , f e a a f dec - a e , e a a f dec - a , e e be e c ce a

a d. I ead, e c ce be e e c ca ee a , e e a e f ga , e e d a e a ec f ed a f - ece a c e, de

e f e ce e g- f e. E e f e a e c ab ab e ac f ce , e a b e be ab ab e e c a a e f ac f ce (MacA , M ge e , a d O d 2018).

F a , a d a b , e g d a e f a g ca c de a a e e e a de e g a e g d , a d a ce e a e d c e c e f a g e fa e . We d c a c e c d e dea e ec a g e .

F , e g a e a -agg ega e , a d a c a a e a be ef a e e e a de e g a e g d . T e e f g a e d c ed ec 4.3 ab e, ea ea g e e e ace.

Sec d, e g a a g ca c de a ca e g -c e e a c de a e (a e e; cf. ec 4.1) e a g ca

c de a e a e g e de e f c e e e ce.

H e e , b e f e e a e g f ca b e , a e d e c .

Le f c de e -agg ega e e. C de e e a e f e e a e B a d g WWII, a d c de g e e f g ; c de e e

deba g e e e e c ge e a e ec ; e e dec d g e e a a ca e ; e e ed c g e ca b

f . I eac ca e, e ex ante be ef a a c a e e a e . B a ea e c ca e , c ea a e e e b ga ed de a e e e e a ac . 34

Sec d, c de e - de e e. C a e c a ge aga e e a a ef e a e. I c ea a g e e (a ea ) g a e g f ca ac f g c a e c a ge. B a c de g ed ga e c a e c a ge affec e de e f e

a e c e. T e ef e, e - de e e d e e e ec g e dea a e g e e e e de a b ga a e g f ca ac f g c a e c a ge.

T a c ea g.

I ge e a , ee a e c - e e e e e a e a e d ca e ab e g- e f e a g f ca deg ee, b a e e g deg ee. B e e a g e a d e a e ca , b a e c f e g

a e a e e e a never b ga ed e e a e g- f e g e e . We f d ca be a g ea e ec e e e . We e e a e e

e f ec e e e e g a d e e a b e c ; e e a a ade ac c a a e d e , a d a a e e

e e a e de d , e a e e a e e e de P2 e f e e f a g e .

34 I add , e a be ef e e d c ea e a a d be ee a e a a c e g d , a d a e a d d a g d . T g a d d a ac g a e a e a ac e

g- f e, a a c e e c d c ec e a e a g f ca f e ce. T e e d e e a be ef e e d e ef e a e c a a , g a a c e e g f c g e

g- f e, e f a d d a c e f a c e . F e d c f e ge e a e e f c eac - e d e a , ee (Pa f 1984, .91-2). Te (2012, .85-95) d c e c

d e a ec f ca e c e f -agg ega a e .

T e de c g e c a deed g. H e e , e b a beca e f g e ca fac ( a e e ee e f e f e a d e fac a e ca ,

e ec a , a e ac g f ca e ), a e a e b e e de g a e a .

7. S a a

G e e e f e f e a d e a a a c e e ce a e e a , bec e a ea a b e a e be a e ge e a be beca e f e effec

e c e f e e g- f e, a d beca e f e e ed a e effec . T a e a f a ed a d d c ed a e a g ca g g e a ed a

ca g a g .

A g ca g g e d be fa e a d a ad ff c e ea ca a c ec be ee e ea a d e d a f e, a a ac ab e

g f ca f e ce e c e f e e g- f e. H e e , e a e a g ed, b add c g e e a e a e , a e dec c e e f d e e da (a ea ) d e a e fea e.

We e e ed ce a ca e e f ( ) a a a a a g a d ( ) a e ec ed ea e f dec - a g de ce a . H e e , e a g ed ( ec 4)

a a b e de a f e e b f e e e e d de e e c e a g e .

T a e a f c ed e dec c e f a ca e- e a a . H e e , e a a g ed a fa a g g e (a g ca de c) e f

a dec c e , a a b e f dec c e a d e ca e- e a , a d f dec c e a e e d ( a ) e a e a

e .

I add a g ca g g e , e a e a e e ed e c e a de c e : g , a f e e a d e what one ought to do de e ed

a b c de a f effec e e g- e f e. We a g ed a e c de c g e c a f e be e, e g d a (1) a g ca g g e e b a large margin, a d (2) a a b e -c e e a e a

be e e e a g ca a e , bec g e c e e a a e a g ca a e ge g e .

R

Da Ace g (2009). Introduction to Modern Economic Growth. P ce : P ce U e P e .

F ed C. Ada (2008). L g-Te A ca P ce e . I N c B a d M a C c (ed .) Global Catastrophic Risks. O f d: O f d U e P e .

F ed C. Ada & G. La g (1997). A d g e e: e g- e fa e a d e f a ca b ec . Re e f M de P c , 69(2), 337 72.

F ed C. Ada & G. La g (1999). T e F e Age f e U e e: I de e P c f E e . F ee P e .

R. B. A e , J. Ma e, W. D. N d a , J. T. O e ec , D. M. Pe ee , R. A. P e e J ., R. T. P e e be , P. B. R e , T. F. S c e , L. D. Ta e , J. M. Wa ace (2003). Ab C a e C a ge. Science 299:2005 2010.

Da d A a a d L a G (2018). Red c g R f A ca S ffe g: A Neg ec ed P . Foundational Research Institute. A a ab e a :

://f da a - e ea c . g/ ed c g- - f-a ca - ffe g-a- eg ec ed- /

Ma c a A ge (1993). T e d c a d b e age . Journal of Kenned Institute of Ethics 3:279 286.

M afa M. A a (2014). C a e c a ge a d e e g e e a e : d e a e ? Frontiers in Environmental Science 2(45).

G af A e a d K e B (1995). I e e a C e a a d M a D e F e Ge e a : M a A ec f E e g U e. Uppsala Prints and Preprints in Philosoph 21, U a a U e e .

Ra f Bade ( a c ) Ne a a d c d a g d e .

N c Bec ead (2013). On the Overwhelming Importance of Shaping the Far Future. P D e , R ge U e .

J a B , R be I aa , He a de J g a d Ja L e a Za de (2018). Reba g Madd : e c e c a a d e a e f g- ec c

de e e . Maddison Project Working paper 10 N c B (2003). A ca Wa e: T e O C f De a ed Tec g ca

De e e . Utilitas 15(3):308 314. N c B (2013). E e a R P e e a G ba P . Global Polic

4(1):15 31.

N c B (2014). Superintelligence: Path, Dangers, Strategies. O f d: O f d U e P e .

R c a d B a d (1959). Ethical Theor . E g e d C ff , N.J.: P e ce-Ha . J B e (2004). Weighing Lives . OUP. J B e (2008). T e e c f c a e c a ge. Scientific American 298:96-102. Da W. B c (2003). Se a a e e e a d d ec be ef . Cost Effectiveness and

Resource Allocation 1(4). K e B (2011). H D W g K g a d Ge A a I . I Neither/Nor.

Philosophical Papers Dedicated to Erik Carlson on the Occasion of His Fiftieth Birthda , 31 47. U a a P ca S d e 58. U a a: De a e f P , U a a U e

L Cab e a (2010). W d g e e : Re e ed deba e, e e c a e ge . European Journal of International Relations 16(3) 511 530.

L Cab e a (ed.) (2012). Global Governance, Global Government: Institutional Visions for an Evolving World S stem . A ba : S a e U e f Ne Y P e .

B a Ca a (2008). T e a a a ea . I N c B a d M a C c (ed .) Global Catastrophic Risks. O f d: O f d U e P e .

Ge a d Ceba e a (2015). Acce e a ed de a d ced ec e e : E e g e a e c . Science Advances 1(5).

Da d J. C a e (2010). T e S g a : A P ca A a . Journal of Consciousness Studies 17(9 10):7 65

D eg C , W a Ea e , a d E c G g (2010). Wa e Wea f Na De e ed 1000BC? American Economic Journal: Macroeconomics 2:65 97.

T e C e (1992). C e e a e a e a e f e ge e a a d c . I P. La e & J. S. F (ed .), Justice between age groups and generations . Ya e U e P e .

Pa a Da g a (2008). D c g c a e c a ge. Journal of risk and uncertaint 37:141 169.

Da e D e (2012). Ob ec e M a , S b ec e M a a d e E a a Q e . Journal of Ethics and Social Philosoph 6(3):1 24.

M A. D , Ma F ee a , Be G a d F Ne e. (2018). D c g D e a g ed. American Economic Journal: Economic Polic 10:109-134. 10.1257/ .20160240.

A.C. E g (1948). The Definition of Good. L d : R edge & Kega Pa . Ma c F e bae a d S e a e Z be (2013). C a e P c e De e e a Nega e D c

Ra e. Chicago Journal of International Law 13(2) S a e F ede c , Ge ge L e e e , a d Ted O'D g e (2002). T e D c g a d

T e P efe e ce: A C ca Re e . Journal of Economic Literature 40(2):351-401. J a F c (2015). C ac a a d S c a R . Philosoph & Public Affairs

43(3):175-223.

A a G bba d (2005). T a d C ec Be ef. Philosophical Issues 15:338 350. G eWe (2018). C b a De g (Ma D g Ad a Ta ge g B

Sc a a d S -T a ed He ). A a ab e f . Acce ed 31 J 2019.

Ka a G ace, J Sa a e , A e Daf e, Ba ba Z a g, a d O a E a (2018). W e W AI E ceed H a Pe f a ce? E de ce f AI E e . Journal of Artificial Intelligence Research 62:729-754.

Pe e A. G a a (2010). I Defe e f Ob ec ab M a Ob ga . Ethics 121: 88-115.

H a G ea e (2016). C e e e . Proceedings of the Aristotelian Societ 116(3):311-339. H a G ea e (2017a) D c g f P b c P c : A S e . Economics and Philosoph

33(3):391 439.

H a G ea e (2017b). P a A g . Philosoph Compass 12(1): H a G ea e , W a MacA , a d A d ea M ge e ( a c ). E e a

a d a e .

J Ha ead (2018). C a e C a ge. Founders Pledge Cause Area Report. A a ab e a ://f de edge.c / e ea c /Ca e%20Re %20-%20C a e%20C a ge.

df

R b Ha (2016). The Age of Em: Work, Love and Life when Robots Rule the Earth . O f d: O f d U e P e .

Da d He d (1988). P c ea a d a e: Ca e c dea f b e ? Philosophia 18(2-3):151 170.

F a ce H a d-S de (2005). I e T g a C . Utilitas 17:265 281.

https://www.givewell.org/international/technical/programs/deworminghttps://founderspledge.com/research/Cause%20Report%20-%20Climate%20Change.pdfhttps://founderspledge.com/research/Cause%20Report%20-%20Climate%20Change.pdf

E abe H e (2018). H Ma S a A e e M Wa ? Space.com . A a ab e a :// . ace.c /25959- - a - a -a e- - e- - a .

IPCC (2014). Climate Change 2014: Impacts, Adaptation, and Vulnerabilit . Pa A: G ba a d Sec a A ec . C b f W g G II e F f A e e Re f e I e g e e a Pa e C a e C a ge. Ca b dge U e P e , Ca b dge, U ed K gd a d Ne Y , NY, USA, 1132 .

F a ce W. Ka (1993). Moralit , Mortalit Volume 1: Death and Whom To Save From It. O f d: O f d U e P e .

F a ce W. Ka (2001). Moralit , Mortalit , Volume 2: Rights, Duties, and Status . O f d: O f d U e P e .

I a e Ka (1996). O a S ed R g L e f P a . I Ma G eg ( a ./ed.) Immanuel Kant: Practical Philosoph . Ne Y : Ca b dge U e P e .

G eg Le (2016). Be a e g a d c c e ge ce. The Effective Altruism Forum , acce b e a

://f .effec ea . g/ / ZD 8ScNb 6 XS/be a e- g-ad- c -c e ge ce

Ca e e L (2016). W d G e e . The Stanford Enc clopedia of Philosoph .

W a MacA , A d ea M ge e , a d T b O d (2018). G g I De a d g. I Pa W d ff (ed.), The Ethics of Giving: Philosophers' Perspectives on Philanthrop . O f d: O f d U e P e , . 178 203.

W a MacA (2019), L g e . The Effective Altruism Forum , acce b e a https://forum.effectivealtruism.org/posts/qZ shHCNkjs3TvSem/longtermism

E Ma (2013). Ob ec a d P ec Ab R g e . Journal of Ethics and Social Philosoph 7(2):1 21.

Ja G. Ma e (2007). Red c g e R f H a E c . Risk Anal sis 27(5):1335 1344.

C e Meac a (2012). Pe -affec g e a d a a g c e a e a . Philosophical Studies 158( 2):257 287

P e M e a d A d e S de -Bea e (2017). E e a R a d C -Effec e B ec . Health Securit 15(4):373 383.

A d ea M ge e ( a c ). Mea g, ed c e, a d e .

G.E. M e (1903). Principia Ethica. Ca b dge: Ca b dge U e P e .

https://www.space.com/25959-how-many-stars-are-in-the-milky-way.htmlhttps://plato.stanford.edu/archives/win2016/entries/world-government/

G.E. M e (1912). Ethics . L d : W a a d N ga e. V ce C. M e a d N c B (2016). F e g e a f c a e ge ce: A

e f e e . Fundamental issues of artificial intelligence . S ge , C a . 555-572.

T a Nage (1978). R e e a d b c fe. I S a Ha e (ed.), Public and Private Moralit . Ca b dge: Ca b dge U e P e .

NASA (2007). Nea -Ea Ob ec S e a d Def ec A a f A e a e . :// . a a.g / df/171331 a _NEO_ e _ a c 07. df

K a O e (2011). A Defe e f e Ob ec e/S b ec e M a O g D c . The Journal of Ethics 21(4):351 373.

T b O d (2016). T e Edge f O U e e.

De e Pa f (1984). Reasons and Persons. O f d: C a e d P e . De e Pa f (2011). On What Matters . V . 1. Ed. Sa e Sc eff e . O f d: O f d

U e P e .

Ed d D. Pe eg (1997). Ma aged ca e a e bed de: H d e e a ? Journal of Kenned Institute of Ethics 7:321 330.

R be S. P d c (2013). C a e C a ge P c : W a D e M de Te U ? NBER Working Paper N . 19244.

T a W. P gge (2008). World Povert and Human Rights , ec d ed . Ca b dge: P P e .

D g a W. P e (2011). Commonsense Consequentialism: Wherein Moralit Meets Rationalit . O f d: O f d U e P e .

H. A. P c a d (1932) 2002. D a d Ig a ce f Fac . I Moral Writings , ed J MacAda , 85 110. O f d: O f d U e P e .

F a P. Ra e (1928). A a e a ca e f a g. Economic Journal 38:543-559. (Re ed F. P. Ra e , F da : e a , g c, a e a c , a d ec c , ed. D. H. Me .)

Da R d (2000). H fa ec c eg a g ? Journal of Economic Perspectives 14(1): 177 186.

Ma R e (2019a). L fe E ec a c . P b ed e a O W dI Da a. g. Re e ed f : ' :// d da a. g/ fe-e ec a c ' [O e Re ce]

Ma R e (2019b). De c ac . P b ed e a O W dI Da a. g. Re e ed f : ' :// d da a. g/de c ac ' [O e Re ce]

https://www.nasa.gov/pdf/171331main_NEO_report_march07.pdf

Jac b R (2015). Re g e Pe -Affec g P c e. Journal of Moral Philosoph 12(4):428 461.

W.D. R (1930). The Right and the Good . O f d: O f d U e P e . W. D. R (1939). The Foundations of Ethics . O f d: C a e d P e . Be a d R e (1966). T e E e e f E c . I Philosophical Essa s , 13 59. Ne Y :

S a d Sc e .

T. M. Sca (1998). What We Owe to Each Other. Ca b dge, Ma .: Ha a d U e P e .

Ca a M. Sc eb c e a (2017). S e Af ca a c e ge e e a e de a d e ge ce 350,000 260,000 ea ag . Science 358(6363):652 655.

J. J. C. S a (1973). A e f a e f a a e c . I J. J. C. S a a d Be a d W a (ed .) Utilitarianism: For and against. Ca b dge U e P e .

N a S (2014). D e ca e a ea a f c e e e a e ee 700 ea '. Quart

Ja e S de (2015). D e a e g e a age e a c efe e ce a g d ea d a e e c a e ?

N c a S e (2006). T e Ec c f C a e C a ge.

La S. Te (2012). Rethinking The Good: Moral Ideals and the Nature of Practical Reasoning. Ne Y : O f d U e P e

Te T a ( a c ). T e A e a d e L g Te .

J d Ja T (1986). I g R . I Rights, Restitution, and Risks , ed ed b W a Pa e , 173-91. Ca b dge, MA: Ha a d U e P e .

J d Ja T (2008). Normativit . C cag : O e C . A e V e e (2013). Va g : Te ' c e f a . Economics &

Philosoph 29.3 (2013): 409-423 A e V e e (2014). H S d We Agg ega e C e g C a ? Ethics 125: 64-87. Ed a d O. W (2002). The Social Conquest of Earth. Ne Y : L e g . A Yac b (2018). A W d G e e : A C ca L e P e e , F e ee e

F e. New York Universit Journal of International Law and Politics 50:4. M c ae J. Z e a (2006). I M a Ob ga Ob ec e S b ec e? Utilitas 18:

329-61.

M c ae J. Z e a (2008). Living with Uncertaint : The Moral Significance of Ignorance. Ca b dge: Ca b dge U e P e .