autoscaling(researchppt)

8/20/2019 AutoScaling(ResearchPPT)

1/34

Optimal Cloud Resource Auto-

Scaling for Web Applications

J I N G J I A N G , J I E LU , G U A N G Q U A N Z H A N G , G U O D O N G LO N G

2 0 1 3 1 3 T H I E E E / A C M I N T E R N AT I O N A L S Y M P O S I U M O NC L U S T E R , C L O U D , A N D G R I D C O M P U T I N G

Presented By -

Nayan,Naveen, igvi!ay


2/34

INTRODUCTION Web a !"#a$"%& '%(")e'* *#a!e* +"'$ a! Re*% '#e* %'

)%-& $% a#."e(e C%*$ e e#$"(e % $#% e*

Ab"!"$ $% a##e** #% $"&4 'e*% '#e e!a*$"#a!! 5b *#a!"&4 %' )%-&6 a##%')"&4 $% ) &a "# 'e*% '#e )e a&)*

E!a*$"#"$ a&) C%*$ e e#$"(e&e** a'e $-% %7 $.e 8e7ea$ 'e* $.a$ e&* 'e #!% ) #% $"&4 -"!! a ea! $% %'e# *$% e'*


3/34

W.a$ Re*ea'#. Pa e'

D%e* T.e '% %*e a &%(e! #!% ) 'e*% '#e a $% *#a!"&4 *#.e ea$ $.e ("'$ a! a#."&e 5+M6 !e(e! 7%' -eb a !"#a$"%&

'%(")e'* T.e *#.e e a $% a$"#a!! 'e)"#$* $.e & be' %7 -eb'e9 e*$* a&) )"*#%(e'* a& % $" a! #!% ) 'e*% '#e )e a&)-"$. #%*$ !a$e $'a)e %

T.e *#.e e a8e* a 'e*% '#e *#a!"&4 )e#"*"%& $.a$ "* "por o#n or NOP $no operation% "& ea#. $" e &"$ 'ea!!%#a$"%&


4/34

H%- )") $.e $e*$ T.e .a(e " !e e&$e) $.e *#.e e %& $.e A a:%& #!% )

!a$7%' a&) e(a! a$e) "$ *"&4 $.'ee 'ea! -%'!) -eb !%4)a$a*e$*

T.e e; e'" e&$ 'e* !$* *.%- $.a$ $.e *#.e e a#."e(e*resource auto-scaling -"$. lo# prediction errors , a*-e!! a* optimal resource allocation -"$. *#a!a' cost-

latency trade-o& a&) lo# S'A violations


5/34

Re*ea'#. Pa e' 4%a!* P'e)"#$ 'e*% '#e* a'e )e a&)e) "& ea#. $" e &"$ %7 'e a!!%#a$"%&

A)a $"(e! a)< *$ $.e 'e*% '#e #a ba*e) %& $.e 'e)"#$e)'e*% '#e )e a&)*

De*"4& % $" ":a$"%& a!4%'"$. * $% a8e a $'a)e % )e#"*"%&be$-ee& #%*$ a&) !a$e , -."!e ee$"&4 $.e #%*$ #%&*$'a"&$* a&)

SLA* %& !a$e e$'"#*


6/34

A '%a#.e* *e) 7%' A $% S#a!"&4

be7%'e $."* Re*ea'#. Pa e'Rea#$"(e e#.a&"*

• E!a*$"#"$ ' !e* %' $.'e*.%!) ba*e) ' !e*• R !e ba*e) a $% *#a!"&4 e#.a&"* *• E; !"#"$ *e'=* "&$e'(e&$"%& 'e9 "'e)• Ta8e* *e(e'a! "& $e* $% "&*$a&$"a$e a &e- +M

P'e)"#$"(e ba*e) e$.%)

A&a! :"&4 $.e ."*$%' )a$a %7 'e*% '#e *a4e

U*e* ."*$%4'a $e#.&"9 e* $% 'e)"#$ -%'8!%a)


7/34

S *$e M%)e!"&4Web a !"#a$"%& '%(")e'* #a& * e#"7 $.e"' b )4e$a'

#%&*$'a"&$* a&) SLA "& 'e* e#$ %7 !a$e 7%' $.e"'a !"#a$"%&*

I& 'a#$"#a! a !"#a$"%&*, a& & 'e)"#$ab!e b '*$ %7& be' %7 'e9 e*$* -"!! .a e&

P'% %*e) *#.e e>

This scheme monitors the waiting queue of requests to be processed in real-time. Once the length of the queue isbigger than a threshold, the scheme could dynamically

append VMs to process the exceeding number of requests.


8/34

S$e * 7%!!%-e) "&S#.e e

T% #%!!e#$ 'e9 e*$ 'e#%')* a* $.e ."*$%' )a$a

T% a&a! :e $.e ."*$%' )a$a .% '! a&) 'e)"#$ $.e& be' %7 'e9 e*$* 7%' $.e &e;$ $" e &"$

T% )"*#%(e' $.e % $" a! & be' %7 +M* b $"!":"&4 $.eO $" ":a$"%& M%)e!

T% *#a!e $.e 'e*% '#e5+M*6 %' )%-& %' NOP 7'% ab!"# #!% ) !a$7%'


9/34

P'e)"#$"%& M%)e!

De?&"$"%& T.e %)e! $.e 'e*% '#e )e a&) ba*e) %& $.e 'e)"#$e) -eb 'e9 e*$)"*$'"b $"%& a$ a +M !e(e!

T% 'e)"#$ $.e & be' %7 -eb 'e9 e*$*

X(t);t ∈ T where T is an index of the time fragment, and X t! is the random"ariable

The current and past obser"ed "alues #- (X(t − k), X(t − k + 1), ...X(t − 1), X(t)),

$uture "alue #- X t % p!

where & is the length of the history data used for prediction and p is the predicti"e time fragment


10/34

P'e)"#$"%& M%)e! @e

7ea$ 'e ")e&$"?#a$"%&C%&*")e'"&4 %*$ %&!"&e -eb 'e9 e*$* .a(e a *ea*%&a!%' e'"%)"#a! be.a("%' $% *% e e;$e&$, -e )e*"4& a&%(e! L"&ea' Re4'e**"%& a '%a#. 7%' 'e)"#$"%& b

*"&4 a& a $% #%''e!a$"%& 7 $"%& $% ")e&$"7 $.e 8e7ea$ 'e* E;> Ma"! *e'(e'

L"&ea' %)e! $% 'e!a$e &% %7 'e9 e*$ "& #%&$"& % * $" e7'a e*>


11/34

M%)e!!"&4 $.e Re!a$"%&*."

be$-ee& C%*$ a&) La$eC%*$ 5C6 'e)"#$"%& )e e&)* %& $.e & be' 5M6 %7 +M*

#.a&4"&4, e 4 C 75 6

La$e 5L6 #%&*"*$* %7 e;e# $"%& $" e 5T*6 a&) -a"$"&4$" e 7%' e;e# $"&4 5T96

T.e a''"(a!* %7 'e9 e*$* $% be '%#e**e) %& +M* %bea P%"**%& )"*$'"b $"%& -"$. 'a$e (

E;e# $e) 'e9 e*$* %& +M* a'e a!*% #%&*")e'e) a* aP%"**%& )"*$'"b $"%& -"$. 'a$e )*


12/34

Ma'8%( #.a"&

D e $% $.e a!!%#a$"%& %7 !$" !e *e'(e'* 5%' +M*6 "& $.e *#.e e

T.e a''"(a!* a'e P%"**%& -"$. 'a$e B B E5 5$66

1/E5T*6

i &% %7 'e9 e*$


13/34

Re9 e*$ 9 e e *":e a&)

La$e+ueue Si e

*$ea) *$a$e '%bab"!"$ a&) &% %7 'e9 e*$* a''"(e) queuelength #a& be #a!# !a$e)

./pected #aiting time

L9 BT9, -.e'e T9 E5$96 "* $.e e; e#$e) !e&4$. %7 $.e -a"$"&4$" e "& 9 e e $9

S% T9 L9 /B

'atency

L5B, , 6 T9 F T*


14/34

O $" ":a$"%& M%)e! C%*$, !a$e $'a)e%

I7 ("'$ a! a#."&e* a'e 'e) #e) $.e& #%*$ 'e) #e) b $ -a"$"&4$" e "'ea*e*

I7 +M "'ea*e) $.e& #%*$ "'ea*e

T% *%!(e $."* '%b!e , #%*$ !a$e $'a)e % % $" ":a$"%&%b


15/34

O $" ":a$"%& M%)e!

C%&$D e $% $.e )" e'e&$ *#a!e %7 $.e & be' %7 +M* a&) !a$e , -e #a&&%' a!":e $.e !a$e b e9 a$"%&

G L/T-.e'e T "* $.e !a$e $.'e*.%!), -."#. "* )e?&e) "& SLA*

T% &%' a!":e $.e & be' %7 +M*, -e #%&*")e' $.e e9 a$"%&

N%- $'a)e % 7 $"%& be#% e*>


16/34

A!4%'"$. 7%' #% $"&4

+M*


17/34

E; e'" e&$Real-#orld datasets1 AOL 1 *ea'#. !%4 )a$a*e$

2 S%4% 2 *ea'#. !%4 )a$a*e$

3 A 'ea! -%'!) )a$a*e$ #%!!e#$e) b $.e UTS 5T.eU&"(e'*"$ %7 Te#.&%!%4 , S )&e 6 !"b'a'

0ime-unit of re-allocation %& .% '! ba*"*


18/34

E; e'" e&$ S$e *1* 2nvestigate 3o# t3e seasonal c3aracters

a&ect t3e selection of features for

prediction modeling2 E(a! a$e $.e 'e)"#$"%& %)e! $.'% 4. $.'ee )a$a*e$*

3 +"* a!":e $.e e'7%' ae %7 $.e 'e)"#$"%& %)e!

K E(a! a$e $.e a!!%#a$"%& e'7%' ae 7%' $.e 4"(e&

& be' %7 'e9 e*$*C% a'e % ' *#.e e -"$. %$.e' a '%a#.e*


19/34

ea$ 'e* Se!e#$"%&

E(a! a$"%&2nvestigate 3o# t3e seasonal c3aractersa&ect t3e selection of features forprediction modeling

N be' %7 'e9 e*$* "& ea#. .% ' a* a (e#$%' '" 1 , ..., "i,..." 0 ( ,

"i - (%! e -"$."& %&e "& $e6

A ! $.e S e$'":"&4 @ !!ba#8 Le"b!e' 5@L6)"(e'4ee $% ea* 'e $.e )" e'ee be$-ee& $-%)"*$'"b $"%& '%bab"!"$"e*


20/34

C%&$

C%! *"%&>

I7 S@L )"(e'4ee (a'"e* 7'% 0 $% 1

A!! $.e S@L )"(e'4ee* "& Tab!e I a'e * a!!, -."#.)e %&*$'a$e* $.a$ $.e $.'ee )a$a*e$* .a(e ."4.! *ea*%&a!#.a'a#$e'* a&) $.e & be' %7 'e9 e*$* #a& be 'e)"#$e) b

*"&4 $.e ."*$%' )a$a


21/34

C%&$ *e!e#$ $.e 8e 7ea$ 'e* 7%' $.e !"&ea' 'e4'e**"%& %)e!


22/34

E; e'" e&$ S$e *1 I&(e*$"4a$e .%- $.e *ea*%&a! #.a'a#$e'* a e#$ $.e

*e!e#$"%& %7 7ea$ 'e* 7%' 'e)"#$"%& %)e!"&4

4* .valuate t3e prediction model t3roug3t3ree datasets3 +"* a!":e $.e e'7%' ae %7 $.e 'e)"#$"%& %)e!

K E(a! a$e $.e a!!%#a$"%& e'7%' ae 7%' $.e 4"(e&

& be' %7 'e9 e*$*C% a'e % ' *#.e e -"$. %$.e' a '%a#.e*


23/34

E(a! a$"%& Me$.%)* "sed 15-fold cross validation as t3e evaluation met3odR%%$ Mea& S9 a'e) E''%' 5RMSE6

Re!a$"(e S9 a'e) E''%' 5RSE6

Mea& Ab*%! $e E''%' 5MAE6

Re!a$"(e Ab*%! $e E''%' 5RAE6#%e #"e&$ %7 )e$e' "&a$"%& 5R26


24/34

E; e'" e&$ S$e *1 I&(e*$"4a$e .%- $.e *ea*%&a! #.a'a#$e'* a e#$ $.e*e!e#$"%& %7 7ea$ 'e* 7%' 'e)"#$"%& %)e!"&4

2 E(a! a$e $.e 'e)"#$"%& %)e! $.'% 4. $.'ee )a$a*e$*

6* 7isuali e t3e performance of t3eprediction model

K E(a! a$e $.e a!!%#a$"%& e'7%' ae 7%' $.e 4"(e&& be' %7 'e9 e*$*

C% a'e % ' *#.e e -"$. %$.e' a '%a#.e*


25/34

P'e)"#$"%& M%)e!

E(a! a$"%& " 8 $1 9 padding% : prediction T% *e!e#$ a 4%%) a))"&4 (a! e, -e ea* 'e $.e'e!a$"%&*." be$-ee& $.e a))"&4 (a! e a&) $.e#%&?)ee "&$e'(a!

Conclusion % ' *#.e e a#."e(e* 4%%) 'e)"#$"%& %& b%$. & be' %7'e9 e*$* a&) 'e*% '#e )e a&)*, a&) $.a$ $.e a))"&4(a! e #a& be ) &a "#a!! a)< *$e) -e!! "& ea#. $" e"&$e'(a!


26/34

C%&$


27/34


2 E(a! a$e $.e 'e)"#$"%& %)e! $.'% 4. $.'ee )a$a*e$*

3 +"* a!":e $.e e'7%' ae %7 $.e 'e)"#$"%& %)e!

;* .valuate t3e allocation performance fort3e given number of re


28/34

A!!%#a$"%& E(a! a$"%&


29/34

C%&$


30/34


2 E(a! a$e $.e 'e)"#$"%& %)e! $.'% 4. $.'ee )a$a*e$*

3 +"* a!":e $.e e'7%' ae %7 $.e 'e)"#$"%& %)e!K E(a! a$e $.e a!!%#a$"%& e'7%' ae 7%' $.e 4"(e&

& be' %7 'e9 e*$*

=* Compare our sc3eme #it3 ot3erapproac3es


31/34

Pe'7%' ae E(a! a$"%&

7%' a Web A !"#a$"%&


32/34

CONCLUSION UTURE

WOR@SA $% *#a!"&4 *#.e e ("a #%*$ !a$e $'a)e%P'e)"#$e) % $" a! & be'* %7 +M* ("a a#."&e

!ea'&"&4 a&) $" e *e'"e* )a$a

M%'e 4e&e'a! 9 e e"&4 %)e!*

O$.e' $ e* %7 +M* 5e 4 M !$" $e&a&$ *.a'e)6


33/34

P'%b!e ")e&$"?e) P'% %*e) a!4%'"$. a))* ("'$ a! a#."&e* %&! "7 SLA)%e*&=$ ("%!a$e $ "& #a*e %7 * ))e& $'a # b '*$ $.e'e

a be &ee) %7 a))"$"%&a! 'e*% '#e* be %&) $.e !" "$4"(e& "& SLA S% -e &ee) a be$$e' $'a)e % be$-ee& SLA("%!a$"%& a&) %%' !a$e "& b '*$ $'a #


34/34

T.a&8 Y%

autoscaling(researchppt)

Documents