cache cloud 최종
TRANSCRIPT
Cache Cloud
DAEMON DESIGN
Event Driven(Java NIO)
Accept
Read
Read
Accept
Main Thread
WorkQueue
WorkerThread
Client
Response
FailQueue
FailureThread
CassandraMemcached
WorkerThreadWorkerThreadWorkerThread
FailureThreadFailureThread
FailureThread
Daemon Feature• Cache Cloud 데몬과 Memcached 데몬은 같은 서버내에 존재한다 .
• 클라이언트 Accept 와 Read 를 담당하는 Main Thread 는 하나만 존재한다 .
• 모든 요청은 일단 Work Queue 에 쌓인다 .
• Set 에 대한 요청은 WorkQueue 를 거쳐 바로 FailQueue 로 들어가 , Failure Thread 가 이를 처리한다 .
Request String
• {0}/{1}/{2}/{3}…• {0} : API number• {1} : keyspace• {2} : columnfamily• {3} : Api 별 부수적인 인자
Worker Thread
• Request String 에 대한 cache 가 있는 지 검사한 후 , 그 결과값을 즉시 반환해준다 .
• Worker Thread 의 갯수는 유동적으로 조절 가능
Failure Thread
• cache miss 가 발생한 데이터를 Cassandra 에서 가져와 저장하는 Thread
• Fail Queue 에 아무런 데이터가 없으면 Wait 상태로 들어감
• Fail Queue 에 데이터가 들어오는 순간 Fail Queue 에 있는 모든 데이터를 처리 .
Value Grouping
• Request String : 0/a/b/c/d• value 를 220kb 기준으로 분할
0/a/b/c/d 0/a/b/c/d/0 0/a/b/c/d/1 0/a/b/c/d/2
데몬 확장방법• 서버의 특정파일에 서버주소 저장• 클라이언트 실행시 주소 얻어와 적용• Ex) nexusz99.i.ahems.co.kr/list.txt• < 파일 내용 >• Cats3.kaist.ac.kr• Cats4.kaist.ac.kr
API 별 WORK FLOW
cache_insert
Client Side Daemon Side
1
1
WorkQueue FailQueue
FailureThread
single get re
quest
single
get r
esponse
Set Data
Set Request
Set Request 를Single Get API 형태로 전환
23
4
5
6
Set Request
Cache_delete
Client Side Daemon Side
1
1
WorkQueue FailQueue
FailureThread
Delete request Delete Data
Delete Request 23
45
Delete Request
cache_get, etc – cache hit
Client Side Daemon Side
1Set Request
WorkQueue
WorkerThread
2
Get cache RequestReturn cache
34
5Return Cache
cache_get, etc – cache miss
Client Side Daemon Side
1Set Request
WorkQueue
WorkerThread
2
Get cacheRequest
Return null
34
5 Return Null
FailureThread
FailQueue
6
7
6
7
8
TEST ENVIRONMENT
Cache Cloud Daemon
Client
Hardware – Daemon, Cassandra
• CPU– Intel® Core™ i7 CPU 860 @ 2.80GHz– Core : 4– Threads : 8
• Memory– 8GB
Hardware – Client
• Ahems VirtualMachine (2EA)– CPU
• Intel(R) Xeon(R) CPU E5645 @ 2.40GHz• Core : 1
– Memory• 1GB
• Cloud03a.kaist.ac.kr– AMD Phenom(tm) II X6 1055T Processor– 6core, 2.8Ghz– Memory : 16GB
Test Information
• Cassandra– Version : 1.0.1
• Hector API– Version : 1.0.1
• Memcached– Version : 1.4.9
ADDITIONAL INFORMATION
Value Size
• Key 에 대해 저장되는 Value 사이즈를 의미• Value 는 integer array 로 구성되어 있다 .
• Ex) value size = 1KB– Integer array 1k 개를 생성
Hit 율• 전체 데이터 중 캐시 ( 혹은 저장 ) 화 시킬
데이터의 비율
• Cache Miss 가 날 경우 , Cassandra 에서 읽어들임 .
Key_cached
• 각 Column Family 마다 몇개의 key 를 캐싱할 것인지 설정
• Default : 20 만개
• Disabled row cached
TEST RESULT
실험 설정• Value Size : 1kb, 10kb, 100kb
• 데이터 갯수 : 2000 개
• Key cached : 200, 2000, 200000
