Web Server Support for Tiered Services 한국과학기술원 전자전산학과 20003611 황호영.

Web Server Support for Tiered Services

한국과학기술원 전자전산학과

20003611 황호영

2Communication Networks Research Lab.

목 차

I. Introduction

II. Motivation

III. Servers and QoS

IV. WebQoS (Architecture for Server Based QoS)

V. Results

VI. Summary

VII. Critiques


I. Introduction

Internet 을 통해 수행되고 있는 commerce 나 media

의 다양화에 따른 tiered service 에 대한 요구 급증

따라서 , network differentiated service 에 대한 QoS 를

제공해주는데 Server QoS 의 중요성 부각

End-to-end QoS performance

client, network, web server, application components 에 대한

고려 필요

network QoS 는 개선되고 있는 상태


I. Introduction (Cont’d)

반면 , server 에 대한 QoS 는 그렇지 못하다 .

End-to-end 로 predictable, stable and tiered service (d

ifferentiated service) 를 제공하기 위한 server QoS

로서 WebQoS 라는 Architecture 제시

WebQoS 에 대한 Simulation 및 결과 분석


II. Motivation

예측하기 힘든 client 들의 요구에 대해 server 측에서 congestion 과 queuing 이 급증1998 North America 의 holiday season

e-commerce market 에 client demand 폭발

US stock market panic

user 들에게 preferential service(tiered service) 를 제공해 주고자 하는 Internet based application 의 필요성


II. Motivation (Cont’d)

그러나 , network QoS 만으로는 end-to-end QoS suppor

t 하기에 부족

network latency 개선되어 가는 상황

backbone 망이 622Mbps -> 1Gbps bandwidth

ISPs 들이 backbone 과 provider 들간의 동의로 IP traffic

성능 향상 시켜나감 .

Cache 를 통해 static content response time 개선되는 상황

ISDN, DSL, Cable modem 통해 client access network latency

줄어 들어가고 있음



반면 , server latency 는 증가하는 추세

flash crowd 에 의한 server 의 overload

-> processing request, TCP/IP connection terminating 등에

의한 response time 증가 , server busy 상황 도달

new application technology 급증에 의한 server 의 processing

demand 급증

( 예 : JAVA, Secure Socket Layer(SSL), dynamic data, databa

se 처리 , 복잡한 middleware component)



Site 들이 제공하는 media 의 multimedia 화

-> richer and larger media, more images

-> audio, voice, video 제공

따라서 , differentiated service 제공을 위해 network Q

oS 만으로는 해결되지 않는다 .


III. Servers and QoS

Network QoS, Intelligent network bandwidth manage

ment, congestion avoidance 도 server 에서의 scheduli

ng 이나 bottleneck problem 해결 못한다 .

대부분의 UNIX kernel 에서는 FIFO Scheduling 사용

server 가 busy 해지면 high priority packet 무조건 버림

-> Network QoS 는 무의미해짐 .


III. Servers and QoS (Cont’d)

Server QoS 개발을 통해 end-to-end QoS 개선

WebQoS 의 큰 목표

overload protection

tiered service support


IV. WebQoS

Modify the FIFO servicing model of a popular web serv

er-Apache, version 1.2.4

Apache Source Modification

http_main.c -> request 가 HTTP socket 으로 직접 가는 대신

connection manager 를 통해 가도록 modify

connection_mgr.c -> classification policy, enqueue mechanism,

dequeue policy, process code


IV. WebQoS (Cont’d)



Connection manager

Request Classification

Admission Control

Request Scheduling

Resource Scheduling



Tiered Services Design

•Connection manager



Request Classification

User-class based classification

: Client IP address 이용 , HTTP cokies 이용 , Browser plug-i

n 이용

Target-class based classification

: URL request type or filename path 이용 , Destination IP add

ress 이용



Admission Control

“Basic requests rather than premium requests should be

rejected first”

“Existing sessions should be maintained.”

Total requests queued, Number of premium requests queued

이용



Request Scheduling

Strict Priority

- lower class request 보다 all higher class requests 먼저 sche

dule

Weighted Priority

Shared Capacity

Fixed Capacity

Earliest Deadline First


V. Results

Simulation 상황

Server : Single Processor K460. Apache run with 32 work proc

esses

Clients : Four HP 9000 workstations

Network : 100-Base T Ethernet through HP AdvanceStack Swi

tch 2000

httperf generate workload

-> fixed rate(50req/s) , 8KBytes 의 static web page for a 5 minut

e period, 5 sec timeout


V. Results (Cont’d)

Simulation 1.

Premium client- 50 req/s

3 Basic clients 의 request rate 은 25-325 req/s 로 monotonic

ally 증가

maximum offered rate = 325*3 + 50 = 1025 req/s)


V. Results - Simulation 1



Simulation 2.

Premium client 와 Basic clients 의 request rate 이 모두 mono

tonically 증가



Simulation 3. Session Completion Time


VI. Summary and Contribution

WebQoS 의 Architecture 개발

WebQoS 의 Performance 평가

Errors, Throughput, Time Response 방면에서 Simulation

Session length 에 따른 Completion Time Simulation

WebQoS 는 request classification, admission control, r

equest scheduling, resource scheduling 을 통해 tiered s

ervice 제공


VI. Summary and Contribution (Cont’d)

WebQoS 라는 server QoS 를 통해 앞으로 사용량이

급증할 Differentiated Service(Tiered Service) 의

제공에 상당한 기여 .

End-to-End QoS Performance 에서 network QoS

뿐만 아니라 server 의 QoS 도 중요하다는 점을 제시 .

WebQoS 를 통해 server 의 overload protection, tiered

service support 라는 목표 달성 .


VI. 문제점 및 개선방안과 Application

Simulation-2 에서의 문제점 보완 필요

Admission Control 의 보완 필요

WebQoS 는 request 를 server 가 수용할 수 없을 시에는

무조건 reject => degraded content 라도 returning 하는 등의

flexible Admission Control 필요

network QoS 와 server QoS 간의 연동관계 명확히

제시

tight integration 및 QoS Routing 에 대한 연구 필요


VI. 문제점 및 개선방안과 Application (Cont’d)

Client 와 server 간의 high priority traffic 을 위해 lig

ht signalling mechanism 필요

Application 과 관련하여 특정한 경우들에 대해서 serv

er QoS 의 적용 방안 연구

QoS 기술에 관련된 device 의 개발 필요

Web Server Support for Tiered Services 한국과학기술원 전자전산학과 20003611 황호영.

Documents

Transcript of Web Server Support for Tiered Services 한국과학기술원 전자전산학과 20003611 황호영.