KR102108835B1 - 예측 로드 밸런싱 방법 및 장치 그리고 예측 로드 밸런싱 방법이 수록된 컴퓨터로 읽어들일 수 있는 기록 매체 - Google Patents
예측 로드 밸런싱 방법 및 장치 그리고 예측 로드 밸런싱 방법이 수록된 컴퓨터로 읽어들일 수 있는 기록 매체 Download PDFInfo
- Publication number
- KR102108835B1 KR102108835B1 KR1020180047571A KR20180047571A KR102108835B1 KR 102108835 B1 KR102108835 B1 KR 102108835B1 KR 1020180047571 A KR1020180047571 A KR 1020180047571A KR 20180047571 A KR20180047571 A KR 20180047571A KR 102108835 B1 KR102108835 B1 KR 102108835B1
- Authority
- KR
- South Korea
- Prior art keywords
- connection
- time
- load
- server
- content
- Prior art date
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
- H04L41/508—Network service management, e.g. ensuring proper service fulfilment according to agreements based on type of value added network service under agreement
- H04L41/509—Network service management, e.g. ensuring proper service fulfilment according to agreements based on type of value added network service under agreement wherein the managed service relates to media content delivery, e.g. audio, video or TV
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/1014—Server selection for load balancing based on the content of a request
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Computer And Data Communications (AREA)
- Information Transfer Between Computers (AREA)
Abstract
본 발명은 다수의 서버를 이용하여 다수의 사용자들에게 멀티미디어 데이터를 서비스할 때 서버별 부하를 예측하고 새롭게 요청되는 연결에 대한 연결시간을 예측하여 가장 적합한 서버로 분산처리하기 위한 예측 로드 밸런싱 방법 및 이에 적합한 장치 그리고 예측 로드 밸런싱 방법이 수록된 컴퓨터로 읽어들일 수 있는 기록 매체에 관한 것이다.
예측 로드 밸런싱 방법은
사용자별/ 콘텐츠별/ 콘텐츠 유형별/ 시간대별 콘텐츠 연결율 통계 데이터를 저장하는 연결 이력 저장 과정;
상기 연결 이력 저장 과정에서 작성된 데이터를 기반으로 현재의 연결에 대한 예상 연결 시간 및 새롭게 요청되는 연결에 대한 예상 연결 시간을 예측하는 연결 시간 예측 과정;
상기 연결 시간 예측 과정에서 작성된 현재의 연결에 대한 예상 연결 시간 및 새롭게 요청된 연결에 대한 예상 연결 시간을 서버별로 합산하여 서버별로 미래의 특정 시점에서의 부하를 예측하는 부하 예측 과정; 및
상기 부하 예측 과정과정에서 작성된 데이터를 기반으로 실제 연결을 관리하는 부하 분산 과정;
을 포함한다.
예측 로드 밸런싱 방법은
사용자별/ 콘텐츠별/ 콘텐츠 유형별/ 시간대별 콘텐츠 연결율 통계 데이터를 저장하는 연결 이력 저장 과정;
상기 연결 이력 저장 과정에서 작성된 데이터를 기반으로 현재의 연결에 대한 예상 연결 시간 및 새롭게 요청되는 연결에 대한 예상 연결 시간을 예측하는 연결 시간 예측 과정;
상기 연결 시간 예측 과정에서 작성된 현재의 연결에 대한 예상 연결 시간 및 새롭게 요청된 연결에 대한 예상 연결 시간을 서버별로 합산하여 서버별로 미래의 특정 시점에서의 부하를 예측하는 부하 예측 과정; 및
상기 부하 예측 과정과정에서 작성된 데이터를 기반으로 실제 연결을 관리하는 부하 분산 과정;
을 포함한다.
Description
본 발명은 다수의 서버를 이용하여 다수의 사용자들에게 멀티미디어 데이터를 서비스할 때 서버별 부하를 예측하고 새롭게 요청되는 연결에 대한 연결시간을 예측하여 가장 적합한 서버로 분산처리하기 위한 예측 로드 밸런싱 방법 및 이에 적합한 장치 그리고 예측 로드 밸런싱 방법이 수록된 컴퓨터로 읽어들일 수 있는 기록 매체에 관한 것이다.
웹서버와 통신 장비와 같이 다수의 사용자에게 미디어 데이터를 서비스할 때 다수의 서버를 활용하여 부하를 분산하여 처리하는 것이 로드밸런싱 기술이다.
로드 밸런싱은 순차적으로 분산하는 방식(Round Robin)과 접속이 가장 적은 서버로 분산하는 방식(Least Connection), 현재 부하가 가장 적은 서버로 분산하는 방식(Fastest Response Time, Adaptive) 등이 가장 많이 사용되고 있다.
이러한 방법들은 웹(Web)과 같이 연결을 유지하지 않고 요청응답의 세트로서 처리하는 것에서는 유효할 수 있으나, 대용량의 멀티미디어 데이터를 장시간 스트리밍하거나 화상회의와 같이 멀티미디어 데이터를 지속적으로 전송하는 경우에는 특정시점이 지난 후에는 부하가 특정서버에만 집중되는 경우가 발생할 수 있다.
본 발명은 상기의 문제점을 해결하기 위하여 고안된 것으로서, 본 발명의 다른 목적은 미래의 특정시점의 서버의 부하 예측을 바탕으로 현재 요청중인 연결에 대해 최적의 서버를 선택하는 예측 로드 밸런싱 방법을 제공하는 것을 그 목적으로 한다.
본 발명의 다른 목적은 상기의 예측 로드 밸런싱 방법에 적합한 예측 로드 밸런싱 장치를 제공하는 것에 있다.
본 발명의 또 다른 목적은 상기의 예측 로드 밸런싱 방법이 수록된 컴퓨터로 읽어들일 수 있는 기록 매체를 제공하는 것에 있다.
상기의 목적을 달성하는 본 발명에 따른 예측 로드 밸런싱 방법은
사용자별/ 콘텐츠별/ 콘텐츠 유형별/ 시간대별 콘텐츠 연결율 통계 데이터를 저장하는 연결 이력 저장 과정;
상기 연결 이력 저장 과정에서 작성된 데이터를 기반으로 현재의 연결에 대한 예상 연결 시간 및 새롭게 요청되는 연결에 대한 예상 연결 시간을 예측하는 연결 시간 예측 과정;
상기 연결 시간 예측 과정에서 작성된 현재의 연결에 대한 예상 연결 시간 및 새롭게 요청된 연결에 대한 예상 연결 시간을 서버별로 합산하여 서버별로 미래의 특정 시점에서의 부하를 예측하는 부하 예측 과정; 및
상기 부하 예측 과정과정에서 작성된 데이터를 기반으로 실제 연결을 관리하는 부하 분산 과정;
을 포함한다.
여기서, 상기 연결 이력 저장 과정은
실시간이 아닌 스트리밍 데이터의 경우에는 추가적으로 일시정지, 앞으로 이동, 뒤로 이동, 처음부터 다시보기와 같은 콘텐츠 상호작용 측정 데이터를 더 저장하는 것을 특징으로 한다.
여기서, 상기 부하 예측 과정은 현재의 시점에다가 새롭게 요청받은 연결에 대한 예측연결시간의 절반을 더하여 얻어지는 시점에서의 서버별 부하를 예측하는 것을 특징으로 한다.
상기의 다른 목적을 달성하는 본 발명에 따른 예측 로드 밸런싱 장치는
사용자별/콘텐츠별 유형별/ 시간대별 콘텐츠 연결율 통계 데이터를 저장하는 연결 이력 저장부;
상기 연결 이력 저장부의 데이터를 기반으로 현재의 연결에 대한 예상 연결 시간 및 새롭게 요청된 연결에 대한 예상 연결 시간을 예측하는 연결 시간 예측부;
상기 연결 시간 예측부로부터의 데이터를 서버별로 통합하여 서버별로 미래의 부하를 예측하는 부하 예측부;
상기 부하 예측부로부터 받은 데이터를 기반으로 실제 연결을 관리하는 부하 분산부;
실제 서비스하는 각 서버에 설치되는 것으로서, 연결 종료 정보를 상기 연결 시간 예측부에 전송하는 연결 관리부;
를 포함한다.
여기서, 연결 이력 저장부는 실시간이 아닌 스트리밍 데이터의 경우에는 추가적으로 콘텐츠 상호작용 측정 데이터를 저장하는 것을 특징으로 한다.
여기서, 상기 부하 예측부는 현재 시점에다가 새롭게 요청받은 연결에 대한 예측 연결시간의 절반을 합산하여 얻어지는 시점에서의 서버별 부하를 예측하는 것을 특징으로 한다.
여기서, 상기 부하 분산부는 현재의 연결들에 대해 미리 설정된 임계치가 넘지 않은 서버들에 대해; 현재 새롭게 요청받은 새로운 연결을 수행하더라도; 미래의 특정시점(현재 새롭게 요청받은 연결에 대한 예측연결시간의 절반을 더하여 얻어지는 시점)에서 부하가 가장 적은 서버를 선택하고, 새롭게 요청된 연결을 선택된 서버로 연결하는 것을 특징으로 한다.
본 발명의 또 다른 목적을 달성하는 컴퓨터로 읽어들일 수 있는 기록 매체는
사용자별/ 콘텐츠별/ 콘텐츠 유형별/ 시간대별 콘텐츠 연결율 통계 데이터를 저장하는 연결 이력 저장 과정;
상기 연결 이력 저장 과정에서 작성된 데이터를 기반으로 현재의 연결에 대한 예상 연결 시간 및 새롭게 요청되는 연결에 대한 예상 연결 시간을 예측하는 연결 시간 예측 과정;
상기 연결 시간 예측 과정에서 작성된 현재의 연결에 대한 예상 연결 시간 및 새롭게 요청된 연결에 대한 예상 연결 시간을 서버별로 합산하여 서버별로 미래의 특정 시점에서의 부하를 예측하는 부하 예측 과정; 및
상기 부하 예측 과정과정에서 작성된 데이터를 기반으로 실제 연결을 관리하는 부하 분산 과정;
을 포함하는 예측 로드 밸런싱 방법이 기록된 것을 특징으로 한다.
본 발명은 미래의 특정 시점에서의 서버 부하를 예측하고, 이를 바탕으로 현재 요청중인 연결에 대해 최적의 서버를 선택할 수 있으므로 효율적으로 부하를 분산시킬 수 있는 효과를 갖는다.
도 1은 본 발명에 따른 예측 로드 밸런싱 방법을 보이는 흐름도이다.
도 2는 본 발명에 따른 예측 로드 밸런싱 장치의 구성을 보이는 흐름도이다.
도 2는 본 발명에 따른 예측 로드 밸런싱 장치의 구성을 보이는 흐름도이다.
이하, 첨부된 도면을 참조하여 본 발명의 구성 및 동작을 상세히 설명하기로 한다.
본 발명은 추가적으로 미래의 특정시점의 부하를 예측하여 현재의 분산처리에 적용하기 위한 방법에 관한 기술로 사용자와 콘텐츠의의 예상 연결시간을 예측하고 이를 바탕으로 로드밸런싱에 활용하는 기술이다.
본 발명은 미래의 특정시점의 서버별 부하를 예측하기 위해 미리 저장된 사용자의 과거 이력 정보와 콘텐츠의 과거 이력 정보를 바탕으로 현재 서비스중인 각각의 연결(Connection)의 연결시간을 예측하고 이를 서버별로 통합하여 미래의 특정시점별로 예측한다.
본 발명은 사용자의 현재의 요청에 대해 해당 사용자의 과거 이력 정보와 해당 콘텐츠의 Connection의 지속시간을 예측한다.
본 발명은 미래의 특정시점의 서버의 부하 예측을 바탕으로 현재 요청중인 연결에 대해 최적의 서버를 선택한다.
도 1은 본 발명에 따른 예측 로드 밸런싱 방법을 보이는 흐름도이다.
도 1을 참조하면, 본 발명에 따른 예측 로드 밸런싱 방법은 연결 이력 저장 과정(s102), 연결 시간 예측 과정(s104), 부하 예측 과정(s106), 부하 분산 과정(s108)을 포함한다.
연결 이력 저장 과정(s102)에서는 사용자별/ 콘텐츠별/ 교육, 영어, 회화 등과 같은 온톨리지로 분류된 콘텐츠 유형별/ 시간대별(일일시간별, 일별, 요일별) 콘텐츠 연결율 통계 데이터와 실시간이 아닌 스트리밍 데이터의 경우에는 추가적으로 일시정지, 앞으로 이동, 뒤로 이동, 처음부터 다시보기와 같은 콘텐츠 상호작용 측정 데이터를 저장한다.
연결 시간 예측 과정(s104)에서는 상기 연결 이력 저장 과정(s102)에서 작성된 데이터를 기반으로현재의 연결에 대한 예상 연결 시간 및 새롭게 요청되는 연결에 대한 예상 연결 시간을 예측한다. 여기서, 현재의 연결이란 현재 서버에 연결되어 있는 상태를 말하며, 새롭게 요청되는 연결이란 현재는 연결되어 있지 않지만 연결을 요청하는 상태를 말한다.
또한, "현재의 연결에 대한 예상 연결 시간"은 현재의 연결이 어느 시점까지 지속될 지에 대한 예측치를 말하며, "새롭게 요청되는 연결에 대한 예상 연결 시간"이란 새롭게 요청된 연결이 미래의 어느 시점까지 지속될 지에 대한 예측치를 말한다.
현재의 연결을 요구한 사용자의 과거 이력, 현재와 같은 시간대에 현재와 같은 유형의 콘텐츠에 대한 연결시간의 평균값, 콘텐츠 상호 과정 등을 바탕으로 현재의 연결이 어느 시점까지 지속될 지를 예측할 수 있다. 또한, 새롭게 요청되는 연결에 대해서도 마찬가지 방법으로 예상 연결 시간을 예측할 수 있다.
현재의 연결에 대한 예상 연결 시간은 미래 시점에서의 서버별 부하를 예측하기 위해 사용된다.
새롭게 요청되는 연결에 대한 예상 연결 시간은 부하 분산을 위해 사용된다.
부하 예측 과정(s106)에서는 상기 연결 시간 예측 과정(s104)에서 작성된 현재의 연결에 대한 예상 연결 시간 및 새롭게 요청된 연결에 대한 예상 연결 시간을 서버별로 합산하여 서버별로 미래의 특정 시점에서의 부하를 예측한다. 사용자별, 콘텐츠별 예상 연결 시간을 알고 있으므로, 이를 바탕으로 특정 시점에서의 해당 서버의 부하를 예상하는 것이 가능하다.
미래의 특정시점이란 예를 들면 현재의 시점에 새롭게 요청받은 연결에 대한 예측연결시간의 절반을 더하여 얻어지는 시점일 수 있다.
개별 서버의 부하 총량은 하기의 수학식 1로 나타내어진다.
여기서, SL은 콘텐츠를 서비스하는 서버(200)를 나타내며, x는 다수의 서버중에 x번째의 서버를 말하고, t는 시간대별로 t 시점에서의 나타낸다. CL은 서비스중인 개별콘텐츠에 대한 x시점에서의 부하여부 및 부하량을 나타낸다.
따라서 SL은 개별 서버에서 서비스 중인 콘텐츠의 부하의 합으로서 x번째 서버의 t 시점에서의 부하의 총량을 나타낸다.
개별 콘텐츠의 부하량인 CL값은 1과 같이 똑같은 값으로 적용할 수 있고, 콘텐츠의 크기에 따라서 다르게 적용할 수도 있다.
부하 분산 과정(s108)에서는 상기 부하 예측 과정(s106)에서 작성된 데이터를 기반으로 실제 연결을 관리한다. 부한 분산은 현재의 연결들에 대해 미리 설정된 임계치가 넘지 않은 서버들에 대해 현재 새롭게 요청받은 새로운 연결을 수행하더라도 미래의 특정시점(예를 들면 현재 새롭게 요청받은 연결에 대한 예측연결시간의 반 값)에 부하가 가장 적은 서버로 연결을 시킨다.
여기서, 연결 시간 예측 과정(s104)에서의 연결 시간 예측을 위하여, 각 서비스 서버(200)로부터 부하 예측부(미도시)로 연결 종료 정보가 제공된다.
도 2는 본 발명에 따른 예측 로드 밸런싱 장치의 구성을 보이는 블록도이다.
도 2를 참조하면, 본 발명에 따른 예측 로드 밸런싱 장치(100)는 연결 이력 저장부(110), 연결 시간 예측부(120), 부하 예측부(130)0, 부하 분산부(140)를 포함한다.
한편, 각각의 서비스 서버(200)에는 연결 관리부(210)가 설치되어 있다.
연결 이력 저장부(110)는 사용자, 콘텐츠별, 콘텐츠 유형별, 시간대별로 콘텐츠 연결율 통계 데이터와 실시간이 아닌 스트리밍 데이터의 경우에는 추가적으로 콘텐츠 상호작용 측정과 같은 데이터를 저장한다.
연결 시간 예측부(120)는 연결 이력 저장부(110)의 데이터를 기반으로 현재의 연결에 대한 예상 연결 시간 및 새롭게 요청된 연결에 대한 예상 연결 시간을 예측한다.
부하 예측부(130)는 연결 시간 예측부(120)로부터의 데이터를 서버별로 통합하여 서버별로 미래의 부하를 예측헌다.
부하 예측부(130)는 현재의 연결에 대한 예상 연결 시간 및 새롭게 요청된 연결에 대한 예상 연결 시간을 서버별로 합산하여 서버별로 미래의 특정 시점에서의 부하를 예측한다. 여기서, 특정 시점이란 예를 들어, 현재 시점에다가 새롭게 요청받은 연결에 대한 예측 연결시간의 절반을 합산하여 얻어지는 시점이 될 수 있다.
부하 분산부(140)는 부하 예측부(130)로부터 받은 데이터를 기반으로 실제 연결을 관리한다.
현재의 연결들에 대해 미리 설정된 임계치가 넘지 않은 서버(200)들에 대해; 현재 새롭게 요청받은 새로운 연결을 수행하더라도; 미래의 특정시점(예를 들면 현재 시점에다가 새롭게 요청받은 연결에 대한 예측연결시간의 절반 값을 더하여 얻어지는 시점)에 부하가 가장 적은 서버(200)가 선택되고, 새롭게 요청된 연결은 해당 서버(200)로 연결된다.
연결 관리부(210)는 실제 서비스하는 각 서버(200)에 설치되는 것으로서, 연결 종료 정보를 연결 시간 예측부(120)에 전송한다.
도 2를 참조하여, 본 발명에 따른 예측 로드 밸런싱 장치(1000)의 동작을 상세히 설명하기로 한다.
연결 이력 저장부(110)는 콘텐츠에 대해 시작, 1분위, 중간 지점, 3분위, 완료, 평균 연결율(전체 길이 중 사용자가 본 길이를 백분율로 나타낸 수치), 평균 연결 시간 (연결당 동영상을 본 평균 시간), 완료율(끝까지 재생된 횟수의 비율)과 같은 콘텐츠 연결율 통계와 실시간이 아닌 스트리밍 데이터의 경우에는 추가적으로 일시정지, 재개, 되감기, 음소거, 평균 상호 작용율과 같은 콘텐츠 상호 작용 축정과 같은 데이터를 저장하고, 이를 사용자별, 콘텐츠별, 콘텐츠 유형별, 시간대별로 재정리하여 저장한다.
연결 시간 예측부(120)는 연결 이력 저장부(110)의 데이터를 기반으로 현재 연결된 세션에 대해 예상되는 연결 종료 시점을 예측하고 이를 메모리에 저장하고부하 예측부(130)로 전달한다. 세션이 종료되면 서비스 서버(200)의 연결관리부(210)로부터 정보를 받아서 연결 이력 저장부(110)에 저장하고, 부하 예측부(120)에 갱신된 데이터를 전달하고, 실제 종료값을 업데이트하여 점차 예측값을 개선해 나간다.
부하 예측부(130)는 연결 시간 예측부(120)로부터 서비스 서버별 세션 정보를 바탕으로 미래의 특정시점별로 각 서비스 서버(200)의 부하를 데이터 분석을 통해 취합하고, 주기적으로 부하 분산부(140)에 전달하거나, 새로운 사용자의 연결요청이 있을 때 부하 분산부(140)가 부하 예측부(130)로 예측연결시간을 요청하는 경우에 예측값을 전달한다.
부하 분산부(140)는 부하 예측부(130)로부터 받은 서비스 서버별 예측 부하를 바탕으로 새로운 연결요청에 대해 연결을 관리하며, 각 서비스 서버의 연결정보를 관리하고, 연결 임계값을 설정하고 관리하며, 임계값이 넘은 서버에 대해서는 더 이상 새로운 연결을 시키지 않는 기능을 갖는다.
연결 관리부(210)는 연결 종료시 로드 밸런싱 장치(100)의 연결 시간 예측부(110)에 현재 종료된 세션에 대한 연결 종료 정보를 전송한다. 연결 관리부(210)는 실제 서비스하는 각 서버(200)마다 설치된다.
본 발명의 예측 로드 밸런싱 방법은 입출력 장치, 메모리, 중앙처리장치, 모니터 등을 구비한 정보처리장치 즉, 컴퓨터로 구현될 수 있다. 컴퓨터는 네트워크 장치를 통하여 각 서버(200)들과 연결되어 있다. 컴퓨터는 본 발명의 예측 로드 방법이 기록된 컴퓨터로 읽어들일 수 있는 기록매체로부터 본 발명의 예측 로드 밸런싱 방법을 읽어들여 실행시킨다.
100...예측 로드 밸런싱 장치 200...서버
110...연결 이력 저장부 120...연결 시간 예측부
130...부하 예측부 140...부하 분산부
210...연결 관리부
110...연결 이력 저장부 120...연결 시간 예측부
130...부하 예측부 140...부하 분산부
210...연결 관리부
Claims (8)
- 콘텐트에 대한 사용자의 현재의 요청에 대해 해당 사용자의 과거 이력 정보와 해당 콘텐츠의 연결 지속시간을 기반으로 현재 요청중인 연결에 대해 최적의 서버를 선택하는 예측 로드 밸런싱 방법에 있어서
사용자별/ 콘텐츠별/ 콘텐츠 유형별/ 시간대별 콘텐츠 연결율 통계 데이터를 저장하는 연결 이력 저장 과정;
상기 연결 이력 저장 과정에서 작성된 데이터를 기반으로 현재의 연결에 대한 예상 연결 시간 및 새롭게 요청되는 연결에 대한 예상 연결 시간을 예측하는 연결 시간 예측 과정;
상기 연결 시간 예측 과정에서 작성된 현재의 연결에 대한 예상 연결 시간 및 새롭게 요청된 연결에 대한 예상 연결 시간을 서버별로 합산하여 서버별로 미래의 특정 시점에서의 부하를 예측하는 부하 예측 과정; 및
상기 부하 예측 과정에서 작성된 데이터를 기반으로 실제 연결을 관리하며, 현재의 연결들에 대해 미리 설정된 임계치가 넘지 않은 서버들에 대해 현재 새롭게 요청받은 새로운 연결을 수행하더라도 미래의 특정시점에 부하가 가장 적은 서버로 연결시키는 부하 분산 과정;을 포함하는 예측 로드 밸런싱 방법. - 제1항에 있어서, 상기 연결 이력 저장 과정은
실시간이 아닌 스트리밍 데이터의 경우에는 추가적으로 일시정지, 앞으로 이동, 뒤로 이동, 처음부터 다시보기와 같은 콘텐츠 상호작용 측정 데이터를 더 저장하는 것을 특징으로 하는 예측 로드 밸런싱 방법.
- 제2항에 있어서, 상기 부하 예측 과정은 현재의 시점에다가 새롭게 요청받은 연결에 대한 예측연결시간의 절반을 더하여 얻어지는 시점에서의 서버별 부하를 예측하는 것을 특징으로 하는 예측 로드 밸런싱 방법.
- 콘텐트에 대한 사용자의 현재의 요청에 대해 해당 사용자의 과거 이력 정보와 해당 콘텐츠의 연결 지속시간을 기반으로 현재 요청중인 연결에 대해 최적의 서버를 선택하는 예측 로드 밸런싱 장치에 있어서
사용자별/콘텐츠별 유형별/ 시간대별 콘텐츠 연결율 통계 데이터를 저장하는 연결 이력 저장부;
상기 연결 이력 저장부의 데이터를 기반으로 현재의 연결에 대한 예상 연결 시간 및 새롭게 요청된 연결에 대한 예상 연결 시간을 예측하는 연결 시간 예측부;
상기 연결 시간 예측부로부터의 데이터를 서버별로 통합하여 서버별로 미래의 부하를 예측하는 부하 예측부;
상기 부하 예측부로부터 받은 데이터를 기반으로 실제 연결을 관리하며 현재의 연결들에 대해 미리 설정된 임계치가 넘지 않은 서버들에 대해 현재 새롭게 요청받은 새로운 연결을 수행하더라도 미래의 특정시점에 부하가 가장 적은 서버로 연결시키는 부하 분산부; 및
실제 서비스하는 각 서버에 설치되는 것으로서, 연결 종료 정보를 상기 연결 시간 예측부에 전송하는 연결 관리부;
를 포함하는 예측 로드 밸런싱 장치. - 제4항에 있어서, 연결 이력 저장부는 실시간이 아닌 스트리밍 데이터의 경우에는 추가적으로 콘텐츠 상호작용 측정 데이터를 저장하는 것을 특징으로 하는 예측 로드 밸런싱 장치.
- 제5항에 있어서, 상기 부하 예측부는 현재 시점에다가 새롭게 요청받은 연결에 대한 예측 연결시간의 절반을 합산하여 얻어지는 시점에서의 서버별 부하를 예측하는 것을 특징으로 하는 예측 로드 밸런싱 장치.
- 제6항에 있어서, 상기 부하 분산부는 현재의 연결들에 대해 미리 설정된 임계치가 넘지 않은 서버들에 대해; 현재 새롭게 요청받은 새로운 연결을 수행하더라도; 미래의 특정시점(현재 새롭게 요청받은 연결에 대한 예측연결시간의 절반을 더하여 얻어지는 시점)에서 부하가 가장 적은 서버를 선택하고, 새롭게 요청된 연결을 선택된 서버로 연결하는 것을 특징으로 하는 예측 로드 밸런싱 장치.
- 사용자별/ 콘텐츠별/ 콘텐츠 유형별/ 시간대별 콘텐츠 연결율 통계 데이터를 저장하는 연결 이력 저장 과정;
상기 연결 이력 저장 과정에서 작성된 데이터를 기반으로 현재의 연결에 대한 예상 연결 시간 및 새롭게 요청되는 연결에 대한 예상 연결 시간을 예측하는 연결 시간 예측 과정;
상기 연결 시간 예측 과정에서 작성된 현재의 연결에 대한 예상 연결 시간 및 새롭게 요청된 연결에 대한 예상 연결 시간을 서버별로 합산하여 서버별로 미래의 특정 시점에서의 부하를 예측하는 부하 예측 과정; 및
상기 부하 예측 과정에서 작성된 데이터를 기반으로 실제 연결을 관리하며, 현재의 연결들에 대해 미리 설정된 임계치가 넘지 않은 서버들에 대해 현재 새롭게 요청받은 새로운 연결을 수행하더라도 미래의 특정시점에 부하가 가장 적은 서버로 연결시키는 부하 분산 과정;
을 포함하여, 콘텐트에 대한 사용자의 현재의 요청에 대해 해당 사용자의 과거 이력 정보와 해당 콘텐츠의 연결 지속시간을 기반으로 현재 요청중인 연결에 대해 최적의 서버를 선택하는 예측 로드 밸런싱 방법이 기록된 컴퓨터로 읽어들일 수 있는 기록 매체.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020180047571A KR102108835B1 (ko) | 2018-04-24 | 2018-04-24 | 예측 로드 밸런싱 방법 및 장치 그리고 예측 로드 밸런싱 방법이 수록된 컴퓨터로 읽어들일 수 있는 기록 매체 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020180047571A KR102108835B1 (ko) | 2018-04-24 | 2018-04-24 | 예측 로드 밸런싱 방법 및 장치 그리고 예측 로드 밸런싱 방법이 수록된 컴퓨터로 읽어들일 수 있는 기록 매체 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20190123834A KR20190123834A (ko) | 2019-11-04 |
KR102108835B1 true KR102108835B1 (ko) | 2020-05-29 |
Family
ID=68578495
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020180047571A KR102108835B1 (ko) | 2018-04-24 | 2018-04-24 | 예측 로드 밸런싱 방법 및 장치 그리고 예측 로드 밸런싱 방법이 수록된 컴퓨터로 읽어들일 수 있는 기록 매체 |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102108835B1 (ko) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007074797A1 (ja) * | 2005-12-28 | 2007-07-05 | International Business Machines Corporation | クライアント・サーバ・システムにおける負荷分散 |
JP2009237835A (ja) * | 2008-03-26 | 2009-10-15 | Panasonic Electric Works Co Ltd | Webサーバシステムおよび負荷分散方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101196605B1 (ko) | 2010-10-29 | 2012-11-02 | 성균관대학교산학협력단 | 멀티 에이전트 시스템에서의 동적 로드 밸런싱 방법 |
KR101619686B1 (ko) | 2012-04-25 | 2016-05-10 | 엠파이어 테크놀로지 디벨롭먼트 엘엘씨 | 네트워크 기반 컴퓨팅을 위한 워크로드 예측 |
-
2018
- 2018-04-24 KR KR1020180047571A patent/KR102108835B1/ko active IP Right Grant
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007074797A1 (ja) * | 2005-12-28 | 2007-07-05 | International Business Machines Corporation | クライアント・サーバ・システムにおける負荷分散 |
JP2009237835A (ja) * | 2008-03-26 | 2009-10-15 | Panasonic Electric Works Co Ltd | Webサーバシステムおよび負荷分散方法 |
Also Published As
Publication number | Publication date |
---|---|
KR20190123834A (ko) | 2019-11-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103370709B (zh) | 用于分段多媒体的缓存管理器以及用于缓存管理的相应方法 | |
JP5343075B2 (ja) | オンラインキャッシュ及びピア・ツー・ピア転送を用いるメディアストリーミング | |
US8705359B2 (en) | Tool for predicting capacity demands on an electronic system | |
KR100584323B1 (ko) | 멀티미디어 컨텐츠의 스트리밍 서비스 방법 | |
CN102158518B (zh) | 一种cdn网络中的数据传输方法、网络节点及系统 | |
CN102918594A (zh) | 用于自适应流播放器的高速缓存控制 | |
JP6611271B2 (ja) | 動画品質制御装置、ビットレート選択方法、及びプログラム | |
KR100671635B1 (ko) | 스트리밍 미디어 서비스 관리 방법 | |
CN111654526B (zh) | 一种流媒体服务器的负载均衡方法及系统 | |
JP5699619B2 (ja) | キャッシュ装置、データ管理方法、プログラム、及びキャッシュシステム | |
CN104967868B (zh) | 视频转码方法、装置和服务器 | |
WO2011024930A1 (ja) | コンテンツ配信システム、コンテンツ配信方法及びコンテンツ配信用プログラム | |
CN106209952B (zh) | 服务节点分配方法、装置、cdn管理服务器及系统 | |
Huang et al. | Personalized QoE enhancement for adaptive video streaming: A digital twin-assisted scheme | |
KR102108835B1 (ko) | 예측 로드 밸런싱 방법 및 장치 그리고 예측 로드 밸런싱 방법이 수록된 컴퓨터로 읽어들일 수 있는 기록 매체 | |
CN101399834A (zh) | 媒体点播网络、在网络的流动节点中存储媒体资产的方法 | |
JP6517342B2 (ja) | 配信レート選択装置、配信レート選択方法、及びプログラム | |
US10108905B2 (en) | Improving an electronic system based on capacity demands of a network device | |
US11201901B2 (en) | Methods and systems for streaming media data over a content delivery network | |
US8799494B1 (en) | Application streaming proactive failover | |
Schwarzmann | Modeling and design of novel QoE management strategies for adaptive video streaming | |
EP3301945A1 (en) | A system and method for forecasting the demand for multimedia content and for selecting the optimal delivery methods (forecasting middleware scheduler - fms) | |
KR101448586B1 (ko) | 클라우드 네트워크 자원 관리 방법, 클라우드 서버 및 이를 이용하는 클라우드 네트워크 시스템 | |
KR102158856B1 (ko) | 원격 컴퓨팅 시스템 및 원격 컴퓨팅 방법 | |
CN101562626A (zh) | 一种媒体分发方法、系统和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |