Nothing Special   »   [go: up one dir, main page]

CN107819797B - 访问请求处理方法和装置 - Google Patents

访问请求处理方法和装置 Download PDF

Info

Publication number
CN107819797B
CN107819797B CN201610819713.XA CN201610819713A CN107819797B CN 107819797 B CN107819797 B CN 107819797B CN 201610819713 A CN201610819713 A CN 201610819713A CN 107819797 B CN107819797 B CN 107819797B
Authority
CN
China
Prior art keywords
access request
fusing
state
access
server
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201610819713.XA
Other languages
English (en)
Other versions
CN107819797A (zh
Inventor
汤金林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN201610819713.XA priority Critical patent/CN107819797B/zh
Publication of CN107819797A publication Critical patent/CN107819797A/zh
Application granted granted Critical
Publication of CN107819797B publication Critical patent/CN107819797B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/51Discovery or management thereof, e.g. service location protocol [SLP] or web services
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/50Network service management, e.g. ensuring proper service fulfilment according to agreements

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer And Data Communications (AREA)
  • Telephonic Communication Services (AREA)

Abstract

本发明涉及访问请求处理方法,所述方法包括以下步骤:获取用户终端发送的访问请求;为所述访问请求分配对应的区域服务器进行处理;获取所述区域服务器的与所述访问请求对应的熔断机制的熔断状态;当所述熔断状态为开启状态时,获取与开启状态对应的预设值,及与所述预设值对应的预设数据,并将所述预设数据发送给所述用户终端;当所述熔断状态为关闭状态时,调用与所述访问请求相关联的访问数据对所述访问请求进行处理,并将处理结果发送给所述用户终端。上述方法可提高服务器对任务处理的效率。此外,还对应提供了一种访问请求处理装置。

Description

访问请求处理方法和装置
技术领域
本发明涉及信息处理技术领域,特别是涉及一种访问请求处理方法和装置。
背景技术
对于用户基数巨大的公司的服务器,其接收到的客户端的访问请求也是巨大的。而一般的访问请求的数量会随着时间的变化而变化,当服务器在短时间出现大量访问请求时,会产生雪崩效应,使得服务器的整体运行效率降低,严重情况下,会导致服务器瘫痪。面对这种短时间出现大量访问请求的情况,传统的解决方法都是扩展服务器的存储容量,以支撑内部数据的正常运行。然而,这种方法需要花费大量的成本。
发明内容
基于此,有必要提供一种访问请求处理方法和装置,用以在不扩展服务器存储容量前提下,有效地解决服务器在短时间内接收到大量访问请求时,任务处理效率低下的技术问题。
一种访问请求处理方法,所述方法包括以下步骤:
获取用户终端发送的访问请求;
为所述访问请求分配对应的区域服务器进行处理;
获取所述区域服务器的与所述访问请求对应的熔断机制的熔断状态;
当所述熔断状态为开启状态时,获取与开启状态对应的预设值,及与所述预设值对应的预设数据,并将所述预设数据发送给所述用户终端;
当所述熔断状态为关闭状态时,调用与所述访问请求相关联的访问数据对所述访问请求进行处理,并将处理结果发送给所述用户终端。
在其中一个实施例中,在所述获取与所述访问请求对应的所述区域服务器的熔断状态的步骤之前,所述方法还包括:
计算在当前周期中与所述区域服务器对应的访问请求的数量;
当所述数量达到第一阈值时,计算在当前周期中与所述熔断机制对应的访问请求的执行错误率;
当所述执行错误率达到第二阈值时,使所述区域服务器的熔断状态为开启状态。
在其中一个实施例中,在所述获取与所述访问请求对应的所述区域服务器的熔断状态的步骤之前,所述方法还包括:
计算与所述访问请求对应的并行任务的数量;
当所述数量达到第三阈值时,使所述熔断状态为开启状态。
在其中一个实施例中,所述访问请求包括访问事项;
所述为所述访问请求分配对应的区域服务器进行处理的步骤之前,所述方法还包括:
根据所述访问事项确定所述访问请求的访问类型;
所述为所述访问请求分配对应的区域服务器进行处理的步骤,包括:
根据所述访问类型确定对应的区域服务器,分配所确定的区域服务器对所述访问请求进行处理;
所述获取所述区域服务器的与所述访问请求对应的熔断机制的熔断状态的步骤,包括:
获取所述区域服务器的与所述访问类型对应的熔断机制的熔断状态。
在其中一个实施例中,所述方法还包括:
当所述熔断状态为开启状态时,累计所述熔断状态保持开启状态的开启时长,当所述开启时长达到第一预设时长时,使所述熔断状态为关闭状态。
一种访问请求处理装置,所述装置包括:
访问请求获取模块,用于获取用户终端发送的访问请求;
区域服务器分配模块,用于为所述访问请求分配对应的区域服务器进行处理;
熔断状态获取模块,用于获取所述区域服务器的与所述访问请求对应的熔断机制的熔断状态;
请求处理模块,用于当所述熔断状态为开启状态时,获取与开启状态对应的预设值,及与所述预设值对应的预设数据,并将所述预设数据发送给所述用户终端;当所述熔断状态为关闭状态时,调用与所述访问请求相关联的访问数据对所述访问请求进行处理,并将处理结果发送给所述用户终端。
在其中一个实施例中,所述装置还包括:
熔断状态第一处理模块,用于用于计算在当前周期中与所述区域服务器对应的访问请求的数量;当所述数量达到第一阈值时,计算在当前周期中与所述熔断机制对应的访问请求的执行错误率;当所述执行错误率达到第二阈值时,使所述区域服务器的熔断状态为开启状态。
在其中一个实施例中,所述装置还包括:
熔断状态第二处理模块,用于计算与所述访问请求对应的并行任务的数量;当所述数量达到第三阈值时,使所述熔断状态为开启状态。
在其中一个实施例中,所述访问请求包括访问事项;所述装置还包括:
访问类型确定模块,用于根据所述访问事项确定所述访问请求的访问类型;
所述区域服务器分配模块还用于根据所述访问类型确定对应的区域服务器,分配所确定的区域服务器对所述访问请求进行处理;
所述熔断状态获取模块还用于获取所述区域服务器的与所述访问类型对应的熔断机制的熔断状态。
在其中一个实施例中,所述装置还包括:
熔断状态第三处理模块,用于当所述熔断状态为开启状态时,累计所述熔断状态保持开启状态的开启时长,当所述开启时长达到第一预设时长时,使所述熔断状态为关闭状态。
上述访问请求处理方法和装置,通过根据预先设置的区域服务器,将所接收到的访问请求分配给相应的区域服务器进行处理,并根据预先设置的熔断机制,获取该访问请求对应的熔断机制的熔断状态,当熔断状态为开启状态时,则直接获取与预设值对应的预设数据,将预设数据发送给用户终端。从而可在不扩展服务器存储容量的情况下,通过对其划分区域服务器,并设置对应的熔断机制,可降低在短时间的大量访问请求时,对服务器的整体运行效率的影响,相对传统的方法,可提高服务器对任务处理的效率。
附图说明
图1为一个实施例中访问请求处理方法的应用环境图;
图2为一个实施例中访问请求处理方法的流程示意图;
图3为一个实施例中访问请求分配的示意图;
图4为另一个实施例中访问请求处理方法的流程示意图;
图5为一个实施例中访问请求处理装置的结构框图;
图6为另一个实施例中访问请求处理装置的结构框图;
图7为又一个实施例中访问请求处理装置的结构框图;
图8为再一个实施例中访问请求处理装置的结构框图;
图9为还一个实施例中访问请求处理装置的结构框图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
图1为一个实施例中访问请求处理方法的应用环境图。参照图1,用户终端110通过网络可调用预设接口与服务器120进行连接通讯。用户终端110包括但不限于手机、掌上游戏机、平板电脑、个人数字助理或穿戴设备等。用户终端110可向服务器120发送数据访问请求。服务器120上预先设置了至少一个区域服务器(RegionServe),如图中的区域服务器120A、120B、120C…每个区域服务器可对应处理所分配的任务,所分配的任务包括用户终端110所发起的数据访问请求。服务器在接收到用户终端110的数据访问请求后,可将该访问请求分配给对应的区域服务器进行处理。服务器120预先对每个区域服务器设置了至少一种熔断机制,每个熔断机制可控制对应的访问请求的数据处理流程。熔断机制在正常状态下为关闭状态,此时,该熔断机制所管理的数据可被正常处理。当熔断状态为非正常状态即开启状态时,被该熔断机制所管理的访问请求被返回一个对应的预设值,该预设值又对应一个相关的预设数据,使得该区域服务器将该预设数据直接发送给用户终端。
在一个实施例中,如图2所示,提供了一种访问请求处理方法,该方法可应用于如图1所示的服务器110中,包括以下步骤:
步骤202,获取用户终端发送的访问请求。
本实施例中,服务器可接收用户终端所发送的访问请求,该访问请求可为任意的访问请求。以即时通讯应用类的访问请求为例,用户终端可通过与相应的即时通讯应用的服务器建立连接关系后,可将其发送进行账号登录的访问请求,或发送个人信息更改的访问请求,还可向其发送向好友或群组发送即时消息的访问请求等等。
步骤204,为该访问请求分配对应的区域服务器进行处理。
本实施例中,服务器中预先设置至少一个区域服务器,并可向所设置的区域服务器分配对应的处理任务,该任务包括对用户终端的访问请求进行处理。区域服务器可根据所分配的处理任务自动进行相应的处理。服务器可进一步预先设置每个区域服务器的任务分配规则。该规则可为按照访问请求的接收时间排序分配的规则、按照访问请求的处理的复杂度进行分配的规则、按照访问请求的类型进行分配的规则、按照访问请求的优先级进行分配的规则等其中的一种或多种的结合。
对于分配规则为按照访问请求的接收时间排序分配的规则,服务器可对所设置的数量的区域服务器进行排序,并为每个区域服务器设置对应的连续分配任务数量。当统计处于分配状态下的区域服务器连续分配的任务的数量达到所设置的数量后,则根据区域服务器的排序关系选取位于当前分配的区域服务器之后的下一个区域服务器,将其作为新的待分配任务的区域服务器。同样的,服务器可对所接收到每个用户终端的访问请求进行排序。具体的,可按照每个访问请求按照接收时间先后顺序进行排序,然后根据区域服务器的分配排序规则,依次将每个访问请求分配给对应的区域服务器。当完成一轮对区域服务器的任务分配之后,可进行新一轮的分配,从而实现对所有获取到的访问请求的不断分配。其分配的示意图可如图3所示。
对于分配规则为按照访问请求的处理的复杂度进行分配的规则,服务器可根据所设置的每个区域服务器的处理性能为其设置对应的复杂度的任务。该复杂度可按照等级来划分,使得每个区域服务器可对应关联一个或多个等级的复杂度。也可按照复杂度数值来划分,使得每个区域服务器可对应关联一个具体的复杂度数值范围。服务器在接收到访问请求后,可判断处理该访问请求的复杂度的数值或等级,并该数值或处的数值范围,或复杂度等级所对应的区域服务器,若所关联的区域服务器包含多个,则从该多个中选取一个作为所分配的区域服务器。其中从多个关联的区域服务器中选取的规则可为按照访问请求的接收时间排序分配的规则。从而可实现了两种分配规则的结合。
对于分配规则为按照访问请求的类型进行分配的规则,服务器可将访问请求进行分类,并设置,每个区域服务器所处理的访问请求的类型。并根据该访问类型与对应区域数据库的关联关系来确定用于处理该访问请求的区域数据库。
进一步的,访问请求中还包括用户标识,对于分配规则为按照访问请求的优先级进行分配的规则,服务器可预先设置访问请求所包括的优先级,比如可按照优先级有高到低的顺序,分别为第一优先级、第二优先级、第三优先级等等。并建立每个优先级与具体的区域服务器之间的关联关系。在获取到访问请求后,可确定该访问请求的优先级,根据所确定的优先级与对应区域服务器之间的关联关系,将该访问请求分配给所与之对应的区域服务器。具体的,服务器可预先设置每个用户标识的用户等级,比如为普通用户、高级用户、VIP用户等等。并结合具体访问请求中所包含的具体访问事项,根据该访问事项以及用户等级来确定相应访问请求的优先级。
步骤206,获取区域服务器的与访问请求对应的熔断机制的熔断状态。
本实施例中,服务器预先对每个区域服务器设置了相应至少一个的熔断机制,每个熔断机制用于控制对应访问请求的处理流程。使得当相应区域服务器的任务负荷过大或出现任务执行出错过多等异常情况时,相应熔断机制的熔断状态为开启状态,以降低后续的任务对该区域服务器的负荷。当相应区域服务器的任务负荷正常时,熔断状态为关闭状态,使得该区域服务器对相应的访问请求做正常的处理。
其中,服务器预先设置了每个熔断机制所对应的具体区域服务器,并进一步与分配给该区域服务器的访问请求之间建立关联关系,从而当区域服务器在接收到所分配的访问请求后,可通过该关联联系获取到相应的熔断机制的熔断状态。
当具体的区域服务器所被预先设置的熔断机制为一个时,则分配该区域服务器的访问请求均与该一个熔断机制所关联。当具体的区域服务器所被预先设置的熔断机制为两个或两个以上时,可为使得每个被设置的熔断机制关联对应一个优先级的访问请求或关联一个对应的访问类型的访问请求,还将所分配的访问请求可随机地或顺序地关联该多个熔断机制中的其中一个。
以优先级为例来说明,假设服务器为访问请求预先设置了5个优先级,且按照分配规则,将优先级分别为第一优先级和第二优先级的访问请求均分配给区域服务器A,并对区域服务器A设置了两个熔断机制(设为第一熔断机制和第二熔断机制),第一熔断机制关联分配给区域服务器A的第一优先级的访问请求,第二熔断机制关联分配给区域服务器A的第二优先级的访问请求。将优先级分别为第三优先级的访问请求分配给区域服务器B,并对区域服务器B设置了一个熔断机制(即第三熔断机制)。当区域服务器A接收到为其分配的访问请求为第一优先级的访问请求后,可根据相应的关联关系获取第一熔断机制的熔断状态。若将访问请求分配给了区域服务器B,则直接获取对应的第三熔断机制的熔断状态。
具体的,服务器可根据hystrix技术来监控所接收到的每个访问请求,并为其分配相应的区域服务器进行处理,并结合curator技术来动态调节所设置的各个区域服务器对应的熔断机制,使得其在达到一定的条件时,该熔断机制的熔断状态为开启状态。
步骤208,当熔断状态为开启状态时,获取与开启状态对应的预设值,及与预设值对应的预设数据,并将预设数据发送给用户终端。
本实施例中,服务器预先对每个熔断机制的熔断状态为开启状态时候,使对应的访问任务指向一个预设值,预设值指向对应的预设数据。该预设值可为一个默认值。默认值指向的预设数据可为向相应访问请求返回访问失败或等待处理等的数据。
当熔断状态为开启状态,则说明相应的误区服务器存在任务负荷过大或存在或出现任务执行出错过多等一种或多种异常情况。此时,可获取该开启状态的熔断机制所对应的默认数据,直接将其返回给相应的用户终端。从而可缓解相关处理器、数据库等的任务负荷,避免对该访问请求的处理造成业务线程的堵塞。
步骤210,当熔断状态为关闭状态时,调用与访问请求相关联的访问数据对访问请求进行处理,并将处理结果发送给用户终端。
当熔断状态为关闭状态时,则使该区域服务器对该访问请求进行正常处理,如调用相应的数据库中的相关数据、相关接口、计算单元或处理单元等等,完成对访问请求的处理,将处理结果发送给用户终端。
举例来说,该访问请求为向好友发送消息,若对应的熔断状态为关闭状态,则可获取该具体准备发送的消息,并获取该消息的发送对象,调用相关的接口将该信息发送至发送对象,并向该用户终端返回访问请求的处理结果,比如信息发送成功或发送失败等。若对应的熔断状态为开启状态,则直接获取该熔断机制所对应的预设值,将该默认值所指向的预设数据发送给用户终端,比如该预设数据为“服务器相应超时,请稍后再试”或“消息发送失败,请重新发送”等等。
本实施例中,通过根据预先设置的区域服务器,将所接收到的访问请求分配给相应的区域服务器进行处理,并根据预先设置的熔断机制,获取该访问请求对应的熔断机制的熔断状态,当熔断状态为开启状态时,则直接获取与预设值对应的预设数据,将预设数据发送给用户终端。从而可在不扩展服务器存储容量的情况下,通过对其划分区域服务器,并设置对应的熔断机制,可降低在短时间的大量访问请求时,对服务器的整体运行效率的影响,相对传统的方法,可提高服务器对任务处理的效率。
在一个实施例中,如图4所示,提供了另一种访问请求处理方法,该方法还包括以下步骤:
步骤212,计算在当前周期中与区域服务器对应的访问请求的数量。
本实施例中,服务器设置了对应的访问数据处理周期,每个熔断机制均具有一个对应的周期。每个周期的时长可为10秒、20秒或1分钟等任意时间。服务器可调用相关的计算单元实时统计在当前周期下所接收到的所有访问请求中,每个熔断机制对应的访问请求的数量。
举例来说,若每个周期的时长为30秒,在当前时间为当前周期下的第20秒时,统计到当前周期下所获取到的访问请求的总数量为10000个,分配给区域服务器A的访问请求的数量为5000个,由该5000个访问请求中,和第一熔断机制相关联的访问请求的数量为3000个。
步骤214,当该数量达到第一阈值时,计算在当前周期中与该熔断机制对应的所有访问请求的执行错误率。
本实施例中,针对每个熔断机制,服务器还对应设置了第一阈值,该第一阈值可为一个合适的数值,作为该第一数量的比较对象。根据比较结果决定是否可以统计当前周期中,该熔断机制对应的访问请求的执行错误率。其中,区域服务器每被分配给一个访问请求后,则在完成对该访问请求的任务执行时,向服务器反馈相应的执行结果,执行结果包括执行成功和执行错误。服务器根据每个熔断机制对应的访问请求的执行结果,可统计出该熔断机制对应的所有访问请求的执行错误率。
通过设置第一阈值,当第一数量小于第一阈值,则说明错误率的统计样本数量不够,统计出来的错误率的准确性也无法反映出该相应的区域服务器在当前情况下对访问请求的处理性能,此时可无需考虑执行错误率。
步骤216,当执行错误率达到第二阈值时,使区域服务器的熔断状态为开启状态。
本实施例中,第二阈值也为预先设置的数值,用于和执行错误率进行比较,根据比较结果决定相应熔断机制的熔断状态。当执行错误率达到第二阈值时,则说明该相应的区域服务器对所分配的访问请求的处理的性能出现异常等状况,此时,可使得相应的熔断机制的熔断状态为开启状态。使得对该访问请求的执行与对应的熔断机制为开启状态下的流程,以避免对服务器在整体的访问请求的执行上受到更大的影响。
在一个实施例中,若在当前周期内的熔断状态一直为关闭状态时,则当前周期的时长为:在当前周期开始,至请求总次数首次达到或超过第一阈值时,对应的第一时长与预设的第二时长之和;若在当前周期内熔断状态存在开启状态,则当前周期的时长为:在当前周期开始,至错误率超过熔断阈值时,对应的第三时长与预设的第四时长之和,第四时长为预设的熔断状态处于开启状态的时长。
即第一时长为在当前周期开始,至请求总次数首次达到或超过第一阈值时,所经历的时长。第二时长为预设的时长,如可为30秒,第二时长为实时统计的执行错误率的时长。第三时长为在当前周期开始,至错误率超过熔断阈值时,所经历的时长。第四时长为预设的熔断状态一直保持为开启状态的时长。
通过设置相应的周期,每个区域服务器所处的周期时间也不一定相同,而当同一区域服务器中存在对应多个熔断机制时,其对访问请求的处理也包含相应多个周期。使得每个区域服务器可根据对应的熔断机制的周期,来控制对访问数据的处理流程,当存在某一部分的访问数据处理有异常情况时,对服务器上的整体的访问数据的处理的影响较小。
在一个实施例中,在获取与访问请求对应的区域服务器的熔断状态的步骤之前,上述的访问请求处理方法还包括:计算与该访问请求对应的并行任务的数量;当该数量达到第三阈值时,使熔断状态为开启状态。
本实施例中,区域服务器对于所分配的所有访问请求采用并行处理的方式。服务器可预先设置每个熔断机制对应的并行任务数量,所设置的并行任务数量即为第三阈值。区域服务器可检测对应的并行任务的数量是否达到第三阈值,若是,则说明该区域服务器的任务负荷过大,可使相应的熔断机制的熔断状态为开启状态。
进一步以上述的即时通讯应用类的访问请求为例,服务器可根据访问类型设置了相应的区域服务器和熔断机制。比如可设置个人信息类型对应的第三阈值为80个,检测到所分配的区域服务器的人信息类型的访问请求的并行数量超过80个时,则使该熔断机制的熔断状态为开启状态,从而使该类型的访问请求在并行数量过大时,不会影响到其它类型的访问请求的处理。
在一个实施例中,访问请求中包含相应的访问事项,上述的访问请求处理方法,在步骤204之前,还包括:根据访问事项确定访问请求的访问类型。
以即时通讯应用类的访问请求为例,当用户终端使用及时通讯软件应用进行消息发送以及信息更改等操作时,需要与该即时通讯应用的服务器进行连接,向服务器发送访问请求。访问请求中包含具体的访问事项,比如包括好友信息发送请求、群组信息发送请求、通讯录信息更改请求,对应的访问类型为好友信息类型、群信息类型以及个人信息类型。服务器在接收到该访问请求后,可获取访问请求中所包含的访问事项,根据该访问事项确定对应的访问类型。
步骤204包括:根据访问类型确定对应的区域服务器,分配所确定的区域服务器对访问请求进行处理。
服务器可分配每个区域服务器所负责处理的至少一个类型的访问请求,并建立每个区域服务器与相应的访问请求的访问类型之间的关联关系,在确定访问请求的访问类型后,可根据该访问类型与相应区域服务器之间的关联关系,将所确定的区域服务器作为该处理该访问请求的区域服务器。
步骤206包括:获取区域服务器的与访问类型对应的熔断机制的熔断状态。
服务器可进一步设置每个区域服务器的熔断机制与访问类型之间的对应关系,使一个熔断机制对应一个访问类型。进而可根据该访问请求的访问类型来确定对应的熔断机制,并获取该熔断机制的熔断状态。
本实施例中,通过根据访问事项确定对应的访问类型,并根据访问类型与区域服务器以及熔断机制之间的对应关系确定所分配的区域服务器与相应的熔断机制,从而获取该熔断机制的熔断状态。通过对访问请求进行分类,还可方便服务器对所有接收到的访问请求的管理,提高了访问请求的管理效率。
在一个实施例中,上述的访问请求处理方法还包括:当熔断状态为开启状态时,累计熔断状态保持开启状态的持续时长,当持续时长达到预设的开启时长时,使熔断状态为关闭状态。
本实施例中,服务器可进一步设置每个熔断机制的开启时长。该开启时长可为5秒或10秒等任意时长。当熔断机制处于开启状态时,使得区域服务器向处于该开启状态下所对应的访问请求的用户终端均返回对应的预设数据,而可以正常处理其它的访问请求。
举例来说,若为某一区域服务器所分配的请问请求的数量为10000个,且该1000个访问请求都对应某一相同的熔断机制。在分配前7000个访问请求时,所对应的熔断状态均为关闭状态,而当分配第7001个访问请求时,熔断状态变更为开启状态,并在对应的开启时长内分配了了对应的第7001~8000个访问请求,在分配第8001~10000个访问请求时,该熔断状态变更为关闭状态。此时,则使得前7000个访问请求可具备至少该开启时长的时间内,不会出现新的访问请求来占用资源。从而在整体上缓解了服务器的任务执行压力,提高了执行效率。
在一个实施例中,如图5所示,提供了一种访问请求处理装置,该装置包括:
访问请求获取模块502,用于获取用户终端发送的访问请求。
区域服务器分配模块504,用于为访问请求分配对应的区域服务器进行处理。
熔断状态获取模块506,用于获取区域服务器的与访问请求对应的熔断机制的熔断状态。
请求处理模块508,用于当熔断状态为开启状态时,获取与开启状态对应的预设值,及与预设值对应的预设数据,并将预设数据发送给用户终端;当熔断状态为关闭状态时,调用与访问请求相关联的访问数据对访问请求进行处理,并将处理结果发送给用户终端。
在一个实施例中,如图6所示,提供了另一种访问请求处理装置,该装置还包括:
熔断状态第一处理模块510,用于计算在当前周期中与区域服务器对应的访问请求的数量;当数量达到第一阈值时,计算在当前周期中与熔断机制对应的访问请求的执行错误率;当执行错误率达到第二阈值时,使区域服务器的熔断状态为开启状态。
在一个实施例中,如图7所示,提供了又一种访问请求处理装置,该装置还包括:
熔断状态第二处理模块512,计算与访问请求对应的并行任务的数量;当该数量达到第三阈值时,使熔断状态为开启状态。
在一个实施例中,访问请求包括访问事项;如图8所示,提供了再一种访问请求处理装置,该装置还包括:
访问类型确定模块503,用于根据访问事项确定访问请求的访问类型。
区域服务器分配模块504还用于根据访问类型确定对应的区域服务器,分配所确定的区域服务器对访问请求进行处理。
熔断状态获取模块506还用于获取区域服务器的与访问类型对应的熔断机制的熔断状态。
在一个实施例中,如图9所示,提供了还一种访问请求处理装置,该装置还包括:
熔断状态第三处理模块514,用于当熔断状态为开启状态时,累计熔断状态保持开启状态的开启时长,当开启时长达到第一预设时长时,使熔断状态为关闭状态。
以上所述实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。

Claims (8)

1.一种访问请求处理方法,其特征在于,所述方法包括以下步骤:
获取用户终端发送的访问请求;
为所述访问请求分配对应的区域服务器进行处理;各所述区域服务器预设对应的分配规则,所述分配规则包括按照所述访问请求的接收时间排序进行分配、按照所述访问请求的处理复杂度进行分配、按照所述访问请求的类型进行分配以及按照所述访问请求的优先级进行分配中的一种或多种结合;
获取所述区域服务器的与所述访问请求对应的熔断机制的熔断状态;所述熔断机制包括一个或多个,根据所述熔断机制的周期对所述访问请求的处理流程进行控制;
当所述熔断状态为开启状态时,获取与开启状态对应的预设值,及与所述预设值对应的预设数据,并将所述预设数据发送给所述用户终端;所述开启状态表示所述区域服务器的任务负荷过大或出现异常情况;所述预设数据表示向相应访问请求返回访问失败或等待处理的数据;
当所述熔断状态为关闭状态时,调用与所述访问请求相关联的访问数据对所述访问请求进行处理,并将处理结果发送给所述用户终端;所述关闭状态表示所述区域服务器的任务负荷正常;
所述访问请求包括访问事项,所述访问事项包括好友信息发送请求和通讯录信息更改请求,对应的访问类型包括好友信息类型和个人信息类型;所述为所述访问请求分配对应的区域服务器进行处理的步骤之前,所述方法还包括:根据所述访问事项确定所述访问请求的访问类型;
所述分配规则包括按照所述访问请求的访问类型进行分配;所述为所述访问请求分配对应的区域服务器进行处理的步骤,包括:根据所述访问类型确定对应的区域服务器,分配所确定的区域服务器对所述访问请求进行处理;
在所述获取与所述访问请求对应的所述区域服务器的熔断状态的步骤之前,所述方法还包括:
计算在当前周期中与所述区域服务器对应的访问请求的数量;
当所述数量达到第一阈值时,根据每个熔断机制对应的访问请求的执行结果,计算在当前周期中与所述熔断机制对应的访问请求的执行错误率;
当所述执行错误率达到第二阈值时,使所述区域服务器的熔断状态为开启状态。
2.根据权利要求1所述的方法,其特征在于,在所述获取与所述访问请求对应的所述区域服务器的熔断状态的步骤之前,所述方法还包括:
计算与所述访问请求对应的并行任务的数量;
当所述数量达到第三阈值时,使所述熔断状态为开启状态。
3.根据权利要求1所述的方法,其特征在于,所述获取所述区域服务器的与所述访问请求对应的熔断机制的熔断状态的步骤,包括:
获取所述区域服务器的与所述访问类型对应的熔断机制的熔断状态。
4.根据权利要求1或2所述的方法,其特征在于,所述方法还包括:
当所述熔断状态为开启状态时,累计所述熔断状态保持开启状态的开启时长,当所述开启时长达到第一预设时长时,使所述熔断状态为关闭状态。
5.一种访问请求处理装置,其特征在于,所述装置包括:
访问请求获取模块,用于获取用户终端发送的访问请求;
区域服务器分配模块,用于为所述访问请求分配对应的区域服务器进行处理;各所述区域服务器预设对应的分配规则,所述分配规则包括按照所述访问请求的接收时间排序进行分配、按照所述访问请求的处理复杂度进行分配、按照所述访问请求的类型进行分配以及按照所述访问请求的优先级进行分配中的一种或多种结合;
熔断状态获取模块,用于获取所述区域服务器的与所述访问请求对应的熔断机制的熔断状态;所述熔断机制包括一个或多个,根据所述熔断机制的周期对所述访问请求的处理流程进行控制;请求处理模块,用于当所述熔断状态为开启状态时,获取与开启状态对应的预设值,及与所述预设值对应的预设数据,并将所述预设数据发送给所述用户终端;当所述熔断状态为关闭状态时,调用与所述访问请求相关联的访问数据对所述访问请求进行处理,并将处理结果发送给所述用户终端;所述开启状态表示所述区域服务器的任务负荷过大或出现异常情况;所述预设数据表示向相应访问请求返回访问失败或等待处理的数据;
所述访问请求包括访问事项,所述访问事项包括好友信息发送请求和通讯录信息更改请求,对应的访问类型包括好友信息类型和个人信息类型;所述装置还包括:访问类型确定模块,用于根据所述访问事项确定所述访问请求的访问类型;
所述分配规则包括按照所述访问请求的访问类型进行分配;所述区域服务器分配模块还用于根据所述访问类型确定对应的区域服务器,分配所确定的区域服务器对所述访问请求进行处理;
所述装置还包括:
熔断状态第一处理模块,用于计算在当前周期中与所述区域服务器对应的访问请求的数量;当所述数量达到第一阈值时,根据每个熔断机制对应的访问请求的执行结果,计算在当前周期中与所述熔断机制对应的访问请求的执行错误率;当所述执行错误率达到第二阈值时,使所述区域服务器的熔断状态为开启状态。
6.根据权利要求5所述的装置,其特征在于,所述装置还包括:
熔断状态第二处理模块,用于计算与所述访问请求对应的并行任务的数量;当所述数量达到第三阈值时,使所述熔断状态为开启状态。
7.根据权利要求5所述的装置,其特征在于,所述熔断状态获取模块还用于获取所述区域服务器的与所述访问类型对应的熔断机制的熔断状态。
8.根据权利要求5或6所述的装置,其特征在于,所述装置还包括:
熔断状态第三处理模块,用于当所述熔断状态为开启状态时,累计所述熔断状态保持开启状态的开启时长,当所述开启时长达到第一预设时长时,使所述熔断状态为关闭状态。
CN201610819713.XA 2016-09-12 2016-09-12 访问请求处理方法和装置 Active CN107819797B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610819713.XA CN107819797B (zh) 2016-09-12 2016-09-12 访问请求处理方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610819713.XA CN107819797B (zh) 2016-09-12 2016-09-12 访问请求处理方法和装置

Publications (2)

Publication Number Publication Date
CN107819797A CN107819797A (zh) 2018-03-20
CN107819797B true CN107819797B (zh) 2021-01-12

Family

ID=61601400

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610819713.XA Active CN107819797B (zh) 2016-09-12 2016-09-12 访问请求处理方法和装置

Country Status (1)

Country Link
CN (1) CN107819797B (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108540468B (zh) * 2018-04-02 2020-08-25 携程旅游信息技术(上海)有限公司 请求的控制与路由方法及其系统、存储介质、电子设备
CN108667934A (zh) * 2018-05-11 2018-10-16 中国平安人寿保险股份有限公司 信息处理方法、装置、电子设备及存储介质
CN110661836B (zh) * 2018-06-29 2021-11-09 杭州海康威视系统技术有限公司 消息路由方法、装置及系统、存储介质
CN109510872B (zh) * 2018-11-28 2022-02-01 珠海金山网络游戏科技有限公司 一种跨服务器系统、一种跨服务器方法和服务器
CN110347488A (zh) * 2019-07-08 2019-10-18 北京字节跳动网络技术有限公司 一种服务处理方法、装置、终端设备及存储介质
CN110460639A (zh) * 2019-07-12 2019-11-15 口碑(上海)信息技术有限公司 服务器集群的熔断处理方法、装置及系统
CN112306701B (zh) * 2019-07-25 2024-05-03 中移动信息技术有限公司 服务熔断方法、装置、设备及存储介质
CN112256454B (zh) * 2020-10-30 2023-05-12 上海哔哩哔哩科技有限公司 消息延时处理方法和系统
CN114090610A (zh) * 2021-11-11 2022-02-25 上海哔哩哔哩科技有限公司 数据库访问方法及装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103763343A (zh) * 2013-12-27 2014-04-30 乐视网信息技术(北京)股份有限公司 一种业务访问处理方法及装置
CN104408088A (zh) * 2014-11-11 2015-03-11 北京奇虎科技有限公司 并发请求的控制方法及装置
CN105610907A (zh) * 2015-12-18 2016-05-25 华夏银行股份有限公司 服务器访问方法及装置
CN105871985A (zh) * 2015-12-10 2016-08-17 乐视网信息技术(北京)股份有限公司 数据访问请求处理方法、装置、服务器、客户端及系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103763343A (zh) * 2013-12-27 2014-04-30 乐视网信息技术(北京)股份有限公司 一种业务访问处理方法及装置
CN104408088A (zh) * 2014-11-11 2015-03-11 北京奇虎科技有限公司 并发请求的控制方法及装置
CN105871985A (zh) * 2015-12-10 2016-08-17 乐视网信息技术(北京)股份有限公司 数据访问请求处理方法、装置、服务器、客户端及系统
CN105610907A (zh) * 2015-12-18 2016-05-25 华夏银行股份有限公司 服务器访问方法及装置

Also Published As

Publication number Publication date
CN107819797A (zh) 2018-03-20

Similar Documents

Publication Publication Date Title
CN107819797B (zh) 访问请求处理方法和装置
CN109104336B (zh) 服务请求处理方法、装置、计算机设备及存储介质
AU2017404110B2 (en) Agent allocation method and device, server, and storage medium
CN107688496B (zh) 任务分布式处理方法、装置、存储介质和服务器
US11546644B2 (en) Bandwidth control method and apparatus, and device
CN109246229B (zh) 一种分发资源获取请求的方法和装置
CN110795203B (zh) 资源调度方法、装置、系统和计算设备
CN108776934B (zh) 分布式数据计算方法、装置、计算机设备及可读存储介质
CN111131639A (zh) 一种客服坐席分配方法、装置、服务器及存储介质
US20160316029A1 (en) Distributed flow control
CN107679718B (zh) 名单分配方法、设备以及计算机可读存储介质
CN110933178B (zh) 调整集群系统内的节点配置的方法及服务器
CN109800204B (zh) 数据分配方法及相关产品
CN106230997B (zh) 一种资源调度方法和装置
US20130311662A1 (en) Cloud resource allocation system and method
CN109766172B (zh) 一种异步任务调度方法以及装置
WO2021109767A1 (zh) 网络设备及其降低传输时延的方法
CN105049509A (zh) 一种集群调度方法、负载均衡器以及集群系统
CN111045808A (zh) 一种分布式网络任务调度方法及装置
CN109981795B (zh) 资源请求调度方法和装置
CN106991070B (zh) 实时计算方法及装置
CN110995866A (zh) 节点调度方法、装置、调度服务器及存储介质
CN114500381B (zh) 网络带宽限制方法、系统、电子设备及可读存储介质
CN109670932B (zh) 信贷数据核算方法、装置、系统和计算机存储介质
CN117014381A (zh) 流量控制方法、装置、计算机设备及计算机存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant