网站首页 > 知识剖析 正文
一. 前言
ASP.NET Core Web API 接口限流、限制接口并发数量,我也不知道自己写的有没有问题,抛砖引玉、欢迎来喷!
二. 需求
- 写了一个接口,参数可以传多个人员,也可以传单个人员,时间范围限制最长一个月。简单来说,当传单个人员时,接口耗时很短,当传多个人员时,一般人员会较多,接口耗时较长,一般耗时几秒。
- 当传多个人员时,并发量高时,接口的耗时就很长了,比如100个用户并发请求,耗时可长达几十秒,甚至1分钟。
- 所以需求是,当传单个人员时,不限制。当传多个人员时,限制并发数量。如果并发用户数少于限制数,那么所有用户都能成功。如果并发用户数,超出限制数,那么超出的用户请求失败,并提示"当前进行XXX查询的用户太多,请稍后再试"。
- 这样也可以减轻被请求的ES集群的压力。
三. 说明
- 使用的是.NET6
- 我知道有人写好了RateLimit中间件,但我暂时还没有学会怎么使用,能否满足我的需求,所以先自己实现一下。
四. 效果截图
下面是使用jMeter并发测试时,打的接口日志:
五. 代码
1. RateLimitInterface
接口参数的实体类要继承该接口
using JsonA = Newtonsoft.Json;
using JsonB = System.Text.Json.Serialization;
namespace Utils
{
/// <summary>
/// 限速接口
/// </summary>
public interface RateLimitInterface
{
/// <summary>
/// 是否限速
/// </summary>
[JsonA.JsonIgnore]
[JsonB.JsonIgnore]
bool IsLimit { get; }
}
}
2. 接口参数实体类
继承RateLimitInterface接口,并实现IsLimit属性
public class XxxPostData : RateLimitInterface
{
...省略
/// <summary>
/// 是否限速
/// </summary>
[JsonA.JsonIgnore]
[JsonB.JsonIgnore]
public bool IsLimit
{
get
{
if (peoples.Count > 2) //限速条件,自己定义
{
return true;
}
return false;
}
}
}
3. RateLimitAttribute
作用:标签打在接口方法上,并设置并发数量
namespace Utils
{
/// <summary>
/// 接口限速
/// </summary>
public class RateLimitAttribute : Attribute
{
private Semaphore _sem;
public Semaphore Sem
{
get
{
return _sem;
}
}
public RateLimitAttribute(int limitCount = 1)
{
_sem = new Semaphore(limitCount, limitCount);
}
}
}
4. 使用RateLimitAttribute
标签打在接口方法上,并设置并发数量。
服务器好像是24核的,并发限制为8应该没问题。
[HttpPost]
[Route("[action]")]
[RateLimit(8)]
public async Task<List<XxxInfo>> Query([FromBody] XxxPostData data)
{
...省略
}
5. 限制接口并发量的拦截器RateLimitFilter
/// <summary>
/// 接口限速
/// </summary>
public class RateLimitFilter : ActionFilterAttribute
{
public override async Task OnActionExecutionAsync(ActionExecutingContext context, ActionExecutionDelegate next)
{
Type controllerType = context.Controller.GetType();
object arg = context.ActionArguments.Values.ToList()[0];
var rateLimit = context.ActionDescriptor.EndpointMetadata.OfType<RateLimitAttribute>().FirstOrDefault();
bool isLimit = false; //是否限速
if (rateLimit != null && arg is RateLimitInterface) //接口方法打了RateLimitAttribute标签并且参数实体类实现了RateLimitInterface接口时才限速,否则不限速
{
RateLimitInterface model = arg as RateLimitInterface;
if (model.IsLimit) //满足限速条件
{
isLimit = true;
Semaphore sem = rateLimit.Sem;
if (sem.WaitOne(0)) //注意:超时时间为0,表示不等待
{
try
{
await next.Invoke();
}
catch
{
throw;
}
finally
{
sem.Release();
}
}
else
{
var routeList = context.RouteData.Values.Values.ToList();
routeList.Reverse();
var route = string.Join('/', routeList.ConvertAll(a => a.ToString()));
var msg = #34;当前访问{route}接口的用户数太多,请稍后再试";
LogUtil.Info(msg);
context.Result = new ObjectResult(new ApiResult
{
code = (int)HttpStatusCode.ServiceUnavailable,
message = "当前查询的用户太多,请稍后再试。"
});
}
}
}
if (!isLimit)
{
await next.Invoke();
}
}
}
上述代码说明:sem.WaitOne(0)这个超时时间,最好是0,即不等待,否则高并发下会有问题。SemaphoreSlim的异步wait没试过。如果超时时间大于0,意味着,高并发下,会有大量的等待,异步等待也是等待。
SemaphoreSlim短时间是自旋,想象一下一瞬间产生大量自旋会怎么样?所以最好不等待,如果要等待,那代码还得再研究研究,经过测试才能用。
6. 注册拦截器
//拦截器
builder.Services.AddMvc(options =>
{
...省略
options.Filters.Add<RateLimitFilter>();
});
六. 使用jMeter进行压力测试
测试结果:
- 被限速的接口,满足限速条件的调用并发量大时,部分用户成功,部分用户提示当前查询的人多请稍后再试。但不影响未满足限速条件的传参调用,也不影响其它未限速接口的调用。
- 测试的所有接口、所有查询参数条件的调用,耗时稳定,大量并发时,不会出现接口耗时几十秒甚至1分钟的情况。
七. 同时测试三个接口
测试三个接口,一个是触发限流的A接口,一个是未触发限流的A接口,一个是未被限流的B接口。
jMeter测试设置
触发限流的A接口,并发量设置为200:
未触发限流的A接口以及未被限流的B接口,并发量设置为1:
测试日志截图
截图说明:可以看到被限流接口共1000次调用,只有大约40次调用是成功的,剩下的返回请稍后再试。
截图说明:实际上触发限流的接口,并发量为8,压力依然很大,会拖慢自身以及其它接口,当触发限流的接口请求结束时,其它接口访问速度才正常。
八. 实际情况
- 这种接口计算量大,是难以支持高并发的,需要限流。争取客户的理解,仅支持少量用户在同一时间查询。
- 实际上只要用户错开几秒访问,接口的耗时就很正常。问题是,如何错开几秒呢?当用户看到"请稍后再试"的提示,关闭提示,重新点击查询,就可以错开了。如果一次两次不行,就多点几次查询。
猜你喜欢
- 2025-07-09 C# ASP.NET Core Web Api 与 MVC 模式下 body 参数传递,post 参数方式
- 2025-07-09 ASP.NET Core Web API 中的 JSON 修补程序
- 2025-07-09 Visual Studio Code安装C#开发工具包并编写ASP.NET Core Web应用
- 2025-07-09 深入了解 ASP.NET Core 中的 IWebHostEnvironment 接口
- 2025-07-09 ASP.NET WebForms功能增强(三)(asp net web)
- 2025-07-09 跟着官网学ASP.NET Core 6.0之请求参数模型验证
- 2025-07-09 ASP.NET Web API中实现版本(asp.net2.0)
- 2025-07-09 提高 ASP.NET Web 应用性能的 24 种方法和技巧
- 2025-07-09 聊聊asp.net中Web Api的使用(asp.net api 开发)
- 2025-07-09 ASP.NET WebForms功能增强(二)(asp.net web mvc)
- 07-09带你看好玩的CSS-霓虹灯按钮(css霓虹灯效果的文字)
- 07-0910个冷门但非常实用前端开发者很少用的CSS规则
- 07-09大厂都在用的10个css高级技巧,我敢说你最多用过3个!不服来辩!
- 07-092025年Top30 CSS面试题及答案(css笔试题)
- 07-09ASP.NET Core Web API 接口限流(asp.net core web api教程)
- 07-09C# ASP.NET Core Web Api 与 MVC 模式下 body 参数传递,post 参数方式
- 07-09ASP.NET Core Web API 中的 JSON 修补程序
- 07-09Visual Studio Code安装C#开发工具包并编写ASP.NET Core Web应用
- 最近发表
-
- 带你看好玩的CSS-霓虹灯按钮(css霓虹灯效果的文字)
- 10个冷门但非常实用前端开发者很少用的CSS规则
- 大厂都在用的10个css高级技巧,我敢说你最多用过3个!不服来辩!
- 2025年Top30 CSS面试题及答案(css笔试题)
- ASP.NET Core Web API 接口限流(asp.net core web api教程)
- C# ASP.NET Core Web Api 与 MVC 模式下 body 参数传递,post 参数方式
- ASP.NET Core Web API 中的 JSON 修补程序
- Visual Studio Code安装C#开发工具包并编写ASP.NET Core Web应用
- 深入了解 ASP.NET Core 中的 IWebHostEnvironment 接口
- ASP.NET WebForms功能增强(三)(asp net web)
- 标签列表
-
- xml (46)
- css animation (57)
- array_slice (60)
- htmlspecialchars (54)
- position: absolute (54)
- datediff函数 (47)
- array_pop (49)
- jsmap (52)
- toggleclass (43)
- console.time (63)
- .sql (41)
- ahref (40)
- js json.parse (59)
- html复选框 (60)
- css 透明 (44)
- css 颜色 (47)
- php replace (41)
- css nth-child (48)
- min-height (40)
- xml schema (44)
- css 最后一个元素 (46)
- location.origin (44)
- table border (49)
- html tr (40)
- video controls (49)