峰值 5000 并发量的服务器需要什么配置比较合理? - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
请不要在回答技术问题时复制粘贴 AI 生成的内容
magese
V2EX    程序员

峰值 5000 并发量的服务器需要什么配置比较合理?

  •  3
     
  •   magese
    magese 2020-04-27 23:05:54 +08:00 14769 次点击
    这是一个创建于 2068 天前的主题,其中的信息可能已经有所发展或是发生改变。

    不涉及视频直播,单纯的 app 服务。 数据库和文件服务器都没有独立部署。什么样的服务器配置比较合理呢?

    87 条回复    2020-04-29 14:55:15 +08:00
    djoiwhud
        1
    djoiwhud  
       2020-04-27 23:12:38 +08:00 via Android
    2 核 8G 单台 4M 带宽就足够了。适当的把文件存储到 oss 。
    defunct9
        2
    defunct9  
       2020-04-27 23:33:55 +08:00 via iPhone
    有 ssl 的话,2 核扛不住
    lp7631010
        3
    lp7631010  
       2020-04-28 00:13:09 +08:00 via iPhone
    5000 并发看是什么类型的并发 怎么也不能买个 2 核这种腊鸡配置吧 比如阿里云活动价入手的服务器 买的时候配置买低了的话 提升配置是挺贵的
    zhuzhibin
        4
    zhuzhibin  
       2020-04-28 01:00:13 +08:00 via iPhone
    @jackrelative 你确定这个配置 抗 5000 QPS???
    zhuzhibin
        5
    zhuzhibin  
       2020-04-28 01:01:08 +08:00 via iPhone
    @defunct9 压测经验 ssl 解析 直接 QPS 降一半应该不夸张
    djoiwhud
        6
    djoiwhud  
       2020-04-28 01:02:56 +08:00 via Android
    @zhuzhibin 非常确定。省点,2 核 4G 都可以。
    hbolive
    &nbp;   7
    hbolive  
       2020-04-28 01:31:18 +08:00
    都这个并发了,必然是不差钱,省那俩钱干啥,尽量配好点,别抠抠搜搜的。。
    opengps
        8
    opengps  
       2020-04-28 01:40:54 +08:00 via Android
    先给我解释下并发的意思,楼上那么多都是把并发当成每天总访问理解的。真的 5000 并发早就不是单机能承载的了
    goobai
        9
    goobai  
       2020-04-28 02:07:38 +08:00 via Android
    峰值五千日火的多少?还单机部署,至于这么抠门吗?
    xuhaoyangx
        10
    xuhaoyangx  
       2020-04-28 02:22:18 +08:00   3
    并发。也不说清楚怎么样的并发。简单东西。单机 2 核几 w 都可以呢。手动斜眼
    yuzo555
        11
    yuzo555  
       2020-04-28 02:26:50 +08:00
    这东西还是得看业务场景,如果就是简单的本机应用,最多加个本机 Redis 这种,QPS 5000 的话,2h4g 基本上够用,前提是得用点轻量级的服务端程序,比如 OpenResty 这种,不能用太臃肿的大型程序和框架。
    em70
        12
    em70  
       2020-04-28 02:29:48 +08:00
    和买 LV 坐公交还是地铁一样无聊的问题
    xyooyx
        13
    xyooyx  
       2020-04-28 08:31:39 +08:00 via iPhone
    5000 得覆盖千万量级的用户了吧,这种公司堆设备应该都不眨眼了吧,哈哈
    ajaxfunction
        14
    ajaxfunction  
       2020-04-28 08:46:04 +08:00
    并发不是 qps 吗? 1s 5000 次访问,恐怕单机都不一定够吧?

    除非你就是单纯的 hello word 这种静态页面那就当我没说
    Tink
        15
    Tink  
    PRO
       2020-04-28 08:59:48 +08:00 via iPhone
    纯静态页面 2c4g 也不一定够
    egfegdfr
        16
    egfegdfr  
       2020-04-28 09:18:24 +08:00
    我们最近压测了下自己的服务器 2 台 4 核 16g 的服务器。在 800 并发下 简单查询接口的响应时间大概在 1s,复杂点的在 3s 左右。楼主可以参考下,楼上说的 2c 4g 在纯静态 的情况下可能还行,已加上数据库和业务逻辑,基本上就挂。再说楼主都到 5000 并发了。业务比较大了,在考虑配置的时候,不能简单的考虑是否可用,还得考虑用户使用体验,所有这个就不要抠了,尽量多做些冗余,提升扩展性
    momowei
        17
    momowei  
       2020-04-28 09:22:00 +08:00
    5000 并发很夸张了,等同于一个大型互联网公司某些接口的并发量了
    zchlwj
        18
    zchlwj  
       2020-04-28 09:25:31 +08:00
    @jackrelative #1 原文:“2 核 8G 单台 4M 带宽就足够了。适当的把文件存储到 oss 。”
    ======
    回复:#1 5k QPS,双核的话意味着每次请求都在 0.6ms 左右,稍微有一点点抖动就得跪。
    sadfQED2
        19
    sadfQED2  
       2020-04-28 09:25:53 +08:00 via Android   1
    上家公司峰值 qps 也差不多 5000,后端用了 100 多台技术,我觉得你这单机有点
    sadfQED2
        20
    sadfQED2  
       2020-04-28 09:26:06 +08:00 via Android
    @sadfQED2 100 多台机器
    bsg1992
        21
    bsg1992  
       2020-04-28 09:44:04 +08:00
    @jackrelative 你这个有点
    brendanliu
        22
    brendanliu  
       2020-04-28 09:49:37 +08:00
    抛开需求说并发,没有多大意义,楼主可以把具体的场景发出来
    sagaxu
        23
    sagaxu  
       2020-04-28 09:52:35 +08:00 via Android   1
    如果是读个 redis 就返回,单机 5000qps 不难。如果是挖一个比特币,给你 100 台机器,qps 做到 1 都不可能
    AngryPanda
        24
    AngryPanda  
       2020-04-28 09:54:08 +08:00
    好多人搞不清概念
    optional
        25
    optional  
       2020-04-28 09:54:52 +08:00 via iPhone
    @jackrelative 5000qps 你搞单机 2c8g,静态页面都一定扛得住。
    宽带算一算 4m 分给 5000 每个人分多少
    AngryPanda
        26
    AngryPanda  
       2020-04-28 09:55:15 +08:00
    并发啥时候和 QPS 是一回事了?
    zhuzhibin
        27
    zhuzhibin  
       2020-04-28 10:23:00 +08:00 via iPhone
    @AngryPanda 我每秒能够同时响应以及处理 5000 次请求 不合格吗 老哥?狗头
    zhuzhibin
        28
    zhuzhibin  
       2020-04-28 10:24:27 +08:00 via iPhone
    @jackrelative 但凡有点业务 如果扛得住 我当场把我显示器吃掉
    crc8
        29
    crc8  
       2020-04-28 10:31:04 +08:00
    @AngryPanda 学习一下,请问要弄清楚这个的话,这个职位叫什么?软件测试工程师?具体需要掌握哪些方面知识?
    daozhihun
        30
    daozhihun  
       2020-04-28 10:32:40 +08:00
    5000 并发不是 5000qps
    如果真是 5000 并发,还差这点钱?直接堆几台顶配
    vus520
        31
    vus520  
       2020-04-28 10:34:20 +08:00
    一楼应该不知道 5000 并发是什么意思。
    blackboom
        32
    blackboom  
       2020-04-28 10:38:52 +08:00
    @brendanliu @sagaxu #22 #23 描述的很清楚了,那么到底如何评估呢?开机器进行压测。
    xpresslink
        33
    xpresslink  
       2020-04-28 10:42:09 +08:00
    你光说峰值 5000 并发量这个没有什么意义,这个真不能象某些人上来就 2 核 4G 拍脑袋瞎说,而且数据库和文件服务器都没有独立部署,不然就不会有压测这个事儿了。
    数据库进行复杂查询对 CPU,内存,磁盘占用都非常高,一个线程的业务就可能瞬间就把服务器负载彪到 50%以上。
    所以按我的经验来说来数据库操作的业务峰值 5000 都要上分布式系统,数据库和文件服务器都要单位部署,前级需要进行负载均衡了。
    kanepan19
        34
    kanepan19  
       2020-04-28 10:42:13 +08:00
    别动不动 几千几万的并发,OK ?
    imyip
        35
    imyip  
       2020-04-28 10:45:52 +08:00
    只处理过几十并发的不敢发出任何声响
    realpg
        36
    realpg  
    PRO
       2020-04-28 10:52:13 +08:00
    取决于你的应用性能。

    应用写的好,且 IO 不密集,4C16G 轻松 handle

    你要是应用写的性能渣,那就没救
    Wien
        37
    Wien  
       2020-04-28 10:54:44 +08:00
    线上服务十几并发双 2C4G 的瑟瑟发抖
    hankai17
        38
    hankai17  
       2020-04-28 11:10:35 +08:00
    qps
    qps 的话 扛不住
    q428202849
        39
    q428202849  
       2020-04-28 11:11:04 +08:00
    有那么大流量尽量用好点的机器吧 影响客户体验都跑了就得不偿失了
    youxiachai
        40
    youxiachai  
       2020-04-28 11:19:56 +08:00
    @jackrelative 兄弟..你算一下你的带宽..够 5000 人同时访问?
    djoiwhud
        41
    djoiwhud  
       2020-04-28 11:24:52 +08:00
    @youxiachai
    我做的 IM 类和游戏类的产品,单服压力测试标准都是奔着 1 万的实时在线人数做的。生产环境,单服同时在线有 1.2 万的记录,服务器是 2 核 4G 的。你们的产品是做的淘宝么?
    wshcdr
        42
    wshcdr  
       2020-04-28 11:25:59 +08:00
    首先找个人来科普下并发的定义,然后再讨论。
    djoiwhud
        43
    djoiwhud  
       2020-04-28 11:27:35 +08:00
    @youxiachai 如果不是高频的 http 接口,4M 带宽并没有问题。http 业务较多,proxy 多加两个节点,proxy 节点很便宜。
    bfqymmt
        44
    bfqymmt  
       2020-04-28 11:30:14 +08:00
    现在配置都是弹性的,我觉得可以先按一楼的买低一点的配置,然后如果不够再加配置加宽带吧。够不够用取决于 APP 的类型。
    djoiwhud
        45
    djoiwhud  
       2020-04-28 11:31:18 +08:00
    @optional 请注意,我说了把文件服务放到 oss 。
    wy315700
        46
    wy315700  
       2020-04-28 11:32:17 +08:00
    HTTP 谈并发意义不大,QPS 才是真理

    IM 和游戏类的谈并发意义更大一点。
    pengjay
        47
    pengjay  
       2020-04-28 11:32:45 +08:00
    不谈业务就说并发就是耍流氓
    djoiwhud
        48
    djoiwhud  
       2020-04-28 11:39:07 +08:00
    @zhuzhibin 游戏类业务服 2 核 4G+db/redis 单独部署,实时在线的有 1.2 万的记录,cpu 占用 70%左右,mem 占用 60%。社交 im 类产品我保守估计还能翻一倍,2 核 4G 单服至少负载 2 万实时在线。鹅厂某业务部门的标准,1 核 2G 大概就需要做到一万 qps 。你是不是要吃显示器?
    vitoliu
        49
    vitoliu  
       2020-04-28 11:46:49 +08:00
    @jackrelative ,这就是鹅厂吗? 1C 2G 要做到 1W QPS,爱了爱了
    vitoliu
        50
    vitoliu  
       2020-04-28 11:47:39 +08:00
    @jackrelative 0 不说跑游戏还以为跑 hello world 呢
    djoiwhud
        51
    djoiwhud  
       2020-04-28 11:51:44 +08:00 via Android
    @youxiachai 每个在线用户按一秒钟 1 个请求计算,每个请求 46 字节 tcp 固定开销,业务数据上下行都以 100 字节计算。每个用户一秒钟带宽消耗 146 字节。4MB (云服务带宽是字节为单位,不是比特)够多少人,你自己算。
    ZoR
        52
    ZoR  
       2020-04-28 11:55:01 +08:00
    5000 并发 缺那点服务器钱? 造成服务不稳定后果更严重吧
    whyiyhw
        53
    whyiyhw  
       2020-04-28 11:56:03 +08:00 via Android
    @jackrelative 你一个接口响应只消耗 146 字节?5000 并发的公司,会少这几 W 块钱的服务器费用?
    djoiwhud
        54
    djoiwhud  
       2020-04-28 11:58:35 +08:00 via Android
    @whyiyhw 你想多少字节?超 100 字节都属于比较大的包了。
    wangyzj
        55
    wangyzj  
       2020-04-28 12:00:32 +08:00
    djoiwhud
        56
    djoiwhud  
       2020-04-28 12:06:05 +08:00 via Android
    @whyiyhw pb,一个接口以 5 个 int32 字段,5 个 string,每个 string10 字节计算。字段间隔符为 1 字节。5*4+4*1+5*10+5*1,仅仅 79 字节。
    NeinChn
        57
    NeinChn  
       2020-04-28 12:18:33 +08:00
    @jackrelative
    裸的服务简单返回接口 100 byte 够用了,一般情况下不够
    毕竟还有流量染色信息,各种 header,tracing
    正常情况下的 RPC 接口几 K 很正常,我们这边还有很多几百 k 甚至上 m 的 response
    whyiyhw
        58
    whyiyhw  
       2020-04-28 12:22:31 +08:00 via Android
    @jackrelative 也许你的业务场景下可以优化到 79 字节没问题,但你请看看主题, 回复前需要用到的资源前,先把一长串限制条件带上,谢谢!
    byaiu
        59
    byaiu  
       2020-04-28 12:31:40 +08:00
    @jackrelative 游戏的话交互基本要放在内存里了,和普通的互联网业务是不太像的。游戏的资源消耗除了 cpu 就在打包解包网络传输上了,而互联网业务估计要各种 rpc,逻辑上跳的很厉害,也很难测量 qps 。
    Navee
        60
    Navee  
       2020-04-28 12:38:58 +08:00
    混合部署的话 cpu,io 瓶颈应该会很严重
    阿里云有按时收费的实例,可以测试一下
    youxiachai
        61
    youxiachai  
       2020-04-28 12:56:03 +08:00
    @youxiachai 大哥我错了......层次比较低..接触的数据都是以 K 为单位..让大哥见笑了...
    firefox12
        62
    firefox12  
       2020-04-28 13:13:40 +08:00
    跳蚤可以跳自己身高的 500 倍 蚂蚁可以举 600 倍体重 所以跳蚤 蚂蚁是力气最大的生物?

    5000 qps 看干了啥,返回个 hello world 和做一个转账时 2 回事, 支付宝双 11 峰值 25w 笔 而已。你准备用几台主机搭一个支付宝?
    GKLuke
        63
    GKLuke  
       2020-04-28 13:22:21 +08:00
    峰值 5K,拿峰值说什么事哦,先看看日均并发多少?说句不好听的,一套打算用一台服务器解决的系统,可能不配峰值 5K 吧
    先搞清楚需求吧,要不然讨论来讨论去没啥意思。
    我猜峰值 5K 是系统设计指标吧,实际上跑起来可能没 500 。
    cloverstd
        64
    cloverstd  
       2020-04-28 13:24:42 +08:00
    5000 并发,按照 avg RT 是 200ms 来看,这得 25K QPS 了,
    python30
        65
    python30  
       2020-04-28 13:27:52 +08:00
    15 秒内 80 并发
    一分钟内 400 并发
    2 核 8G5M
    普通网站没一点问题
    主要是加了 CDN,不加 CDN 也没问题
    WebKit
        66
    WebKit  
       2020-04-28 13:37:01 +08:00   1
    @zhuzhibin #4 QPS 跟并发不是一个东西哦。

    QPS ( TPS ):每秒钟处理 request/事务 数量
    并发数:系统同时处理的 request/事务数

    QPS ( TPS )= 并发数 /平均响应时间
    caola
        67
    caola  
       2020-04-28 13:45:23 +08:00
    @magese 5000 并发的网站非常的 NB 了,一天预计差不多 过亿级别的 PV 了,
    如果这样的访问还用单台机,可能要顶不住啊
    killerv
        68
    killerv  
       2020-04-28 14:04:02 +08:00   2
    某些人真的是张口就来,5000 并发知道是什么概念吗?国内一线互联网产品搞个最热的活动峰值也就几万的并发。很多人压根不清楚并发、QPS 、响应时间的关系。楼主的条件只有一个 5000 并发,其他什么也没说,下面就有人敢说配置了。
    -----------
    并发量描述的是一个请求场景,QPS 代表的是服务端的处理业务能力。请求足够多的话,一般 QPS 会稳定在某个数值,但是并发越高,持续时间越久,平均响应延迟就越大。
    supuwoerc
        69
    supuwoerc  
       2020-04-28 14:15:04 +08:00
    先上个天河看看顶不顶得住(狗头)
    devtk
        70
    devtk  
       2020-04-28 14:17:28 +08:00
    @zhuzhibin 看了你的回复,想起卢姥爷的梗了 瞬间有点想笑 啊哈哈哈哈
    cquyf
        71
    cquyf  
       2020-04-28 14:51:15 +08:00
    这么大的并发还差服务器的钱钱?
    powergx
        72
    powergx  
       2020-04-28 15:25:41 +08:00
    5000 并发 是同一秒内有 5000 访问。
    Neytoph
        73
    Neytoph  
       2020-04-28 15:40:08 +08:00
    @killerv 看完回帖,还是老哥和我的认知最一致
    casillasyi
        74
    casillasyi  
       2020-04-28 16:34:51 +08:00   1
    不知道需要什么样的,我们目前某个业务日常并发 1000,有活动 3000,最高到过 4000,8c16g,目前是 9 个节点。4000qps 的时候,线程池 60%,还有点余量,5000 应该没问题
    luozic
        75
    luozic  
       2020-04-28 16:56:04 +08:00
    可以做基准测试,还有后续的性能测试啊。 付费的,免费的测试软件大把。
    CoderGeek
        76
    CoderGeek  
       2020-04-28 16:56:30 +08:00
    首先 楼上的 区分下查询业务或者写业务 混合业务啥的 个人做东西不是大厂浪费资源

    qps 纯查询的话 1 个没啥问题 4c8g 看情况 2 个 4c8g 稳定也实惠
    文件啥的 oss 基本不要钱流量多少一下都免费 cdn 也有部分免流量 redis 啥的 基本都外挂

    推荐楼主试下再上 还有正常的并发预估 80%就好了 那有一直高峰不变的
    xuanbg
        77
    xuanbg  
       2020-04-28 17:12:37 +08:00
    5K 并发已经很高很高了……至少得几十台 16 核的才能扛得住吧。

    如果峰很陡峭的话,你就按平均 QPS 设计吧,这个峰咱们用缓冲池把他给削了就成。
    Cmdhelp
        78
    Cmdhelp  
       2020-04-28 17:17:17 +08:00
    这么多流量了,。。。
    dreamage
        79
    dreamage  
       2020-04-28 17:43:28 +08:00
    我司不到 500 并发,也就 600 多台 VM 吧(手动狗头
    newmlp
        80
    newmlp  
       2020-04-28 17:46:12 +08:00
    还要考虑业务压力啊,纯并发 5000 小意思,有业务就不一样了
    gotonull
        81
    gotonull  
       2020-04-28 19:17:18 +08:00
    前面都是大神吗?咋写的代码啊,能教教我吗? 2 核 4g5000 并发?我们四核 32g 内存服务器压测并发也才不到三千。还是优化后的版本
    jimrok
        82
    jimrok  
       2020-04-28 21:08:20 +08:00
    一群胡说八道的,5000 并发,比 5000qps 大很多,当每个响应时间接近 0 时,5000qps 和 5000 并发接近。如果是算 5000qps,假设你是 c 写的 hello world,算你 1ms 一个请求,1 个核 1 秒钟能提供 1000 个请求的执行时间,这还假设操作系统的调度损耗为 0,你需要 5 个核的服务器。如果是 10ms 一个请求,再 X10 。
    zhuzhibin
        83
    zhuzhibin  
       2020-04-29 01:16:00 +08:00
    @kios 给阿姨来一杯 卡布奇诺
    msg7086
        84
    msg7086  
       2020-04-29 06:23:52 +08:00 via Android
    5000 concurrent 如果一个请求耗时 10ms 的话就是 500kqps 。小 VPS 玩个蛋蛋。
    devtk
        85
    devtk  
       2020-04-29 08:06:17 +08:00
    @zhuzhibin 哈哈哈哈
    gemini767
        86
    gemini767  
       2020-04-29 11:58:00 +08:00
    @jackrelative 难道不看业务类型?这要是 5000 的交易系统,10 台配置也扛不住
    lihongming
        87
    lihongming  
       2020-04-29 14:55:15 +08:00 via iPhone
    当年我们 500 万日 PV 的服务,压测都是按 30 个并发做的,5000 并发每天至少 8 亿 PV 了吧?牛 X 啊!
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     4586 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 52ms UTC 03:57 PVG 11:57 LAX 19:57 JFK 22:57
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86