中国互联网络信息中心第38次《中国互联网络发展状况统计报告》的统计数据显示，2016年6月中国即时通信用户规模达6.42亿人，网民使用率为90.4%。另一方面，文化部文化市场司行业数据监测点最新统计显示，2016年上半年，我国网络文化市场整体营收达1017.2亿元，网络直播市场是爆发最快的领域，同比增长209.3%。其中演艺秀场用户达到2.5亿人，游戏直播用户达到2亿人。在互联网+时代，消息量级的大幅上升，消息形式的多元化。给IM云服务平台带来了非常大的挑战。如何应对更大数量级的高并发消息量，并能够真正保障IM服务的稳定和快速，成为各IM云平台的重中之重。

　　(图片来源于网络)

　　在12月2日于北京国际会议中心举办的ArchSummit全球架构师峰会上，网易云信首席架构师周梁伟就针对这一话题，进行了题为《网易IM云服务架构设计与实践》的主题演讲。其中，周梁伟先生重点分享了网易云信在连接层的“三板斧”优化是如何在保证稳定快速的情况下实现支持千万级高并发消息量的，引发了现场参会者和行业人士的极大关注和思考。

　　连接层是奠定云信稳定性的基石

　　演讲中，周梁伟先生反复强调消息的到达率和及时性。他认为，对于任何一个IM应用而言，这都是一条不容有失的生命线。尤其是对于移动端IM云服务，在无法回避弱网环境的种种复杂问题情况下，还要考虑到聊天室等应用在高并发状况下的严苛考验。周梁伟说：“消息快速到达的前提是客户端和服务器之间保持了稳定的快速的连接，所以连接层可以理解为奠定云信服务稳定性的基石。”

　　连接层优化之板斧一：通过边缘节点优化网络拓扑

　　据他介绍，网易云信在其智慧云IM架构中的连接层，进行了三大管理优化措施。第一，通过边缘节点优化网络拓扑。区域性网络问题是任何一个应用或者服务都会面临的问题，特别是对IM这类对于网络质量特别敏感的服务。网易云信通过部署区域性的边缘加速节点的方式来优化网络拓扑，譬如他们目前在海外，像美国，欧洲，中东和东南亚等很多国家和地区提供了这类边缘加速节点，加速节点和数据中心之间再通过专线等优质网络做互通，将整个用户链路中的关键路径替换成IDC之间的网络线路，从而大幅提升连接的稳定性和速度。通过优化，客户端到IDC中心的速度从之前的500ms以上锐减至200ms，实现提速60%。同时，消息丢失率也从之前的20%以上降低到0%。

　　连接层优化之板斧二：场景化的消息分发机制提升吞吐率

　　第二是通过场景化的消息分发机制提升吞吐率。IM点对点的消息分发模式非常依赖用户的在线状态。在消息分发过程中，一次在线状态的查询假定需要10ms，如果有100人发送消息，仅查询在线状态的开销就要1秒钟，并且这个时间开销还会随着消息接收人数的增加而成倍增加，再加上中间消息包的网络分发开销，这个消息处理的时间很快就会到达瓶颈。在聊天室场景下，这个问题就会变得尤为突出。网易云信针对这种特殊的消息分发场景实现了一种消息分发的广播模式。假定一个100万人的聊天室，所有用户分布在10个连接节点上，一条广播消息在分发过程中只需要查询一次在线状态，并给每个Link分发一个广播包，到最终用户端的消息包由Link节点做内存拆包和下发，并且不同的节点之间可以完全并行处理。这种方式的消息分发使一个百万量级的消息分发任务可以在秒级处理时间之内完成，对消息接收者来说也能有效控制消息到达的延时情况。

　　连接层优化之板斧三：集群化解决单节点性能瓶颈

　　第三个优化是通过集群化解决单节点性能瓶颈。周梁伟详细介绍说，通过组建集群来对业务处理能力做水平扩展是云信常用的一种方法。云信最初在设计针对Web浏览器的长连接服务器时，由于服务器既需要处理SSL编解码，又要做请求包的格式转换，又要做长连接的管理，这直接导致了服务器性能很快达到瓶颈。特别是在用户侧的连接有比较频繁的重建的场景下，大部分的CPU资源都花在了SSL握手过程中。面对这个问题，网易云信使用nginx作为前端代理，并把SSL的处理过程移到了nginx上，并使用性能较好的服务器来做nginx代理服务，而在后端WebLink上直接使用http协议，极大提升了后端节点的处理能力。通过这种代理方式，在4核8G的虚拟机上，单个节点的承载能力从1万连接数飙升至10万。

　　从2015年10月上线就主打“真正稳定的IM云服务”的网易云信，至今已成功接入超过15万APP开发者，覆盖用户达到惊人的5亿以上。在网络和区域上面覆盖了196个国家，567个地区，并保证100%的送达率。除此之外，还获得了国内即时通讯云服务领域的首个CSA-STAR和ISO27001认证，并已拥有56项认证专利。虽然目前IM云服务已呈现出多元化的发展趋势，用户和开发者对于IM服务提出碎片化、个性化和场景化的需求，但作为生存基石的稳定、快速、高并发的强化，反而更加重要。就如同武林高手过招，招式再花哨，没有足够深厚的内功，很难在大浪淘沙之后留存下来。通过周梁伟的分享，我们不仅看到了网易云信在整体分层架构上的大智慧，还通过连接层的“三板斧”优化，了解了云信是如何稳定快速的支持千万级高并发消息量的。周梁伟先生的分享不但有助于引发国内各IM云服务平台对深化内功的重视和反思，而且这种分享精神对于面对挑战的同行业者的集思广益和共同进步，有着极具正能量的引导意义。

　　了解更多，请点击http://www.netease.im/

　　关于网易云信：

　　网易云信是网易公司集16年IM经验打造的即时通讯云服务(PaaS)，是网易云第一个开放给市场的云服务产品。开发者通过集成客户端SDK和云端OPEN API，即可快速实现强大的IM功能，作为PaaS服务模式的网易云信全面支持Android、iOS、Web、PC等多平台。除了应对传统开发者的各项IM基本功能外，网易云信还提供了高级通讯功能，包括实时音视频、互动直播、教学白板、专线电话、短信、专属云在内的独家功能以及更多其他服务。网易云信满足包括游戏、协同办公、在线医疗、在线客服、在线教育、娱乐、咨询、生活服务、物流、旅游、金融等各行业各种产品的即时通讯服务需求。

责任编辑：hang