更多数码资讯，请关注南窗数码
“屏幕录屏”相关经验{"debug":false,"apiRoot":"","paySDK":"/api/js","wechatConfigAPI":"/api/wechat/jssdkconfig","name":"production","instance":"column","tokens":{"X-XSRF-TOKEN":null,"X-UDID":null,"Authorization":"oauth c3cef7c66aa9e6a1e3160e20"}}
{"database":{"Post":{"":{"contributes":[{"sourceColumn":{"lastUpdated":,"description":"七牛云是国内领先的企业级公有云服务商，致力于打造以数据为核心的场景化的PaaS服务。核心产品包括对象存储服务、融合CDN管理、数据处理以及直播服务。此外，七牛云还引入了人脸识别、图片鉴黄、短视频鉴黄、广告过滤等第三方数据处理服务。作为助力开发者的互联网创新加速引擎，七牛云在为逾 50,0000 家企业提供服务的同时, 也深入了解了互联网、移动互联网、传统企业不同场景下的业务需求，提供一系列的行业解决方案。","permission":"COLUMN_PUBLIC","memberId":,"contributePermission":"COLUMN_PRIVATE","translatedCommentPermission":"all","canManage":true,"intro":"七牛云，开发者的创新加速引擎。","urlToken":"c_","id":14465,"imagePath":"v2-9b3fe31debafdb826fb78e4.jpg","slug":"c_","applyReason":"0","name":"七牛云","title":"七牛云","url":"/c_","commentPermission":"COLUMN_ALL_CAN_COMMENT","canPost":true,"created":,"state":"COLUMN_NORMAL","followers":286,"avatar":{"id":"v2-9b3fe31debafdb826fb78e4","template":"/{id}_{size}.jpg"},"activateAuthorRequested":false,"following":false,"imageUrl":"/v2-9b3fe31debafdb826fb78e4_l.jpg","articlesCount":45},"state":"accepted","targetPost":{"titleImage":"/v2-0ce797ce4_r.jpg","lastUpdated":,"imagePath":"v2-0ce797ce4.jpg","permission":"ARTICLE_PUBLIC","topics":[770,],"summary":"直播无疑是 2016 年的大热话题，七牛云在 6 月底发布了实时流网络 LiveNet 和直播云解决方案后，我们用系统地介绍了直播各个环节的关键技术，帮助视频直播创业者们更全面、深入地了解直播技术，更好地技术选型。《直播 SDK 性能优…","copyPermission":"ARTICLE_COPYABLE","translatedCommentPermission":"all","likes":0,"origAuthorId":0,"publishedTime":"T14:10:09+08:00","sourceUrl":"","urlToken":,"id":2028470,"withContent":false,"slug":,"bigTitleImage":false,"title":"最全的手游录屏直播方案（自研思路VS第三方SDK）","url":"/p/","commentPermission":"ARTICLE_ALL_CAN_COMMENT","snapshotUrl":"","created":,"comments":0,"columnId":14465,"content":"","parentId":0,"state":"ARTICLE_PUBLISHED","imageUrl":"/v2-0ce797ce4_r.jpg","author":{"bio":"七牛云的小牛犊子，哞～","isFollowing":false,"hash":"eb4d521dee7aac90b622a9","uid":256400,"isOrg":false,"slug":"pang-chou-38-95-76","isFollowed":false,"description":"","name":"胖的一定丑","profileUrl":"/people/pang-chou-38-95-76","avatar":{"id":"v2-d31dc07edaf525fedc10f6c","template":"/{id}_{size}.jpg"},"isOrgWhiteList":false},"memberId":,"excerptTitle":"","voteType":"ARTICLE_VOTE_CLEAR"},"id":508047}],"title":"最全的手游录屏直播方案（自研思路VS第三方SDK）","author":"pang-chou-38-95-76","content":"直播无疑是 2016 年的大热话题，七牛云在 6 月底发布了实时流网络 LiveNet 和直播云解决方案后，我们用系统地介绍了直播各个环节的关键技术，帮助视频直播创业者们更全面、深入地了解直播技术，更好地技术选型。《直播 SDK 性能优化实践》系列文章是介绍七牛云在直播 SDK 上的技术创新实践。在上期中，我们介绍了直播推流端是如何优化的。本期，将介绍手游直播中录屏的实现方式。直播经过一年左右的快速发展，衍生出越来越丰富的业务形式，也覆盖越来越广的应用领域。手游直播就是现在常见的一种新兴应用场景。手游直播与一般直播最大的不同点，同时也是它的技术难点，在于录屏技术。游戏玩家录屏功能，实时地把自己玩游戏的场景分享展示给其他观众。录屏给很多游戏制作平台和直播内容平台提供了一种新的产品思路。录屏实现的四个步骤：采集：获取屏幕采集的视频数据、麦克风采集的音频数据、游戏内置的音频数据。处理：转化成可以推流的标准格式，防止推出的流有问题。编码：处理好硬编支持，节省终端的性能开销。封包、推流：和一样处理。从以上的录屏步骤来看，录屏直播和普通直播的采集源发生了变化。而真正实现录屏直播功能，则需要我们获取到数据，处理成能更稳定编码、推流的格式，最后才能稳定高质量地推出视频流。iOS 的录屏思路简述ReplayKitReplayKit 是苹果 iOS 10 以上版本提供的用于录屏并对外直播的功能。简单而言就是苹果通过这个功能把采集到的屏幕视频信息和音频信息回调给开发者，开发者可以任意处理这些信息。但是问题是，ReplayKit 使用上限制较多，首先要求系统必须为 iOS 10 以上；其次，被录屏的 App 必须支持 ReplayKit 功能。这也很容易理解，毕竟录屏是比较敏感的行为。所以必须游戏本身支持，以表示被录制方已经同意录屏。熊猫 TV 作为国内首家支持 ReplayKit Live 的直播平台，开创了直播行业的先河。熊猫 TV iOS 上的录屏方案采用七牛提供的 ReplayKit 方案实现。Airplay MirroringAirplay Mirroring 是苹果用于屏幕投影的功能，投屏的原理就是把设备的屏幕数据和音频数据通过 Airplay Mirroring 协议传输给第三方的支持该协议的显示播放设备。但 Airplay Mirroring 是苹果的私有协议，传输过程中音视频数据都是被苹果加密的，不对第三方开放。因此要想获得这些数据，只能通过破解协议的方式来达成。优缺点分析Android 的录屏思路简述View.getDrawingCache() 方法通过 View 的 cache 内容获取到 Bitmap 对象来达到录屏的效果。但是很多手机上面该方式会存在性能问题，另外该方式并不是一个真正意义上的录屏方式，另外部分 View 组件的内容并不能获取到，比如 webview 。读取 /dev/graphics/fb0 方法Android 基于 Linux，所以可以通过读取 fb0 设备节点，即 framebuffer 中的帧数据来实现屏幕的录制。但是读取这个设备节点需要 root 权限。screencap -p xxx.png/screenshot xxx.png 方法screencap 是 Android shell 的命令，可以通过该 shell 命令读取到屏幕的帧数据来达到录屏的功能。但该命令仍然需要 root 权限。MediaProjection + VirtualDisplay (&= 5.0) 方法在 Android 5.0 以后，Google 开放了截屏的接口，可以通过「虚拟屏幕」来实现录屏。该方式是目前 PLDroidMediaStreaming 采用的方式。七牛 iOS ReplayKit 的录屏方案1. 游戏端自己要实现 ReplayKit 被录制端的协议；2. 录制平台集成最新版本的七牛直播 SDK ；3. 录制平台创建 Broadcast Upload Extension，让支持 ReplayKit 的游戏可以被录制；4. 添加推流管理类，拿到 ReplayKit 数据后推流出去。iOS ReplayKit 录屏方案 demo七牛 Android 的录屏方案1. 更新最新版本的七牛直播 SDK ；2. AndroidManifest.xml 注册 ；&activity\n\nandroid:name=\"com.qiniu.pili.droid.streaming.screen.ScreenCaptureRequestActivity\"\n\nandroid:theme=\"@android:style/Theme.Translucent.NoTitleBar\" &\n\n&/activity&\n3. 使用七牛提供的核心类 ScreenStreamingManager、ScreenStreamingManager 封装屏幕的录制、音频的采集，编码，封包和推流操作。用户只需要简单的调用相关 API 即可实现录屏推流。在当你想在自己的产品中加入录屏直播功能，那么需要考虑清楚到底是自研还是使用三方的 SDK。如果采取自研方案，那么可以参考以上的录屏思路，你还需要仔细了解系统平台的 API 介绍。如果采用第三方 SDK 则可以较快集成，但需要了解 SDK 稳定性和易用性，且仔细阅读 SDK 的使用细则。 点击，查看直播云SDK 性能测试模型。本文作者：pili团队想要了解云计算领域的技术洞见？欢迎关注七牛云机构帐号！以上。","updated":"T06:10:09.000Z","canComment":false,"commentPermission":"anyone","commentCount":0,"collapsedCount":0,"likeCount":2,"state":"published","isLiked":false,"slug":"","isTitleImageFullScreen":false,"rating":"none","titleImage":"/v2-0ce797ce4_r.jpg","links":{"comments":"/api/posts//comments"},"reviewers":[],"topics":[{"url":"/topic/","id":"","name":"SDK"},{"url":"/topic/","id":"","name":"录屏"},{"url":"/topic/","id":"","name":"手机"}],"adminClosedComment":false,"titleImageSize":{"width":600,"height":375},"href":"/api/posts/","excerptTitle":"","column":{"slug":"c_","name":"七牛云"},"tipjarState":"inactivated","annotationAction":[],"sourceUrl":"","pageCommentsCount":0,"hasPublishingDraft":false,"snapshotUrl":"","publishedTime":"T14:10:09+08:00","url":"/p/","lastestLikers":[{"bio":"学生","isFollowing":false,"hash":"be5d3fcaadf5","uid":545900,"isOrg":false,"slug":"cao-chen-26-48","isFollowed":false,"description":"活着，为了探索更多。","name":"曹晨","profileUrl":"/people/cao-chen-26-48","avatar":{"id":"23114dcedcd52bb","template":"/{id}_{size}.jpg"},"isOrgWhiteList":false},{"bio":null,"isFollowing":false,"hash":"f29ef8f2fc3efadfd3b6053ead3348cc","uid":64,"isOrg":false,"slug":"tang-meng-67-26","isFollowed":false,"description":"","name":"xi xiao","profileUrl":"/people/tang-meng-67-26","avatar":{"id":"da8e974dc","template":"/{id}_{size}.jpg"},"isOrgWhiteList":false}],"summary":"直播无疑是 2016 年的大热话题，七牛云在 6 月底发布了实时流网络 LiveNet 和直播云解决方案后，我们用系统地介绍了直播各个环节的关键技术，帮助视频直播创业者们更全面、深入地了解直播技术，更好地技术选型。《直播 SDK 性能优…","reviewingCommentsCount":0,"meta":{"previous":{"isTitleImageFullScreen":false,"rating":"none","titleImage":"/v2-bf88fa182f53ad3ffdf6_r.jpg","links":{"comments":"/api/posts//comments"},"topics":[{"url":"/topic/","id":"","name":"图片处理"},{"url":"/topic/","id":"","name":"七牛云"}],"adminClosedComment":false,"href":"/api/posts/","excerptTitle":"","author":{"bio":"七牛云的小牛犊子，哞～","isFollowing":false,"hash":"eb4d521dee7aac90b622a9","uid":256400,"isOrg":false,"slug":"pang-chou-38-95-76","isFollowed":false,"description":"","name":"胖的一定丑","profileUrl":"/people/pang-chou-38-95-76","avatar":{"id":"v2-d31dc07edaf525fedc10f6c","template":"/{id}_{size}.jpg"},"isOrgWhiteList":false},"column":{"slug":"c_","name":"七牛云"},"content":"我们现在已经很难想象，图片的出现，竟然只是作为分割文字和缓解疲劳的工具。随着智能手机的普及，以及像 in、nice 这样以分享图片为主的应用的流行，人们记录生活、分享感悟的方式不再局限于文字，而是逐渐被拍照取代，拍照也不需要那么刻意为之。无疑，这和我们身处的环境息息相关。信息爆炸时代下，人们能吸收的信息有限，可视化的信息显然更有效率。在大数据时代的当下，图片已然成为信息传播的重要方式之一。然而，图片在互联网世界的爆炸式增长，给企业带来了很多困难。（图片来源 | 插画家 Alex Solis）首先，现在图片生产的质量越来越高，导致图片的大小越来越大，这就拖慢了图片的加载速度。其次，因为现在复杂的网络环境，CDN 加速成为业务的标配，而图片的大小和数量使得 CDN 流量成本不断上升。当图片不再是沟通的工具，而开始成为企业的负担，我们看到上传图片要限制大小，使用场景竟然缩小了。那有没有一种「黑科技」，能够在保证分辨率不变，格式不变的情况下，然后将图片变小？「图片瘦身」就是这样一项技术，在图片受到访问时，能够实时对图片进行瘦身，在保证分辨率不变的情况下，可以将图片最高缩小 80%，提升图片的加载速度，并且有效节省流量成本。以某知名电商平台为例，之前每月的 CDN 消费金额约 20 万元以上，在 2016 年 9 月引入图片瘦身服务后，10 月的 CDN 消费金额约为 14.9 万元，流量成本节省近 30%。对于电商而言，双十一是每年最难啃的骨头，因为双十一所在 11 月流量比 10 月增速会在 1.6 倍左右，这意味着 11 月的流量开销大致会在 32 万元左右。但在今年，因为图片瘦身，11 月的 CDN 流量费用仅为 18 万元，节省成本近一倍，由此可见「图片瘦身」的威力。究竟如何才能使用上这项「黑科技」？在国内的云服务公司中，七牛云首家提供了「图片瘦身」服务，无论是使用了七牛云的对象存储，还是 CDN 加速服务，都能享受到「图片瘦身」的功能。这是一套节省成本的组合拳！使用了「图片瘦身」加 CDN 加速服务后，用户在访问图片时，「图片瘦身」功能能够实时将图片缩小，企业只需负担「瘦身后」的流量成本。不是所有的创新都是进步，如果你还在头疼公司运营成本太高，那「图片瘦身」一定是你正在寻找的东西。点击，即可立即体验「图片瘦身」！想要了解云计算领域的技术洞见？欢迎关注七牛云机构帐号！以上。","state":"published","sourceUrl":"","pageCommentsCount":0,"canComment":false,"snapshotUrl":"","slug":,"publishedTime":"T16:13:40+08:00","url":"/p/","title":"七牛数据处理再添新兵——图片瘦身","summary":"我们现在已经很难想象，图片的出现，竟然只是作为分割文字和缓解疲劳的工具。随着智能手机的普及，以及像 in、nice 这样以分享图片为主的应用的流行，人们记录生活、分享感悟的方式不再局限于文字，而是逐渐被拍照取代，拍照也不需要那么刻意为之。无疑，这…","reviewingCommentsCount":0,"meta":{"previous":null,"next":null},"commentPermission":"anyone","commentsCount":4,"likesCount":0},"next":{"isTitleImageFullScreen":false,"rating":"none","titleImage":"/v2-d93817cd3cdcd3e420f5_r.png","links":{"comments":"/api/posts//comments"},"topics":[{"url":"/topic/","id":"","name":"Docker"},{"url":"/topic/","id":"","name":"架构师"}],"adminClosedComment":false,"href":"/api/posts/","excerptTitle":"","author":{"bio":"七牛云的小牛犊子，哞～","isFollowing":false,"hash":"eb4d521dee7aac90b622a9","uid":256400,"isOrg":false,"slug":"pang-chou-38-95-76","isFollowed":false,"description":"","name":"胖的一定丑","profileUrl":"/people/pang-chou-38-95-76","avatar":{"id":"v2-d31dc07edaf525fedc10f6c","template":"/{id}_{size}.jpg"},"isOrgWhiteList":false},"column":{"slug":"c_","name":"七牛云"},"content":"架构师小组交流会是由国内知名公司架构师参与的技术交流会，每期选择一个时下最热门的技术话题进行实践经验分享。Docker 作为当前最具颠覆性的开源技术之一，其轻量虚拟化、可移植性是 CI/CD、DevOps、微服务的重要实现技术。但目前技术还不够成熟，在生产实践中还存在很多问题。对此，沪江黄凯、滴滴田智伟、蘑菇街张振华、蘑菇街向靖、扇贝丁彦以及七牛云袁晓沛在本期交流会上分享了各自的经验。本文是对此次交流的整理，欢迎探讨。自由交流沪江黄凯大家好，我是来自沪江的 Java 架构师，我叫黄凯。在加入沪江之前，曾在 HP 和 IBM 的云计算部门担任核心开发和架构职位。对 IaaS、PaaS、SaaS，尤其是云存储有较深入的了解。2015 年加入沪江，担任架构师职位，主导的产品有：课件云存储，云转码等等。在这些项目中，我们使用 Mesos 和 Marathon 做 Docker 的编排工具，并开发了一个 Mesos Framework 做云转码的核心框架。是由国内知名互联网公司架构师参与的在线技术交流会，每期选择一个时下最热门的技术话题进行实践经验分享。那么我们为什么要使用 Docker，也是机缘巧合。由于我们的服务开始的时候不是特别多，采用的就是一种普通的架构，后来随着服务的增多，发现部署和运维花的时间太长，我们想使用一些新的方式。开始的时候研究过 Openstack，后来觉得 Openstack 慢慢没落，于是我们就选中现在使用的 Docker。我们并不把 Docker 当成 VM 在用，而是使用它的原生的，在 Baremetal 上直接安装 Docker，这样运行效率比在 VM 运行 Docker 要来的快。课件云是由很多微服务组成，不光是一些存储，这种微服务是使用 Docker 部署，就相当于编排，把这些微服务部署上去。转码这一块是使用了 Mesos 框架，和 Docker 没有特别大的关系，但是转码的应用程序，比如说我们现在应用 FFmpeg，这个程序是运行在 Docker 里面的。为什么要选择 Marathon？第一，我觉得 Mesos＋Marathon 非常的容易理解。我们也研究过 Kubernetes 和其他的一些方法，发现从运维和研究的方面来说的话，Kubernetes 实在是太重而且太复杂，后来选择了Marathon。我们现在是内部服务使用，两个部门在使用转码集群，大概是 Baremetal 有 20 台的物理机。除去我们 API 的一些服务，还有一些第三方组件的服务的话，大概是有 400 多个 Docker 容器在跑。滴滴田智伟大家好，我是滴滴代驾事业部架构师，代驾事业部是公司最早尝试 Docker 虚拟化的事业部。目前主要方向是业务系统及部分中间件的 Docker 化，我们做的时间也不太长，半年多的时间。线上是因为我们有老的一套发布系统，集成涉及的部门比较多，所以我们基于原来的发布系统完成了预发布环境 Docker 的部署。线下环境基于 Docker+K8s 开发内部的自动化持续交付系统及开发测试环境管理。我们在做开发和测试环境的自动化，另一方面也是做环境管理的，两套环境。对于项目并行的时候发现原来很多不够用，原来很多配置是基于端口绑死的情况。现在基于开发 Kubernetes 的话，网络隔离用了一部分，然后主要是用环境变量这一部分，主要考虑是解决一个配置可以应用到在多个环境的情况，基于这个需求才用它。开发 Kubernetes 基于 Namespace，同一个服务在不同的 Namespace 下，它其实环境变量名可以是相同的，但是IP不同，而这一部分 IP 其实是由开发 Kubernetes 自己去管理的。基于环境变量获取一些配置的话，比如 IP 地址这种，就可以做到拿一份配置可以打出多套环境。考虑业务的安全性和稳定性，线上基于纯 Docker 的方式在做。我们是基于裸的 Docker 来工作，主要是用资源隔离，没有借助调度框架，也没有自动伸缩。我们是两步走，一步是验证 Docker，其次是做开发 Kubernetes 线下使用和预研。为什么没有考虑 Mesos？刚才跟沪江的同学，我们的考虑是相反的。Mesos 侧重点更专一一点，首先不会有模块的划分，比如 Kubernetes 有 Replication controller ，Namespace 这种概念，而 Mesos 下几乎没有这种概念。我们拿 Kubernetes 主要是做一些编排的功能，而正好开发 Kubernetes 在整个发布和编排上，体系更全面一点。Mesos 最早是做资源管理，基于 Docker 做一个 Framework 接进来的话，它不是专门为编排而生。Kubernetes 首先解决我们的问题是，我们可能不需要加多份配置就可以搭多套不同的环境，它就是基于 Namespace 做一个多租户的概念，会对 Service 做一层隔离，对于动态配置，扩容这一部分暂时我们没用到，确实用到的一些场景比较少。主要是做不同环境的隔离，并没有太多使用编排细节上的东西，动态伸缩之类的目前线下没有太大必要，线上可能会用到。蘑菇街向靖大家好，我是向靖，来自蘑菇街的运维架构师。我们接下来会做一个 PaaS 平台，想做 Docker 和结合虚拟机以及我们用到公有云产品，做成一个混合云的架构平台。我们现在 Docker 也在用，更多的是当虚拟机用，后面我们想基于 Docker 原生的方式去用，可能会涉及资源调度，服务发现的问题。除了 Docker，我们还会用到公有云，公有云更多是虚拟机的方式提供。出于混合云，想在资源层做一个抽象，对于上层业务来讲它没有关系，它是跑在 Docker 上，还是云主机上，还是 KVM 虚拟机上，那么我想在这上面做一个抽象。另外还有，刚才我也是提问滴滴架构师的问题，配置怎样和代码做隔离，这个也是我考虑的问题。因为我看 Docker 用了环境变量，通过环境变量做一些配置的参数的传递，但是在虚拟机上，特别是在物理机上，通过环境变量的方式，我还在考虑有没有安全的风险，Docker 可能是一个只读的，不会被修改的，但是对于虚拟机以及物理机来说，可能会存在被修改的风险。蘑菇街张振华大家好，我叫张振华，花名郭嘉，我是 14 年从思科加入蘑菇街。我们算是国内用 Docker 比较早的，我们一开始用 Docker 是 1.3.2 的版本，当时我们采用集群管理工具还是 Openstack，因为当时 Kubernetes 还不是很成熟。当时也走了一些弯路，比如我们把 Docker 当成虚拟机来用，曾经在线上的规模也达到几百台虚拟机几千个容器，但是我们逐步发现不能把 Docker 当成虚拟机来使用，因此我们做了一个转型，从去年开始研究 Kubernetes，现在 Kubernetes 加 Docker 的版本开发完成了，准备逐步上线。我们为什么选用 Kubernetes？编排工具的选择我们也是做过一番调研的，它们没有谁好谁不好这一说，只能说谁更贴切你的需求。对于我们蘑菇街来说，我们需要解决是资源利用率的问题，和运维的对接，我们需要有预发和线上环境的持续集成持续部署的过程，还有我们需要有对资源的隔离，对部署的快速迭代，包括集群管理，这些方面，我们觉得 Kubernetes 更加适合于我们。在网络方面，我们研究过现在在开源界比较常用的一些方案，但是我们都觉得不太适合，比较 Fannel，Caico 等等，他们一般用的技术都是 VXLAN，或者是用 BGP。因为我们之前对 Openstack 的网络是比较有经验的，然后我们发现有一个项目，具体名字不记得，Neutron 和 Kubernetes 做一个对接，我们在这个项目的基础上做了 VLAN 的方案，我们的网络没有用 VXLAN 来做，而是选择 VLAN 来做，这样的话一个 Docker 它可以获得跟一个物理理同一个网络平面的 IP，我们的应用程序可以直接对外访问，因为我们内部业务有这个需求选择这个方案。虽然 Docker 内部网络和外部网络是通的，但 Docker 还是独立的一个网段，不需要一层 NAT 的转换。我们直接走二层的，是在交换机走 Chunk，本来物理机交换机的 Access 口，这样的话，一台物理机上面允许跑多个 VLAN 的容器，比如说 A 业务和 B 业务要走隔离的话，通过网络的 VLAN 走隔离，它们的数据之间不会有干扰。Load Balance 我们还没有涉及到这一块，Load Balance 我们应该会在 nginx 上做一层。因为据我了解，现在 Kubernetes 这一块 Proxy 还不是很成熟，这上面还存在一些问题，因此还不敢用 Kubernetes 现有提供的服务。服务发现和注册这一块我们还在做开发，这块会和配置管理中心打通。我们内部也有其他团队在做这些功能，所以我们会和内部的中间件团队合作。七牛云袁晓沛大家好，我是七牛云数据处理技术总监袁晓沛。我们的数据处理业务包括了图片和视频的实时在线及异步处理。数据处理的业务量比较大，日均请求量达到百亿级。平台采用容器技术的原因是借助容器技术快速部署，启动的特性，数据处理程序可以根据数据处理量快速地弹性伸缩。借助容器技术内核级别的资源隔离和访问控制，每个数据处理程序可以运行在一个私有的环境，不被其它程序所干扰，保证其上运行数据是安全可靠的。而且容器技术是轻量的，它以最小的资源损耗提供资源隔离和访问控制，而资源特别是计算资源在数据处理中是非常宝贵的。我们在资源调度上采用的是 Mesos，而二层的业务调度框架则是自己自研的。七牛自身拥有近千台的物理机，容器是直接运行的物理机上，可以减少虚拟层对资源的消耗，提高资源的利用率。在网络上，对于七牛的自定义数据处理服务直接使用的是 Host 模式，而对第三方数据处理服务则使用的是 Bridge 模式，因为这些程序是用户自己部署运行的，并不知道用户是否有开启其他的端口使用，所以使用的是 Bridge 模式，需要对外使用端口的都需要通过 NAT 进行暴露，这样服务内部使用了什么端口并不会对外界环境造成影响，对平台环境做了非常好的安全隔离。我们是使用 Consul 做注册中心，支持跨数据中心的服务发现。我们为什么自研的调度框架，而不用 Marathon。因为 Marathon 不支持跨数据中心的内部服务或外部服务的发现，而七牛有多个数据中心，影响整体的调度，其次如果选用 Marathon 的话，根据我们业务的特点，还是要再做一层对 Marathon 的包装才能作为 Dora 的调度服务，这样模块就会变多，部署运维会复杂。扇贝丁彦大家好，我是扇贝的技术总监丁彦，之前在暴走漫画，先后在暴走漫画和扇贝设计和主导了基于 Docker 的微服务架构系统，以及数据收集和分析系统。去年来到扇贝，这里是 Python 的开发环境。后来发现业务增长快，水平扩展一些机器，出现问题需要换个机器等等，都需要非常熟悉业务的少数开发去做。另外公司对预算控制严格，机器基本都是满负荷运作，平时也不可能多开空置的机器，已有的机器还要根据负载情况调整服务分布情况，所以这种切换服务，增删服务的操作还是比较频繁的。因此，我们用了 2-3 个月的时间将所有的运行环境都切换到 Docker上，这大大提高了我们的运维能力。Docker 包装有几个好处。第一个好处是，环境升级非常方便。因为只要pull 一下最新的镜像，启动一个 Container，环境就升级了。而如果直接基于公有云的镜像升级的话就很难，因为一台机器上跑哪些服务其实不一定是固定的，并且之前做的镜像只要有一台机器是还基于它的话，就删除不掉的，镜像数量又有上限。所以 Docker 非常好地解决了我们的问题。其次是环境的颗粒度会更小，一台机器上配好几个应用的话，往往配着配着，到最后你就不太能精确地记得上面装的程序或者库是给哪个应用服务的，应用之间如果依赖有版本的冲突也很难调和。你想做些服务的迁移，把负载比较小的放一起，把负载比较大的抽出来，这个时候就非常痛苦，但你如果用 Docker 包装后就非常简单，只要在不同的机器上起不同的 Container，就可以实现这一点。第三，我们不光用了 Docker，还加入了服务发现，刚刚讨论配置管理这些，我们一并做了。Docker 启动时候，我们自己写了一些工具，可以自定义 Docker 启动参数，包括配置参数，比如说，一些程序要运行的参数，我们主要用两种方式，一种方式是通过环境变量灌进去，还有一种方式让程序的启动脚本支持参数，然后拼接不同的参数灌进去，最终都是落实到 Docker 的启动命令上。服务发现是基于 Consul，Docker 的启动命令是从 Consul 里取的。首先 Consul有 HTTP 的 API，我们是自己写的 pip 包，只要 Include 一下这个包就可以了，Docker 的服务启动后会自动注册到 Consul。比如要在负载后加一个服务，只需要找到一台机器，启动对应的 container，剩下的事情它自己会到 Consul，注册它的参数地址一系列东西，自动把它加进去。所以这些都是自动化的，如果检测那台机器/服务挂了，Health Check 也会到 Consul 里面更新。该增加机器就增加机器，该下线就下线。总体来说，我们的生产环境全部跑在 Docker 上面的，然后区分有状态和无状态两种，有状态的定死在机器上，无状态的灵活的自由切换。还有一点，如果是有状态的容器要定死在机器上的时候，我们一般来说都会采取冗余的结构，至少保证有两个在运行，一个挂了，保证整体的服务在运行。其次基于 Docker，我们还做了一套数据搜集以及分析的机制。数据搜集是基于日志来搜集的，利用 Docker 的 Log driver，把日志打到 Filter，把结果存在存储服务上。同时监控也是基于日志做的。第三部分非生产环境，比如开发环境跟测试环境都是 Docker 做的，因为我们每一个服务都做了 Image、镜像，用容器方式跑的。通过参数来决定启动方式的，我们可以在开发环境以及测试环境采用不同的参数来启动容器。 通过 Consul 来隔离的，因为 Consul 的服务发现，开发、生产、测试环境在不同的自动发现框架里不会相互影响到。目前机器在 120 台左右，基于云服务。有些基础的东西不需要依赖于 Docker，比如说申请云主机，申请的时候就可以指定它的 CPU 和内存这些服务器资源的配置。所以这部分东西还是属于 Human schedule，不是完全让编排的系统自己决定该怎么样。编排工具我们现在在研究进一步，我刚来这工作的时候，所有的服务没有一个跑在 Docker 上面的，我现在把它迁进来。现在数据增长，已经有一些编排的瓶颈，现在在做调研，可能基于 Swarm，做自动编排的设计。指定话题交流主持人：容器多的情况下 Kubernetes 存在性能问题，各位在这方面有没有好的经验？扇贝丁彦：我们其实也遇到了这个问题，找不到办法所以放弃了 Kubernetes。我们也是用公有云，网络直接依赖公有云的网络，有可能是因为公有云造成的，我没有试过在祼机上试过。沪江黄凯：Kuberneters 的 Fannel 有一种模式是 VXLAN，它的封装折包是做内核里做的，效率会高一点。容器多就会效率会低是因为，在 Kubernetes 1.2 的时候，走这样的一种模式，数据先到内核态中，然后把数据拉回到用户态，用
Proxy 的方式分发给各个容器当中的。其实在 Kubernetes 1.3 以后，它直接在iptables里设规则，相当于用户数据不用跑到用户态，在内核直接分发出去了，这种效率会非常高。所以可以研究一下 Kubernetes 新版本。扇贝丁彦：我们碰到过网络方面的问题。默认的 Docker engine 的启动参数里面有个 iptables，不知道大家有没有定制化过，如果不定制化这个参数，它默认会帮你建 iptables 的转发规则，并会开启内核的网络追踪的模块。一开始我们没有注意这件事情，当我们的 Nginx 迁到 Docker 的时候，Nginx 服务瞬间会挂。后来查原因，是因为这些参数会开启网络追踪模块。因为我们的 Nginx 流量非常大，当时只有 3 台 Linux 云主机，分发 http 请求的，然后会导致 3 台Linux宿主机，内存会被刷破，网络会出现堵塞。所以我们关掉了 iptables 参数，并采用 Host 的网络模型。所以它的容器拿到的 IP 就是 Host 的 IP。我们一开始也想上一些 Kubernetes 这些东西，然后发现简单跑个模型根本跑不起来，所以一开始就放弃了这一套东西，直接搞了个裸的 Docker。主持人：关于跨数据中心容器集群的使用，大家有经验么？沪江黄凯：我们跨数据中心主要是IP分配上的问题，我们现在也在尝试使用 Calico，如果 Host 网络是通的话，那么它的内部网络也就通了，可以自由划 VLAN，这样你就可以解决跨 Data center 的问题。还有一个问题就在跨 Data center 时，服务注册与发现的问题。这个问题也困扰我们很久了，我们现在使用 Consul 做服务注册与发现。虽然 Consul 它是官方支持跨 Data center，但是我们在使用当中的话会发现注册的 IP，在另外一个注册中心，它会发现的比较慢，甚至有时候出现 IP 冲突的时候。我们的做法是把 Host 的 IP 地址直接用 Environment 的形式注到 Docker 镜像内部，接下 来 Docker 镜像要注册，它就会读取 App 的 IP，然后发送给 Consul，只要保证 Host 的 IP 和 Docker内部容器的 IP 能够互通的就行了。如果不能通的话，比如说完全和 Host IP 隔离，那么起码有几台机器要暴露出去，又比如说，Consul 它本身自己要暴露出去才能访问到。Host 的 IP 是容器启动之后注进去的，启动命令中把 Host 的 IP 地址加在 -e 的后面，容器在启动之后，它的环境就会有这么一个 IP。我们用 Mesos 就没这个问题，但是用 Kubernetes 就有这个问题。Mesos 会自动帮你把这些东西注入容器中去。滴滴田智伟：其实 Kubernetes 本身也是可以解决这个问题，我们现在在做线下持续交付的时候。定义完 Service 之后，容器会同一个 Namespace 默认加一个系统环境变量。沪江黄凯：我们试过，在 Pod 启动之后，Pod 里容器想访问 host 的 IP 地址，是没有办法做到的。蘑菇街张振华：因为我们之前也遇到这个问题，然后我们业务方，他们可能有一些程序会获取本机 IP 地址，如果是内部的 IP 地址，他们程序可能会出现问题，于是我们当时没有用 Docker 默认的网络，而是采用 VLAN。主持人：我们提到好多 Mesos、Kubernetes、网络，发现没有提自动伸缩，有没有项目涉及到容器的自动伸缩？沪江黄凯：我们沪江是基于 Mesos+Marathon 做了自己的一个服务，它这个服务是干嘛的呢，就是监测，不停的监测每一个 Docker 的 CPU 和内存的利用率，一旦超过百分之多少以后，就向 Marathon 发一个命令，说我要扩容，它还可以支持时间点，比如 15 分钟监测一次，如果在 15 分钟发现它超过阈值了，就马上扩容出来，但是缩的话，不是适用于频繁监控，如果小于 20% 的话就会缩，一旦缩的话会影响线上用户的请求。怎么办呢？我们在缩的时候可以规定它的时间点，比如半夜里 2-3 点，访问量少于多少点时候把它缩掉。我们监测的是 Docker 内部的 CPU 的使用率。就是监测一个服务，它可以监控所有同一服务的 Container，比如一个服务有 100 个容器，那么这一百多个 CPU 利用率加起来除于一百，相当于平均的利用率。如果平均利用率超过 80%了，那说明这个集群到了扩展程度了，它会以一种比例来扩展。针对单个容器，可以设置内存的限制。我们给每一个容器呢，比如它只能用 4 个 CPU，只能用 8G 的内存，或者更小一点的内存，这些都设好，设好之后它自动扩展相同规格的容器。这么做是因为 Cgroup 有个问题，当利用率到达了启动的限制，Cgroup 会把这个容器 kill 掉。这个是不可理喻的问题，所以我们想到用 Load scale 来扩容，不让他直接死掉。滴滴田志伟：关于自动扩容，我们线下的时候遇到一个问题，我们最早的时候是用腾讯的公有云，它限制了 NET 的模块，导致我们最初用 Cgroup 的方案去做，绑定端口。内部使用所有应用，端口是要做分配的，要不然出现端口冲突。然后遇到问题是，在这种情况下，如果要做动态扩容的话，它每次先创建一个，再杀掉一个，导致每次起来的时候就起不来了，因为端口的问题。服务启动的时候端口是随机，会出现冲突问题，因为用的是 Host 的模式。主持人：关于自动伸缩为什么没有考虑到请求数？因为如果内存占用率如果超过一定预支，那么请求数也可能超过一定预支了。把单个容器所处理的请求数给限定了，那么它内存自然不会超，然后也不会被干掉。沪江黄凯：我个人认为，第一，请求数很难测，你不知道请求数到多少时要扩容，还不如根据 CPU 到 80%，或者 90% 来的直观。我们的 API 也是根据 CPU 来算的。你真正是高并发的 API 的话，我也测过，最后我们能够监测到的，其实还是 CPU 和内存。扇贝丁彦：我们扩容是根据响应时间，跟请求数类似，请求数定指标不太好定，我们是根据响应时间，比如平时的响应时间是 50 毫秒，当响应时间是 300 毫秒的时候就要扩容了。主持人：大家对于容器有状态无状态有没有遇到什么问题？大家一般用容器的本地磁盘还是共享磁盘呢？沪江黄凯：关于存储，我们是有一些研究的。现在容器存储问题分为两种，Kubernetes 官方支持一种理念，任何一种存储都是一个 Volume。Volume 先于 Docker 存在的，而不是 Docker 启动之后再挂载 Volume。不管是网络存储还是本地存储，全部以卷的形式，挂载在 Pod 里面或者是宿主机上,以 Driver mapper 来驱动这个 Volume，来读到你所要的内容。还有一种情况，就是 Docker 公司主导的存储模型，任何的存储都是一种驱动。如果你想用 NFS 或者如 Ceph 这样分布式存储的话，让 Ceph 开发 Docker 的驱动，Docker run 的时候指定存储的驱动，Docker storage driver 这种方式，外部的存储在容器内部它展现形式可以是目录，也可以是挂载卷、块的形式。如果用块挂载到容器中，这个容器自己格式化它，或直接读取它都是可以的。它只不过它是相当于用了一个 Driver 的形式，把你的容器和分布式存储建立一个连接而已。对于容器，如果原本绑定块或 Volume，容器出现故障的话，直接把容器杀掉，再启动挂在同样一个 块或Volume 就解决了。优点是直接读取，而不是通过再转一层，效率比较高一点。所有存储都是 Volume 的形式理解度比较高一点，所以我们还是赞同于用 Volume 的形式。有状态的容器。我知道 k8s 的新的计划，如果你没有用 Kubernetes 最新版本的话，一般来说我们都是容器启动在固定 Host 上，下次启动还是在这台 Host 上，它的存储它的内存，包括一些 log，全部是在这台 Host 上。还有一种是用最新的版本，有个 PetSet 的新 kind，Kubernetes 它自己会记录 Pod 在什么 Host 上启动过，不用自己去指定一定要在某一台 Host 上启动，这种方法比较智能化，但是不是特别稳定的一种方法，因为它是刚刚开发出来的新功能。主持人：数据多副本，假设有一个节点故障的话，是建议它直接把原来的副本重新绑定还是重新起一个新的实例，通过分布式数据的迁移呢？沪江黄凯：我个人认为还是在同一台机器上起一个新的实例，不要让它做数据迁移，因为数据迁移会占用很多资源。而且如果你的想法是说，所有的分布式的存储只是以 Volume 的形式挂载在宿主同上，这也就没什么问题了。因为存储和 Docker 是完全分开来的。如果只有一个 Volume，存储的可靠性会得不到保障，所以在 Kubernetes 新版本当中，它会建立一个 Volume 的 kind，也相当于建立 RC kind一样，是一个 Pod，那这样由 Kubernetes 来保障这个 Volume 的高可用。想要了解云计算领域的技术洞见？欢迎关注 机构帐号！以上。","state":"published","sourceUrl":"","pageCommentsCount":0,"canComment":false,"snapshotUrl":"","slug":,"publishedTime":"T12:03:49+08:00","url":"/p/","title":"来自沪江、滴滴、蘑菇街、扇贝架构师的 Docker 实践分享","summary":"架构师小组交流会是由国内知名公司架构师参与的技术交流会，每期选择一个时下最热门的技术话题进行实践经验分享。Docker 作为当前最具颠覆性的开源技术之一，其轻量虚拟化、可移植性是 CI/CD、DevOps、微服务的重要实现技术。但目前技术还不够成熟，在生产…","reviewingCommentsCount":0,"meta":{"previous":null,"next":null},"commentPermission":"anyone","commentsCount":0,"likesCount":2}},"annotationDetail":null,"commentsCount":0,"likesCount":2,"FULLINFO":true}},"User":{"pang-chou-38-95-76":{"isFollowed":false,"name":"胖的一定丑","headline":"","avatarUrl":"/v2-d31dc07edaf525fedc10f6c_s.jpg","isFollowing":false,"type":"people","slug":"pang-chou-38-95-76","bio":"七牛云的小牛犊子，哞～","hash":"eb4d521dee7aac90b622a9","uid":256400,"isOrg":false,"description":"","profileUrl":"/people/pang-chou-38-95-76","avatar":{"id":"v2-d31dc07edaf525fedc10f6c","template":"/{id}_{size}.jpg"},"isOrgWhiteList":false,"badge":{"identity":null,"bestAnswerer":null}}},"Comment":{},"favlists":{}},"me":{},"global":{},"columns":{"next":{},"c_":{"following":false,"canManage":false,"href":"/api/columns/c_","name":"七牛云","creator":{"slug":"pang-chou-38-95-76"},"url":"/c_","slug":"c_","avatar":{"id":"v2-9b3fe31debafdb826fb78e4","template":"/{id}_{size}.jpg"}}},"columnPosts":{},"columnSettings":{"colomnAuthor":[],"uploadAvatarDetails":"","contributeRequests":[],"contributeRequestsTotalCount":0,"inviteAuthor":""},"postComments":{},"postReviewComments":{"comments":[],"newComments":[],"hasMore":true},"favlistsByUser":{},"favlistRelations":{},"promotions":{},"switches":{"couldAddVideo":false},"draft":{"titleImage":"","titleImageSize":{},"isTitleImageFullScreen":false,"canTitleImageFullScreen":false,"title":"","titleImageUploading":false,"error":"","content":"","draftLoading":false,"globalLoading":false,"pendingVideo":{"resource":null,"error":null}},"drafts":{"draftsList":[],"next":{}},"config":{"userNotBindPhoneTipString":{}},"recommendPosts":{"articleRecommendations":[],"columnRecommendations":[]},"env":{"isAppView":false,"appViewConfig":{"content_padding_top":128,"content_padding_bottom":56,"content_padding_left":16,"content_padding_right":16,"title_font_size":22,"body_font_size":16,"is_dark_theme":false,"can_auto_load_image":true,"app_info":"OS=iOS"},"isApp":false},"sys":{}}}