拾肆 - 网盘 http://www.ceniv.com/tag/网盘 zh-CN Wed, 25 Mar 2015 00:55:00 +0800 Wed, 25 Mar 2015 00:55:00 +0800 拾肆 - 网盘 http://www.ceniv.com/a/1200.html http://www.ceniv.com/a/1200.html Wed, 25 Mar 2015 00:55:00 +0800 天博体育APP下载网页版 比如百度1T,腾讯、360多T,就硬件成本来计算,是不是太可怕了,公司会投入这么多么?假设百度盘一千万用户,每人1T,有人能算算成本么?真相究竟是什么?

——回答:

我想要为每个用户提供 1G 的网络存储空间。

如果服务器上有一颗 1000G 的硬盘可以全部为用户提供数据储存,如果每个用户分配 1G 的最大储存空间,那么能分配给多少个用户使用呢?

你一定说是 1000/1=1000 个用户。

但事实上你这么分配了,你会发现每个用户平时根本不会上传 1G 的东西将容量占的满满的,有多有少,但平均用户平时只上传 50M 的文件,也就是说,你将 1000G 的硬盘分给 1000个人使用,但只有效利用了其中的50M*1000=50G 的空间,剩余 950G 的空间基本都浪费了。

那么怎么解决呢?

你可以变通一下,将这 1000G 的空间分配给 20000个 用户使用,每个人的上传上限容量还是 1G,但每人平时还是平均上传 50M 的数据,那么 20000*50M=1000G,这下子就把宝贵的服务器上的存储空间充分利用了。但你又怕这样分配给 20000个 人后,万一某一刻人们突然多上传点数据,那么用户不是就觉察出来你分给人家的 1G 空间是假的了吗?所以可以不分配那么多人,只分配给 19000 人,剩下一些空间做应急之用。

突然发现一下子将可分配的用户数量翻了 19倍啊,了不起。那还有买有办法更加有效的利用一下呢?

如果我有 1000个 以上的服务器,一个服务器上有 1000G 空间,那么我们个服务器上都要留下 50G 的空白空间以备用户突然上传大数据时导致数据塞满的情况,那么我这 1000个服务器上就空出了 1000台*50G=50000G 的空间被浪费了,所么可惜。所以我们发明了计存储集群,使得一个用户的数据可以被分配在多个服务器上存储,但在用户那看起来只是一个 1G 的连续空间,那么就没必要在每个服务器上预留出应急的空间了,甚至可以充分的将前一个服务器塞满后,在将数据往下一个服务器中塞。这样保证了服务器空间的最大利用,如果某一刻管理员发现用户都在疯狂上传数据(在一个大规模用户群下,这样的概率少之又少)导致我现有提供的空间不够了,没关系,只需要随手加几块硬盘或者加几台服务器就解决了。

好吧,这下子我们的服务器空间利用率高多了,可以将一定量的空间分配给最多的用户使用了。但有没有更好的改进方案呢?

管理员有一天发现,即使每个用户均下来只存储 50M 的东西,但这 50M 也不是一蹴而就的,是随着1-2年时间的使用慢慢的达到这个数量的,也就是说,一个新的用户刚刚注册我的网络空间时,不会上传东西,或者只上传一点非常小的东西。那么我为每一个用户都初始分配了 50M 的空间,即使将来2年后他们会填满这 50M ,但这期间的这些空间就很浪费啊。所以聪明的工程师说:既然我们可以分布式、集群式存储,一个用户的数据可以分布在多个服务器上,那么我们就假设一开始就给一个新注册的用户提供 0M 的空间,将来他用多少,我就给他提供多少存储空间,这样就彻底的保证硬盘的利用了。当然用户的前端还是要显示 1G 的,只不过这1G的“空间”只是个数字而已。

工程师的这个点子,使得我在建立网盘初期能用 1台 1000G 的服务器提供了大约 1000000 人来注册和使用,随着注册的人多了,我也有钱了,也可以不断增加服务器以提供他们后期的存贮了。同时因为一部分服务器晚了一年多购买,我的购买成本也下来了。

那么...这结束了吗?若是邮箱提供商的话,这样的利用率够高了。但网盘就不一样了。

聪明的工程师发现:不同于邮箱,邮箱服务器中大家上传的内容和附件绝大多数都是自创的和不相似的。但网盘上大家上传的东西很多都是重复的。

比如:张三 今天下载了一部《TOKYO HOT》上传上传到了自己的网盘上,李四在三天后也下载了一模一样的《TOKYO HOT》上传到了网络硬盘上,随着用户的增多,你会发现总计有 1000个人 上传了 1000份 一模一样的文件到你宝贵的服务器空间上,所以工程师想出一个办法,既然是一样的文件,我就只存一份不久好啦,然后在用户的前端显示是每人都有一份不就行啦。当某些用户要删除这个文件的时候,我并不真的删除,只需要在前端显示似乎删除了,但后端一直保留着以供其他拥有此文件的用户下载。直到所有拥有此文件的用户都删除了这个文件我再真的将其删除吧。

这样子随着存储的数据越来越多,注册的用户越来越多,其上传的重复数据越来越多。你发现这样的检测重复文件存储的效率越来越大。这样算下来似乎每个人上传的不重复的文件只能平均 1M/用户。这下子你可以提供超过50倍 的用户使用您这有限的空间了。

但伴随着使用,你又发现一个规律:

张三上传的《TOKYO HOT N0124》和李四上传的《TH n124》是同一个文件,只不过文件名不一样,难道我就不能识别出他们是一个文件,然后只将其分别给不同的用户保存成不同的文件名不久行啦?确实可行,但这要利用一些识别文件相同性的算法,例如 MD5 值等。只要两个文件的 MD5 值一样,文件大小一样,我就认为它们是相同的文件,只需要保存一份文件并给不同的用户记作不同的文件名就好了。

有一天你发现,因为每一个文件都需要计算 MD5 值,导致 CPU 负荷很大,而且本来一样的文件非要浪费带宽上传回来才可以检测一致性,能改进一下吗?

聪明的工程师写了个小软件/小插件,美其名曰“上传控件”,将计算 MD5 值的工作利用这个软件交给了上传用户的电脑来完成,一旦计算出用户要上传的数据和服务器上已经存储的某个数据是一样的,就干脆不用上传了,直接在用户那里标记上这个文件已经按照 XX 文件名上传成功了。这个过程几乎是瞬间搞定了,并给其起了个高富帅的名字“秒传”!

通过以上这么多步骤,你发现本来你只能给 1000用户 提供网络空间的,这么多改进办法后,在用户端显示 1G 空间不变的情况下,近乎可以为 1000000个用户 提供网络空间了。

这样若是您哪天心情好,对外宣传说:我要将每个用户的存储空间上限提升到 1TB。那么每个用户平均还是只上传 50M 数据,只有极个别极个别的用户上传了突破 1G 原始空间的数据,你会发现所付出的成本近乎是微乎其微的。

辛勤的工程师还在为如何更有效率的利用服务器提供的磁盘空间在不懈努力和挖掘着......


以上文字读自知乎网友,生动形象,所以摘录以记之。

原文见http://www.zhihu.com/question/21591490

“杜鑫,错别字大王”网友的回答

]]>
0 http://www.ceniv.com/a/1200.html#comments http://www.ceniv.com/feed/a/1200.html
拾肆 - 网盘 http://www.ceniv.com/a/1199.html http://www.ceniv.com/a/1199.html Wed, 25 Mar 2015 00:47:00 +0800 天博体育APP下载网页版 以前在网上存储分享照片是用的百度相册,最近又有了上传照片的需求,但博客用的网易的Lofter,所以对于是用百度相册还是网易相册有了一番斟酌。

百度相册

百度相册的优点在于容量大,与网盘共用空间,基本不会有容量不够用的情况,而且可以生成外链图,只不过外链图片右下角有“百度相册”的水印,而且尺寸压缩的比较小了。

但今天在未登录状态访问了一下百度相册,发现进入相册跳转到如下界面:



也是好久都没管理相册了,查询了一下从去年4月份开始百度就开始实施这个“净网行动”,公告里是说持续到11月,但为什么这都第二年3月了还没完吗?百度相册的贴吧也都禁止了一切形式的发帖回帖,窃以为他们并不是疏忽了这块,也不是净网行动还没结束,可能有一部分原因是夸下了海口轻易许诺了无限容量,但发现用户在大量的上传原创图片,服务器资源严重不足,所以将计就计,就当做净网行动仍在继续吧....但为什么网盘容量没有限制呢?见另一篇文章:《为什么国内的网盘公司都在 TB 的级别上竞争,成本会不会太高?》

而且在百度相册新建相册的时候发现只能建立自己可见的相册了:

唉……百度你让多少相册用户灰了心?


网易相册

那么斟酌的另一点,网易相册如何呢?网易看来有深度整合相册、摄影、Lofter三大块儿,因为相册主页上有非常明显的三个浮动图标。

网易相册本身也不错,速度也挺快,而且在网易摄影pp.163.com中也可以直接提取相册的内容。并且经过我实验,网易相册的原图,拿到Lofter外链也很正常,没有被禁止,所以这点我还是很满意的。不过不支持其他外链,如果需要外链,就要花RMB来买套餐啦,倒是不太贵。

但网易相册的容量是个短板,只有1G容量。

虽然每个月可以额外上传300M,但是如果那个月这300M用完了就没办法了,即使删除一些旧照片应该还是不能继续上传。唯一解决办法就是RMB买套餐了。

其实也是国人免费的午餐吃多了,感觉有点坑,但是回头看看,这个价格和服务相比来说并不坑,还算是良心吧。只要别像百度那样动不动来个净网行动,封杀用户分享的权利,那就算挺稳定的。

总结下来,还是决定了选用网易相册。如果百度哪天回归到以前的状态,我可能还是回回去的。

]]>
2 http://www.ceniv.com/a/1199.html#comments http://www.ceniv.com/feed/a/1199.html