什么是TFS？ TFS，Taobao File System，淘宝文件系统，淘宝内部使用的分布式文件系统，主要针对海量小文件的随机读写访问性能做了特殊优化，承载着淘宝主站所有图片、商品描述等数据的存储。 TFS有什么特点 完全扁平化的数据组织结构，抛弃了传统文件系统的目录结构。 在块设备基础上建立自有的文件系统，减少EXT3等文件系统数据碎片带来的性能损耗 单进程管理单块磁盘的方式，摒除RAID5机制 带有HA机制的中央控制节点，在安全稳定和性能复杂度之间取得平衡。 尽量缩减元数据大小，将元数据全部加载入内存，提升访问速度。 跨机架和IDC的负载均衡和冗余安全策略。 完全平滑扩容 TFS在淘宝的应用规模

• 数百台PCServer
• PB级数据量
• 百亿数据级别

TFS的性能参数 TFS在淘宝的部署环境中前端有两层缓冲，到达TFS系统的请求非常离散，所以TFS内部是没有任何数据的内存缓冲的，包括传统文件系统的内存缓冲也不存在。我们主要的性能参数不是IO吞吐量，而是单台PCServer提供随机读写IOPS。由于大家硬件型号不同，当然也是因为一些技术保密的原因，我们很难给出一个参考值来说明性能。但基本上我们可以达到单块磁盘随机IOPS理论最大值的60%左右，整机的输出随盘数增加而线性增加。  TFS的逻辑架构图

• TFS尚未对最终用户提供传统文件系统API，需要通过TFSClient进行接口访问，现有JAVA、JNI、C、PHP的客户端
• TFS的NameServer作为中心控制节点，监控所有数据节点的运行状况，负责读写调度的负载均衡，同时管理一级元数据用来帮助客户端定位需要访问的数据节点
• TFS的DataServer作为数据节点，负责数据实际发生的负载均衡和数据冗余，同时管理二级元数据帮助客户端获取真实的业务数据。 

TFS发展历史 TFS1.0简介 2007年6月，淘宝自主开发的分布式的文件系统, TFS（Taobao File System）1.0上线运行，主要解决海量小文件的分布式存储 集群规模：200台PC Server(146G*6 SAS 15K Raid5)  文件数量: 亿级别 系统部署存储容量: 140 TB 实际使用存储容量: 50 TB 单台支持随机IOPS200 ，流量3MBps TFS1.0的特性 •集群由一对Name Server和多台Data Server构成  •Data Server运行在挂很多硬盘的Linux主机上 •以block文件的形式存放数据文件(一般64M一个block) •文件名内置元数据信息，用户自己保存TFS文件名与实际文件的对照关系–使得元数据量特别小 •如T2auNFXXBaXXXXXXXX_!!140680281.jpg，名字中含有逻辑的block_no和object_no等  •block存多份保证数据安全 •利用ext3文件系统存放数据文件 •磁盘raid5做数据冗余 TFS1.3简介 2009年6月，TFS（TaobaoFile System）1.3上线运行 集群规模440台PC Server (300G*12 SAS 15K RPM) 30台PC Server (600G*12 SAS 15K RPM)  文件数量：百亿级别 系统部署存储容量：1800 TB 当前实际存储容量：995TB 单台Data Server支持随机IOPS900 ，流量15MB 目前Name Server运行的物理内存是217MB（服务器使用千兆网卡） 2010下半年开始部署PC Server (1T SATA * 12)  TFS1.3的特性 所有的元数据全部都内存化 清理磁盘空洞 容量和负载的均衡策略 平滑的扩容 数据安全性的冗余保证 几秒内完成Name Server故障自动切换 容灾策略 性能大幅提升

TFS（淘宝文件系统）架构机制篇

TFS总体架构：一个TFS集群由两个NameServer节点，在TFS中，将大量的小文件(实际用户文件)合并成为一个大文件，这个大文件称为块(Block)。

TFS,淘宝文件系统