FastDFS理解文档目录简介 ............................................................................................................................................. - 1 - 结构 ............................................................................................................................................. - 2 -2.1跟踪器与存储结点........................................................................................................ - 2 -2.1.1 FastDFS上传文件........................................................................................... - 3 -2.1.2 FastDFS下载文件........................................................................................... - 3 -2.2 服务器端目录结构..................................................................................................... - 4 -2.2.2 storage server 结构 ............................................................................................ - 5 -2.3 服务器项配置说明.................................................................................................. - 6 -2.3.1 Tracker服务器配置说明............................................................................. - 6 -2.3.2 Storage服务器配置说明............................................................................. - 7 -2.4 如何安装:................................................................................................................. - 7 -2.5 如何配置:................................................................................................................. - 8 -2.6 如何调用:............................................................................................................... - 12 -2.7 如何服务器图片下载: ........................................................................................... - 12 -2.8 如何清除:............................................................................................................... - 12 - 简介FastDFS是一个开源的轻量级分布式文件系统,她对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。
特别适合以文件为载体的在线服务,如相册网站、视频网站等等。
主页地址:/p/fastdfs/被测试版本:测试环境:客户端:结构跟踪器与存储结点FastDFS服务端有两个角色:跟踪器(tracker)和存储节点(storage)。
跟踪器主要做调度工作,在访问上起负载均衡的作用。
存储节点存储文件,完成文件管理的所有功能:存储、同步和提供存取接口,FastDFS同时对文件的meta data进行管理。
所谓文件的meta data就是文件的相关属性,以键值对(key value pair)方式表示,如:width=1024,其中的key为width,value为1024。
文件meta data 是文件属性列表,可以包含多个键值对。
FastDFS系统结构如下图(1) 所示:图(1)跟踪器和存储节点都可以由一台或多台服务器构成。
跟踪器和存储节点中的服务器均可以随时增加或下线而不会影响线上服务。
其中跟踪器中的所有服务器都是对等的,可以根据服务器的压力情况随时增加或减少。
为了支持大容量,存储节点(服务器)采用了分卷(或分组)的组织方式。
存储系统由一个或多个卷组成,卷与卷之间的文件是相互独立的,所有卷的文件容量累加就是整个存储系统中的文件容量。
一个卷可以由一台或多台存储服务器组成,一个卷下的存储服务器中的文件都是相同的,卷中的多台存储服务器起到了冗余备份和负载均衡的作用。
在卷中增加服务器时,同步已有的文件由系统自动完成,同步完成后,系统自动将新增服务器切换到线上提供服务。
当存储空间不足或即将耗尽时,可以动态添加卷。
只需要增加一台或多台服务器,并将它们配置为一个新的卷,这样就扩大了存储系统的容量。
FastDFS中的文件标识分为两个部分:卷名和文件名,二者缺一不可。
2.1.1 FastDFS上传文件图(2)上传文件交互过程:(1)client询问tracker上传到的storage,不需要附加参数;(2)tracker返回一台可用的storage;(3)client直接和storage通讯完成文件上传。
2.1.2 FastDFS下载文件图(3)下载文件交互过程:(1)client询问tracker下载文件的storage,参数为文件标识(卷名和文件名);(2)tracker返回一台可用的storage;(3)client直接和storage通讯完成文件下载。
需要说明的是,client为使用FastDFS服务的调用方,client也应该是一台服务器,它对tracker 和storage的调用均为服务器间的调用。
2.2 服务器端目录结构FastDFS服务器端运行时目录结构如下:${base_path}|__data:存放数据文件|__logs:存放日志文件其中,${base_path}由配置文件中的参数“base_path”设定。
2.2.1 tracker server结构tracker server目录及文件结构:${base_path}|__data| |__storage_groups.dat:存储分组信息| |__storage_servers.dat:存储服务器列表|__logs|__trackerd.log:tracker server日志文件数据文件storage_groups.dat和storage_servers.dat中的记录之间以换行符(\n)分隔,字段之间以西文逗号(,)分隔。
storage_groups.dat中的字段依次为:(1) group_name:组名(2) storage_port:storage server端口号storage_servers.dat中记录storage server相关信息,字段依次为:(1) group_name:所属组名(2) ip_addr:ip地址(3) status:状态(4) sync_src_ip_addr:向该storage server同步已有数据文件的源服务器(5) sync_until_timestamp:同步已有数据文件的截至时间(UNIX时间戳)(6) stat.total_upload_count:上传文件次数(7) stat.success_upload_count:成功上传文件次数(8) stat.total_set_meta_count:更改meta data次数(9) stat.success_set_meta_count:成功更改meta data次数(10) stat.total_delete_count:删除文件次数(11) stat.success_delete_count:成功删除文件次数(12) stat.total_download_count:下载文件次数(13) stat.success_download_count:成功下载文件次数(14) stat.total_get_meta_count:获取meta data次数(15) stat.success_get_meta_count:成功获取meta data次数(16) st_source_update:最近一次源头更新时间(更新操作来自客户端)(17) st_sync_update:最近一次同步更新时间(更新操作来自其他storage server的同步)2.2.2 storage server 结构storage server目录及文件结构:${base_path}|__data| |__.data_init_flag:当前storage server初始化信息| |__storage_stat.dat:当前storage server统计信息| |__sync:存放数据同步相关文件| | |__binlog.index:当前的binlog(更新操作日志)文件索引号| | |__binlog.###:存放更新操作记录(日志)| | |__${ip_addr}_${port}.mark:存放向目标服务器同步的完成情况| || |__一级目录:256个存放数据文件的目录,目录名为十六进制字符,如:00, 1F | |__二级目录:256个存放数据文件的目录,目录名为十六进制字符,如:0A, CF |__logs|__storaged.log:storage server日志文件.data_init_flag文件格式为ini配置文件方式,各个参数如下:# storage_join_time:本storage server创建时间;# sync_old_done:本storage server是否已完成同步的标志(源服务器向本服务器同步已有数据);# sync_src_server:向本服务器同步已有数据的源服务器IP地址,没有则为空;# sync_until_timestamp:同步已有数据文件截至时间(UNIX时间戳);storage_stat.dat文件格式为ini配置文件方式,各个参数如下:# total_upload_count:上传文件次数# success_upload_count:成功上传文件次数# total_set_meta_count:更改meta data次数# success_set_meta_count:成功更改meta data次数# total_delete_count:删除文件次数# success_delete_count:成功删除文件次数# total_download_count:下载文件次数# success_download_count:成功下载文件次数# total_get_meta_count:获取meta data次数# success_get_meta_count:成功获取meta data次数# last_source_update:最近一次源头更新时间(更新操作来自客户端)#last_sync_update:最近一次同步更新时间(更新操作来自其他storage server)binlog.index中只有一个数据项:当前binlog的文件索引号binlog.###,###为索引号对应的3位十进制字符,不足三位,前面补0。