FastDFS是一个开源的轻量级分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。FastDFS特别适合以文件为载体的在线服务,多图片、多视频的服务等等。

  先普及一下在fastDFS的结构中的一些概念:

  在fastDFS中,共分为三个部分:client、tracker Server、storage Server;→ 其中的client是用来对fastDFS发起操作的,如上传、下载;→ 其中的tracker Server是一个调配角色(中间人),当我们在client发起操作请求后,需要tracker Server来将我们与storage Server联系起来,它是负载均衡的核心;→ 其中storage Server可以理解为仓库,文件的存储就在于storage Server,一个完整的fastDFS的存储结构中,最大单位为group(或volume),通常以group来划分文件类型,如图片类型为一个group、视频类型为一个group等等,而一个group内,含有一个或多个storage Server。重点:storage Server是文件存储的核心,但它并不是文件存储中的最大单位,很多初学者会在这个地方迷惑。

  一、两个角色:

  FastDFS服务端有两个角色:跟踪器(tracker)和存储节点(storage)。

  ①跟踪器(tracker)

  tracker Server是fastDFS的协调者(中间人角色);完整的fastDFS服务运行期间,我们将对无法对storage Server进行直接管理,仅仅我们发起的操作会对storage Server内的文件进行操作,而真正对storage Server进行管理的是tracker Server——每个storage Server在启动后,会连接tracker Server并告知之自己的信息(如所在group),并且在tracker Server与该storage Server之间保持连接,两个角色之间会进行信息的交流,tracker Server会根据storage Server的反馈信息,在内存中(tracker Server不需要持久化任何数据)建立group==>[storage server list]映射表。

  在fastDFS集群中,多个tracker Server之间的信息数据会进行同步,而这一机制并不是由tracker Server之间互相完成的,而是由storage Server完成的。因为在storage Server的配置文件有该fastDFS服务中的所有tracker Server,storage Server会为每一个tracker Server创建一个通信线程,在storage Server与tracker Server通信过程中,如果该tracker Server返回的该group的storage Server列表信息相对于本机较少,那么storage Server就会将该tracker Server上所没有的该group的storage Server列表信息同步给该tracker Server。这就使得各tracker Server之间的数据保持一致。

 

  ②存储节点(storage)

  storage Server是存储的角色,存储文件由storage Server进行管理。每一个storage Server的数据存储目录会有两级子目录,每一级都有256个子文件夹,一共有256*256=65536个文件夹。当有新文件被写入时,会以hash的方式被路由到其中的某个子目录下,然后新文件数据直接作为一个本地文件存储到该目录中。

  storage Server以group【或volume(一个意思)】为单位组织,即便整个fastDFS只有一个storage Server,它也有一个group。

  在fastDFS集群中,以group为单位可以方便负载均衡,由tracker Server配合可以实现改组内访问压力的均衡;也可以方便副本(即备份)数量的定制,同一组内的storage Server的数量减一,即为副本的数量。

  在一个group内的storage Server之间的数据会互为备份,这一功能是由后台线程完成的。当客户端将一个文件写入group内的一个storage Server,则会认为文件写入成功,后台线程便会将文件同步到该group内的storage Server。注意:由于一个group内的storage Server数据互为备份,所以存储空间的容量由该group内的最小容量的storage Server决定。

  同一个group内的storage Server在写文件后,会写一份binlog,这个binlog记录着文件名等元信息,它用于后台的同步,每个storage Server会记录向该group内其他storage Server的同步进度,记录进度的方式是时间戳,为的是避免机器down掉失去同步进度,以便在机器重启后接着进度继续同步。同时storage Server的同步进度会以元数据发送给tracker Server,以便在client访问文件时,作为tracker Server选择服务的storage Server的参考(即哪台strong Server上有该文件)。

  图解:

  

 

  二、文件的Upload过程

  

  1、选择tracker Server

  当集群不止一个tracker Server时,由于tracker Server之间是数据互为同步,完全对等,客户端任意选择即可。

  2、选择存储的group

  

  这个是tracker.conf配置文件的两项,其中的store_lookup用来选择group的规则;当tracker接收到upload file的请求时,会为该文件分配一个可以存储该文件的group,支持如下选择group的规则: 1. Round robin,所有的group间轮询 2. Specified group,指定某一个确定的group 3. Load balance,剩余存储空间多多group优先。当store_lookup为2时,可通过store_group进行指定group。

  3、选择storage Server

  

  这个是tracker.conf配置文件的一项,其中的store_server用来选择storage Server的规则;当选定group后,tracker会在group内选择一个storage server给客户端,支持如下选择storage的规则: 1. Round robin,在group内的所有storage间轮询 2. First server ordered by ip,按ip排序 3. First server ordered by priority,按优先级排序(优先级在storage上配置)。

  4、选择storage path

  

  这个是tracker.conf配置文件的一项,其中的store_path用来选择storage path的规则;当分配好storage server后,客户端将向storage发送写文件请求,storage将会为文件分配一个数据存储目录,支持如下规则: 1. Round robin,多个存储目录间轮询 2. 剩余存储空间最多的优先。

  5、选择目录并生成文件名

  当选定存储目录后,storage Server会为文件生成一个file_id,然后将文件路由到一个二级目录,并以file_id为文件名存储到该子目录。当文件存储到某个子目录后,即认为该文件存储成功,接下来会为该文件生成一个文件名,文件名由group、存储目录、两级子目录、fileid、文件后缀名(由客户端指定,主要用于区分文件类型)拼接而成。

  

 

  三、文件的下载及Nginx模块

  

  访问过程:

  client发送download请求给某个tracker Server,必须带上文件名信息,tracke Server从文件名中解析出文件的group、大小、创建时间等信息,然后为该请求选择一个storage Server用来服务该download请求。

  HTTP访问支持:

  FastDFS的tracker Server和storage Server都内置了http协议的支持,客户端可以通过http协议来下载文件,tracker在接收到请求时,通过http的redirect机制将请求重定向至文件所在的storage Server上;除了内置的http协议外,FastDFS还提供了通过apache或nginx扩展模块下载文件的支持。

  Nginx扩展模块:

  在storage Server节点与tracker Server节点都需要安装nginx模块。

  目的:

  1、在storage Server安装nginx模块是结合fastdfs-nginx-module模块提供的Http访问服务,同时解决group中storage Serve而服务器的同步延迟;可能有些同学不理解,通俗一下:

  假设Tracker服务器将文件上传到了192.168.1.80,文件ID已经返回客户端,这时,后台会将这个文件复制到192.168.1.30,如果复制没有完成,客户端就用这个ID在192.168.1.30取文件,肯定会出现错误。这个fastdfs-nginx-module可以重定向连接到源服务器取文件,避免客户端由于复制延迟的问题,出现错误。

  2、在tracker Server上安装nginx模块是为了反向代理到storage Server上的nginx,并进行负载均衡,同时利用ngx_cache_purge模块实现缓存。

  

  四、配置文件详解

  (摘自XuJiaqing的博客)

  1、tracker Server的配置详解

  

  1 # is this config file disabled  
  2 
  3 # false for enabled  
  4 
  5 # true for disabled  
  6 
  7 disabled=false  
  8 
  9 #当前配置是否不可用false可用,true不可用  
 10 
 11   
 12 
 13 # bind an address of this host  
 14 
 15 # empty for bind all addresses of this host  
 16 
 17 bind_addr=  
 18 
 19 #是否绑定IP如果一个服务器上有多个IP则设置哪个IP可用,如果不设置则不限制  
 20 
 21  
 22 
 23 # the tracker server port  
 24 
 25 port=22122
 26 
 27  
 28 
 29 #默认端口为22122 如果不冲突,则尽量不要修改
 30 
 31 # connect timeout in seconds  
 32 
 33 # default value is 30s  
 34 
 35 connect_timeout=30  
 36 
 37 #针对socket套接字函数connect的连接超时时间设置  
 38 
 39   
 40 
 41 # network timeout in seconds  
 42 
 43 # default value is 30s  
 44 
 45 network_timeout=60  
 46 
 47 #设置网络超时,单位秒,发送或接收数据时,如果在超时时间之后依然不能进行,则本次网络通讯失败  
 48 
 49   
 50 
 51 # the base path to store data and log files  
 52 
 53 base_path=/home/fdfs  
 54 
 55 #配置保存根目录地址,这个目录必须存在,子目录将自动创建,保存数据和日志文件呢 
 56 
 57   
 58 
 59 # max concurrent connections this server supported  
 60 
 61 max_connections=256  
 62 
 63 #服务器支持的最大连接数  
 64 
 65   
 66 
 67 # work thread count, should <= max_connections  
 68 
 69 # default value is 4  
 70 
 71 # since V2.00  
 72 
 73 work_threads=1  
 74 
 75 #工作线程数,通常设置为CPU数量  
 76 
 77   
 78 
 79 # the method of selecting group to upload files  
 80 
 81 # 0: round robin  
 82 
 83 # 1: specify group  
 84 
 85 # 2: load balance, select the max free space group to upload file  
 86 
 87 store_lookup=2  
 88 
 89 #上传组(卷)的方式:0轮询,1:指定,2:负载平衡(剩余空间最大选择)  
 90 
 91   
 92 
 93 # which group to upload file  
 94 
 95 # when store_lookup set to 1, must set store_group to the group name  
 96 
 97 store_group=group2  
 98 
 99 #如果上一参数选择1方式,即制定组名,当前参数用来设置指定的组,如果选择其他方式,当前参数无效  
100 
101   
102 
103 # which storage server to upload file  
104 
105 # 0: round robin (default)  
106 
107 # 1: the first server order by ip address  
108 
109 # 2: the first server order by priority (the minimal)  
110 
111 store_server=0  
112 
113 #同组推送方式0.轮询方式,1.根据ip地址进行排序选择第一个服务器,2.根据优先级进行排序(优先级由storeServer的配置文件中upload_priority属性设置)  
114 
115   
116 
117 # which path(means disk or mount point) of the storage server to upload file  
118 
119 # 0: round robin  
120 
121 # 2: load balance, select the max free space path to upload file  
122 
123 store_path=0  
124 
125 #选择哪个文件目录进行上传(一个StoreServer上面可以有多个base_path)0.轮询,2.剩余空间最大  
126 
127   
128 
129 # which storage server to download file  
130 
131 # 0: round robin (default)  
132 
133 # 1: the source storage server which the current file uploaded to  
134 
135 download_server=0  
136 
137 #选择哪个storeServer最为下载服务器,0.轮询,1.哪个为源则哪个下载  
138 
139   
140 
141 # reserved storage space for system or other applications.  
142 
143 # if the free(available) space of any stoarge server in   
144 
145 # a group <= reserved_storage_space,   
146 
147 # no file can be uploaded to this group.  
148 
149 # bytes unit can be one of follows:  
150 
151 ### G or g for gigabyte(GB)  
152 
153 ### M or m for megabyte(MB)  
154 
155 ### K or k for kilobyte(KB)  
156 
157 ### no unit for byte(B)  
158 
159 ### XX.XX% as ratio such as reserved_storage_space = 10%  
160 
161 reserved_storage_space = 10%  
162 
163 #系统保留空间大小,用来保证系统和其他应用的正常运行  
164 
165   
166 
167 #standard log level as syslog, case insensitive, value list:  
168 
169 ### emerg for emergency  
170 
171 ### alert  
172 
173 ### crit for critical  
174 
175 ### error  
176 
177 ### warn for warning  
178 
179 ### notice  
180 
181 ### info  
182 
183 ### debug  
184 
185 log_level=info  
186 
187 #日志级别  
188 
189   
190 
191 #unix group name to run this program,   
192 
193 #not set (empty) means run by the group of current user  
194 
195 run_by_group=  
196 
197 #使用那个系统用户组运行FastDFS,默认为启动线程的用户组  
198 
199   
200 
201 #unix username to run this program,  
202 
203 #not set (empty) means run by current user  
204 
205 run_by_user=  
206 
207 #使用那个系统用户运行FastDFS。默认为启动线程的用户  
208 
209   
210 
211 # allow_hosts can ocur more than once, host can be hostname or ip address,  
212 
213 # "*" means match all ip addresses, can use range like this: 10.0.1.[1-15,20] or  
214 
215 # host[01-08,20-25].domain.com, for example:  
216 
217 # allow_hosts=10.0.1.[1-15,20]  
218 
219 # allow_hosts=host[01-08,20-25].domain.com  
220 
221 allow_hosts=*  
222 
223 #设置可以连接当前tracker的IP范围,包括client和store_server,* 代表所有
224 
225   
226 
227 # sync log buff to disk every interval seconds  
228 
229 # default value is 10 seconds  
230 
231 sync_log_buff_interval = 10  
232 
233 #同步或刷新日志到本地硬盘的时间间隔,单位:秒  
234 
235   
236 
237 # check storage server alive interval seconds  
238 
239 check_active_interval = 120  
240 
241 #检测storage_server的存活状态时间间隔,单位:秒,本参数要大于storage server的心跳包发送间隔一般为2-3倍  
242 
243   
244 
245 # thread stack size, should >= 64KB  
246 
247 # default value is 64KB  
248 
249 thread_stack_size = 64KB  
250 
251 #tracker server的线程栈大小,要求大于等于64K  
252 
253   
254 
255 # auto adjust when the ip address of the storage server changed  
256 
257 # default value is true  
258 
259 storage_ip_changed_auto_adjust = true  
260 
261 #当storage server的IP发生变化时集群是否自动调整。只有在storage server进程重启时才能完成自动调整  
262 
263   
264 
265 # storage sync file max delay seconds  
266 
267 # default value is 86400 seconds (one day)  
268 
269 # since V2.00  
270 
271 storage_sync_file_max_delay = 86400  
272 
273 #存储服务器之间同步文件的最大延迟时间,缺省为1天,可以根据实际情况进行调整  
274 
275   
276 
277 # the max time of storage sync a file  
278 
279 # default value is 300 seconds  
280 
281 # since V2.00  
282 
283 storage_sync_file_max_time = 300  
284 
285 #同步一个文件需要消耗的最大时间,缺省为300秒,即5分钟  
286 
287   
288 
289 # if use a trunk file to store several small files  
290 
291 # default value is false  
292 
293 # since V3.00  
294 
295 use_trunk_file = false   
296 
297 #是否使用小文件合并存储特性,缺省关闭,打开时可以减少碎片文件的出现,但同时加大服务器的负载  
298 
299   
300 
301 # the min slot size, should <= 4KB  
302 
303 # default value is 256 bytes  
304 
305 # since V3.00  
306 
307 slot_min_size = 256  
308 
309 #为trunk file分配的最小字节数,比如一个文件只有16字节,根据当前设置,也会为其分配256字节  
310 
311   
312 
313 # the max slot size, should > slot_min_size  
314 
315 # store the upload file to trunk file when it\'s size <=  this value  
316 
317 # default value is 16MB  
318 
319 # since V3.00  
320 
321 slot_max_size = 16MB  
322 
323 #为trunk file分配的最大字节数,如果文件小于大小则使用trunk方式存储,当文件大小大于这个数值是直接保存到一个文件中(不采用合并存储方式)  
324 
325   
326 
327 # the trunk file size, should >= 4MB  
328 
329 # default value is 64MB  
330 
331 # since V3.00  
332 
333 trunk_file_size = 64MB  
334 
335 #trunk file的大小,不建议设置过大  
336 
337   
338 
339 # if create trunk file advancely  
340 
341 # default value is false  
342 
343 # since V3.06  
344 
345 trunk_create_file_advance = false  
346 
347 #是否提前创建好trunk文件,只用当这个参数设置为true时下面的3个以trunk_create_file开头的参数将不用设置  
348 
349   
350 
351 # the time base to create trunk file  
352 
353 # the time format: HH:MM  
354 
355 # default value is 02:00  
356 
357 # since V3.06  
358 
359 trunk_create_file_time_base = 02:00  
360 
361 #创建trunk file的起始时间点,当前为凌晨2点开始  
362 
363   
364 
365 # the interval of create trunk file, unit: second  
366 
367 # default value is 38400 (one day)  
368 
369 # since V3.06  
370 
371 trunk_create_file_interval = 86400  
372 
373 #提前创建trunk file的时间间隔,默认为1天  
374 
375   
376 
377 # the threshold to create trunk file  
378 
379 # when the free trunk file size less than the threshold, will create   
380 
381 # the trunk files  
382 
383 # default value is 0  
384 
385 # since V3.06  
386 
387 trunk_create_file_space_threshold = 20G  
388 
389 #提前创建trunk file时,需要达到的空闲trunk大小  
390 
391 #例如:当前配置为20G,现在空闲的trunk file大小为4G,那么只创建16G的trunk file  
392 
393   
394 
395 # if check trunk space occupying when loading trunk free spaces  
396 
397 # the occupied spaces will be ignored  
398 
399 # default value is false  
400 
401 # since V3.09  
402 
403 # NOTICE: set this parameter to true will slow the loading of trunk spaces   
404 
405 # when startup. you should set this parameter to true when neccessary.  
406 
407 trunk_init_check_occupying = false  
408 
409 #trunk file 初始化时,是否检查可用空间是否被占用  
410 
411   
412 
413 # if ignore storage_trunk.dat, reload from trunk binlog  
414 
415 # default value is false  
416 
417 # since V3.10  
418 
419 # set to true once for version upgrade when your version less than V3.10  
420 
421 trunk_init_reload_from_binlog = false  
422 
423 #是否无条件从trunk binlog中加载trunk可用空间信息  
424 
425   
426 
427 # if use storage ID instead of IP address  
428 
429 # default value is false  
430 
431 # since V4.00  
432 
433 use_storage_id = false  
434 
435 #是否使用 serverID作为storage server标识  
436 
437   
438 
439 # specify storage ids filename, can use relative or absolute path  
440 
441 # since V4.00  
442 
443 storage_ids_filename = storage_ids.conf  
444 
445 #use_storage_id设置为true,才需要设置本参数,详见源码目录下的conf/storage_ids.conf  
446 
447 #这个文件中设置组名、serverID和对应的IP地址  
448 
449   
450 
451 # id type of the storage server in the filename, values are:  
452 
453 ## ip: the ip address of the storage server  
454 
455 ## id: the server id of the storage server  
456 
457 # this paramter is valid only when use_storage_id set to true  
458 
459 # default value is ip  
460 
461 # since V4.03  
462 
463 id_type_in_filename = ip  
464 
465 #use_storage_id设置为true时才需要设置本参数  
466 
467   
468 
469   
470 
471 # if store slave file use symbol link  
472 
473 # default value is false  
474 
475 # since V4.01  
476 
477 store_slave_file_use_link = false  
478 
479 #存储从文件是否采用symbol link(符号链接)方式  
480 
481 #如果设置为true,一个从文件将占用两个文件:原始文件及指向它的符号链接  
482 
483   
484 
485 # if rotate the error log every day  
486 
487 # default value is false  
488 
489 # since V4.02  
490 
491 rotate_error_log = false  
492 
493 #是否定期轮转error log,目前仅支持一天轮转一次  
494 
495   
496 
497 # rotate error log time base, time format: Hour:Minute  
498 
499 # Hour from 0 to 23, Minute from 0 to 59  
500 
501 # default value is 00:00  
502 
503 # since V4.02  
504 
505 error_log_rotate_time=00:00  
506 
507 #error log定期轮转的时间节点,rotate_error_log参数设置为true时,本参数有效  
508 
509   
510 
511 # rotate error log when the log file exceeds this size  
512 
513 # 0 means never rotates log file by log file size  
514 
515 # default value is 0  
516 
517 # since V4.02  
518 
519 rotate_error_log_size = 0  
520 
521 #error log按大小进行轮转 0代表不按大小进行轮转,否则当error log文件达到大小则轮转  
522 
523   
524 
525 # if use connection pool  
526 
527 # default value is false  
528 
529 # since V4.05  
530 
531 use_connection_pool = false  
532 
533 #是否使用连接池  
534 
535   
536 
537 # connections whose the idle time exceeds this time will be closed  
538 
539 # unit: second  
540 
541 # default value is 3600  
542 
543 # since V4.05  
544 
545 connection_pool_max_idle_time = 3600  
546 
547 #连接池链接的最大生存时间,单位秒,use_connection_pool设置为true时有效  
548 
549   
550 
551 # HTTP port on this tracker server  
552 
553 http.server_port=8080  
554 
555 #http服务端口,默认情况下V4.06是不安装http服务的,详见INSTALL文件  
556 
557   
558 
559 # check storage HTTP server alive interval seconds  
560 
561 # <= 0 for never check  
562 
563 # default value is 30  
564 
565 http.check_alive_interval=30  
566 
567 #检查长链接的存活时间30秒  
568 
569   
570 
571 # check storage HTTP server alive type, values are:  
572 
573 #   tcp : connect to the storge server with HTTP port only,   
574 
575 #   do not request and get response  
576 
577 #   http: storage check alive url must return http status 200  
578 
579 # default value is tcp  
580 
581 http.check_alive_type=tcp  
582 
583 #长链接的存在方式,当前配置为tcp方式  
584 
585   
586 
587 # check storage HTTP server alive uri/url  
588 
589 # NOTE: storage embed HTTP server support uri: /status.html  
590 
591 http.check_alive_uri=/status.html  
592 
593 #利用什么标识进行检查  

tracker.conf

 

 

 

 

  2、storage Server配置详解

  

  1 #这个配置文件是否失效
  2 
  3 disabled=false
  4 
  5 #false为有效 true为无效
  6 
  7  
  8 
  9 # 本storage server所属的group名
 10 
 11 group_name=group1
 12 
 13  
 14 
 15 # 可以版定一个ip,默认为空,绑定所有ip
 16 
 17 bind_addr=
 18 
 19  
 20 
 21 # 本配置只有在bind_addr设置以后才生效
 22 
 23 # 本机作为客户端访问其他服务时,是否使用绑定的ip去访问其他服务器
 24 
 25 client_bind=true
 26 
 27 # storage server监听端口
 28 
 29 port=23000
 30 
 31 #默认23000,如果不冲突,尽量不修改
 32 
 33  
 34 
 35 # 连接超时时间,针对socket套接字函数connect,默认为30秒
 36 
 37 connect_timeout=30
 38 
 39  
 40 
 41 # 网络通讯超时时间,默认是60秒
 42 
 43 network_timeout=60
 44 
 45  
 46 
 47 # 向tracker server发送心跳时间间隔,默认30秒
 48 
 49 heart_beat_interval=30
 50 
 51  
 52 
 53 # 向tracker server汇报磁盘使用情况时间间隔,默认为60秒
 54 
 55 stat_report_interval=60
 56 
 57  
 58 
 59 # 工作文件夹,日志也存在此(这里不是上传的文件存放的地址)
 60 
 61 base_path=/home/yuqing/fastdfs
 62 
 63  
 64 
 65 # 本traceserver最大连接数
 66 
 67 max_connections=256
 68 
 69  
 70 
 71 # 发送或接收数据的buffer大小,工作队列消耗的内存大小 = buff_size * max_connections
 72 
 73 # 建议这个设置大于8k,默认256k
 74 
 75 buff_size = 256KB
 76 
 77  
 78 
 79 # 接收数据的线程数
 80 
 81 # 默认1个
 82 
 83 # since V4.07
 84 
 85 accept_threads=1
 86 
 87  
 88 
 89 # 工作线程数,小于max_connections
 90 
 91 # 默认4个,通常设置为CPU核数,效率最高
 92 
 93 work_threads=4
 94 
 95  
 96 
 97 # 磁盘读写是否分离,默认为true
 98 
 99 disk_rw_separated = true
100 
101  
102 
103 # 磁盘读取的线程数(每个工作文件夹)
104 
105 # 对于磁盘读写不分离的模式,这个参数可以设置为0
106 
107 # 默认为1
108 
109 disk_reader_threads = 1
110 
111  
112 
113 # 磁盘写的线程数(每个工作文件夹)
114 
115 # 对于磁盘读写不分离的模式,这个参数可以设置为0
116 
117 # 默认为1
118 
119 disk_writer_threads = 1
120 
121  
122 
123 # 当发现没有需要同步的文件时,需要等待sync_wait_msec毫秒再去binlog中检查
124 
125 # 不能设置为0,默认为50毫秒
126 
127 sync_wait_msec=50
128 
129  
130 
131 # 同步完一个文件后,休眠sync_interval毫秒后继续同步下一个文件
132 
133 sync_interval=0
134 
135  
136 
137 # 允许存储同步的开始时间
138 
139 # Hour from 0 to 23, Minute from 0 to 59
140 
141 sync_start_time=00:00
142 
143  
144 
145 # 允许存储同步的结束时间,也就是说,storage server只能在sync_start_time到sync_end_time这段时间内同步数据
146 
147 # 默认是全天都可以同步
148 
149 # Hour from 0 to 23, Minute from 0 to 59
150 
151 sync_end_time=23:59
152 
153 #由开始时间和结束时间,指定了同步时间的范围
154 
155  
156 
157 # 同步完write_mark_file_freq个文件后,如果markfile有变化,将mark file写入磁盘
158 
159 write_mark_file_freq=500
160 
161  
162 
163 # 工作路径个数(可以挂载多个磁盘),默认是1个
164 
165 store_path_count=1
166 
167  
168 
169 # 工作路径列表,如果store_path0不设置,那么使用base_path存储
170 
171 # 设置的路径一定是存在的文件夹
172 
173 # 需要配置store_path_count个
174 
175 store_path0=/home/yuqing/fastdfs
176 
177 #store_path1=/home/yuqing/fastdfs2
178 
179  
180 
181 # FastDFS是通过二级目录来存储文件的,该配置是每级目录的文件夹数据
182 
183 # 如果设置为256,那么会生成256*256=65535个文件夹
184 
185 # 这个值默认大小256,可以设置区间1-256
186 
187 subdir_count_per_path=256
188 
189  
190 
191 # tracer server列表,多个tracer server的话,分行列出
192 
193 tracker_server=192.168.209.121:22122
194 
195  
196 
197 #日志级别
198 
199 ### emerg for emergency
200 
201 ### alert
202 
203 ### crit for critical
204 
205 ### error
206 
207 ### warn for warning
208 
209 ### notice
210 
211 ### info
212 
213 ### debug
214 
215 log_level=info
216 
217  
218 
219 # 运行本进程的Unix用户组,如果不设置,默认是当前用户所在的group
220 
221 run_by_group=
222 
223  
224 
225 # 运行本进程的用户名,如果不设置,默认是当前用户的用户名
226 
227 run_by_user=
228 
229  
230 
231 # 可以连接到本机的主机ip范围,*代表允许所有服务器
232 
233 # 支持这样的表达式:10.0.1.[1-15,20] or host[01-08,20-25].domain.com
234 
235 allow_hosts=*
236 
237  
238 
239 # 文件分布式存储策略
240 
241 # 0: 轮询
242 
243 # 1: 根据文件名hash结果随机存储
244 
245 file_distribute_path_mode=0
246 
247 # 本配置在 file_distribute_path_mode=0 时有效
248 
249  
250 
251 # 当写文件数据达到file_distribute_rotate_count值时,换轮换到另外一个路径继续写入
252 
253 # 本配置默认值是100
254 
255 file_distribute_rotate_count=100
256 
257  
258 
259 # 是否在写大文件的时候,调用fsync落地文件
260 
261 # 0:永远不调用
262 
263 # 其他数值:每写入fsync_after_written_bytes个字节,调用一次fsync
264 
265 # 默认为0
266 
267 fsync_after_written_bytes=0
268 
269  
270 
271 # 将缓存中的日志落地到磁盘的间隔时间,默认是10秒
272 
273 sync_log_buff_interval=10
274 
275  
276 
277 # 将缓存中的binlog落地到磁盘的间隔时间,默认是10秒
278 
279 sync_binlog_buff_interval=10
280 
281  
282 
283 # 将storage server缓存中的状态数据落地到磁盘的间隔时间,默认是10秒
284 
285 sync_stat_file_interval=300
286 
287  
288 
289 # 线程栈大小,默认64k,不建议设置小于64k,默认512k
290 
291 thread_stack_size=512KB
292 
293  
294 
295 # 和 tracker.conf 中store_server= 2时的配置相对应,本storage server作为目标服务器,上传文件的优先级,可以为负数。值越小,优先级越高。
296 
297 # tracker.conf 中store_server参数的描述:
298 
299 # 上传文件选择服务器的规则:
300 
301 # 0:轮询(默认)
302 
303 # 1:按照IP排序,排在第一的server
304 
305 # 2:按照优先级排序,最小的server
306 
307 upload_priority=10
308 
309  
310 
311 # 网卡别名,用ifconfig -a可以看到很多本机的网卡别名,类似eth0,eth0:0等等
312 
313 # 多个网卡别名使用逗号分割,默认为空,让系统自动选择
314 
315 if_alias_prefix=
316 
317  
318 
319 # 是否检查重复文件,如果设置成true,使用FastDHT来存储文件索引
320 
321 # 1 or yes: 需要检查
322 
323 # 0 or no: 不需要检查
324 
325 # 默认值是 0
326 
327 check_file_duplicate=0
328 
329  
330 
331 # 文件签名形式,hash或md5,用来做文件排重,默认为hash
332 
333 file_signature_method=hash
334 
335  
336 
337 # 存储文件索引的命名空间(在check_file_duplicate=1是生效)
338 
339 key_namespace=FastDFS
340 
341  
342 
343 # 是否和FastDHT之间使用长连接
344 
345 # 0代表短链接,1代表长连接
346 
347 # 默认值为0
348 
349 keep_alive=0
350 
351  
352 
353 # 可以使用#include filename来加载FastDHT服务器列表,filename可以是相对路径(基于base_path)
354 
355 # 在check_file_duplicate=1时有效
356 
357  
358 
359 # 更多信息参见FastDHT的安装须知
360 
361 ##include /home/yuqing/fastdht/conf/fdht_servers.conf
362 
363  
364 
365 # 是否记录访问日志
366 
367 use_access_log = false
368 
369  
370 
371 # 是否定期轮转访问日志,目前仅支持一天轮转一次
372 
373 rotate_access_log = false
374 
375  
376 
377 # 如果按天轮转访问日志,具体生成新错误日志文件的时间
378 
379 # Hour from 0 to 23, Minute from 0 to 59
380 
381 access_log_rotate_time=00:00
382 
383  
384 
385 # 是否定期轮转错误日志,目前仅支持一天轮转一次
386 
387 rotate_error_log = false
388 
389  
390 
391 # 如果按天轮转错误日志,具体生成新错误日志文件的时间
392 
393 # Hour from 0 to 23, Minute from 0 to 59
394 
395 error_log_rotate_time=00:00
396 
397  
398 
399 # 是否在错误访问文件达到一定大小时生成新的访问日志文件
400 
401 # 0代表对日志文件大小不敏感
402 
403 rotate_access_log_size = 0
404 
405  
406 
407 # 是否在错误日志文件达到一定大小时生成新的错误日志文件
408 
409 # 0代表对日志文件大小不敏感
410 
411 rotate_error_log_size = 0
412 
413  
414 
415 # 日志文件保存日期
416 
417 # 0表示永久保存,不删除
418 
419 # 默认为0
420 
421 log_file_keep_days = 0 
422 
423  
424 
425 # if skip the invalid record when sync file
426 
427 # default value is false
428 
429 # since V4.02
430 
431 file_sync_skip_invalid_record=false
432 
433  
434 
435 # 是否使用连接池
436 
437 use_connection_pool = false
438 
439  
440 
441 # 连接闲置超时时间,连接如果闲置的时间超过本配置,则关闭次连接,单位秒
442 
443 connection_pool_max_idle_time = 3600
444 
445 # storage server的http访问方式的域名,如果域名为空,则只能使用ip访问
446 
447 http.domain_name=
448 
449  
450 
451 # HTTP端口
452 
453 http.server_port=8888

storage.conf

 

 

 

  3、client的配置文件详解

  

  1 # 连接超时时间
  2 
  3 # 默认30秒
  4 
  5 connect_timeout=30
  6 
  7  
  8 
  9 # 网络超时时间
 10 
 11 # default value is 30s
 12 
 13 network_timeout=60
 14 
 15  
 16 
 17 # 工作文件夹,日志存在此
 18 
 19 base_path=/home/yuqing/fastdfs
 20 
 21  
 22 
 23 # tracer server列表,多个tracer server的话,分行列出
 24 
 25 tracker_server=192.168.0.197:22122
 26 
 27  
 28 
 29 #日志级别
 30 
 31 ### emerg for emergency
 32 
 33 ### alert
 34 
 35 ### crit for critical
 36 
 37 ### error
 38 
 39 ### warn for warning
 40 
 41 ### notice
 42 
 43 ### info
 44 
 45 ### debug
 46 
 47 log_level=info
 48 
 49  
 50 
 51 # 是否使用连接池
 52 
 53 use_connection_pool = false
 54 
 55  
 56 
 57 # 连接闲置超时时间,连接如果闲置的时间超过本配置,则关闭次连接,单位秒
 58 
 59 connection_pool_max_idle_time = 3600
 60 
 61  
 62 
 63 # 是否从tracer server读取fastdfs的参数,默认为false
 64 
 65 load_fdfs_parameters_from_tracker=false
 66 
 67  
 68 
 69  
 70 
 71  
 72 
 73 # 是否使用storage id 替换 ip,默认为false
 74 
 75 # 和tracker.conf该参数含义一样
 76 
 77 # 本配置只有在load_fdfs_parameters_from_tracker=false时生效
 78 
 79 # 本配置默认为false
 80 
 81 use_storage_id = false
 82 
 83  
 84 
 85 # 指定storage id的文件名,允许使用绝对路径
 86 
 87 # 和tracker.conf该参数含义一样
 88 
 89 # 本配置只有在load_fdfs_parameters_from_tracker=false时生效
 90 
 91 storage_ids_filename = storage_ids.conf
 92 
 93  
 94 
 95  
 96 
 97 #HTTP settings
 98 
 99 http.tracker_server_port=8080
100 
101  
102 
103 #引入HTTP相关配置
104 
105 ##include http.conf

client.conf

 

 

 

  五、总结

  fastDFS是为集群而生,单机的fastDFS意义不大,因为fastDFS存在的意义在于其分布式文件系统,想要玩转fastDFS,仅仅掌握fastDFS是远远不够的。

版权声明:本文为1214804270hacker原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://www.cnblogs.com/1214804270hacker/p/9502450.html