《大数据导论》课件——3.4.1Filebeat简介.pptx

大数据导论

数据采集Filebeat介绍

目录01Filebeat介绍02Filebeat组成03工作原理04filebeat.yml文件配置05启动Filebeat

Filebeat简介Filebeat是本地文件的日志数据采集器，作为服务器上的代理安装，监视日志目录或特定日志文件，并将它们转发给Elasticsearch或Logstash、kafka等Filebeat是一个轻量级日志传输Agent，占用资源少，而且安装配置也比较简单，支持目前各类主流操作系统及Docker平台。

Filebeat包含两个部分：Inputs和Harversters。Inputs：负责管理harvesters和发现可读的资源。Harverster：负责读取日志文件，一行一行的读，并将读到的内容发送到输出管道，一个Harverster对应了一个日志文件。Filebeat组成部分

工作原理Filebeat主要通过配置文件filebeat.yml中设置的参数来实现控制输入与输出。1、将日志文件作为filebeat的输入或者通过inputs配置日志文件的路径2、filebeat启动harversters，读取相关的日志文件，提取相应的数据3、经由缓存区，输出到配置文件中的output配置的输出端，如logstash。1.log2.log3.logharversters1harversters2harversters3input1缓存区LogstashFilebeat

filebeat.yml文件配置filebeat的如何工作运行，依赖于filebeat.yml配置文件的参数文件路径：filebeat安装根目录/filebeat.yml涉及输入输出的filebeat配置项有两个：采集配置输出配置InputOutput

filebeat.yml文件配置inputs采集配置常用配置type:指定input类型，有log、stdin、redis、tcp、syslog等fields：可以自定义添加字段，到output中去，后续可以使用这些字段paths：日志文件的目录

filebeat.yml文件配置Outputs输出配置filebeat支持输出到多种输出端1、ElasticsearchOutput：输出到es里。2、LogstashOutput：输出到logstash里。3、RedisOutput：输出到redis里。4、FileOutput：输出到file里。5、ConsoleOutput：输出到console里。由于不同的输出配置参数不一样，因此官网提供了默认配置文件，找到对应的Filebeat版本，找到Configure--output--输出端

启动filebeat配置好filebeat.yml文件后运行命令：./filebeat-e-cfilebeat.yml注：本例子中output配置为console（即屏幕直接输出）

谢谢观看