温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

ELK之Logstash如何安装与导入数据

发布时间:2021-11-26 11:29:03 来源:亿速云 阅读:166 作者:小新 栏目:云计算

这篇文章主要介绍了ELK之Logstash如何安装与导入数据,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。


 

数据集下载

下载地址:https://grouplens.org/datasets/movielens/

ELK之Logstash如何安装与导入数据  
我们选择最小数据集即可
 

Logstash 下载与安装

首先去官网下载 Logstash 安装包:https://www.elastic.co/downloads/logstash

ELK之Logstash如何安装与导入数据  
logstash download

如果下载速度太慢可以选用这个代理地址下载:http://mirror.azk8s.cn/elastic/logstash/

ELK之Logstash如何安装与导入数据  
azk8s

下载完安装包并解压进入 config 目录:

ELK之Logstash如何安装与导入数据  
logstash-config

同时配置如下内容,你只需要按照你的数据集的路径改一下配置文件中最开始的path即可:

  • logstash.conf
input {
 file {
   path => "/Users/tanjian/Desktop/logstash-7.6.1/movielens/ml-latest-small/movies.csv" # 这里指定数据集路径
   start_position => "beginning"
   sincedb_path => "/dev/null"
 }
}
filter {
 csv {
   separator => ","
   columns => ["id","content","genre"]
 }

 mutate {
   split => { "genre" => "|" }
   remove_field => ["path", "host","@timestamp","message"]
 }

 mutate {

   split => ["content", "("]
   add_field => { "title" => "%{[content][0]}"}
   add_field => { "year" => "%{[content][1]}"}
 }

 mutate {
   convert => {
     "year" => "integer"
   }
   strip => ["title"]
   remove_field => ["path", "host","@timestamp","message","content"]
 }

}
output {
  elasticsearch {
    hosts => "http://localhost:9200"
    index => "movies"
    document_id => "%{id}"
  }
 stdout {}
}
   

Logstash 运行

配置好上面的 logstash.conf 文件后,我们就可以启动 Logstash 并开始导入数据了:

sudo ./bin/logstash -f config/logstash.conf
 

如下图 Logstash 日志所示,正在导入数据集:

ELK之Logstash如何安装与导入数据  
logstash log
 

打开 Kibana 查看数据

在查看数据之前,我们需要打开 http://localhost:5601 通过 Kibana 创建一个 Index Pattern:

ELK之Logstash如何安装与导入数据  
Index Pattern

之后,我们就可以通过 Discover 去查看我们的数据了:

ELK之Logstash如何安装与导入数据  
Discover

剩下的就交给你自己折腾吧,你可以去 Dev Tools 通过 QSL 语法搜索数据熟悉一下语法。

感谢你能够认真阅读完这篇文章,希望小编分享的“ELK之Logstash如何安装与导入数据”这篇文章对大家有帮助,同时也希望大家多多支持亿速云,关注亿速云行业资讯频道,更多相关知识等着你来学习!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI