问题

filebeat采集日志信息后,logstash打印信息,这个过程中,filebeat将自身的客户端信息也传送给了logstash,如果logstash不对这些字段进行过滤,导致es创建索引时,产生大量没有必要的字段。

解决方案

在配置文件中进行过滤,删除没有必要的字段。

input {beats {port => 5044}}filter{mutate{remove_field => ["host"]remove_field => ["agent"]remove_field => ["ecs"]remove_field => ["tags"]remove_field => ["fields"]remove_field => ["@version"]remove_field => ["@timestamp"]remove_field => ["input"]remove_field => ["log"]}
}output {elasticsearch {hosts => ["192.168.22.68:9200"]index => "english"}stdout { codec => rubydebug }
}

结果如下:

kibana中显示效果如下:

官网(https://www.elastic.co/guide/en/logstash/current/plugins-filters-mutate.html)

参考博客(https://www.cnblogs.com/iiiiher/p/8000463.html)

logstash 删除字段相关推荐

  1. Python读取多个excel文件(删除字段、数据格式转换、dataframe多表合并)并写入ElasticSearch实战(自动创建索引、写入ElasticSearch、探索性数据分析)

    Python读取多个excel文件(删除字段.数据格式转换.dataframe多表合并)并写入ElasticSearch实战(自动创建索引.写入ElasticSearch.探索性数据分析) 目录

  2. hive创建mysql表,hiveMysql创建、修改、删除字段/表

    本文围绕以下框架,对Hive及Mysql中,常用的字段/表处理语句进行整理汇总. 1. 创建表 (1)Hive (2)Mysql 2. 字段重命名 (1)Hive -- 改变列名/类型/位置/注释 A ...

  3. Oracle增加修改删除字段/主键

    修改字段名称 alter table xgj rename column old_name to new_name; 修改字段类型 alter table tablename modify (colu ...

  4. MySQL添加、删除字段

    添加字段 ALTER TABLE 表名 ADD 新字段名 数据类型 [约束条件] [FIRST|AFTER 已存在字段名] 参数说明 FIRST,可选参数 用于将新添加的字段,设置为表的第一个字段 A ...

  5. SqlServer 增加字段,修改字段名,删除字段,修改字段默认值

    SqlServer 增加字段,修改字段名,删除字段,修改字段默认值 1:增加字段 语法:alter table 表名 add 新增字段名 字段类型 默认值- 2:修改字段名 语法:exec sp_re ...

  6. mysql 删除顺序_mysql 添加字段、删除字段、调整字段顺序 转

    ALTER TABLE - 更改表属性 添加字段: alter table `user_movement_log` Add column GatewayId int  not null default ...

  7. Mysql 添加字段 修改字段 删除字段

    1.表 添加字段(字段类型.长度.默认值.注释) ALTER TABLE 表名 ADD 字段名 字段类型(字段长度) DEFAULT 默认值 COMMENT '注释' 例如:ALTER TABLE o ...

  8. MySql增加字段、删除字段、修改字段名称、修改字段类型

    修改数据库字段 alter table biz_apply MODIFY CUSTOMER_ID bigint(60);  MySql增加字段.删除字段.修改字段名称.修改字段类型 MySql的简单语 ...

  9. 用Sql添加删除字段,判断字段是否存在的方法

    增加字段 alter table docdsp  add dspcode char(200) 删除字段 ALTER TABLE table_NAME DROP COLUMN column_NAME 修 ...

最新文章

  1. usaco Factorials
  2. 生成对抗网络gan原理_中国首个“芯片大学”即将落地;生成对抗网络(GAN)的数学原理全解...
  3. 干货丨从线性回归到无监督学习,数据科学家需要掌握的十大统计技术
  4. 洛谷 1137 旅行计划
  5. UVa12034 Race
  6. 解决Linux上解压tar.gz文件报错 (gzip: stdin: not in gzip format)
  7. 解决Vmware虚拟机中没有网络连接Ubuntu无法上网
  8. jruby环境下REDMINE安装纪要
  9. markdown温习笔记
  10. 鲁迅生平及其作品简介
  11. 51CTO学院周年庆开始了!
  12. Centos 修改镜像源为阿里云
  13. 赞!华为19级大牛分享503NoSQL进阶笔记,横扫一切
  14. 2022.03全国青少年软件编程(图形化)等级考试试卷(四级)
  15. TCP/IP详解(特详!)
  16. 神经网络模型大小怎么看,神经网络模型大小计算
  17. 无线点菜系统01(需求分析)
  18. 孪生网络图像相似度_论文浅尝 | 使用孪生BERT网络生成句子的嵌入表示
  19. 检测下你的显示器是否有问题
  20. “天龙八部基于颜色的简易动作式外挂”的增强

热门文章

  1. 如何利用新品打开淘宝市场?
  2. Vue 中 Echarts实现三角锥形柱形图
  3. 异想维度 java_JAVA异常的最佳工程学实践探索
  4. echarts折线图区域渐变
  5. Web日志安全分析系统实践
  6. WordPress英文版改中文版
  7. 图表算法—最小生成树
  8. win10下matlab r2016a 中文乱码问题
  9. No.018 <软考>《(高项)备考大全》【第03章】项目立项管理
  10. 正则:密码为8-16位的字母、数字以及英文标点符号且同时包含大小写字母