写在前面

2017年1月爆发了Elasticsearch数据勒索事件,涉及到的数据至少500亿条,被删除数据至少450TB。如何提高Elasticsearch应用的安全性,是开发者和客户都面临的重要问题。

本文针对ES集群的安全防护提出几个方案,当然并不说只有这些方案,仅仅是个人的一些经验而已。

用户角色和权限管理

这个方案用来控制用户在 Elasticsearch中的权限。通过设置不同的角色,然后把对应的功能分配给不同的角色,再赋予不同用户不同角色。这样可以达到为不同的用户开通不同操作权限的目的。

比如可以授权营销团队只读权限,只能查看数据但是不能修改数据。再比如不同的业务方只能看到自己的索引数据,不能看到别的业务方的数据等等。

数据定时备份

ES提供分片副本机制,但是副本并不提供对灾难性故障的保护。比如黑客入侵了我们的服务器,删除了主分片的数据。这个时候我们需要有一个完整的集群数据备份,以便在需要的时候可以随时进行恢复。
我们可以使用ES的 snapshot API。这个会拿到你集群里当前的状态和数据然后保存到一个共享仓库里。对于一个集群,第一次备份是数据的完整拷贝,所以过程有点慢。但是所有后续的快照会保留的是已存快照和新数据之间的差异。也就是增量备份,速度会快很多。
要使用这个功能,你必须首先创建一个保存数据的仓库。有多个仓库类型可以供你选择:
共享文件系统,
比如 NAS
Amazon S3
HDFS (Hadoop 分布式文件系统)
Azure Cloud

敏感数据加密

证券行业可能经常会存储一些敏感信息,比如用户的账户信息,银行卡号,余额等敏感信息。我们希望这些数据在集群和客户端传输时,能够防止盗窃、篡改和监听,保护数据安全。
ES可以借助 SSL/TLS 加密保护端对端传输、HTTP 传输。

跨机房容灾

跨机房容灾的方案思路是准备一个备用集群,这个集群的资源配置和生产集群完全一致。然后通过双写或者集群间同步的方式,在两个集群上保持同样的一份数据。
跨机房容灾在私有云环境操作会稍微复杂一些,一个是涉及到主备集群如何同步的问题,另一个是对资源的需求,需要独立再搭建一套备份集群。

如上图所示,有两种方式可以做跨机房容灾。 通过部署多套 Elasticsearch 集群,并且分布在不同地域的数据中心,然后接着 CCR或者业务上进行双写,将数据做一个实时的同步,假如其中一个数据中心失联或者因为不可抗力的因素,如台风、地震,我们还能通过访问剩下的集群来获取完整的数据。

Elasticsearch集群安全防护提出几个建议相关推荐

  1. 【Elastic Stack学习】ELK日志分析平台(一)ELK简介、ElasticSearch集群

    * ELK简介: ELK是Elasticsearch . Logstash.Kibana三个开源软件的缩写.ELK Stack 5.0版本之后新增Beats工具,因此,ELK Stack也改名为Ela ...

  2. ElasticSearch(八):springboot集成ElasticSearch集群并使用

    1. 集群的搭建 见:ElasticSearch(七) 2. springboot配置集群 2.1 创建springboot项目,使用idea创建,不过多介绍(创建项目时候建议不要勾选elastics ...

  3. 剖析Elasticsearch集群系列第二篇 分布式的三个C、translog和Lucene段

    http://www.infoq.com/cn/articles/anatomy-of-an-elasticsearch-cluster-part02?utm_source=infoq&utm ...

  4. Kubernetes集群安全概述

    转自Kubernetes集群安全概述 - 我是程序员 - 博客园 (cnblogs.com) API的访问安全性 API Server的端口和地址 在默认情况下,API Server通过本地端口和安全 ...

  5. 400+节点的 Elasticsearch 集群运维

    作者:Anton Hägerstrand 翻译:杨振涛 Meltwater每天要处理数百万量级的帖子数据,因此需要一种能处理该量级数据的存储和检索技术. 从0.11.X 版本开始我们就已经是Elast ...

  6. Elasticsearch集群知识笔记

    Elasticsearch集群知识笔记 Elasticsearch内部提供了一个rest接口用于查看集群内部的健康状况: curl -XGET http://localhost:9200/_clust ...

  7. 用Docker搭建Elasticsearch集群

    用Docker搭建Elasticsearch集群 对于用Docker搭建分布式Elasticsearhc集群的一个介绍,以及一些实施中遇到问题的总结 搜索服务简述 结合业务的场景,在目前的商品体系需要 ...

  8. Elasticsearch集群安装Version6.2.2

    Elasticsearch集群安装, 基于Elasticsearch6.2.2版本, 在Linux上安装Elasticsearch集群. 1.安装规划 IP HostName Service Mast ...

  9. 从400+节点ElasticSearch集群的运维中,我们总结了这些经验

    墨墨导读:国外一家舆情监控公司Meltwater每天处理的数据非常庞大--在高峰期需要索引大约300多万社论文章,和近1亿条社交帖子数据.其中社论数据长期保存以供检索(可回溯到2009年),社交帖子数 ...

  10. 400+节点的Elasticsearch集群运维

    墨墨导读:本文将分享我们所学到的经验.如何调优Elasticsearch,以及要绕过的一些陷阱. Meltwater每天要处理数百万量级的帖子数据,因此需要一种能处理该量级数据的存储和检索技术. 从0 ...

最新文章

  1. word2vec模型评估_特征工程(下)—特征评估
  2. A. 本地DNS服务器的位置
  3. 总结:第一章~第五章
  4. mysql xp系统时间_mysql时间类型year
  5. 基线长度中误差的计算_电子战支援实施中的测向技术
  6. Ubuntu12环境下Thin+rails(4)+ruby(2)+nginx+mysql 配置
  7. win7桌面图片不显示缩略图问题
  8. 科创板鸣锣开市 一图带你了解首批25家公司
  9. JavaScript词法作用域和动态作用域
  10. mfc 通过按钮发弹幕_BiliBiliChat
  11. 智能毫米波雷达人体感应器,实时检测静止存在,智能化控制方案
  12. 88个塑胶模具设计中常用知识点!
  13. 施努卡:什么是视觉定位系统 视觉定位系统的工作原理
  14. 自我提升第n天,自媒体必备工具大全
  15. oracle PL/SQL 这些查询结果不可更新,请包括ROWID或使用SELECT ...FOR UPDATE 获得可
  16. 聊聊世界编程语言排行榜的事
  17. bootstrap fileupload插件实现文件上传与前端回显图片
  18. html怎么画正方形的斜线,html – 斜线的样式
  19. 一体化供应链里的「京东答案」
  20. MFC中CreateCompatibleDC的作用

热门文章

  1. 彻底卸载McAfee Agent
  2. 工资计算系统设计实现
  3. 基于单片机的热敏电阻测温设计
  4. 学习编程必备常用英语单词
  5. Python下多变量联合分布图(pairplot)绘制——seaborn
  6. html提示更新浏览器的代码,IE9及以下浏览器升级提示
  7. handler机制及使用场景
  8. VS,VAX一些快捷键记录
  9. Django入门文档
  10. Postman安装与入门简单教程