个人博客

记录工作中的点点滴滴


  • 首页

  • 标签

  • 分类

  • 归档

  • 关于

  • 搜索

ELK Stack 日志平台性能优化

发表于 2020-04-15 | 更新于: 2020-04-15 | 分类于 elk
| 字数统计: 2.2k 字 | 阅读时长 ≈ 8 分钟

1、性能分析

2、关于收集日志的选择:logstash/filter

3、Logstash的优化相关配置

4、引入Redis的相关问题

5、Elasticsearch节点优化配置

6、性能检查

阅读全文 »

Elasticsearch集群规模和容量规划的底层逻辑

发表于 2020-04-15 | 更新于: 2020-04-15 | 分类于 Elasticsearch
| 字数统计: 3.4k 字 | 阅读时长 ≈ 12 分钟

转载自:
https://mp.weixin.qq.com/s?__biz=MzI2NDY1MTA3OQ==&mid=2247484628&idx=1&sn=666e416ae28b93e42c26f26b208dea84&chksm=eaa82cfcdddfa5eacfcddb0cf54edcecb3ad86ca2cafd6f4f2d90cf8a4033d83eb16cb2a56f0&mpshare=1&scene=1&srcid=1214DDMLBFx4TWeYblyDIWrG&sharer_sharetime=1576338975283&sharer_shareid=6ec87ec9a11a0c18d61cde7663a9ef87#rd

Elasticsearch 集群规模和容量规划:是进行 Elasticsearch 集群部署前对所需资源类型和数量的规划。

通过本文,您将了解:
Elasticsearch 计算资源详解
Elasticsearch 架构、增删改查操作和资源需求
Elasticsearch 集群规模和容量规划的方法论

1、Elasticsearch 基础架构

1.1 自顶向下的架构体系

  • Cluster—协同工作的节点组,以保障 Elasticsearch 的运行。
  • Node—运行 Elasticsearch 软件的 Java 进程。
  • Index—一组形成逻辑数据存储的分片的集合。
  • Shard—Lucene 索引,用于存储和处理 Elasticsearch 索引的一部分。
  • Segment—Lucene 段,存储了 Lucene 索引的一部分且不可变。
  • Document—条记录,用以写入 Elasticsearch 索引并从中检索数据。
阅读全文 »

EFK-5 ES集群开启用户认证

发表于 2020-04-14 | 更新于: 2020-04-14 | 分类于 elk
| 字数统计: 739 字 | 阅读时长 ≈ 3 分钟

转载自:
https://mp.weixin.qq.com/s?__biz=MzUyNzk0NTI4MQ==&mid=2247483826&idx=1&sn=583e9a526050682ae060f601eced917b&chksm=fa769a9ccd01138a8740171769d1149a5df706ab3523eb0cbb5697293bda6e46954641d49f99&mpshare=1&scene=1&srcid=01245nkmqHupjQF7csKql1i5&sharer_sharetime=1579865464558&sharer_shareid=6ec87ec9a11a0c18d61cde7663a9ef87#rd

基于ES内置及自定义用户实现kibana和filebeat的认证

阅读全文 »

EFK-4 ElasticSearch集群TLS加密通讯

发表于 2020-04-14 | 更新于: 2020-04-14 | 分类于 elk
| 字数统计: 823 字 | 阅读时长 ≈ 3 分钟

转载自:
https://mp.weixin.qq.com/s?__biz=MzUyNzk0NTI4MQ==&mid=2247483822&idx=1&sn=6813b22eb5bd3a727a56e0fb5ba3f7fb&chksm=fa769a80cd011396cb6717124ebb9fb17bbff2f9d1fbcae50578cb2959225055cce0268d3633&mpshare=1&scene=1&srcid=1205igKg8cJK4Owayo9UNt4Q&sharer_sharetime=1575553256278&sharer_shareid=6ec87ec9a11a0c18d61cde7663a9ef87#rd

基于TLS实现ElasticSearch集群加密通讯,为ES集群创建CA、CERT证书,实现ElasticSearch集群之间数据通过TLS进行双向加密交互。

阅读全文 »

EFK-3 ES多实例部署

发表于 2020-04-14 | 更新于: 2020-04-14 | 分类于 elk
| 字数统计: 2k 字 | 阅读时长 ≈ 10 分钟

转载自:
https://mp.weixin.qq.com/s?__biz=MzUyNzk0NTI4MQ==&mid=2247483816&idx=1&sn=bfaf70613bcb775ccf5d40c2871a05a8&chksm=fa769a86cd011390f22ff178071a580a8f17791e57166dfc8463984a5613c11875ef2ebb2ad7&mpshare=1&scene=1&srcid=11253n8AXjLegAeaoHiCssEs&sharer_sharetime=1574686178097&sharer_shareid=6ec87ec9a11a0c18d61cde7663a9ef87#rd

基于ElasticSearch多实例架构,实现资源合理分配、冷热数据分离。
ES多实例部署,将不同热度的数据存在不同的磁盘上,实现了数据冷热分离、资源合理分配。
在一个集群中部署多个ES实例,来实现资源合理分配。例如data服务器存在SSD与SAS硬盘,可以将热数据存放到SSD,而冷数据存放到SAS,实现数据冷热分离。

阅读全文 »
123…29
永夜初晗凝碧天

永夜初晗凝碧天

Linux,Python,MySQL,ELK Stack,K8S,Docker

141 日志
55 分类
60 标签
RSS
QQ E-Mail
友情链接
  • 博客园
  • 百度
近期文章
  • Elasticsearch IK 分词器
  • 为Elasticsearch启动https访问
  • FastAPI框架入门 基本使用, 模版渲染, form表单数据交互, 上传文件, 静态文件配置
  • Elasticsearch:使用_update_by_query更新文档
  • Solutions:安全的APM服务器访问
© 2019 — 2020 永夜初晗凝碧天
博客全站字数统计 : 412.1k 字 ||载入天数...载入时分秒...
本文总阅读量次 || 本站访客数人次 || 本站总访问量次