找回密码
 立即注册
CeraNetworksBGVM服务器主机交流IP归属甄别会员请立即修改密码
查看: 92|回复: 9

上T级别的日志,如何快速搜索

[复制链接]

27

主题

163

回帖

541

积分

高级会员

积分
541
发表于 2018-9-25 16:58:42 | 显示全部楼层 |阅读模式
日志是文本文件,其实是压缩文件,非数据库。

用一些命令find,findstr,grep无法建立索引的情况下,每次搜索耗时特别大。

目前知道有一个百度硬盘本地搜索的小工具可以建立索引。

有没有其他的方案呢?
回复

使用道具 举报

46

主题

278

回帖

1182

积分

金牌会员

积分
1182
发表于 2018-9-25 17:01:07 | 显示全部楼层
搜索的算法就那些,不建立索引的情况下,上T的日志都会很慢
回复

使用道具 举报

286

主题

5366

回帖

1万

积分

论坛元老

积分
16349
发表于 2018-9-25 17:01:41 | 显示全部楼层
解压到本地硬盘,然后用记事本打开…然后你电脑就死机了

回复

使用道具 举报

27

主题

163

回帖

541

积分

高级会员

积分
541
 楼主| 发表于 2018-9-25 17:02:57 | 显示全部楼层
"

噢噢,谢谢,因为对这一块没有太多研究,所以来问问有没有相关神器
回复

使用道具 举报

5

主题

476

回帖

1716

积分

金牌会员

积分
1716
发表于 2018-9-25 17:01:00 | 显示全部楼层
一个文件上T,还是多个日志文件总和上T?
回复

使用道具 举报

27

主题

163

回帖

541

积分

高级会员

积分
541
 楼主| 发表于 2018-9-25 17:03:43 | 显示全部楼层
"

哈哈,解压出来一个文件就上G,不敢点
回复

使用道具 举报

90

主题

189

回帖

1196

积分

金牌会员

积分
1196
发表于 2018-9-25 17:04:35 | 显示全部楼层
hadoop
回复

使用道具 举报

27

主题

163

回帖

541

积分

高级会员

积分
541
 楼主| 发表于 2018-9-25 17:01:00 | 显示全部楼层
"

平均每个压缩包800M左右,解压出来每个文件上G,总和上T
回复

使用道具 举报

27

主题

163

回帖

541

积分

高级会员

积分
541
 楼主| 发表于 2018-9-25 17:05:07 | 显示全部楼层
"

好的,谢谢回头研究下
回复

使用道具 举报

15

主题

27

回帖

215

积分

中级会员

积分
215
发表于 2018-9-25 17:05:59 | 显示全部楼层
ELK
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|HS2V主机综合交流论坛

GMT+8, 2024-6-1 17:40 , Processed in 0.068765 second(s), 3 queries , Gzip On, Redis On.

Powered by Discuz! X3.5

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表