Movatterモバイル変換


[0]ホーム

URL:


CN110362548B - 日志提取方法及相关设备 - Google Patents

日志提取方法及相关设备
Download PDF

Info

Publication number
CN110362548B
CN110362548BCN201910505732.9ACN201910505732ACN110362548BCN 110362548 BCN110362548 BCN 110362548BCN 201910505732 ACN201910505732 ACN 201910505732ACN 110362548 BCN110362548 BCN 110362548B
Authority
CN
China
Prior art keywords
file
log
slice
time
server
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910505732.9A
Other languages
English (en)
Other versions
CN110362548A (zh
Inventor
王运峰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Shenghui Technology Co ltd
Original Assignee
Shenzhen Shenghui Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Shenghui Technology Co ltdfiledCriticalShenzhen Shenghui Technology Co ltd
Priority to CN201910505732.9ApriorityCriticalpatent/CN110362548B/zh
Publication of CN110362548ApublicationCriticalpatent/CN110362548A/zh
Application grantedgrantedCritical
Publication of CN110362548BpublicationCriticalpatent/CN110362548B/zh
Activelegal-statusCriticalCurrent
Anticipated expirationlegal-statusCritical

Links

Classifications

Landscapes

Abstract

本发明公开了一种日志提取方法及相关设备,该日志提取方法包括:将终端日志进行切片存储,其中,每个切片文件的属性包括:文件生成时间;在接收到服务器发送的提取某个时间段的日志请求之后,提取与该时间段对应的至少一个切片文件;基于该至少一个切片文件生成日志文件;将该日志文件上传给该服务器。该日志提取方法自动化操作,无须手动抓取;并且,由于终端的日志数据以多个切片文件形式保存,减少筛选范围,有利于缩减筛选日志时间,本发明有利于提高日志抓取效率,缩短排查终端问题的时间。本发明广泛应用于终端日志的远程提取。

Description

日志提取方法及相关设备
技术领域
本发明涉及计算机技术领域,尤其是涉及一种日志提取方法及相关设备。
背景技术
在终端发生故障时,通常通过抓取终端的日志记录,来定位终端发生故障的原因。传统的做法是:获取终端的全部日志文件后,再找专业人员进行日志的抓取与筛选。
传统方法的缺点是:由于日志的抓取与筛选需要与对应的开发人员进行沟通,导致增加沟通成本,从而影响排查问题的速度。
发明内容
本发明旨在至少在一定程度上解决相关技术中的技术问题之一。为此,本发明的一个目的是提供一种日志提取方法及相关设备,能够方便抓取与筛选日志,有利于提高排查问题的效率。
本发明所采用的技术方案是:
第一方面,本发明提供一种日志提取方法,该日志提取方法包括:将终端日志进行切片存储,其中,每个切片文件的属性包括:文件生成时间;在接收到服务器发送的提取某个时间段的日志请求之后,提取与该时间段对应的至少一个切片文件;基于该至少一个切片文件生成日志文件;将该日志文件上传给该服务器。
其中,每个该切片文件包括文件建立时间和文件最终修订时间;提取与该时间段对应的至少一个切片文件,包括:基于该文件建立时间和该文件最终修订时间,获取与该时间段对应的至少一个切片文件。
其中,基于该至少一个切片文件生成日志文件,包括:将该至少一个切片文件进行打包压缩,生成该日志文件。
其中,该切片文件进一步包括多条记录生成时间;基于该至少一个切片文件生成日志文件,包括:根据该记录生成时间,从该至少一个切片文件的每个文件中分别截取符合该时间段的日志数据,并将该每个文件中截取的日志数据均单独保存为一个文件;将截取到的所有文件集中压缩,生成该日志文件。
其中,每个该切片文件的大小相同;将终端日志进行切片存储之前,包括通过该服务器向该终端设置该切片文件的文件大小。
第二方面,本发明提供一种日志提取装置,该日志提取装置包括:日志存储模块,用于将终端日志进行切片存储,其中,每个切片文件的属性包括:文件生成时间;切片抓取模块,用于在接收到服务器发送的提取某个时间段的日志请求之后,提取与该时间段对应的至少一个切片文件;日志生成模块,用于基于该至少一个切片文件生成日志文件;以及日志发送模块,用于将该日志文件上传给该服务器。
第三方面,本发明提供一种终端,该终端包括:至少一个处理器;以及与该至少一个处理器通信连接的存储器;其中,该存储器存储有可被该至少一个处理器执行的指令,该指令能够执行如上述的方法。
第四方面,本发明提供一种服务器,其中,该服务器用于从如上述的终端进行日志提取。
其中,该服务器还用于获取该日志文件后,将该日志文件保存在该服务器对应的存储位置,如果该存储位置保存的日志文件个数超出预定的数量,将该日志文件替换最先保存的文件。
第五方面,本发明提供一种日志提取系统,该日志提取系统包括如上述的终端和上述的服务器。
本发明的有益效果是:
本发明通过采用将日志数据进行切片存储,然后根据服务器下发的时间段,筛选出与所述时间段对应的至少一个切片文件,并基于该至少一个切片文件生成日志文件,最后将该日志文件上传至服务器。该日志提取方法自动化操作,无须手动抓取;并且,由于终端的日志数据以多个切片文件形式保存,减少筛选范围,有利于缩减筛选日志时间;因此,本发明实施例的日期提取方法有利于提高日志抓取效率,缩短排查终端问题的时间。
进一步地,本发明终端的每个切片文件包括文件建立时间和文件最终修订时间,相当于每个切片文件具有一个时间区间,这样方便确定与查询时间段对应的切片文件。
进一步地,本发明终端的每个切片文件具有多条记录生成时间,这样可剔除切片文件中不必要的日志数据,减小日志文件的体量。
此外,还可以在服务器端远程调节终端切片文件的大小。
本发明广泛应用于终端日志的远程自动化提取。
附图说明
图1是本发明日志提取方法的一实施例的流程示意图;
图2是图1的步骤S13的一实施例的流程示意图;
图3是本发明日志提取装置的一实施例的结构示意图;
图4是本发明日志提取系统的一实施例的结构示意图。
具体实施方式
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。
实施例一:
请参阅图1,图1是本发明日志提取方法的一实施例的流程示意图。如图1所示,该方法包括如下步骤:
S11:将终端日志按照切片文件方式进行存储,其中,每个切片文件的属性包括:文件生成时间;
在步骤S11中,在终端或与终端通信的云卡服务器进行启动之后,生成终端日志。该终端日志的数据包括:终端WIFI信息、终端SIM卡信息、终端网络连接信息、终端电池信息以及云卡运行状态信息。
优选地,每个切片文件的大小相同。例如,每个切片文件的大小为20M,当一个切片文件保存的日志记录大小超过20M之后,重新生成一个新的切片文件。当然,也可以按照预定的时间单位进行保存切片文件,即设定每5分钟或10分钟生成一个切片文件。在步骤S11之前,通过该服务器向该终端设置该切片文件的文件大小。
优选地,每个切片文件包括文件建立时间和最终修订时间,例如,每个切片文件按照文件的初始创建时间进行命名,在每个切片文件的文件结束位置保存其最终修订时间。
其中,每个切片文件包括多条记录生成时间。可选地,每个切片文件包括多条日志记录,每条日志记录均包括一个记录生成时间。也可以设置一段日志记录(包括若干条日志记录)包括:起始记录时间和终止记录时间。
S12:在接收到服务器发送的提取某个时间段的日志请求之后,提取与该时间段对应的至少一个切片文件;
在步骤S12中,包括如下步骤:
(1)获取该时间段字段。终端接收到服务器发送的获取日志请求之后,从请求信息中获取查询时间段,该查询时间段包括起始时间和终止时间。如果该查询时间段的起始时间大于终端的当前时间,则退出执行本步骤S12。
(2)定位切片文件。由于每个切片文件包括文件初始建立时间和文件最终修订时间,即每个切片文件对应一个时间区间。查找该查询时间段的起始时间和终止时间分别对应哪个或哪两个切片文件的时间区间,则提取的切片文件为该对应的切片文件或该对应的两个切片文件之间的所有文件。比如,终端当前保存100个切片文件,这100个切片文件的名称按照文件建立时间顺序排列,分别为“时间1”、“时间2”、“时间3”……“时间100”。经查找,如果该查询时间段的起始时间和终止时间均位于切片文件“时间3”的时间区间中,则提取切片文件“时间3”;如果该查询时间段的起始时间位于切片文件“时间3”的时间区间中,该查询时间段的终止时间位于切片文件“时间7”的时间区间中,则提取5个切片文件“时间3”、“时间4”、“时间5”、“时间6”及“时间7”。
S13:基于该至少一个切片文件生成日志文件;
在步骤S13中,为提高日志文件的传输速率,将该至少一个切片文件进行打包压缩,生成该日志文件。
优选地,由于步骤S12抓取的至少一个切片文件中仍然存在可能保存有不必要的日志记录,可进一步将非查询时间段的日志记录剔除。
具体地,如图2所示,步骤S13包括如下子步骤:
S131:根据记录生成时间,从该至少一个切片文件的每个文件中分别截取符合该时间段的日志数据,并将该每个文件中截取的日志数据均单独保存为一个文件。
在步骤S131中,如果该时间段横跨多个切片文件,第一个切片文件和最后一个切片文件可能存在保存有不必要的日志记录,则根据该记录生成时间,从该第一个切片文件和该最后一个切片文件中分别截取符合该时间段的日志数据,并将每个文件中截取的日志数据均单独保存为一个文件。
也就是说,步骤S12抓取的文件数量,在经过步骤S131处理后,仍然保持不变。
S132:将截取到的所有文件集中压缩,生成该日志文件。
在步骤S132中,日志文件为压缩文件包,有利于提高文件的传输效率。
S14:将该日志文件上传给该服务器。
在步骤S14中,通过特定文件传输协议,比如通过FTP文件传输协议将该日志文件上传给该服务器,可进一步提高文件的传输效率。
实施例二:
请参阅图3,图3是本发明日志提取装置的一实施例的结构示意图。如图3所示,该装置包括日志存储模块31、切片抓取模块32、日志生成模块33及日志发送模块34。
日志存储模块31,用于将终端日志进行切片存储,其中,每个切片文件的属性包括:文件生成时间。
切片抓取模块32,用于在接收到服务器发送的提取某个时间段的日志请求之后,提取与该时间段对应的至少一个切片文件。
日志生成模块33,用于基于该至少一个切片文件生成日志文件。
日志发送模块34,用于将该日志文件上传给该服务器。具体地,该装置各模块的工作方法与实施例一所述的方法相同,在此不再赘述。
实施例三:
请参阅图4,图4是本发明日志提取系统的一实施例的结构示意图。如图4所示,该日志提取系统包括多个终端41和服务器42。
终端41包括:至少一个处理器;以及与该至少一个处理器通信连接的存储器;其中,该存储器存储有可被该至少一个处理器执行的指令,该指令能够执行如实施例一所述的方法。
服务器42用于与终端41进行通信。服务器42与终端41通信方式为有线通信或无线通信。其中,该服务器在获取该日志文件之后,将该日志文件保存在该服务器对应的存储位置,如果该存储位置保存的日志文件个数超出预定的数量,将该日志文件替换最先保存的文件。例如,设定该存储位置保存的日志文件数量最大为50个,如果该存储位置保存的日志文件数量<50,则将该日志文件存入到该存储位置中;反之,将该存储位置最先保存的文件进行删除,然后再存入该日志文件到该存储位置中。这样,有利于防止服务器42存储的日志文件数量过多,精简服务器空间。
其中,服务器42可以为远程服务器。该日志提取系统的一应用场景可以为:多个终端41分布在用户位置,服务器42设置在集控中心,工作人员在服务器42端排除任一终端41的技术故障问题。
以上是对本发明的较佳实施进行了具体说明,但本发明创造并不限于所述实施例,熟悉本领域的技术人员在不违背本发明精神的前提下还可做出种种的等同变形或替换,这些等同的变形或替换均包含在本申请权利要求所限定的范围内。

Claims (7)

CN201910505732.9A2019-06-122019-06-12日志提取方法及相关设备ActiveCN110362548B (zh)

Priority Applications (1)

Application NumberPriority DateFiling DateTitle
CN201910505732.9ACN110362548B (zh)2019-06-122019-06-12日志提取方法及相关设备

Applications Claiming Priority (1)

Application NumberPriority DateFiling DateTitle
CN201910505732.9ACN110362548B (zh)2019-06-122019-06-12日志提取方法及相关设备

Publications (2)

Publication NumberPublication Date
CN110362548A CN110362548A (zh)2019-10-22
CN110362548Btrue CN110362548B (zh)2023-11-14

Family

ID=68215744

Family Applications (1)

Application NumberTitlePriority DateFiling Date
CN201910505732.9AActiveCN110362548B (zh)2019-06-122019-06-12日志提取方法及相关设备

Country Status (1)

CountryLink
CN (1)CN110362548B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication numberPriority datePublication dateAssigneeTitle
CN113055455A (zh)*2021-03-092021-06-29中国联合网络通信集团有限公司文件上传方法及设备
CN115576908A (zh)*2021-07-052023-01-06北京字节跳动网络技术有限公司日志文件发送方法、装置和客户端

Citations (2)

* Cited by examiner, † Cited by third party
Publication numberPriority datePublication dateAssigneeTitle
CN108011966A (zh)*2017-12-142018-05-08广东金赋科技股份有限公司一种自助终端日志压缩上传的优化方法
CN108737549A (zh)*2018-05-252018-11-02江苏联盟信息工程有限公司一种大数据量的日志分析方法及装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication numberPriority datePublication dateAssigneeTitle
US10678619B2 (en)*2011-07-272020-06-09Pure Storage, Inc.Unified logs and device statistics

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication numberPriority datePublication dateAssigneeTitle
CN108011966A (zh)*2017-12-142018-05-08广东金赋科技股份有限公司一种自助终端日志压缩上传的优化方法
CN108737549A (zh)*2018-05-252018-11-02江苏联盟信息工程有限公司一种大数据量的日志分析方法及装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于数据仓库的Web日志挖掘技术研究;席景科等;《计算机工程与设计》;20071231(第24期);全文*

Also Published As

Publication numberPublication date
CN110362548A (zh)2019-10-22

Similar Documents

PublicationPublication DateTitle
CN110147411B (zh)数据同步方法、装置、计算机设备及存储介质
CN107423436A (zh)一种用于不同类型数据库间在线数据迁移的方法
CN103312544B (zh)一种控制终端上报日志文件的方法、设备和系统
US9346562B2 (en)Aircraft troubleshooting network
CN110858192A (zh)一种日志查询方法和系统、日志排查系统和查询终端
CN110362548B (zh)日志提取方法及相关设备
CN104219327A (zh)一种分布式缓存系统
CN106897159A (zh)一种用于采集自动气象站数据的系统及方法
CN113572834B (zh)巡检数据上传方法、装置、系统及存储介质
CN101883009A (zh)可靠性数据的自动采集方法、系统及网络管理设备
CN111124603A (zh)一种cd-rom挂载方法、装置以及相关设备
CN112925759B (zh)数据文件的处理方法和装置、存储介质、电子装置
CN107153539B (zh)一种文件接口系统
CN113348450A (zh)一种车载数据存储方法及系统
CN108111589A (zh)数据采集方法、装置、设备及计算机可读存储介质
EP2615563A1 (en)Device for synchronously sharing files and method for synchronously sharing files
CN114356043A (zh)硬盘防震的控制方法、装置、系统和存储介质
CN106453663B (zh)改进的基于云服务的存储扩容方法及装置
CN118334772A (zh)车辆日志上传方法、装置、车端控制设备和存储介质
CN112835978A (zh)一种数据存储方法、装置及计算机设备
CN113568939B (zh)能耗监控方法、装置、服务器及计算机可读存储介质
CN114726486A (zh)数据传输方法、工具、电子设备和计算机可读存储介质
CN108280017A (zh)一种系统事件日志上传方法、装置、设备及系统
CN113190410A (zh)日志收集方法、系统、客户端和存储介质
CN104717241A (zh)文件网络共享方法、终端及服务器

Legal Events

DateCodeTitleDescription
PB01Publication
PB01Publication
SE01Entry into force of request for substantive examination
SE01Entry into force of request for substantive examination
CB02Change of applicant information

Address after:518000 401, building B, No. 2, lanshui Industrial Zone, Longxin community, Baolong street, Longgang District, Shenzhen, Guangdong Province

Applicant after:Ocdop Ltd.

Address before:518000 room 602, 6 / F, Langfeng building, No. 2 Kefa Road, Yuehai street, Nanshan District, Shenzhen, Guangdong

Applicant before:SHENZHEN OCTOPUS TECHNOLOGY Co.,Ltd.

CB02Change of applicant information
TA01Transfer of patent application right
TA01Transfer of patent application right

Effective date of registration:20230831

Address after:518000 401, building B, No. 2, lanshui Industrial Zone, Longxin community, Baolong street, Longgang District, Shenzhen, Guangdong Province

Applicant after:Shenzhen Shenghui Technology Co.,Ltd.

Address before:518000 401, building B, No. 2, lanshui Industrial Zone, Longxin community, Baolong street, Longgang District, Shenzhen, Guangdong Province

Applicant before:Ocdop Ltd.

CB02Change of applicant information

Address after:518000 401, building 1, nantaiyun chuanggu Park, Southeast of the intersection of Guangming Avenue and Dongchang Road, Tangwei community, Fenghuang street, Guangming District, Shenzhen City, Guangdong Province

Applicant after:Shenzhen Shenghui Technology Co.,Ltd.

Address before:518000 401, building B, No. 2, lanshui Industrial Zone, Longxin community, Baolong street, Longgang District, Shenzhen, Guangdong Province

Applicant before:Shenzhen Shenghui Technology Co.,Ltd.

CB02Change of applicant information
GR01Patent grant
GR01Patent grant
PP01Preservation of patent right

Effective date of registration:20250826

Granted publication date:20231114

PP01Preservation of patent right

[8]ページ先頭

©2009-2025 Movatter.jp