数据处理方法、数据处理装置、可读存储介质和服务器与流程

allin2024-08-04  67



1.本发明涉及数据处理技术领域,具体而言,涉及一种数据处理方法、数据处理装置、可读存储介质和服务器。


背景技术:

2.现有的页面数据导出方式,在用户发送导出请求后,都是由业务服务器直接后台查询数据,并生成文件返回给前台进行下载。但在业务服务器的工作量较大时,会出现导出和下载文件的时间过长,影响用户的使用体验。因此,如何提供一种降低业务服务器的压力,提高数据导出效率的技术方案,成为亟需解决的问题。


技术实现要素:

3.本发明旨在至少解决现有技术或相关技术中存在的技术问题之一。
4.为此,本发明的第一个方面在于提出一种数据处理方法。
5.本发明的第二个方面在于提出一种数据处理装置。
6.本发明的第三个方面在于提出一种可读存储介质。
7.本发明的第四个方面在于提出一种服务器。
8.有鉴于此,根据本发明的一个方面,提出了一种数据处理方法,用于第一服务器,第一服务器为数据管理系统中独立于业务服务器之外的服务器,数据处理方法包括:响应于业务服务器发送的导出请求,从数据管理系统的数据库中查询导出请求指示的目标数据;将目标数据以文件的方式存储至存储区域;响应于用户发送的下载请求,从存储区域读取下载请求指示的目标文件,以供用户下载目标文件。
9.需要说明的是,本发明所提出的数据处理方法的执行主体可以是数据处理装置,为了更加清楚的对本发明提出的数据处理方法进行说明,下面技术方案中以数据处理方法的执行主体为数据处理装置进行示例性说明。
10.还需要说明的是,本发明所提出的数据处理方法还可以用于第二服务器,第二服务器也是独立于上述业务服务器的服务器,其为第一服务器的备用服务器,在第一服务器宕机的情况下,可以通过第二服务器继续执行第一服务器的未完成的工作任务。这样,提高了本发明提出的数据处理方法的可靠性。
11.在该技术方案中,数据处理装置为上述第一服务器的执行装置,上述第一服务器为数据管理系统中独立于业务服务器之外的服务器。
12.在该技术方案中,数据处理装置响应于业务服务器发送的导出请求,从数据管理系统用于存储数据的数据库中查询导出请求指示的目标数据。具体而言,根据导出请求能够确定目标数据的基本信息,数据处理装置根据上述基本信息能够从数据库中查询出目标数据。
13.具体地,数据处理装置是基于线程池按批次从上述数据库中查询目标数据,使得目标数据生成的顺序与接收导出请求的顺序趋于一致,以便后续步骤中,更容易确定哪些
数据是本次导出请求对应的目标数据。
14.值得指出的是,数据处理装置在根据导出请求查询目标数据时,还会将导出请求指示的目标参数的基本信息记录到第一服务器的缓存和数据库中,使得如果第一服务器出现故障,数据处理装置可以在故障修复后继续响应该导出请求,完成查询目标数据的任务。
15.进一步地,数据处理装置将目标数据以文件的形式存储至第一服务器的存储区域。具体而言,将目标数据转换成文件格式能够减少占用的第一服务器的存储区域的存储空间。
16.进一步地,数据处理装置响应于用户发送的下载请求,从第一服务器的存储区域读取下载请求指示的目标文件,以供用户下载目标文件。具体而言,根据下载请求能够确定目标文件的基本信息,数据处理装置能够根据上述基本信息确定用户想要下载的文件(即目标文件)。
17.具体地,数据处理装置从存储区域读取目标文件后,可以将目标文件存放至第一服务器的缓存中,使得可以在不占用过多存储区域的存储空间的情况下,存放更多的历史版本的目标文件供用户下载。
18.在该技术方案中,在业务服务器接收到导出请求的情况下,会将导出请求发送至第一服务器,第一服务器的执行装置数据处理装置会响应该导出请求,进行目标数据查询后生成文件,并将文件存储至存储区域。在接收到用户的下载请求是,数据处理装置会从存储区域读取下载请求指示的目标文件,以供用户下载。本发明技术方案中,将数据管理系统的数据导出功能进行拆分,采用单独的服务器处理用户的导出请求和下载请求,降低了业务服务器的工作压力,避免了出现用户导出和下载文件时间过长的情况,提高了数据导出效率,保证了用户的下载体验。
19.此外,根据本发明的上述数据处理方法,还可以具有以下附加技术特征:
20.在上述技术方案中,将目标数据以文件的方式存储至存储区域的步骤具体包括:将目标数据转换成预设格式文件;根据均衡分配原则确定预设格式文件的文件存储路径;按照文件存储路径将预设格式文件写入存储区域;在确认预设格式文件写入存储区域成功的情况下,更新文件状态数据;其中,文件状态数据为用于指示预设格式文件的存储路径的数据。
21.在该技术方案中,上述预设格式文件为二进制文件,便于提高文件的读写性能和安全性能;上述文件状态数据为用于指示预设格式文件的存储路径的数据;上述均衡分配原则为将预设格式文件写入存储区域的规则,具体地,存储区域中存在多个用于存储文件的文件夹,均衡分配原则就是在保证每个文件夹存储的文件量平衡的情况下,将预设格式文件存储至存储区域,可以理解的是,如果上述文件夹存储文件的数量达到阈值时,数据处理装置会新建一个文件夹,用来存储预设格式文件,这样,避免了出现因单个文件夹存储数据过多而造成加载困难的情况。
22.具体地,将目标数据以文件的方式存储至存储区域的过程为:数据处理装置首先将查询出的目标数据转换为预设格式的文件。具体而言,数据处理装置可以通过压缩和加密处理的方式将目标数据转换成预设格式文件。
23.进一步地,数据处理装置根据均衡分配原则分配预设格式文件的存储路径,以确定出预设格式文件的文件存储路径。
24.进一步地,数据处理装置按照上述文件存储路径将预设格式文件写入存储区域。具体而言,按照文件存储路径将预设格式文件写入存储区域,能够使第一服务器的存储区域得到充分的利用,同时方便后续步骤按照该文件存储路径读取预设格式文件。
25.进一步地,在数据处理装置判断预设格式文件写入存储区域成功,并在确认预设格式文件写入存储区域成功的情况下,更新文件状态数据。具体地,根据文件状态数据能够了解到预设格式文件是否已经成功写入至第一服务器的存储区域以及预设格式文件的文件存储路径。
26.具体而言,文件状态数据可以存储于第一服务器的缓存中,也可以存储于第一服务器的数据库中,数据处理装置可以通过更新缓存或数据库的方式更新文件状态数据。
27.在该技术方案中,数据处理装置首先将查询出的目标数据转换成预设格式文件,并根据均衡分配原则确定出预设格式文件的文件存储路径,然后按照文件存储路径将预设格式文件写入至第一服务器的存储区域,同时更新文件状态数据。这样,使第一服务器的存储区域能够得到充分的利用,同时在后续步骤中,数据处理装置可以根据文件状态数据指示的文件存储路径快速读取预设格式文件,提高了数据导出效率。
28.在上述技术方案中,将目标数据转换成预设格式文件的步骤具体包括:采用预设数据存储结构接收目标数据,并压缩和加密目标数据;以数据流的形式将经过压缩和加密的目标数据转换成预设格式文件。
29.在该技术方案中,上述预设数据存储结构为json(轻量型数据存储结构)格式,json格式的可读性好、适配性强,便于后续步骤对目标数据的格式转换。
30.具体地,将目标数据转换成预设格式文件的过程为:数据处理装置采用预设数据存储结构接收目标数据,并压缩和加密目标数据。即数据处理装置将查询出的目标数据转换成json格式的数据进行接收,然后对json格式的目标数据进行压缩和加密。
31.具体而言,数据处理装置采用snappy(数据压缩库)的方式对json格式的目标数据进行压缩,提高了压缩速度。数据处理装置采用aes(advanced encryption standard高级加密标准)对经过压缩的json格式的目标数据进行加密,使得即使第一服务器被攻破,也无法直接读取目标数据,保证了数据读写的安全性。
32.进一步地,数据处理装置以数据流的形式将经过压缩和加密的目标数据转换成预设格式文件,即数据处理装置将经过压缩和加密的目标数据以数据流的方式写入至预设格式文件中。
33.在该技术方案中,数据处理装置通过预设存储结构(轻量型数据存储结构)接收目标数据,并通过对目标数据进行压缩和加密处理后,确定出预设格式文件数据。这样,即便于后续步骤对目标数据的格式转换,也保证了数据读写的安全性。
34.在上述技术方案中,存储区域包括主存储区域和从存储区域,按照文件存储路径将预设格式文件写入存储区域的步骤具体包括:根据读写平衡原则按照文件存储路径将预设格式文件写入至主存储区域;在确认第一服务器工作压力为预设压力的情况下,将预设格式文件备份至从存储区域;其中,预设格式文件在从存储区域的文件存储路径与主存储区域相同。
35.在该技术方案中,第一服务器的存储区域包括主存储区域和从存储区域,其中,从存储区域为用于备份的存储区域,可以将写入在主存储区域中的重要数据或者全部数据备
份至从存储区域,使得在主存储区域发生故障时,数据处理装置也可以通过从存储区域中读取数据,提高了第一服务器的容灾能力。
36.具体地,上述读写平衡原则用于指示数据处理装置从第一服务器的存储区域读取数据和将数据写入至第一服务器的存储区域的规则,具体地,第一服务器的待执行队列中可能存在多个待执行的读取和写入任务,读写平衡原则就是将读取任务和写入任务的执行顺序进行平衡,如执行3条读取任务后,执行2条写入任务,以优化数据处理装置执行读取/写入数据的方式,进而提高数据导出的效率。
37.具体地,按照文件存储路径将预设格式文件写入存储区域的过程为:数据处理装置首先根据读写平衡原则按照文件存储路径将预设格式文件写入至主存储区域;然后在确认第一服务器的工作压力为预设压力的情况下(即第一服务器工作压力较低的情况下),将预设格式文件备份至从存储区域。
38.具体而言,数据处理装置可以通过判断待执行任务数量确定第一服务器的工作压力的高低,例如,待执行任务数量少于5个时,则可以确定第一服务器的工作压力较低,此时,确定可以执行将预设格式文件备份至从存储区域。
39.进一步地,还可以根据读写平衡原则确定何时执行将预设格式文件备份至从存储区域。例如,在执行3条读取任务和执行2条写入任务后,执行一次将预设格式文件备份至从存储区域的任务。
40.需要说明的是,预设格式文件在主存储区域和从存储区域的文件存储路径相同,保证了后续步骤中,在主存储区域发生故障时,数据处理装置还可以根据文件存储路径通过从存储区域快速读取该预设格式文件。
41.在该技术方案中,数据处理装置在按照文件存储路径将预设格式文件写入存储区域的过程中,是先按照读写平衡原则将预设格式文件写入至主存储区域,然后在第一服务器的工作压力较低的情况下,将预设格式文件备份至从存储区域。这样,使得在主存储区域发生故障时,数据处理装置还可以通过从存储区域中读取数据,提高了第一服务器的容灾能力。同时,数据处理装置是在第一服务器的工作压力较低的情况下,才将预设格式文件备份至从存储区域,避免了备份任务的执行影响数据的写入和读取,保证了数据导出的效率。
42.在上述技术方案中,响应于用户发送的下载请求,从存储区域读取下载请求指示的目标文件,以供用户下载目标文件的步骤具体包括:根据下载请求,确定待下载的目标文件和下载目标文件的目标格式;根据文件状态数据确定目标文件的文件存储路径;根据读写平衡原则按照目标文件的文件存储路径读取目标文件;将读取的目标文件转换成目标格式,以供用户下载目标格式的目标文件。
43.在该技术方案中,响应于用户发送的下载请求,从存储区域读取下载请求指示的目标文件,以供用户下载目标文件的过程为:数据处理装置根据下载请求确定用户想要下载的目标文件和下载该目标文件的格式。
44.进一步地,数据处理装置根据第一服务器的缓存或者数据库中的文件状态数据确定该目标文件的文件存储路径。具体而言,根据该目标文件的文件存储路径能够从第一服务器的存储区域快速读取出目标文件。
45.进一步地,数据处理装置根据读写平衡原则按照确定出的目标文件的文件存储路径读取目标文件。可以理解的是,该读写平衡原则与上述读写平衡原则相同。
46.进一步地,数据处理装置将读取的目标文件转换成根据下载请求确定的目标格式,以使用户能够下载需求格式的文件。
47.需要说明的是,在通过存储区域读取目标文件的过程中,数据处理装置是先通过从存储区域读取目标文件,在从存储区域未备份有该目标文件的情况下,才通过主存储区域读取该目标文件。这样,有利于减轻主存储区域的压力,有利于提高数据导出效率。
48.在该技术方案中,数据处理装置能够按照读写平衡原则从第一服务器的存储区域快速读取目标文件,并将目标文件转换为下载请求指示的目标格式。这样,既可以提高数据导出的效率,又能够满足用户多格式下载需求,提升了用户的体验效果。
49.在上述技术方案中,将读取的目标文件转换成目标格式之前,数据处理方法还包括:对目标文件进行md5校验,并在目标文件通过md5校验的情况下,确定执行将读取的目标文件转换成目标格式进行下载的步骤。
50.在该技术方案中,在将读取的目标文件转换成用户需要的目标格式之前,数据处理装置还需要对读取的目标文件进行md5(message-digest algorithm 5信息摘要)校验,以确定读取的目标文件与写入该目标文件时的md5是否一致,避免用户下载与下载请求不一致的文件。
51.具体而言,在将预设格式文件写入存储区域成功,更新文件状态数据时,会同时记录该预设格式文件的md5编码,因此,在将读取的目标文件转换成用户需要的目标格式之前,数据处理装置可以对读取的目标文件进行md5校验。
52.在该技术方案中,在将读取的目标文件转换成用户需要的目标格式之前,数据处理装置还需要对读取的目标文件进行md5校验,有效避免了后续步骤中用户下载与下载请求不一致的文件,提升了用户的体验效果。
53.在上述技术方案中,将读取的目标文件转换成目标格式,以供用户下载目标格式的目标文件的步骤具体包括:在根据下载请求确认开启动态打包功能的情况下,根据当前网络速度确认下载目标文件的第一时长;在第一时长大于或者等于预设时长的情况下,将读取的目标文件转换成目标格式,并进行打包处理,以供用户下载经过打包处理后的目标格式的目标文件;或在第一时长小于或者等于预设时长的情况下,将读取的目标文件转换成目标格式,以供用户下载目标格式的目标文件。
54.在该技术方案中,将读取的目标文件转换成目标格式,以供用户下载目标格式的目标文件的过程为:数据处理装置首先根据下载请求判断用户是否开启动态打包功能。
55.进一步地,在确认开启动态打包功能的情况下,数据处理装置根据当前网络速度确认下载目标文件的第一时长。具体而言,根据目标文件的大小和当前网络速度计算下载该目标文件需要的时长,即第一时长。
56.进一步地,在数据处理装置判断得出第一时长大于或者等于预设时长的情况下,将读取的目标文件转换成目标格式,并进行打包处理,以供用户下载经过打包处理后的目标格式的目标文件。具体而言,如果第一时长大于或者等于预设时长,则表明直接下载该目标文件需要的时间过长,此时,数据处理装置将已经转换为目标格式的目标文件进行打包处理,即将上述目标文件打包成zip文件,以减小文件的大小,进而提高文件下载速率。
57.可以理解的是,将在下载的打包后的文件解压后的文件格式为目标格式。
58.进一步地,在数据处理装置判断得出第一时长小于预设时长的情况下,将读取的
目标文件转换成目标格式,以供用户下载目标格式的目标文件。具体而言,如果第一时长小于预设时长,则表明直接下载该目标文件需要的时间比较短,此时,数据处理装置只需要将目标文件转换成目标格式即可,无需对转换成目标格式的目标文件进行打包处理,减化了数据导出的流程。
59.在该技术方案中,数据处理装置能够根据当前的网络速度计算下载目标文件所需的时长,在时长较大的时候,将目标文件进行打包处理。这样,减小了文件的大小,提高了文件下载速率。
60.根据本发明的第二个方面,提出了一种数据处理装置,用于第一服务器,第一服务器为数据管理系统中独立于业务服务器之外的服务器,该数据处理装置包括:处理单元,用于响应业务服务器发送的导出请求,从业务服务器的数据库中查询导出请求指示的目标数据;处理单元还用于将目标数据以文件的方式存储至存储区域;处理单元还用于响应用户发送的下载请求,从存储区域读取下载请求指示的目标文件,以供用户下载目标文件。
61.在该技术方案中,数据处理装置为上述第一服务器的执行装置,上述第一服务器为数据管理系统中独立于业务服务器之外的服务器。
62.在该技术方案中,处理单元响应于业务服务器发送的导出请求,从数据管理系统用于存储数据的数据库中查询导出请求指示的目标数据。具体而言,根据导出请求能够确定目标数据的基本信息,处理单元根据上述基本信息能够从数据库中查询出目标数据。
63.具体地,处理单元是基于线程池按批次从上述数据库中查询目标数据,使得目标数据生成的顺序与接收导出请求的顺序趋于一致,以便后续步骤中,更容易确定哪些数据是本次导出请求对应的目标数据。
64.值得指出的是,处理单元在根据导出请求查询目标数据时,还会将导出请求指示的目标参数的基本信息记录到第一服务器的缓存和数据库中,使得如果第一服务器出现故障,处理单元可以在故障修复后继续响应该导出请求,完成查询目标数据的任务。
65.进一步地,处理单元将目标数据以文件的形式存储至第一服务器的存储区域。具体而言,将目标数据转换成文件格式能够减少占用的第一服务器的存储区域的存储空间。
66.进一步地,处理单元响应于用户发送的下载请求,从第一服务器的存储区域读取下载请求指示的目标文件,以供用户下载目标文件。具体而言,根据下载请求能够确定目标文件的基本信息,处理单元能够根据上述基本信息确定用户想要下载的文件(即目标文件)。
67.具体地,处理单元从存储区域读取目标文件后,可以将目标文件存放至第一服务器的缓存中,使得可以在不占用过多存储区域的存储空间的情况下,存放更多的历史版本的目标文件供用户下载。
68.需要说明的是,数据处理装置还包括获取单元,用于接收上述导出请求和下载请求。
69.在该技术方案中,在业务服务器接收到导出请求的情况下,会将导出请求发送至第一服务器,第一服务器的数据处理装置会通过处理单元会响应该导出请求,进行目标数据查询后生成文件,并将文件存储至存储区域。在接收到用户的下载请求是,处理单元会从存储区域读取下载请求指示的目标文件,以供用户下载。本发明技术方案中,将数据管理系统的数据导出功能进行拆分,采用单独的服务器处理用户的导出请求和下载请求,降低了
业务服务器的工作压力,避免了出现用户导出和下载文件时间过长的情况,提高了数据导出效率,保证了用户的下载体验。
70.根据本发明的第三个方面,提出了一种可读存储介质,其上存储有程序或指令,程序或指令被处理器执行时实现如本发明第一方面提出的数据处理方法。因此,该可读存储介质具备本发明第一方面提出的数据处理方法的全部有益效果,在此不再赘述。
71.根据本发明的第四个方面,提出了一种服务器,包括:如本发明第二方面提出的数据处理装置,和/或本发明第三方面提出的可读存储介质,因此,该服务器具备本发明第二方面提出的数据处理装置和/或本发明第三方面提出的可读存储介质的全部有益效果,在此不再赘述。
72.本发明的附加方面和优点将在下面的描述部分中变得明显,或通过本发明的实践了解到。
附图说明
73.本发明的上述和/或附加的方面和优点从结合下面附图对实施例的描述中将变得明显和容易理解,其中:
74.图1示出了本发明实施例的数据处理方法的流程示意图之一;
75.图2示出了本发明实施例的数据处理方法的流程示意图之二;
76.图3示出了本发明实施例的数据处理方法的流程示意图之三;
77.图4示出了本发明实施例的数据处理方法的流程示意图之四;
78.图5示出了本发明实施例的数据处理方法的流程示意图之五;
79.图6示出了本发明实施例的数据处理方法的流程示意图之六;
80.图7示出了本发明实施例的数据处理方法的流程示意图之七;
81.图8示出了本发明实施例的数据处理装置的示意框图;
82.图9示出了本发明实施例的服务器的示意框图;
83.图10示出了本发明实施例的数据处理方法的流程示意图之八;
84.图11示出了本发明实施例的数据处理方法的流程示意图之九;
85.图12示出了本发明实施例的数据处理方法的流程示意图之十。
具体实施方式
86.为了能够更清楚地理解本发明的上述目的、特征和优点,下面结合附图和具体实施方式对本发明进行进一步的详细描述。需要说明的是,在不冲突的情况下,本发明的实施例及实施例中的特征可以相互组合。
87.在下面的描述中阐述了很多具体细节以便于充分理解本发明,但是,本发明还可以采用其他不同于在此描述的其他方式来实施,因此,本发明的保护范围并不限于下面公开的具体实施例的限制。
88.下面结合图1至图12,通过具体的实施例及其应用场景对本技术实施例提出的数据处理方法、数据处理装置、可读存储介质和服务器进行详细地说明。
89.实施例一:
90.图1示出了本发明实施例的数据处理方法的流程示意图,其中,该数据处理方法包
括:
91.步骤s102,响应于业务服务器发送的导出请求,从数据管理系统的数据库中查询导出请求指示的目标数据;
92.步骤s104,将目标数据以文件的方式存储至存储区域;
93.步骤s106,响应于用户发送的下载请求,从存储区域读取下载请求指示的目标文件,以供用户下载目标文件。
94.需要说明的是,本发明所提出的数据处理方法的执行主体可以是数据处理装置,为了更加清楚的对本发明提出的数据处理方法进行说明,下面实施例中以数据处理方法的执行主体为数据处理装置进行示例性说明。
95.还需要说明的是,本实施例所提出的数据处理方法还可以用于第二服务器,第二服务器也是独立于上述业务服务器的服务器,其为第一服务器的备用服务器,在第一服务器宕机的情况下,可以通过第二服务器继续执行第一服务器的未完成的工作任务。这样,提高了本发明提出的数据处理方法的可靠性。
96.在该实施例中,数据处理装置为上述第一服务器的执行装置,上述第一服务器为数据管理系统中独立于业务服务器之外的服务器。
97.在该实施例中,数据处理装置响应于业务服务器发送的导出请求,从数据管理系统用于存储数据的数据库中查询导出请求指示的目标数据。具体而言,根据导出请求能够确定目标数据的基本信息,数据处理装置根据上述基本信息能够从数据库中查询出目标数据。
98.具体地,数据处理装置是基于线程池按批次从上述数据库中查询目标数据,使得目标数据生成的顺序与接收导出请求的顺序趋于一致,以便后续步骤中,更容易确定哪些数据是本次导出请求对应的目标数据。
99.值得指出的是,数据处理装置在根据导出请求查询目标数据时,还会将导出请求指示的目标参数的基本信息记录到第一服务器的缓存和数据库中,使得如果第一服务器出现故障,数据处理装置可以在故障修复后继续响应该导出请求,完成查询目标数据的任务。
100.进一步地,数据处理装置将目标数据以文件的形式存储至第一服务器的存储区域。具体而言,将目标数据转换成文件格式能够减少占用的第一服务器的存储区域的存储空间。
101.进一步地,数据处理装置响应于用户发送的下载请求,从第一服务器的存储区域读取下载请求指示的目标文件,以供用户下载目标文件。具体而言,根据下载请求能够确定目标文件的基本信息,数据处理装置能够根据上述基本信息确定用户想要下载的文件(即目标文件)。
102.具体地,数据处理装置从存储区域读取目标文件后,可以将目标文件存放至第一服务器的缓存中,使得可以在不占用过多存储区域的存储空间的情况下,存放更多的历史版本的目标文件供用户下载。
103.在该实施例中,在业务服务器接收到导出请求的情况下,会将导出请求发送至第一服务器,第一服务器的执行装置数据处理装置会响应该导出请求,进行目标数据查询后生成文件,并将文件存储至存储区域。在接收到用户的下载请求是,数据处理装置会从存储区域读取下载请求指示的目标文件,以供用户下载。在本实施例中,将数据管理系统的数据
导出功能进行拆分,采用单独的服务器处理用户的导出请求和下载请求,降低了业务服务器的工作压力,避免了出现用户导出和下载文件时间过长的情况,提高了数据导出效率,保证了用户的下载体验。
104.图2示出了本发明实施例的数据处理方法的流程示意图,其中,该数据处理方法包括:
105.步骤s202,响应于业务服务器发送的导出请求,从数据管理系统的数据库中查询导出请求指示的目标数据;
106.步骤s204,将目标数据转换成预设格式文件;
107.步骤s206,根据均衡分配原则确定预设格式文件的文件存储路径;
108.步骤s208,按照文件存储路径将预设格式文件写入存储区域;
109.步骤s210,在确认预设格式文件写入存储区域成功的情况下,更新文件状态数据;
110.步骤s212,响应于用户发送的下载请求,从存储区域读取下载请求指示的目标文件,以供用户下载目标文件。
111.其中,文件状态数据为用于指示预设格式文件的存储路径的数据。
112.在该实施例中,上述预设格式文件为二进制文件,便于提高文件的读写性能和安全性能;上述文件状态数据为用于指示预设格式文件的存储路径的数据;上述均衡分配原则为将预设格式文件写入存储区域的规则,具体地,存储区域中存在多个用于存储文件的文件夹,均衡分配原则就是在保证每个文件夹存储的文件量平衡的情况下,将预设格式文件存储至存储区域,可以理解的是,如果上述文件夹存储文件的数量达到阈值时,数据处理装置会新建一个文件夹,用来存储预设格式文件,这样,避免了出现因单个文件夹存储数据过多而造成加载困难的情况。
113.具体地,将目标数据以文件的方式存储至存储区域的过程为:数据处理装置首先将查询出的目标数据转换为预设格式的文件。具体而言,数据处理装置可以通过压缩和加密处理的方式将目标数据转换成预设格式文件。
114.进一步地,数据处理装置根据均衡分配原则分配预设格式文件的存储路径,以确定出预设格式文件的文件存储路径。
115.进一步地,数据处理装置按照上述文件存储路径将预设格式文件写入存储区域。具体而言,按照文件存储路径将预设格式文件写入存储区域,能够使第一服务器的存储区域得到充分的利用,同时方便后续步骤按照该文件存储路径读取预设格式文件。
116.进一步地,在数据处理装置判断预设格式文件写入存储区域成功,并在确认预设格式文件写入存储区域成功的情况下,更新文件状态数据。具体地,根据文件状态数据能够了解到预设格式文件是否已经成功写入至第一服务器的存储区域以及预设格式文件的文件存储路径。
117.具体而言,文件状态数据可以存储于第一服务器的缓存中,也可以存储于第一服务器的数据库中,数据处理装置可以通过更新缓存或数据库的方式更新文件状态数据。
118.在该实施例中,数据处理装置首先将查询出的目标数据转换成预设格式文件,并根据均衡分配原则确定出预设格式文件的文件存储路径,然后按照文件存储路径将预设格式文件写入至第一服务器的存储区域,同时更新文件状态数据。这样,使第一服务器的存储区域能够得到充分的利用,同时在后续步骤中,数据处理装置可以根据文件状态数据指示
的文件存储路径快速读取预设格式文件,提高了数据导出效率。
119.图3示出了本发明实施例的数据处理方法的流程示意图,其中,该数据处理方法包括:
120.步骤s302,响应于业务服务器发送的导出请求,从数据管理系统的数据库中查询导出请求指示的目标数据;
121.步骤s304,采用预设数据存储结构接收目标数据,并压缩和加密目标数据;
122.步骤s306,以数据流的形式将经过压缩和加密的目标数据转换成预设格式文件;
123.步骤s308,根据均衡分配原则确定预设格式文件的文件存储路径;
124.步骤s310,按照文件存储路径将预设格式文件写入存储区域;
125.步骤s312,在确认预设格式文件写入存储区域成功的情况下,更新文件状态数据;
126.步骤s314,响应于用户发送的下载请求,从存储区域读取下载请求指示的目标文件,以供用户下载目标文件。
127.在该实施例中,上述预设数据存储结构为json(轻量型数据存储结构)格式,json格式的可读性好、适配性强,便于后续步骤对目标数据的格式转换。
128.具体地,将目标数据转换成预设格式文件的过程为:数据处理装置采用预设数据存储结构接收目标数据,并压缩和加密目标数据。即数据处理装置将查询出的目标数据转换成json格式的数据进行接收,然后对json格式的目标数据进行压缩和加密。
129.具体而言,数据处理装置采用snappy的方式对json格式的目标数据进行压缩,提高了压缩速度。数据处理装置采用aes对经过压缩的json格式的目标数据进行加密,使得即使第一服务器被攻破,也无法直接读取目标数据,保证了数据读写的安全性。
130.进一步地,数据处理装置以数据流的形式将经过压缩和加密的目标数据转换成预设格式文件,即数据处理装置将经过压缩和加密的目标数据以数据流的方式写入至预设格式文件中。
131.在该实施例中,数据处理装置通过预设存储结构(轻量型数据存储结构)接收目标数据,并通过对目标数据进行压缩和加密处理后,确定出预设格式文件数据。这样,即便于后续步骤对目标数据的格式转换,也保证了数据读写的安全性。
132.图4示出了本发明实施例的数据处理方法的流程示意图,其中,存储区域包括主存储区域和从存储区域,数据处理方法包括:
133.步骤s402,响应于业务服务器发送的导出请求,从数据管理系统的数据库中查询导出请求指示的目标数据;
134.步骤s404,将目标数据转换成预设格式文件;
135.步骤s406,根据均衡分配原则确定预设格式文件的文件存储路径;
136.步骤s408,根据读写平衡原则按照文件存储路径将预设格式文件写入至主存储区域;
137.步骤s410,在确认第一服务器工作压力为预设压力的情况下,将预设格式文件备份至从存储区域;
138.步骤s412,在确认预设格式文件写入存储区域成功的情况下,更新文件状态数据;
139.步骤s414,响应于用户发送的下载请求,从存储区域读取下载请求指示的目标文件,以供用户下载目标文件。
140.其中,预设格式文件在从存储区域的文件存储路径与主存储区域相同。
141.在该实施例中,第一服务器的存储区域包括主存储区域和从存储区域,其中,从存储区域为用于备份的存储区域,可以将写入在主存储区域中的重要数据或者全部数据备份至从存储区域,使得在主存储区域发生故障时,数据处理装置也可以通过从存储区域中读取数据,提高了第一服务器的容灾能力。
142.具体地,上述读写平衡原则用于指示数据处理装置从第一服务器的存储区域读取数据和将数据写入至第一服务器的存储区域的规则,具体地,第一服务器的待执行队列中可能存在多个待执行的读取和写入任务,读写平衡原则就是将读取任务和写入任务的执行顺序进行平衡,如执行3条读取任务后,执行2条写入任务,以优化数据处理装置执行读取/写入数据的方式,进而提高数据导出的效率。
143.具体地,按照文件存储路径将预设格式文件写入存储区域的过程为:数据处理装置首先根据读写平衡原则按照文件存储路径将预设格式文件写入至主存储区域;然后在确认第一服务器的工作压力为预设压力的情况下(即第一服务器工作压力较低的情况下),将预设格式文件备份至从存储区域。
144.具体而言,数据处理装置可以通过判断待执行任务数量确定第一服务器的工作压力的高低,例如,待执行任务数量少于5个时,则可以确定第一服务器的工作压力较低,此时,确定可以执行将预设格式文件备份至从存储区域。
145.进一步地,还可以根据读写平衡原则确定何时执行将预设格式文件备份至从存储区域。例如,在执行3条读取任务和执行2条写入任务后,执行一次将预设格式文件备份至从存储区域的任务。
146.需要说明的是,预设格式文件在主存储区域和从存储区域的文件存储路径相同,保证了后续步骤中,在主存储区域发生故障时,数据处理装置还可以根据文件存储路径通过从存储区域快速读取该预设格式文件。
147.在该实施例中,数据处理装置在按照文件存储路径将预设格式文件写入存储区域的过程中,是先按照读写平衡原则将预设格式文件写入至主存储区域,然后在第一服务器的工作压力较低的情况下,将预设格式文件备份至从存储区域。这样,使得在主存储区域发生故障时,数据处理装置还可以通过从存储区域中读取数据,提高了第一服务器的容灾能力。同时,数据处理装置是在第一服务器的工作压力较低的情况下,才将预设格式文件备份至从存储区域,避免了备份任务的执行影响数据的写入和读取,保证了数据导出的效率。
148.图5示出了本发明实施例的数据处理方法的流程示意图,其中,该数据处理方法包括:
149.步骤s502,响应于业务服务器发送的导出请求,从数据管理系统的数据库中查询导出请求指示的目标数据;
150.步骤s504,将目标数据转换成预设格式文件;
151.步骤s506,根据均衡分配原则确定预设格式文件的文件存储路径;
152.步骤s508,按照文件存储路径将预设格式文件写入存储区域;
153.步骤s510,在确认预设格式文件写入存储区域成功的情况下,更新文件状态数据;
154.步骤s512,根据下载请求,确定待下载的目标文件和下载目标文件的目标格式;
155.步骤s514,根据文件状态数据确定目标文件的文件存储路径;
156.步骤s516,根据读写平衡原则按照目标文件的文件存储路径读取目标文件;
157.步骤s518,将读取的目标文件转换成目标格式,以供用户下载目标格式的目标文件。
158.在该实施例中,响应于用户发送的下载请求,从存储区域读取下载请求指示的目标文件,以供用户下载目标文件的过程为:数据处理装置根据下载请求确定用户想要下载的目标文件和下载该目标文件的格式。
159.进一步地,数据处理装置根据第一服务器的缓存或者数据库中的文件状态数据确定该目标文件的文件存储路径。具体而言,根据该目标文件的文件存储路径能够从第一服务器的存储区域快速读取出目标文件。
160.进一步地,数据处理装置根据读写平衡原则按照确定出的目标文件的文件存储路径读取目标文件。可以理解的是,该读写平衡原则与上述读写平衡原则相同。
161.进一步地,数据处理装置将读取的目标文件转换成根据下载请求确定的目标格式,以使用户能够下载需求格式的文件。具体而言,上述目标格式包括csv、xslx、json、pdf等格式。
162.需要说明的是,在通过存储区域读取目标文件的过程中,数据处理装置是先通过从存储区域读取目标文件,在从存储区域未备份有该目标文件的情况下,才通过主存储区域读取该目标文件。这样,有利于减轻主存储区域的压力,有利于提高数据导出效率。
163.在该实施例中,数据处理装置能够按照读写平衡原则从第一服务器的存储区域快速读取目标文件,并将目标文件转换为下载请求指示的目标格式。这样,既可以提高数据导出的效率,又能够满足用户多格式下载需求,提升了用户的体验效果。
164.图6示出了本发明实施例的数据处理方法的流程示意图,其中,该数据处理方法包括:
165.步骤s602,响应于业务服务器发送的导出请求,从数据管理系统的数据库中查询导出请求指示的目标数据;
166.步骤s604,将目标数据转换成预设格式文件;
167.步骤s606,根据均衡分配原则确定预设格式文件的文件存储路径;
168.步骤s608,按照文件存储路径将预设格式文件写入存储区域;
169.步骤s610,在确认预设格式文件写入存储区域成功的情况下,更新文件状态数据;
170.步骤s612,根据下载请求,确定待下载的目标文件和下载目标文件的目标格式;
171.步骤s614,根据文件状态数据确定目标文件的文件存储路径;
172.步骤s616,根据读写平衡原则按照目标文件的文件存储路径读取目标文件;
173.步骤s618,对目标文件进行md5校验;
174.步骤s620,在目标文件通过md5校验的情况下,将读取的目标文件转换成目标格式,以供用户下载目标格式的目标文件。
175.在该实施例中,在将读取的目标文件转换成用户需要的目标格式之前,数据处理装置还需要对读取的目标文件进行md5校验,以确定读取的目标文件与写入该目标文件时的md5是否一致,避免用户下载与下载请求不一致的文件。
176.具体而言,在将预设格式文件写入存储区域成功,更新文件状态数据时,会同时记录该预设格式文件的md5编码,因此,在将读取的目标文件转换成用户需要的目标格式之
前,数据处理装置可以对读取的目标文件进行md5校验。
177.在该实施例中,在将读取的目标文件转换成用户需要的目标格式之前,数据处理装置还需要对读取的目标文件进行md5校验,有效避免了后续步骤中用户下载与下载请求不一致的文件,提升了用户的体验效果。
178.图7示出了本发明实施例的数据处理方法的流程示意图,其中,该数据处理方法包括:
179.步骤s702,响应于业务服务器发送的导出请求,从数据管理系统的数据库中查询导出请求指示的目标数据;
180.步骤s704,将目标数据转换成预设格式文件;
181.步骤s706,根据均衡分配原则确定预设格式文件的文件存储路径;
182.步骤s708,按照文件存储路径将预设格式文件写入存储区域;
183.步骤s710,在确认预设格式文件写入存储区域成功的情况下,更新文件状态数据;
184.步骤s712,根据下载请求,确定待下载的目标文件和下载目标文件的目标格式;
185.步骤s714,根据文件状态数据确定目标文件的文件存储路径;
186.步骤s716,根据读写平衡原则按照目标文件的文件存储路径读取目标文件;
187.步骤s718,在根据下载请求确认开启动态打包功能的情况下,根据当前网络速度确认下载目标文件的第一时长;
188.步骤s720,在第一时长大于预设时长的情况下,将读取的目标文件转换成目标格式,并进行打包处理,以供用户下载经过打包处理后的目标格式的目标文件;
189.步骤s722,在第一时长小于或者等于预设时长的情况下,将读取的目标文件转换成目标格式,以供用户下载目标格式的目标文件。
190.在该实施例中,将读取的目标文件转换成目标格式,以供用户下载目标格式的目标文件的过程为:数据处理装置首先根据下载请求判断用户是否开启动态打包功能。
191.进一步地,在确认开启动态打包功能的情况下,数据处理装置根据当前网络速度确认下载目标文件的第一时长。具体而言,根据目标文件的大小和当前网络速度计算下载该目标文件需要的时长,即第一时长。
192.进一步地,在数据处理装置判断得出第一时长大于或者等于预设时长的情况下,将读取的目标文件转换成目标格式,并进行打包处理,以供用户下载经过打包处理后的目标格式的目标文件。具体而言,如果第一时长大于或者等于预设时长,则表明直接下载该目标文件需要的时间过长,此时,数据处理装置将已经转换为目标格式的目标文件进行打包处理,即将上述目标文件打包成zip文件,以减小文件的大小,进而提高文件下载速率。
193.可以理解的是,将在下载的打包后的文件解压后的文件格式为目标格式。
194.进一步地,在数据处理装置判断得出第一时长小于预设时长的情况下,将读取的目标文件转换成目标格式,以供用户下载目标格式的目标文件。具体而言,如果第一时长小于预设时长,则表明直接下载该目标文件需要的时间比较短,此时,数据处理装置只需要将目标文件转换成目标格式即可,无需对转换成目标格式的目标文件进行打包处理,减化了数据导出的流程。
195.在该实施例中,数据处理装置能够根据当前的网络速度计算下载目标文件所需的时长,在时长较大的时候,将目标文件进行打包处理。这样,减小了文件的大小,提高了文件
下载速率。
196.实施例二:
197.图8示出了本发明实施例的数据处理装置的示意框图,其中,用该数据处理装置800用于第一服务器,第一服务器为数据管理系统中独立于业务服务器之外的服务器,该数据处理装置800包括:处理单元802,用于响应业务服务器发送的导出请求,从业务服务器的数据库中查询导出请求指示的目标数据;处理单元802还用于将目标数据以文件的方式存储至存储区域;处理单元802还用于响应用户发送的下载请求,从存储区域读取下载请求指示的目标文件,以供用户下载目标文件。
198.在该实施例中,数据处理装置800为上述第一服务器的执行装置,上述第一服务器为数据管理系统中独立于业务服务器之外的服务器。
199.在该实施例中,处理单元802响应于业务服务器发送的导出请求,从数据管理系统用于存储数据的数据库中查询导出请求指示的目标数据。具体而言,根据导出请求能够确定目标数据的基本信息,处理单元802根据上述基本信息能够从数据库中查询出目标数据。
200.具体地,处理单元802是基于线程池按批次从上述数据库中查询目标数据,使得目标数据生成的顺序与接收导出请求的顺序趋于一致,以便后续步骤中,更容易确定哪些数据是本次导出请求对应的目标数据。
201.值得指出的是,处理单元802在根据导出请求查询目标数据时,还会将导出请求指示的目标参数的基本信息记录到第一服务器的缓存和数据库中,使得如果第一服务器出现故障,处理单元802可以在故障修复后继续响应该导出请求,完成查询目标数据的任务。
202.进一步地,处理单元802将目标数据以文件的形式存储至第一服务器的存储区域。具体而言,将目标数据转换成文件格式能够减少占用的第一服务器的存储区域的存储空间。
203.进一步地,处理单元802响应于用户发送的下载请求,从第一服务器的存储区域读取下载请求指示的目标文件,以供用户下载目标文件。具体而言,根据下载请求能够确定目标文件的基本信息,处理单元802能够根据上述基本信息确定用户想要下载的文件(即目标文件)。
204.具体地,处理单元802从存储区域读取目标文件后,可以将目标文件存放至第一服务器的缓存中,使得可以在不占用过多存储区域的存储空间的情况下,存放更多的历史版本的目标文件供用户下载。
205.需要说明的是,数据处理装置800还包括获取单元804,用于接收上述导出请求和下载请求。
206.在该实施例中,在业务服务器接收到导出请求的情况下,会将导出请求发送至第一服务器,第一服务器的数据处理装置800会通过处理单元802会响应该导出请求,进行目标数据查询后生成文件,并将文件存储至存储区域。在接收到用户的下载请求是,处理单元802会从存储区域读取下载请求指示的目标文件,以供用户下载。在本实施例中,将数据管理系统的数据导出功能进行拆分,采用单独的服务器处理用户的导出请求和下载请求,降低了业务服务器的工作压力,避免了出现用户导出和下载文件时间过长的情况,提高了数据导出效率,保证了用户的下载体验。
207.进一步地,在该实施例中,在将目标数据以文件的方式存储至存储区域的步骤中。
处理单元802具体将目标数据转换成预设格式文件;根据均衡分配原则确定预设格式文件的文件存储路径;按照文件存储路径将预设格式文件写入存储区域;在确认预设格式文件写入存储区域成功的情况下,更新文件状态数据;其中,文件状态数据为用于指示预设格式文件的存储路径的数据。
208.进一步地,在该实施例中,在目标数据转换成预设格式文件的步骤中,处理单元802具体用于采用预设数据存储结构接收目标数据,并压缩和加密目标数据;以数据流的形式将经过压缩和加密的目标数据转换成预设格式文件。
209.进一步地,在该实施例中,存储区域具体包括主存储区域和从存储区域,在按照文件存储路径将预设格式文件写入存储区域的步骤中,处理单元802具体用于根据读写平衡原则按照文件存储路径将预设格式文件写入至主存储区域;在确认第一服务器工作压力为预设压力的情况下,将预设格式文件备份至从存储区域;其中,预设格式文件在从存储区域的文件存储路径与主存储区域相同。
210.进一步地,在该实施例中,在响应于用户发送的下载请求,从存储区域读取下载请求指示的目标文件,以供用户下载目标文件的步骤中,处理单元802具体用于根据下载请求,确定待下载的目标文件和下载目标文件的目标格式;根据文件状态数据确定目标文件的文件存储路径;根据读写平衡原则按照目标文件的文件存储路径读取目标文件;将读取的目标文件转换成目标格式,以供用户下载目标格式的目标文件。
211.进一步地,在该实施例中,在将读取的目标文件转换成目标格式之前,处理单元802还用于对目标文件进行md5校验,并在目标文件通过md5校验的情况下,确定执行将读取的目标文件转换成目标格式进行下载的步骤。
212.进一步地,在该实施例中,在将读取的目标文件转换成目标格式,以供用户下载目标格式的目标文件的步骤中,处理单元802具体用于在根据下载请求确认开启动态打包功能的情况下,根据当前网络速度确认下载目标文件的第一时长;在第一时长大于预设时长的情况下,将读取的目标文件转换成目标格式,并进行打包处理,以供用户下载经过打包处理后的目标格式的目标文件;或在第一时长小于或者等于预设时长的情况下,将读取的目标文件转换成目标格式,以供用户下载目标格式的目标文件。
213.实施例三:
214.根据本发明的第三个实施例,提出了一种可读存储介质,其上存储有程序或指令,程序或指令被处理器执行时实现如上述实施例提出的数据处理方法。因此,该可读存储介质具备上述实施例提出的数据处理方法的全部有益效果,在此不再赘述。
215.实施例四:
216.图9示出了本发明实施例的服务器的示意框图,其中,该服务器900包括:如本发明上述实施例提出的数据处理装置800,和/或本发明上述实施例提出的可读存储介质902,因此,该服务器900具备本发明上述实施例的数据处理装置800和/或本发明上述实施例提出的可读存储介质902的全部有益效果,在此不再赘述。
217.实施例五:
218.本实施例结合图10至图12对本发明提出的数据处理方法进行示例性说明。
219.本实施例提出的数据处理方法主要分为两个部分,分为处理导出请求和处理下载请求。
220.在该实施例中,具体地,数据处理导出请求的流程如图10所示:
221.步骤s1002,用户申请导出;
222.步骤s1004,记录用户下载数据参数;
223.步骤s1006,下载任务放置线程池执行;
224.步骤s1008,查询数据存入内存/压缩/加密;
225.步骤s1010,生成二进制文件;
226.步骤s1012,获取磁盘存储路径;
227.步骤s1014,io管理模块是否允许存储;否执行步骤s1012,是执行步骤s1016;
228.步骤s1016,文件写入数据主盘,并在服务器压力较小的情况下,执行备份任务值数据从盘;
229.步骤s1018,更新数据状态为“可下载”。
230.在该实施例中,用户申请数据导出后(即接收到导出请求后),记录了用户下载数据参数(即上述目标参数的基本信息)。参数包括:数据筛选条件、用户特征数据等。
231.进一步地,数据处理装置根据上述用户下载参数,生成下载任务并将下载任务放置线程池执行,即从数据管理系统的数据库中查询目标数据。
232.进一步地,数据处理装置根据查询的结果,由json格式进行接收,将json格式的数据使用snappy进行压缩,将数据压缩后,将获取到的压缩后数据进行aes加密。
233.进一步地,数据处理装置将加密后的数据转化为二进制文件(即预设格式文件)数据流,用于写入磁盘(对应于上述第一服务器的存储区域)。
234.进一步地,数据处理装置根据均衡分配确定二进制文件写入磁盘的存储路径(对应于上述文件存储路径)。
235.进一步地,数据处理装置调用io管理模块安排文件的存储进度,保持读写平衡,即根据读写平衡原则将二进制文件写入至磁盘中。
236.进一步地,在io模块允许存储的情况下,数据处理装置将二进制文件写入至数据主盘(对应于上述主存储区域),并在服务器压力较小的情况下,执行备份任务值数据从盘(对应于上述从存储区域)。
237.进一步地,数据处理装置对上述保存二进制文件进行状态更新(即更显文件状态数据),并记录该二进制文件的md5编码。
238.需要说明的是,读取二进制文件时,优先读取从盘数据。
239.在该实施例中,处理下载请求的流程如图11所示:
240.步骤s1102,用户申请下载;
241.步骤s1104,获取用户参数及网络速度;
242.步骤s1106,从缓存/数据库获取文件存储路径;
243.步骤s1108,任务存放至待读取队列;
244.步骤s1110,io管理模块是否允许读取;否执行步骤s1108,是执行步骤s1112;
245.步骤s1112,按照从主盘数据读取文件;
246.步骤s1114,该文件md5校验是否通过;否结束本次流程,是执行步骤s1116;
247.步骤s1116,文件解密/解压/转格;
248.步骤s1118,生成用户指定格式文件;
249.步骤s1120,用户是否开启动态打包功能;否执行步骤s1124,是执行步骤s1122;
250.步骤s1122,将格式文件打包成压缩文件;
251.步骤s1124,将文件推送至用户页面进行下载。
252.在该实施例中,当用户申请下载时,针对当前网络进行测速。并根据下载请求从缓存或者第一服务器的数据库中获取文件状态数据。
253.进一步地,数据处理装置根据文件状态数据查询本次下载的文件存储路径。
254.进一步地,数据处理装置为了缓冲第一服务器及磁盘压力,采线程池的方式对文件进行排序读取。
255.进一步地,数据处理装置调用io管理模块会安排文件的读取进度,保持读写平衡。
256.进一步地,数据处理装置优先从盘读取待下载文件,若从盘发生意外无法读取或者存盘中为备份待下载文件,再从主盘进行读取。
257.进一步地,数据处理装置将已读取的文件进行md5校验,若与写入md5不一致,则禁止下载并提示用户数据异常,结束本次流程。
258.进一步地,数据处理装置将已读取的文件进行解密/解压/转为json数据,并根据用户的下载格式要求,将json文件转为对应格式。
259.进一步地,数据处理装置根据下载请求判断用户是否开启动态打包功能,若用户开启了动态打包功能,则根据第一步检测的网速和待下载文件大小,预估用户下载该文件的时长。若超过1分钟,则将待下载文件压缩缩为zip格式后,推送至用户下载页面。
260.进一步地,若用户未开启动态打包功能,则直接将按照用户要求转换好格式的待下载文件推送至用户下载页面。
261.在上述实施例中,数据处理装置调用io管理模块会安排文件的存储或者读取进度,以保持读写平衡的流程如图12所示:
262.步骤s1202,拉取文件排队列表;
263.步骤s1204,是否存在其他排队任务;否结束流程,是执行步骤s1206;
264.步骤s1206,读写任务是否平衡;否执行步骤s1208,是执行步骤s1212;
265.步骤s1208,将任务搁置下轮;
266.步骤s1210,该任务搁置是否超过3次;否执行步骤s1204,是执行步骤s1214;
267.步骤s1212,预测执行时磁盘是否过载;否执行步骤s1214,是执行步骤s1208;
268.步骤s1214,异步处理文件。
269.在该实施例中,数据处理装置拉取一批待写入或者待读取的任务,放入文件排队列表。
270.进一步地,数据处理装置查询该文件排队列表分配到的线程,是否正在执行其他任务。
271.进一步地,数据处理装置根据待执行的读写任务,安排当前要执行的读写平衡。读取平衡并非读数量等于写数量,而是按比例进行任务分配。
272.进一步地,在当前任务不能满足读取平衡,数据处理装置将该任务搁置到缓存中。
273.进一步地,数据处理装置判断读取任务的被搁置次数是否超过3次,若超过3次,则下一次执行该读取任务。
274.进一步地,数据处理装置根据当前服务器资源的占用情况(包括磁盘的读写量,
cpu的线程情况,内存的占用比等),预测是否满足该任务的执行。若不满足该任务的执行,则同样将该任务搁置到下一轮。
275.进一步地,数据处理装置将已确认执行的任务进行拆分,将任务中的文件多线程进行处理。
276.在本说明书的描述中,术语“第一”、“第二”仅用于描述的目的,而不能理解为指示或暗示相对重要性,除非另有明确的规定和限定;术语“连接”、“安装”、“固定”等均应做广义理解,例如,“连接”可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是直接相连,也可以通过中间媒介间接相连。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
277.在本说明书的描述中,术语“一个实施例”、“一些实施例”、“具体实施例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施例或实例。而且,描述的具体特征、结构、材料或特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
278.另外,本发明各个实施例之间的技术方案可以相互结合,但是必须是以本领域普通技术人员能够实现为基础,当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在,也不在本发明要求的保护范围之内。
279.以上仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

技术特征:
1.一种数据处理方法,其特征在于,用于第一服务器,所述第一服务器为数据管理系统中独立于业务服务器之外的服务器,所述数据处理方法包括:响应于所述业务服务器发送的导出请求,从所述数据管理系统的数据库中查询所述导出请求指示的目标数据;将所述目标数据以文件的方式存储至存储区域;响应于用户发送的下载请求,从所述存储区域读取所述下载请求指示的目标文件,以供用户下载所述目标文件。2.根据权利要求1所述的数据处理方法,其特征在于,所述将所述目标数据以文件的方式存储至存储区域,具体包括:将所述目标数据转换成预设格式文件;根据均衡分配原则确定所述预设格式文件的文件存储路径;按照所述文件存储路径将所述预设格式文件写入所述存储区域;在确认所述预设格式文件写入所述存储区域成功的情况下,更新文件状态数据;其中,所述文件状态数据为用于指示所述预设格式文件的存储路径的数据。3.根据权利要求2所述的数据处理方法,其特征在于,所述将所述目标数据转换成所述预设格式文件,具体包括:采用预设数据存储结构接收所述目标数据,并压缩和加密所述目标数据;以数据流的形式将经过压缩和加密的所述目标数据转换成所述预设格式文件。4.根据权利要求2所述的数据处理方法,其特征在于,所述存储区域包括主存储区域和从存储区域,所述按照所述文件存储路径将所述预设格式文件写入所述存储区域,具体包括:根据读写平衡原则按照所述文件存储路径将所述预设格式文件写入至主存储区域;在确认所述第一服务器工作压力为预设压力的情况下,将所述预设格式文件备份至从存储区域;其中,所述预设格式文件在所述从存储区域的所述文件存储路径与主存储区域相同。5.根据权利要求2所述的数据处理方法,其特征在于,所述响应于用户发送的下载请求,从所述存储区域读取所述下载请求指示的目标文件,以供用户下载所述目标文件,具体包括:根据所述下载请求,确定待下载的所述目标文件和下载所述目标文件的目标格式;根据所述文件状态数据确定所述目标文件的文件存储路径;根据读写平衡原则按照所述目标文件的文件存储路径读取所述目标文件;将读取的所述目标文件转换成所述目标格式,以供用户下载所述目标格式的目标文件。6.根据权利要求5所述的数据处理方法,其特征在于,所述将读取的所述目标文件转换成所述目标格式之前,所述数据处理方法还包括:对所述目标文件进行md5校验,并在所述目标文件通过md5校验的情况下,确定执行将读取的所述目标文件转换成所述目标格式进行下载的步骤。7.根据权利要求5所述的数据处理方法,其特征在于,所述将读取的所述目标文件转换成所述目标格式,以供用户下载所述目标格式的目标文件,具体包括:
在根据所述下载请求确认开启动态打包功能的情况下,根据当前网络速度确认下载所述目标文件的第一时长;在所述第一时长大于或者等于预设时长的情况下,将读取的所述目标文件转换成所述目标格式,并进行打包处理,以供用户下载经过打包处理后的所述目标格式的目标文件;或在所述第一时长小于或者等于预设时长的情况下,将读取的所述目标文件转换成所述目标格式,以供用户下载所述目标格式的目标文件。8.一种数据处理装置,其特征在于,用于第一服务器,所述第一服务器为数据管理系统中独立于业务服务器之外的服务器,所述数据处理装置包括:处理单元,用于响应所述业务服务器发送的导出请求,从所述业务服务器的数据库中查询所述导出请求指示的目标数据;所述处理单元还用于将所述目标数据以文件的方式存储至存储区域;所述处理单元还用于响应用户发送的下载请求,从所述存储区域读取所述下载请求指示的目标文件,以供用户下载所述目标文件。9.一种可读存储介质,其特征在于,所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时实现如权利要求1至7中任一项所述的数据处理方法的步骤。10.一种服务器,其特征在于,包括:如权利要求8所述的数据处理装置;和/或如权利要求9所述的可读存储介质。

技术总结
本发明提出了一种数据处理方法、数据处理装置、可读存储介质和服务器。该数据处理方法用于第一服务器,第一服务器为数据管理系统中独立于业务服务器之外的服务器,该数据处理方法包括:响应于业务服务器发送的导出请求,从数据管理系统的数据库中查询导出请求指示的目标数据;将目标数据以文件的方式存储至存储区域;响应于用户发送的下载请求,从存储区域读取下载请求指示的目标文件,以供用户下载目标文件。在上述方案中,将数据管理系统的数据导出功能进行拆分,采用单独的服务器处理用户的导出请求和下载请求,降低了业务服务器的工作压力,避免了出现用户导出和下载文件时间过长的情况,提高了数据导出效率。提高了数据导出效率。提高了数据导出效率。


技术研发人员:赵云桥 王明怀
受保护的技术使用者:用友汽车信息科技(上海)股份有限公司
技术研发日:2022.04.07
技术公布日:2022/7/5
转载请注明原文地址: https://www.8miu.com/read-15969.html

最新回复(0)