发明内容
本发明提供一种文字识别方法、装置、电子设备及计算机可读存储介质,其主要目的在于提高文字识别的准确性。
为实现上述目的,本发明提供的一种文字识别方法,包括:
获取文本图像,对所述文本图像进行文字检测,得到文字检测框;
对所述文字检测框进行筛选及合并,得到目标文字框;
对所述目标文字框进行无文字区域裁剪,得到裁剪文字框;
利用对所述裁剪文字框进行文字提取,得到初始文字集;
提取所述初始文字集中的关键文字,并利用正则校验技术对所述关键文字进行校验,将检验成功的所述关键文字作为所述文本图像的文字识别结果。
可选地,所述所述文本图像进行文字检测,得到文字检测框,包括:
利用文字目标框检测模型中的卷积层对所述文本图像进行图像特征提取,得到特征图像,所述文字目标框检测模型是预先训练完成的;
利用所述文字目标框检测模型中批标准化层对所述特征图像进行标准化操作,得到标准特征图像;
利用所述文字目标框检测模型中融合层将所述文本图像的底层特征与所述标准特征图像进行融合,得到目标特征图像;
利用所述文字目标框检测模型中激活函数输出所述目标特征图像的检测结果,根据所述检测结果,生成文字检测框。
可选地,所述对所述目标文字框进行无文字区域裁剪,得到裁剪文字框,包括:
对所述目标文字框进行二值化处理,得到二值化文字框;
查询所述二值化文字框中纵轴方向的文字起始位置和文字终止位置以及所述二值化文字框的纵轴方向长度,根据所述纵轴方向的文字起始位置、文字终止位置以及纵轴方向长度,对所述二值化文字框进行纵向裁剪,得到纵向裁剪文字框;
查询所述纵向裁剪文字框中横轴方向的文字起始位置和文字终止位置以及所述纵向裁剪文字框的横轴方向长度,根据所述横轴方向的文字起始位置和文字终止位置以及横轴方向长度,对所述纵向裁剪文字框进行横向裁剪,得到裁剪文字框。
可选地,所述对所述裁剪文字框进行文字提取,得到初始文字集,包括:
利用文字提取模型中的卷积神经网络对所述裁剪文字框进行特征提取,得到特征文字框,所述文字提取模型是预先训练完成的;
利用所述文字提取模型中的长短期记忆网络对所述特征文字框进行文字位置序列识别,生成原始文字集;
利用所述文字提取模型中的时序分类网络对所述原始文字集进行字符对齐,生成初始文字集。
可选地,所述利用文字提取模型中的卷积神经网络对所述裁剪文字框进行特征提取,得到特征文字框,包括:
利用所述卷积神经网络中的卷积层对所述裁剪文字框进行卷积特征提取,得到初始特征文字框;
利用所述卷积神经网络中的池化层对所述初始特征裁剪框进行降维,得到降维特征文字框;
利用所述卷积神经网络中的全连接层输出所述降维特征文字框,得到特征文字框。
可选地,所述利用所述文字提取模型中的长短期记忆网络对所述特征文字框进行文字位置序列识别,生成原始文字集,包括:
利用所述长短期记忆网络的输入门计算所述特征文字框的状态值;
利用所述长短期记忆网络的遗忘门计算所述特征文字框的激活值;
根据所述状态值和激活值计算所述特征文字框的状态更新值;
利用所述长短期记忆网络的输出门计算所述状态更新值的文字位置序列,生成原始文字集。
可选地,所述提取所述初始文字集中的关键文字,包括:
删除所述初始文字集中的停用词,得到标准文字集;
计算所述标准文字集中每个标准文字的权重,从所述标准文字集中筛选出所述权重大于预设权重的标准文字作为所述关键文字。
为了解决上述问题,本发明还提供一种文字识别装置,所述装置包括:
检测模块,用于获取文本图像,对所述文本图像进行文字检测,得到文字检测框;
合并模块,用于对所述文字检测框进行筛选及合并,得到目标文字框;
裁剪模块,用于对所述目标文字框进行无文字区域裁剪,得到裁剪文字框;
提取模块,用于对所述裁剪文字框进行文字提取,得到初始文字集;
识别模块,用于提取所述初始文字集中的关键文字,并利用正则校验技术对所述关键文字进行校验,将检验成功的所述关键文字作为所述文本图像的文字识别结果。
为了解决上述问题,本发明还提供一种电子设备,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以实现上述所述的文字识别方法。
为了解决上述问题,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一个计算机程序,所述至少一个计算机程序被电子设备中的处理器执行以实现上述所述的文字识别方法。
本发明实施例首先获取文本图像,型对所述文本图像进行文字检测,得到文字检测框,可以检测文本图像中带有文字位置坐标的检测框;其次,本发明实施例对所述文字检测框进行筛选、合并及无文字区域裁剪,得到裁剪文字框,可以提升文字识别性能,从而使得图片文字识别的准确率大大提高;进一步地,本发明实施例利对所述裁剪文字框进行文字提取,得到初始文字集,并提取所述初始文字集中的关键文字,并利用正则校验技术对所述关键文字进行校验,将检验成功的所述关键文字作为所述文本图像的文字识别结果。因此,本发明提出的一种文字识别方法、装置、电子设备以及存储介质可以提高文字识别的准确性。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本申请实施例提供一种文字识别方法。所述文字识别方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之,所述文字识别方法可以由安装在终端设备或服务端设备的软件或硬件来执行,所述软件可以是区块链平台。所述服务端包括但不限于:单台服务器、服务器集群、云端服务器或云端服务器集群等。
参照图1所示,为本发明一实施例提供的文字识别方法的流程示意图。在本发明实施例中,所述文字识别方法包括:
S1、获取文本图像,对所述文本图像进行文字检测,得到文字检测框。
本发明实施例中,所述文本图像通过文档文本进行图像转换得到,所述文档文本可以为PDF文本,如政府报文文本。进一步地,本发明实施例利用训练完成的文字目标框检测模型对所述文本图像进行文字检测,其中,所述文字目标框检测模型通过YOLO(You OnlyLook Once)神经网络构建,其用于检测文本图像中带有文字位置坐标的检测框,包括:卷积层、批标准化层、融合层及激活函数等。进一步地,本发明实施例在利用训练完成的文字目标框检测模型对所述文本图像进行文字检测之前还包括:利用训练文本图像集对预构建的文字目标框检测模型进行训练,直至所述预构建的文字目标框检测模型趋于稳定时,结束所述预构建的文字目标框检测模型的训练,得到训练完成的文字目标框检测模型。需要声明的是,所述预构建的文字目标框检测模型训练过程属于当前较为成熟的技术,在此不做进一步赘述。
详细地,所述利用训练完成的文字目标框检测模型对所述文本图像进行文字检测,得到文字检测框,包括:利用所述卷积层对所述文本图像进行图像特征提取,得到特征图像;利用所述批标准化层(Batch Normalization,BN)对所述特征图像进行标准化操作,得到标准特征图像;利用所述融合层将所述文本图像的底层特征与所述标准特征图像进行融合,得到目标特征图像;利用所述激活函数输出所述目标特征图像的检测结果,根据所述检测结果,生成文字检测框。
其中,所述图像特征提取可以是通过对输入图像的张量进行卷积操作实现;所述批标准化层对提取的图像特征进行标准化,可以加速模型的收敛。
一个优选实施例中,所述标准化操作可以表示为:
其中,x′i为批标准化后的标准特征图像集,xi为特征图像,μ为特征图像的均值,σ2为特征图像集的方差,ε为无穷小的随机数。
所述融合层将图像的底层特征融合至提取的图像特征中,可以减小对不同增益引起的图像灰度变化影响。所述底层特征指的是所述文本图像的基本特征,例如,颜色、长度、宽度等等,较佳地,本发明实施例中所述融合通过所述融合层中的跨阶段部分连接(Cross-Stage-Partial-connections,CSP)模块实现。
一个优选实施例中,所述激活函数包括:
其中,s′表示激活后的目标特征图像,s表示目标特征图像。
进一步地,本发明较佳实施中,所述检测结果包括:x、y、高、宽以及类别等,其中,x、y表示目标特征图像的中心点,类别表示目标特征图像是否为文字区域,即类别0表示不是文字区域,类别1表示预测区域是文字区域,于是,本发明实施例选取类别为1的目标特征图像作为文字区域,从而生成所述文字检测框。
S2、对所述文字检测框进行筛选及合并,得到目标文字框。
本发明实施例对所述文字检测框进行筛选及合并,得到目标文字框,以筛选出所述文字检测框中置信度及重复度的文字检测框,提高后续文字提取的速度。其中,所述置信度指的是文字落在检测出的文字检测框中的概率,即置信度越高,检测出的文字检测框包含文字的概率越大。
进一步地,本发明实施例在对所述文字检测框进行筛选及合并之前,还包括:利用非极大值算法(Non-Maximum Suppression,NMS)对所述文字检测框进行非极大值处理,以抑制所述文字检测框中不是极大值的元素,以提高后续文字检测框的检测速度。需要声明的是,所述非极大值算法属于当前较为成熟的技术,在此不做赘述。
进一步地,本发明的其中一个可选实施例中,所述文字检测框可以通过当前已知的区间估计法实现。
进一步地,应该了解,在筛选后的所述文字检测框中会包含具有相同文字的文字检测框,于是本发明实施例利用预设的合并规则对筛选后的所述文字检测框进行合并,以避免出现相同的文字检测框。其中,所述预设的合并规则包括:将筛选后的所述文字检测框中文字相邻间距相同、文字高度比值相同以及文字内容相同的文字检测框进行合并。
S3、对所述目标文字框进行无文字区域裁剪,得到裁剪文字框。
本发明实施例中,对所述目标文字框进行无文字区域裁剪,以提高后续模型文字识别性能。
详细地,所述对所述目标文字框进行无文字区域裁剪,得到裁剪文字框,包括:对所述目标文字框进行二值化处理,得到二值化文字框;查询所述二值化文字框中纵轴方向的文字起始位置和文字终止位置以及所述二值化文字框的纵轴方向长度,根据所述纵轴方向的文字起始位置、文字终止位置以及纵轴方向长度,对所述二值化文字框进行纵向裁剪,得到纵向裁剪文字框;查询所述纵向裁剪文字框中横轴方向的文字起始位置和文字终止位置以及所述纵向裁剪文字框的横轴方向长度,根据所述横轴方向的文字起始位置和文字终止位置以及横轴方向长度,对所述纵向裁剪文字框进行横向裁剪,得到所述裁剪文字框。
其中,所述目标文字框的二值化处理包括:将所述目标文字框中的文字区域标记为1,背景区域标记为0。
一个可选实施例中,所述文字起始位置、文字终止位置、纵轴方向长度以及横轴方向长度可以通过预编译的查询脚本实现,所述查询脚本可以通过JavaScript脚本语言编译。
一个可选实施例中,所述纵向裁剪和横向裁剪通过当前已知的文字裁剪工具实现,如Photoshop裁剪工具。
S4、对所述裁剪文字框进行文字提取,得到初始文字集。
本发明实施例中,利用训练完成的文字提取模型对所述裁剪文字框进行文字提取,得到初始文字集。其中,所述预先训练完成的文字提取模型包括:卷积神经网络(Convolutional Neural Networks,CNN)、长短期记忆网络(Long Short-Term Memory,LSTM)、时序分类网络(Connectionist temporal classification,CTC)构建,其中,所述CNN用于识别所述裁剪文字框的特征文字框,所述LSTM用于提取特征文字框中文字序列,所述CTC用于解决文字特征序列中字符无法对齐的问题。进一步地,所述CNN包括卷积层、池化层以及全连接层,所述LSTM包括:输入门、遗忘门以及输出门。
进一步地,本发明实施例在利用训练完成的文字提取模型对所述裁剪文字框进行文字提取之前还包括:利用训练裁剪文字框集对预构建的文字提取模型进行训练,直至所述预构建的文字提取模型趋于稳定时,结束所述预构建的文字提取的训练,得到训练完成的文字提取模型。需要声明的是,所述预构建的文字提取训练过程属于当前较为成熟的技术,在此不做进一步赘述。
详细地,参阅图2所示,所述利用预先训练完成的文字提取模型对所述裁剪文字框进行文字提取,得到初始文字集,包括:
S20、利用所述文字提取模型中的卷积神经网络对所述裁剪文字框进行特征提取,得到特征文字框;
S21、利用所述文字提取模型中的长短期记忆网络对所述特征文字框进行文字位置序列识别,生成原始文字集;
S22、利用所述文字提取模型中的时序分类网络对所述原始文字集进行字符对齐,生成初始文字集。
进一步地,所述S20包括:利用所述卷积神经网络中的卷积层对所述裁剪文字框进行卷积特征提取,得到初始特征文字框;利用所述卷积神经网络中的池化层对所述初始特征裁剪框进行降维,得到降维特征文字框;利用所述卷积神经网络中的全连接层输出所述降维特征文字框,得到特征文字框;
进一步地,所述S21包括:利用所述长短期记忆网络的输入门计算所述特征文字框的状态值;利用所述长短期记忆网络的遗忘门计算所述特征文字框的激活值;根据所述状态值和激活值计算所述特征文字框的状态更新值;利用所述长短期记忆网络的输出门计算所述状态更新值的文字位置序列,生成原始文字集。
进一步地,需要声明的是,所述卷积神经网络、长短期记忆网络以及时序分类网络的训练过程属于当前较为成熟的技术,在此不做进一步的阐述
S5、提取所述初始文字集中的关键文字,并利用正则校验技术对所述关键文字进行校验,将检验成功的所述关键文字作为所述文本图像的文字识别结果。
应该了解,在上述步骤S4获取的初始文字集中,会存在许多用户无法用到的文字,因此本发明实施例通过提取所述初始文字集中的关键文字,以更好地帮助用户进行信息处理,提高工作效率。
详细地,所述提取所述初始文字集中的关键文字包括:删除所述初始文字集中的停用词,得到标准文字集,计算所述标准文字集中每个标准文字的权重,从所述标准文字集中筛选出所述权重大于预设权重的标准文字作为所述关键文字。
一个可选实施例中,所述停用词的删除可以根据停用词表进行筛选,如停用词表中有“的”,则删除所述初始文字集中所有“的”。
一个可选实施例中,所述标准文字的权重可以通过计算每个标准文字在所述标准文字集中的占比得到,所述预设权重可以为0.6,也可以设置为其他数值,根据具体场景设置。
进一步地,应该了解,在提取的标准文字中可能会存在一些文字格式不正确的现象,比如汉字有误,因此本发明实施例利用正则校验技术对所述关键文字进行校验,将检验成功的所述关键文字作为所述文本图像的文字识别结果。
一个可选实施例中,所述正则校验技术包括:数字校验表达式(如^[0-9]*$)、汉字校验表达式(^[\u4e00-\u9fa5]{0,}$)以及特殊需求检验表达式(如日期格式:^\d{4}-\d{1,2}-\d{1,2})。
进一步地,为保障所述关键文字的隐私性和复用性,所述关键文字还可存储于一区块链节点中。
本发明实施例首先获取文本图像,对所述文本图像进行文字检测,得到文字检测框,可以检测文本图像中带有文字位置坐标的检测框;其次,本发明实施例对所述文字检测框进行筛选、合并及无文字区域裁剪,得到裁剪文字框,可以提升文字识别性能,从而使得图片文字识别的准确率大大提高;进一步地,本发明实施例对所述裁剪文字框进行文字提取,得到初始文字集,并提取所述初始文字集中的关键文字,并利用正则校验技术对所述关键文字进行校验,将检验成功的所述关键文字作为所述文本图像的文字识别结果。因此,本发明可以提高文字识别的准确性。
如图3所示,是本发明文字识别装置的功能模块图。
本发明所述文字识别装置100可以安装于电子设备中。根据实现的功能,所述文字识别装置可以包括检测模块101、合并模块102、裁剪模块103、提取模块104以及识别模块105。本发所述模块也可以称之为单元,是指一种能够被电子设备处理器所执行,并且能够完成固定功能的一系列计算机程序段,其存储在电子设备的存储器中。
在本实施例中,关于各模块/单元的功能如下:
所述检测模块101,用于获取文本图像,对所述文本图像进行文字检测,得到文字检测框;
所述合并模块102,用于对所述文字检测框进行筛选及合并,得到目标文字框;
所述裁剪模块103,用于对所述目标文字框进行无文字区域裁剪,得到裁剪文字框;
所述提取模块104,用于对所述裁剪文字框进行文字提取,得到初始文字集;
所述识别模块105,用于提取所述初始文字集中的关键文字,并利用正则校验技术对所述关键文字进行校验,将检验成功的所述关键文字作为所述文本图像的文字识别结果。
详细地,本发明实施例中所述文字识别装置100中的所述各模块在使用时采用与上述的图1和图2中所述的文字识别方法一样的技术手段,并能够产生相同的技术效果,这里不再赘述。
如图4所示,是本发明实现文字识别方法的电子设备的结构示意图。
所述电子设备1可以包括处理器10、存储器11和总线,还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序,如文字识别程序12。
其中,所述存储器11至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元,例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备,例如电子设备1上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(SecureDigital,SD)卡、闪存卡(Flash Card)等。进一步地,所述存储器11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据,例如文字识别的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器10在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(Control Unit),利用各种接口和线路连接整个电子设备的各个部件,通过运行或执行存储在所述存储器11内的程序或者模块(例如执行文字识别等),以及调用存储在所述存储器11内的数据,以执行电子设备1的各种功能和处理数据。
所述总线可以是外设部件互连标准(peripheral component interconnect,简称PCI)总线或扩展工业标准结构(extended industry standard architecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
图4仅示出了具有部件的电子设备,本领域技术人员可以理解的是,图4示出的结构并不构成对所述电子设备1的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
例如,尽管未示出,所述电子设备1还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器10逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
进一步地,所述电子设备1还可以包括网络接口,可选地,所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备1与其他电子设备之间建立通信连接。
可选地,该电子设备1还可以包括用户接口,用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
所述电子设备1中的所述存储器11存储的文字识别12是多个计算机程序的组合,在所述处理器10中运行时,可以实现:
获取文本图像,对所述文本图像进行文字检测,得到文字检测框;
对所述文字检测框进行筛选及合并,得到目标文字框;
对所述目标文字框进行无文字区域裁剪,得到裁剪文字框;
对所述裁剪文字框进行文字提取,得到初始文字集;
提取所述初始文字集中的关键文字,并利用正则校验技术对所述关键文字进行校验,将检验成功的所述关键文字作为所述文本图像的文字识别结果。
具体地,所述处理器10对上述计算机程序的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。
进一步地,所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个非易失性计算机可读取存储介质中。所述计算机可读存储介质可以是易失性的,也可以是非易失性的。例如,所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)。
本发明还提供一种计算机可读存储介质,所述可读存储介质存储有计算机程序,所述计算机程序在被电子设备的处理器所执行时,可以实现:
获取文本图像,对所述文本图像进行文字检测,得到文字检测框;
对所述文字检测框进行筛选及合并,得到目标文字框;
对所述目标文字框进行无文字区域裁剪,得到裁剪文字框;
对所述裁剪文字框进行文字提取,得到初始文字集;
提取所述初始文字集中的关键文字,并利用正则校验技术对所述关键文字进行校验,将检验成功的所述关键文字作为所述文本图像的文字识别结果。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。