使用python对txt格式的小说进行处理
经常下载txt的电子书,格式却不合心意,只好自己再处理。首要的就是处理段内换行。
原来的打算是定制一个vim模式,到时候处理小说时进入该模式,再使用各种快捷键。以此避免txt快捷键对日常编程的干扰。后来发现,vim不像emacs,可以定制自己的模式。(可能可以定制专用的vimrc解决,未经尝试)
于是转向脚本寻求解决办法。sed与awk是此中翘楚,首先试试。可惜早些日子学的sed已经忘的差不多了,找不到比较简洁清晰的解决办法。sed 与grep类似,先读入一行,删除\n,进行各种处理,最后写入文件,再添上\n。 N可以读入下一行到当前模式匹配空间再行处理。但是我需要对整个文件进行匹配,暂时未找到解决办法。
只好再次转投python。Python有自己的re模块,应该没问题。re.sub可以进行替换。费了些时间的,是对中文的匹配。在vim中,可 以用[^\x00-\xff]匹配双字节字符,然而python中却行不通。经过一番google,发现可以用[\x80-\xff]匹配汉字(perl 同此,似乎两者对中文的正则支持还是有待改进)。
至此,问题初步解决:
#!/usr/bin/env python
#encoding=utf-8
import re
from sys import argv
if __name__ == '__main__':
if len(argv) != 2:
print 'usage: filename'
else:
fh = open(argv[1], 'r')
content = fh.read()
out = re.sub('\n([\x80-\xff])', r'\1', content)
print out
规范行首:
#!/usr/bin/env python
#encoding=utf-8
import re
from sys import argv
if __name__ == '__main__':
if len(argv) != 2:
print 'usage: filename'
else:
fh = open(argv[1], 'r')
content = fh.read()
out = re.sub(' +([\x80-\xff])', r' \1', content)
print out
当然,下载来的文档通常是GB2312,需要自己转换为utf8再行处理,可以参考我的《python 中文编码笔记》
在win下,有个优秀的文本处理工具可以利用,叫cnbook。在百度的fmddlmyy贴吧可以下载到最新版本。
郑重声明:本站内容如果来自互联网及其他传播媒体,其版权均属原媒体及文章作者所有。转载目的在于传递更多信息及用于网络分享,并不代表本站赞同其观点和对其真实性负责,也不构成任何其他建议。