python 词频统计_Python之词频统计
·
统计词频” 问题
统计文章其中多次出现的词语
概要分析文章内容
搜索引擎
统计词频IPO描述
输入:从文件中读取一篇英文文章
处理:统计文件中每个单词的出现频率
输出:输出最常出现10个单词及次数图像
统计词频的步骤如下:
第一步:输入英文文章
第二步:建立用于词频计算的空字典
第三步:对文本的每一行计算词频
第四步:从字典中获取数据对到列表中
第五步:对列表中的数据对交换位置,并从大到小进行排序
第六步:输出结果
最后用Turtle库绘制统计词频结果图表
结果如下图所示:
列出排名前10的词频
下面附上源码
import turtle##全局变量### 词频排列显示个数count = 10# 单词频率数组-作为y轴数据data = []# 单词数组-作为x轴数据words = []# y轴显示放大倍数-可以根据词频数量进行调节yScale = 6# x轴显示放大倍数-可以根据count数量进行调节xScale = 30################# Turtle Start ##################### 从点(x1,y1)到(x2,y2)绘制线段def drawLine(t, x1, y1, x2, y2): t.penup() t.goto(x1, y1) t.pendown() t.goto(x2, y2)# 在坐标(x,y)处写文字def drawText(t, x, y, text): t.penup() t.goto(x, y) t.pendown() t.write(text)def drawGraph(t): # 绘制x/y轴线 drawLine(t, 0, 0, 360, 0) drawLine(t, 0, 300, 0, 0) # x轴: 坐标及描述 for x in range(count): x = x + 1 # 向右移一位,为了不画在原点上 drawText(t, x * xScale - 4, -20, (words[x - 1])) drawText(t, x * xScale - 4, data[x - 1] * yScale + 10, data[x - 1]) drawBar(t)# 绘制一个柱体def drawRectangle(t, x, y): x = x * xScale y = y * yScale # 放大倍数显示 drawLine(t, x - 5, 0, x - 5, y) drawLine(t, x - 5, y, x + 5, y) drawLine(t, x + 5, y, x + 5, 0) drawLine(t, x + 5, 0, x - 5, 0)# 绘制多个柱体def drawBar(t): for i in range(count): drawRectangle(t, i + 1, data[i]) ################# Turtle End ##################### 对文本的每一行计算词频的函数def processLine(line, wordCounts): # 用空格替换标点符号 line = replacePunctuations(line) # 从每一行获取每个词 words = line.split() for word in words: if word in wordCounts: wordCounts[word] += 1 else: wordCounts[word] = 1# 空格替换标点的函数def replacePunctuations(line): for ch in line: if ch in "~@#$%^&*()_-+=<>?/,.:;{}[]|'""": line = line.replace(ch, " ") return linedef main(): # 用户输入一个文件名 filename = input("enter a filename:").strip() infile = open(filename, "r") # 建立用于计算词频的空字典 wordCounts = {} for line in infile: processLine(line.lower(), wordCounts) # 从字典中获取数据对 pairs = list(wordCounts.items()) # 列表中的数据对交换位置,数据对排序 items = [[x, y] for (y, x) in pairs] items.sort() # 输出count个数词频结果 for i in range(len(items) - 1, len(items) - count - 1, -1): print(items[i][1] + "" + str(items[i][0])) data.append(items[i][0]) words.append(items[i][1]) infile.close() # 根据词频结果绘制柱状图 turtle.title('词频结果柱状图') turtle.setup(900, 750, 0, 0) t = turtle.Turtle() t.hideturtle() t.width(3) drawGraph(t)# 调用main()函数if __name__ == '__main__': main()
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐


所有评论(0)