统计词频” 问题

 统计文章其中多次出现的词语

 概要分析文章内容

 搜索引擎

统计词频IPO描述

 输入:从文件中读取一篇英文文章

 处理:统计文件中每个单词的出现频率

 输出:输出最常出现10个单词及次数图像

统计词频的步骤如下:

第一步:输入英文文章

 第二步:建立用于词频计算的空字典

 第三步:对文本的每一行计算词频

 第四步:从字典中获取数据对到列表中

 第五步:对列表中的数据对交换位置,并从大到小进行排序

 第六步:输出结果

 最后用Turtle库绘制统计词频结果图表

结果如下图所示:

列出排名前10的词频

8d1c0a2f256f7b349e78ce9eb12e31a9.png

下面附上源码

import turtle##全局变量### 词频排列显示个数count = 10# 单词频率数组-作为y轴数据data = []# 单词数组-作为x轴数据words = []# y轴显示放大倍数-可以根据词频数量进行调节yScale = 6# x轴显示放大倍数-可以根据count数量进行调节xScale = 30################# Turtle Start  ##################### 从点(x1,y1)到(x2,y2)绘制线段def drawLine(t, x1, y1, x2, y2):    t.penup()    t.goto(x1, y1)    t.pendown()    t.goto(x2, y2)# 在坐标(x,y)处写文字def drawText(t, x, y, text):    t.penup()    t.goto(x, y)    t.pendown()    t.write(text)def drawGraph(t):    # 绘制x/y轴线    drawLine(t, 0, 0, 360, 0)    drawLine(t, 0, 300, 0, 0)    # x轴: 坐标及描述    for x in range(count):        x = x + 1  # 向右移一位,为了不画在原点上        drawText(t, x * xScale - 4, -20, (words[x - 1]))        drawText(t, x * xScale - 4, data[x - 1] * yScale + 10, data[x - 1])    drawBar(t)# 绘制一个柱体def drawRectangle(t, x, y):    x = x * xScale    y = y * yScale  # 放大倍数显示    drawLine(t, x - 5, 0, x - 5, y)    drawLine(t, x - 5, y, x + 5, y)    drawLine(t, x + 5, y, x + 5, 0)    drawLine(t, x + 5, 0, x - 5, 0)# 绘制多个柱体def drawBar(t):    for i in range(count):        drawRectangle(t, i + 1, data[i])    ################# Turtle End  ##################### 对文本的每一行计算词频的函数def processLine(line, wordCounts):    # 用空格替换标点符号    line = replacePunctuations(line)    # 从每一行获取每个词    words = line.split()    for word in words:        if word in wordCounts:            wordCounts[word] += 1        else:            wordCounts[word] = 1# 空格替换标点的函数def replacePunctuations(line):    for ch in line:        if ch in "~@#$%^&*()_-+=<>?/,.:;{}[]|'""":            line = line.replace(ch, " ")    return linedef main():    # 用户输入一个文件名    filename = input("enter a filename:").strip()    infile = open(filename, "r")    # 建立用于计算词频的空字典    wordCounts = {}    for line in infile:        processLine(line.lower(), wordCounts)    # 从字典中获取数据对    pairs = list(wordCounts.items())    # 列表中的数据对交换位置,数据对排序    items = [[x, y] for (y, x) in pairs]    items.sort()    # 输出count个数词频结果    for i in range(len(items) - 1, len(items) - count - 1, -1):        print(items[i][1] + "" + str(items[i][0]))        data.append(items[i][0])        words.append(items[i][1])    infile.close()    # 根据词频结果绘制柱状图    turtle.title('词频结果柱状图')    turtle.setup(900, 750, 0, 0)    t = turtle.Turtle()    t.hideturtle()    t.width(3)    drawGraph(t)# 调用main()函数if __name__ == '__main__':    main()
Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐