首页 >  SEO >  SEO算法 >  正文

TF-IDF算法、关键词的形成条件

 作者:潘某人SEO
1907

说到SEO优化,那么第一次反应就是关键词的排名。很多人对于关键词的认知就是我在TDK中突出的词,或者把一个词在文章中突出重复,提升这个词的密度就可以让搜索引擎认为这个词是这个页面的关键词,然后一个词是否能成为关键词,并不是简单的重复就可以实现的,更多的是参考TF-IDF算法值来确定一个词是否成为关键词。

什么是TF-IDF

TF-IDF(Term Frequency-Inverse Document Frequency, 词频-逆文件频率).是一种用于资讯检索与资讯探勘的常用加权技术。TF-IDF是一种统计方法,用以评估一字词对于一个文件集或一个语料库中的其中一份文件的重要程度。字词的重要性随着它在文件中出现的次数成正比增加,但同时会随着它在语料库中出现的频率成反比下降。

上述引用总结就是, 一个词语在一篇文章中出现次数越多, 同时在所有文档中出现次数越少, 越能够代表该文章.这也就是TF-IDF的含义.

词频 (term frequency, TF) 指的是某一个给定的词语在该文件中出现的次数。这个数字通常会被归一化(一般是词频除以文章总词数), 以防止它偏向长的文件。(同一个词语在长文件里可能会比短文件有更高的词频,而不管该词语重要与否。)

但是, 需要注意, 一些通用的词语对于主题并没有太大的作用, 反倒是一些出现频率较少的词才能够表达文章的主题, 所以单纯使用是TF不合适的。权重的设计必须满足:一个词预测主题的能力越强,权重越大,反之,权重越小。所有统计的文章中,一些词只是在其中很少几篇文章中出现,那么这样的词对文章的主题的作用很大,这些词的权重应该设计的较大。IDF就是在完成这样的工作.


关键词的生成

TF-IDF算法计算公式


  1. TF计算公式

TF计算公式

逆向文件频率 (inverse document frequency, IDF) IDF的主要思想是:如果包含词条t的文档越少, IDF越大,则说明词条具有很好的类别区分能力。某一特定词语的IDF,可以由总文件数目除以包含该词语之文件的数目,再将得到的商取对数得到。

 

2.IDF计算公式

IDF计算公式

某一特定文件内的高词语频率,以及该词语在整个文件集合中的低文件频率,可以产生出高权重的TF-IDF。因此,TF-IDF倾向于过滤掉常见的词语,保留重要的词语。

 

3.TF-IDF算法计算公式

TF−IDF=TF∗IDF

TF-IDF值越大,则这个词成为一个关键词的概率就越大。


TF-IDF算法实例

以《亚洲的网络技术》为例,假定该文长度为1000个词,"亚洲"、"网络"、"技术"各出现20次,则这三个词的"词频"(TF)都为0.02。 然后,搜索Google发现,包含"的"字的网页共有250亿张(假定这就是中文网页总数),包含"亚洲"的网页共有62.3亿张,包含"网络"的网页为0.484亿张,包含"技术"的网页为0.973亿张。则它们的逆文档频率(IDF)和TF-IDF的计算结果如下:

TF-IDF算法实例

从上表可见,"网络"的TF-IDF值最高,"技术"其次,"亚洲"最低。(如果还计算"的"字的TF-IDF,那将是一个极其接近0的值。)所以,如果只选择一个词,"网络"就是这篇文章的关键词。 除了自动提取关键词,TF-IDF算法还可以用于许多别的地方。比如,信息检索时,对于每个文档,都可以分别计算一组搜索词("亚洲"、"网络"、"技术")的TF-IDF,将它们相加,就可以得到整个文档的TF-IDF。这个值最高的文档就是与搜索词最相关的文档。 TF-IDF算法的优点是简单快速,结果比较符合实际情况。缺点是,单纯以"词频"衡量一个词的重要性,不够全面,有时重要的词可能出现次数并不多。而且,这种算法无法体现词的位置信息,出现位置靠前的词与出现位置靠后的词,都被视为重要性相同,这是不正确的。(一种解决方法是,对全文的第一段和每一段的第一句话,给予较大的权重。)


TF-IDF算法不足

TF-IDF 算法会倾向于选出某一特定文档内的高频词语,同时该词语在整个文档集合中分布是比较集中的。因此,TF-IDF算法倾向于过滤掉常见的词语,保留“独有”词语。但是这也造成了TF-IDF算法的缺陷。 因为IDF的主要思想是:如果包含词条t的文档越少,也就是n越小,idf越大,则说明词条t 具有很好的类别区分能力。如果某一文档C中包含词条t的文档数为m, 而其他类包含t的文档总数为k,显然所有包含t的文档数n = m + k, 当m大的时候,n也大,按照IDF公式得到的IDF的值会小,就说明该词条t 类别区分能力不强。但实际上,如果一个词条在一个类的文档中频繁出现,则说明该词条能够很好地代表这个类的文本特征,这样的词条应该给它们赋予较高的权重,并选来作为该类文本的特征词,以区别于其他类的文档。


比如对于如下几个短文本:

1、鲜花多少钱?

2、白百合多少钱?

3、月季多少钱?

4、香蕉多少钱?


如果按照TF-IDF算法,鲜花、香蕉这些主体词会成为关键词,但是从这些语句的总体来看,他们又都属于询问价格的类型,所以“多少钱”应该成为关键词。这就是IDF的不足之处。

改进的方法可以通过改变文档结构,比如将上述短文本归并为一个文档,这样就可以在增加TF值的同时,也增加IDF值。但是这样就会增加模型的计算成本,需要大量的人为经验加入其中。

申明:以上内容仅代表个人观点,仅供学习参考 本站图片来源于站点原创或CC0协议图库站点或已获得VRF授权的图库站点 本文参考于互联网如有侵权,请联系 pmrseo@foxmail.com删除 本文地址:https://www.chateach.com/seo/seosuanfa/382
相关文章
  • 如何防止网站被黑

    防止网站被黑.防火墙配置,出入站规则

    合理的配置服务器防火墙的出入站规则,可以有效的屏蔽恶意访问,从而提升网站的安全性防止网站被黑,望着那别攻击很有可能优化规则前功尽弃。

    770
    • 防止网站被黑.防火墙配置
    • 出入站规则
  • 索引量下降如何应对处理

    百度索引量

    百度索引量下降的原因,站长们应该如何正确的看待索引的增长呢?站长们乐此不疲的追求高索引量,会不会是站长们太把它当一回事了。今天就来谈谈索引量那边事我们如何正确的看待索引量。

    1055
    • 百度索引量
  • 别让面面俱到毁了你的SEO

    网站目录,SEO

    现在很多的站点都有一个现象,一种非常不利于SEO优化的现象,但却是很多站点设计的时候必踩的雷区。超级多的网站目录,看似非常合理的设计,实则利大于弊。

    106
    • 网站目录
    • SEO
  • SEO站外优化怎么做

    SEO站外优化,站外推广

    SEO站外优化怎么做,SEO优化是离不开站外的优化工作,尤其是对于一些没有知名度,客户群体少的网站;这类站点如果不注重站点的曝光,那么原本先天不足的站点的流量增长就变得更加的困难。

    694
    • SEO站外优化
    • 站外推广
  • 你分享的链接泄露隐私了吗?

    跟踪链接,隐私

    今天这个话题看似和SEO没啥关系,那就耐心看到最后就有了,先回归正题大家有没有意识到自己平时分享的链接会泄漏隐私吗?大家平时是不是会分享一些歌曲、一些短视频的链接及各种社交app应用的链接给微信好友或者是分享到朋友圈,当然分享到其它地方也是如此,只要你分享了这些链接你都将面临有隐私泄漏的可能。

    725
    • 跟踪链接
    • 隐私
  • seo需要掌握的技术技能

    seo需要掌握的技术

    从事SEO工作的人员,个人能力不尽相同。有的可能是程序员转行过来,更多的更像是编辑人员。对于SEO优化来说最终的成功更取决于对于网站内容布局的长期规划,并不是说懂点技术,或者会写点文章就可以把SEO做的很好。那么对于SEO 来说我们需要掌握哪些技能呢?

    863
    • seo需要掌握的技术
  • 网站URL设计你做对了吗?收下这份攻略!

    URL设计,网站优化

    网站URL设计你真的会吗?合理的url设计不仅仅是对于用户体验和运营效果重要,对于seo优化也起到了非常重要的影响,在见过了各种的网站url设计模式,潘某人SEO结合自身多年SEO优化经验,给大家总结下,本人认为比较好的网站url设计的方案。

    622
    • URL设计
    • 网站优化
  • 百度移动适配怎么做

    百度移动适配怎么做

    当我们的网站同时存在pc站点和移动站点的时候,两者都被收录的时候,有的时候搜索引擎不能很好的判断哪个网址是PC端的哪个是移动的端的,就需要进行移动端适配规则提交

    2466
    • 百度移动适配怎么做
  • 百度不收录原因分析

    百度不收录原因

    百度不收录原因分析,目前百度Spider抓取新链接的途径有两个,一是主动出击发现抓取,二就是从百度站长平台的链接提交工具中获取数据,其中通过主动推送功能“收”上来的数据最受百度Spider的欢迎。

    1384
    • 百度不收录原因
  • 跟踪链接导致大量重复页面

    跟踪链接,重复页面

    对网站运营推广的时候我们不得不使用各种跟踪链接达到推广效果的统计作用。但是这类跟踪链接会造成大量的重复页面的出现,导致权重的分散对SEO产生负面的影响,我们如何解决这问题呢?

    719
    • 跟踪链接
    • 重复页面
  • 如何查看sitemap文件提交配额

    sitemap提交配额

    为了提升站点提交的优质资源的处理效率,搜索资源平台对平台工具的sitemap文件提交配额进行限制,包括“资源提交-普通收录-sitemap提交”、“链接提交-死链提交”。平台将基于站点资源质量和搜索用户喜欢程度综合评估计算站点提交配额,站点不同,提交配额也可能不同。

    746
    • sitemap提交配额
  • SEO关键词优化策略

    关键词,SEO

    站点SEO关键词的优化策略应该是怎么样的。也许那个SEO从业者都有着不同看法对于这个问题,​大家SEO优化关键词的策略是怎么样的呢?

    473
    • 关键词
    • SEO
  • SEO挖掘关键词的方法

    关键词挖掘

    找对关键词就是抓住了流量的入口,关键词决定了你内容,决定了可以带来什么类型的流量。那么挖掘关键词的渠道有哪些呢?

    695
    • 关键词挖掘
  • 网站栏目数量对于权重的影响

    网站栏目,权重,seo

    ​如果您近期正在打算搭建网站,那么看到这篇文章就赶上了。很多站点在网站搭建的时候就为后期的SEO优化埋下了诸多的坑。如网站的栏目结构可以说是重灾区。网站的栏目数量要适当不宜多,对于大多数网站栏目数量控制在3-5左右差不多。

    450
    • 网站栏目
    • 权重
    • seo
  • 网站移动端网页适配那种方式好呢?

    移动适配

    网站移动端网页适配那种方式好呢?何规划移动端,是自适应的方式,还是独立移动站点的方法,会在SEO优化上面具有更大的优势呢?

    1236
    • 移动适配
  • 百度搜索引擎蜘蛛喜欢什么样的网站结构

    seo网站结构

    百度搜索引擎蜘蛛喜欢什么样的网站结构?希望能在百度获得好的排名、更多优质低价的流量,这个前提就是网站得有好的结构,百度蜘蛛才能顺利、快速的抓取,也就是说网站结构是关键词排名、链接优化、内容优化的前提。

    1399
    • seo网站结构
  • 用户喜欢的内容的样子,你知道吗

    SEO优化,用户喜欢的内容

    SEO优化回归本质是内容的优化,内容的核心是基于用户的需求,那么你了解用户吗?用户真正想要的内容是怎么样呢?当你搞明白了这个问题,相信对于的SEO优化会有很大的帮助。

    759
    • SEO优化
    • 用户喜欢的内容
  • 百度几种链接推送方式对比

    百度链接推送

    网站内容如果想要实现快速收录,那么及时的提交新内容链接是直接有效的方法。对于百度搜索来说链接提交方式是比较丰富的,大致分类主动提交、自动提交、手动提交和sitemap提交,那么你知道这四种提交方式有什么区别呢?哪张方式可以更快使内容收录呢?

    1490
    • 百度链接推送
-- 这已经是底线了,看看别的把! --