美文网首页
NLP 学习4

NLP 学习4

作者: Cxgoal | 来源:发表于2020-07-27 20:22 被阅读0次

基于深度学习的文本分类1-fastText

FastText

FastText是一种典型的深度学习词向量的表示方法,它非常简单通过Embedding层将单词映射到稠密空间,然后将句子中所有的单词在Embedding空间中进行平均,进而完成分类操作。

所以FastText是一个三层的神经网络,输入层、隐含层和输出层。

FastText模型.png

FastText在文本分类任务上,是优于TF-IDF的:

  • FastText用单词的Embedding叠加获得的文档向量,将相似的句子分为一类
  • FastText学习到的Embedding空间维度比较低,可以快速进行训练

本质上还是一个词袋模型,只是使用Embedding的方式替代了TF-IDF表示。

本章作业

  • 阅读FastText的文档,尝试修改参数,得到更好的分数
  • 基于验证集的结果调整超参数,使得模型性能更优

深度模型中,训练次数是很重要的一个参数,如果过多,则过拟合,过少则欠拟合。

F1score.png

我们可以发现,训练集的F1分数随着次数增加而增加,但是验证集先上升,后稳定。

相关文章

  • NLP 学习4

    基于深度学习的文本分类1-fastText FastText FastText是一种典型的深度学习词向量的表示方法...

  • 吾爱NLP(3)—我对NLP的理解与学习建议

    0、目录结构 1、我理解的NLP 2、如何开始学习NLP 3、自然语言处理技术的发展历程 4、文本分类小实例:垃圾...

  • 2019年4月24日第53天不抱怨情绪-第63天情绪训练营

    今天下午是第二阶段NLP助教定向会,在接来的4天将要开始NLP学习。妈妈来广州做身体复查,检查结果要在4月3...

  • 20181228童磊NLP电影工作坊学习分享

    20181228童磊NLP学习分享: 今晚是我第4次在NLP的课堂看《人生遥控器》这部电影,今晚看特别的有感触,流...

  • 育林老师 NLP学习笔记

    通过本节学习,我们了解到NLP的创始人是理查·班德和约翰·格林德。 NLP又效仿了4位沟通大师,他们是完形治疗大师...

  • NLP学习HW1

    NLP入门组队学习 题目理解 报名了NLP组队学习,这是第一天的学习。 赛题名称: 零基础入门NLP之新闻文本分类...

  • NLP 4

    表象系统是人所拥有的对于外在信息和内在信息的感知和收集系统。每一个人对于信息的不同的呈现形式对信息的敏感程度也各有...

  • 读NLP的感受

    明天开始,到30号,为期4天学习NLP,这两天在家里,翻阅了有关的书,增加对NLP的熟悉。 我发现这是一门很具体的...

  • 美国nlp大学导师班二阶段第9天分享

    今天一天的nlp导师班学习都是几分钟演讲,讲故事,上午我用4MRT讲了“nlp沟通的神奇效果”,下午我结合心锚分享...

  • June23,Sunday & Dimanche 四天收获

    今天完成了4天NLP的学习。收获了NLP一阶的内容。四天每天骑单车回家,16公里左右的距离,自己在脑海里浮现出每一...

网友评论

      本文标题:NLP 学习4

      本文链接:https://www.haomeiwen.com/subject/jmetrktx.html