Mecthew

0
获赞数
0
关注数
0
粉丝数
南京
南京大学 | 计算机科学与技术
IP 属地未知
2016-12-10 加入
浏览 4.7k

NLP小萌新

0 声望
pytorch
0
deeplearning
0
acl
0
理论
0
论文
0
黄金勋章
暂未获得该勋章
如何获得
白银勋章
暂未获得该勋章
如何获得
青铜勋章
暂未获得该勋章
如何获得
个人动态
  • 发布了文章2020-11-06
    A Frustratingly Easy Approach论文简记
    本文是陈丹琦博士关于实体识别与关系抽取的一篇论文,文本使用了一种pipeline的方式而非joint learning的方式超越了之前的一众模型,在数据集ACE04/05、SciERC达到SOTA。其中:
  • 发布了文章2020-09-28
    ACL2019--针对部分标注数据的NER
    其中标签为NE的token可视为positive instance,标签为O的的token被视为negtive instance,被错分为O的NE就称为False Negative。本文提出了一种基于约束驱动的迭代算法(constraint-driven iterative algorithm)来学习发现噪声数据中的Negative False样例并降低他们...
  • 发布了文章2020-09-22
    写作论文的Tips
    极大提高效率:论文写作工具杂谈学术论文连接词改论文在给导师帮你改之前,自己先改三遍改论文一定要用纸质版 {代码...} 写作顺序Notation:变量等定义应该放在第一步,用列表的形式;Equation:手动推导;Algorithm:算法,伪代码;Experiments:其实在实验前就应该...
  • 发布了文章2020-09-10
    Autoregressive LM与Autoencoder LM
    在ELMO/BERT出来之前,通常讲的语言模型其实是根据上文内容预测下一个可能跟随的单词,就是常说的自左向右的语言模型任务,或者反过来也行,就是根据下文预测前面的单词,这种类型的LM被称为自回归语言模型。GPT就是典型的自回归语言模型。ELMO尽管看上去利用了上文...
  • 发布了文章2020-09-07
    隐马尔可夫模型HMM个人理解
    隐马尔可夫模型(Hidden Markov model, HMM)是一种结构最简单的动态贝叶斯网的生成模型,它也是一种著名的有向图模型。上述过程概率同贝叶斯网,表示如下:$$P = P(D6) \times P(1 | D6) \times P(D8 | D6) \times P(6 | D8) \times P(D8 | D8) \times P(3 | D8)$$隐...
  • 发布了文章2020-09-06
    Improving Low-Resource Named Entity Recognition笔记
    本文针对low-resource NER任务——小语种电商NER任务,提出了一种使用句子标签(易获得)与token-level NER的联合训练方法,该方法表明联合句子标签可有效提升low-resource NER的识别性能。本文的亮点主要是提出了利用sentence label的联合训练模型,并对attention机制...
  • 发布了文章2020-09-05
    Few-shot Learning for Named Entity Recognition in Medical Text笔记
    本文对Electronic health records的一些数据集进行了命名实体识别研究。在利用其它相关数据集的基础上,对target dataset只采集10个样例进行few-shot learning,提出了五种提升性能的方法(tricks):(1)layer-wise initialization with pre-trained weights(2)h...
  • 发布了文章2020-08-31
    A Survey on Deep Learning for Named Entity Recognition(2020)阅读笔记
    文章主要介绍了NER的资源(NER语料及工具),并从distributed representation for input,context encoder和tag decoder三个维度介绍了目前现有的工作,并调研了目前最具代表性的深度学习方法。最后提出了目前NER系统面临的挑战以及未来的研究方向。
  • 发布了文章2020-06-22
    KDD2020 Autograph比赛总结
    使用GraphNas对数据集搜索最优网络模型。(引自 Gao Y, Yang H, Zhang P, et al. Graphnas: Graph neural architecture search with reinforcement learning[J]. arXiv preprint arXiv:1904.09981, 2019.)