Auto Byte

专注未来出行及智能汽车科技

微信扫一扫获取更多资讯

Science AI

关注人工智能与其他前沿技术、基础学科的交叉研究与融合发展

微信扫一扫获取更多资讯

潘晟锋作者

NLP 新纪元?如何看待轰炸阅读理解顶级测试的BERT模型?

Google AI最近又掀起了瓜界旋风。这次是BERT模型刷爆了阅读理解的各项测试,一夜间大家似乎走进了NLP的"新时代"。

在11项NLP任务中,BERT模型夺得SOTA结果,在自然语言处理学界以及工业界都引起了不小的热议,瓜界也是惊呼变天了。那天晚上10点,当我带着澎湃的心情,跑上13楼求教我司实力与颜值兼具的算法大拿锋哥的时候,锋哥还神游在密密麻麻的代码世界里。过了半晌,才悠悠地回了一句,“你们啊,太不关心我们研发了。”

锋哥说BERT模型“吃下”了33亿文本的语料数据,堪称大块头,然后又在不同的下游任务中“微调”,就像骆驼穿过针眼一样,很精细,最终在不同任务中取得了目前最好的效果。

“远在天边,近在眼前,不知道我们今年就在搞这个东西吗?每天就知道在前端APP、微信上跟机器人撩来撩去,底层算法关心有木有?BERT也绝非平地惊雷,模型也是有兄弟姐妹,高矮胖瘦的好伐。”明天我给你码一篇,好好解读下BERT的来龙去脉。

专业用户独享

本文为机器之心深度精选内容,专业认证后即可阅读全文
开启专业认证
理论NLPBERT模型追一科技
9
暂无评论
暂无评论~