首页 > 传媒 > 关键词 > 新闻智能推荐最新资讯 > 正文

新闻智能推荐之Tensorflow自动生成标题的研究及应用

2017-09-12 16:18 · 稿源:站长之家用户投稿

引言:

随着人工智能的快速兴起,Google发布的深度学习框架TensorFlow在短短两年内,就成为了当前最流行的深度学习项目。

在图像处理、音频处理、自然语言处理和推荐系统等场景中,TensorFlow都有着丰富的应用。虽然开源没多久,但是TensorFlow正在悄然渗透到我们的工作生活当中。

研究背景:

某新闻企业通过接入极光智能推荐系统,在其APP端增加智能推荐模块,为其用户私人订制感兴趣的新闻。极光机器学习云能够快速、精准的提取每条新闻的主题,并对新闻进行主题分类,借助极光自有的用户标签,向用户实时的推荐个性化新闻。

通过TensorFlow深度学习框架,在自然语言处理方向,极光已经通过机器学习算法实现了文章标题、摘要和关键词的自动生成功能。

研究方案:

文本自动总结的模型一直都是深度学习中的研究热点。有一些诸如 TFIDF和TextRank之类常规算法,其基本原理是直接抽取文本中重要的句子。也有一些较为复杂的算法如重新生成新的句子,但效果不佳。目前常用的模型是seq2seq,它是基于Encoder-Decoder的一个结构,首先将原始文本中的句子encode成一个固定大小的向量,然后通过decoder部分一个字符一个字符生成目标句子。

TensorFlow,也就是Tensor和Flow,这就意味着Tensor和Flow是TensorFlow的基础要素。Tensor意味着数据,Flow意味着流动、计算和映射,这也体现出数据是有向的流动、计算和映射。TensorFlow的结构由会话(session),图(graph),节点(operation)和边(tensor)组成,它使用图(graph)来表示计算任务,图在被称之为会话(Session)的上下文(context)中执行,其状态是通过变量(Variable)来维护的,使用feed和fetch可以为任意的操作(arbitrary operation)赋值或者从其中获取数据。

这篇文章中我们将采用基于Tensorflow的Seq2seq+Attention模型,训练一个新闻标题自动生成模型。 加入Attention注意力分配机制,是为了使Decoder在生成新的目标句子时,可以得到前面Encoder编码阶段每个字符隐藏层的信息向量,提高生成目标序列的准确度。

数据处理:

样本数据为该企业新闻客户端 2016 年 11 月份的新闻,超过10M的语料数据,包含新闻标题和新闻正文信息。由于在Encoder编码阶段处理的信息会直接影响到整个模型的效果,所以对新闻数据的预处理工作需要非常细致。对新闻中的特殊字符、日期、英文、数字以及链接都要进行替换处理。

文本预处理后,就是训练样本的准备工作。这里的Source序列,就是新闻的正文内容,待预测的Target目标序列是新闻标题。为了保证效果,正文部分不能过长,这里设定分词后的正文不超过 100 个词,不足用PAD字符补齐,设定标题不超过 20 个词。在生成训练样本的时候,定义了create_vocabulary()方法来创建词典,data_to_id()方法把训练样本(train_data.txt)转化为对应的词ID。

训练样本的数据格式如下:

算法解析:

 Seq2Seq是一个基于输入的sequence,预测一个未知sequence的模型。模型由Encoder编码阶段和Decoder解码阶段两部分构成。模型编码阶段Encoder的RNN每次会输入一个字符代表的向量,将输入序列编码成一个固定长度的向量;解码阶段的RNN会一个一个字符地解码,如预测为X。在训练阶段时会强制将上一步解码的输出作为下一步解码的输入,即X会作为下一步预测Y时的输入。

当编码阶段输入的序列过长时,解码阶段LSTM模型将无法针对最早的输入序列解码。Attention注意力分配机制,在解码阶段每一步解码时,都会有一个输入,对输入序列所有隐含层的信息进行加权求和,能够很好的解决这个问题。

将分词后的新闻文本数据拆分为训练样本和测试样本,共四个文件:train_data.txt,train_title.txt,test_data.txt,test_title.txt 。新闻正文内容和其对应的新闻标题需要分开存放在两个文件内,一行为一条新闻样本。

实证效果:

运行脚本,训练好的模型将被保存下来,部分预测好的Text Summarizaion如下:

总结:

随着互联网的迅速发展,网络中的新闻资源呈指数级增长,通过深度学习自动生成的标题往往能很直观的体现新闻的主题内容,便于读者快速的浏览新闻,准确选择自己感兴趣的内容,节约时间成本,能够给读者带来很好的体验感。

智能推荐已经成为一种势不可挡的趋势,随着人工智能的发展,算法推荐必将成为内容领域的主流之一。极光即将推出一套完整的智能推荐引擎,模型引入极光用户标签,将基于Tensorflow的LSTM主题分类的个性化推荐和非个性化推荐相结合,不仅能很好的解决用户冷启动问题,而且可以满足企业的个性化需求和用户的实时智能推荐。

网友热搜:

免责声明:“站长之家”的传媒资讯页面文章、图片、音频、视频等稿件均为自媒体人、第三方机构发布或转载。如稿件涉及版权等问题,请与我们联系删除或处理。稿件内容仅为传递更多信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性,更不对您的投资构成建议。我们不鼓励任何形式的投资行为、购买使用行为。

  • 相关推荐
  • 大家在看
  • flowkey在线教学软件 圆您指尖上的钢琴梦想

    一架钢琴,一段优美的旋律,一个动人的故事。感动了亿万人的“国民钢琴家”石进用灵动的琴音,带着听众逃离都市与现实的纷繁。而就是这样一位曾获得无数掌声的灵魂弹奏者,你可知道,他的职业是一名网络工程师,弹钢琴只是业余爱好。石进的励志故事也再度激励众人:梦想离我们只有一步之遥。而现在,只需登陆钢琴自学app——flowkey,即刻就能开启期待已久的音乐之旅!flowkey APP基于便捷的移动互联网技术之上。它创新钢琴自学体?

  • Windows 10补丁惹祸:把自家Outlook给灭了

    如果你正在使用微软Windows 10系统和Outlook邮件客户端,最近几天突然发现不能用了,那你并不孤单,因为这都是Windows 10的某个补丁惹的祸。如果你及时更新了Windows 10累积补丁,Outlook的版

  • 外媒:柔宇RoWrite智能手写本被列为欧州奶爸必备神器

    最近,来自中国柔宇科技的柔记RoWrite智能手写本,突然在国外受到多家媒体的关注,不仅成为许多最佳智能手写本排行榜上的常客,也被很多海外媒体评价为最适合作为礼物的电子产品。 英国知名女性LIFESTYLE媒体The Daily Struggle日前发布了一份适合男性的礼品名单,RoWrite智能手写本就被列为成为适合几乎所有男性的终极礼品,其他推荐的创意礼物还包括耳机大厂森海塞尔推出的高保真无线降噪耳机HD 450BT,或是参加一次超跑体验日?

  • 无畏契约Valorant有什么枪比较厉害 瓦罗兰特好枪推荐

    无畏契约Valorant中枪的种类有非常多种,很多玩家还不了解无畏契约Valorant中有什么枪比较厉害,下面就来为大家分享一下Valorant有哪些好用的的枪推荐。

  • WOW COLOUR 携手美图「颜值兑换公司」,国潮专场助力品牌俘获年轻人群

    随着国潮元素、文化、风格等越来越受年轻人的追捧,消费者通过买国潮、穿国潮、说国潮、唱国潮来表达不同的国潮态度。作为国内最受年轻人欢迎的影像美化与社交平台,美图公司已经成为年轻人记录生活、分享生活的伙伴,并将美融入于生活的方方面面。基于“靠脸吃饭”这一网络流行语背后的用户洞察,美颜相机重磅打造S级运营活动「颜值兑换公司」。今年 5 月,美颜相机「颜值兑换公司」推出国潮专场——【国潮自拍合伙人】,并携手An

  • 介绍几款大开眼界的黑科技智能电视软件,当贝市场推荐

    快手 TV版最近,快手上架智能电视端,实际体验十分出色,里面内容包含海量的高清小视频、有趣的自制连续短剧、主播明星精彩直播,应有尽有。使用过程完全免费,观看画质超清,流畅不卡顿,同时大数据会对你的观看停留时长,进行了详细的分类和整理,去推荐你喜欢的热门视频,非常良心。葫芦视频葫芦视频是一款十分强大的视频软件,它支持的功能包括:随心看、强大的资源库、随时更新的排行榜、放映厅、各标签推荐精选,每个功能都是

  • 对话微信团队:揭秘订阅号智能排序背后的推荐逻辑,星标、在看真的有用吗?

    最近,越来越多的号推送类似《这可能是我最后一篇推送了》、《对不起,我们可能要和你说再见了》等标题的文章,点进去无一例外都在说公众号改变了推送规则,如果不点在看或星标的话可能就看不到这个号的内容了。

  • UCloud优刻得推出人脸识别测温平板和智能防疫一体机

    正值全国各地企业复工、学生复学之际,北京新发地市场近日爆发的一起聚集性疫情,使国内的疫情防控形势再次严峻起来。加之海外疫情仍处于大规模爆发状态,如何做到外防输入、内防反弹是当下抗疫工作所面临的两大挑战。为此,UCloud优刻得结合自身在AIoT领域的技术优势,与中车集团中城捷运合作推出了两款疫情防控产品:人脸识别测温平板和智能防疫一体机,可分别应用于不同场景。人脸识别测温平板通过AI算法进行人脸识别和无接触测

  • 码大仙APP公测新闻发布会

    2020 年 6 月 18 日,码大仙平台公测新闻发布会在福州威斯汀大酒店隆重举行。主题为“码大仙 让你的技术服务无后顾之忧”。出席会议的嘉宾有互联网行业协会代表、IT界技术大咖、商会领导、芯昊集团公司代表、数十家传媒公司代表和媒体记者等,现场百余人共同见证码大仙平台公测新闻发布会的启动仪式!发布会当日,码大仙CEO郑建枫对于当前软件开发市场的现状、码大仙平台创立的宗旨以及平台优势做了系统的阐述。郑建枫强调:任何一

  • 央视新闻发文评论:“地摊经济”不能一哄而起

    近日,地摊经济成为国民热议话题,央视新闻客户端发布热评文章《“地摊经济”不能一哄而起》。文章表示,当前,“地摊经济”在一些地方热闹起来,这固然有其生存发展的价值,但并非包治百病的灵丹妙药。不同的城市有不同的定位,也有不同的发展阶段,一旦脱离实际,一哄而起、盲目跟风,就会适得其反,“蚕食”来之不易的治理成果。

  • 腾讯新闻极速版升级为“有味”App

    近日,腾讯将“腾讯新闻极速版”App升级改造为一款名叫“有味”的产品,后者的定位是“美好生活分享平台”。

  • Google因拒绝为新闻付费 遭出版商攻击

    DoNews 6月19日消息(记者 刘文轩)据彭博社报道,出版商贸易组织News Media Alliance在一份提交给美国司法部的报告中称,Google使新闻机构在没有获得足够报酬的情况下出让其新闻内容。美国司法部目前正在调查Google可能的违反反垄断法的行为。新闻媒体联盟表示,Google严重依赖新闻内容来吸引流量和推动其广告业务,但由于它是一家拥有着强大权力的在线平台,新闻机构很难与这家公司就新闻内容许可证一事展开实际的谈判。知情人士

  • 流量与口碑齐飞,BBC全球新闻有哪些值得借鉴的地方?

    三月份,BBC旗下国际新闻平台BBC Global News(以下译为BBC全球新闻)的在线阅读量和视频点击量都创下了新纪录。但作为一个 24 小时更新的、在全球 77 个城市拥有 60 个国际办事处和 4000 名记者的国际新闻平台,在增加内容输出的同时,其庞大的规模也意味着需要在远程工作方面做出巨大调整和改变。

  • 联想携手微软助力 Windows7 迁移至 Windows10

    自Windows 10 发布以来, 截止到目前为止,Windows 10 的月活跃设备数量超过 9 亿台。随着越来越多用户选择 Windows 10,服务了近 10 年的 Windows 7,也已经在 2020 年 1 月 14 日之后终止包括安全更新在内的技术支持。为了帮助用户更好的迁移到 Windows10,联想将与微软共同努力,为用户带来 Windows 10 上的更安全、便捷和高效的使用体验。 Windows 10 拥有丰富的功能和独特的优势,全新的设计更适用于当下的现代办公方式。 强

  • 外媒:AI工具成熟 微软解聘约50名MSN新闻员工

    <p>【TechWeb】6月2日消息,据国外媒体报道,知情人士透露, AI(人工智能)新闻工具日趋成熟,微软决定解聘约50名MSN新闻员工。</p><p><img

  • LOL云顶之弈10.11星神重秘狙阵容上分攻略 S级阵容搭配推荐

    英雄联盟的云顶之弈模式的10.11版本中秘术狙一直很火,不过这次带来一个改良版的星神重秘狙来帮助大家上分,下面就来为大家分享一下详细的阵容攻略。

  • LOL云顶之弈10.11三套S级阵容搭配攻略 虚空斗法女武剑神阵容推荐

    LOL云顶之弈10.11版本中,很多阵容都适合上分,在这个版本中之前的套路不吃香了,所以今天就来为大家分享三套S级的阵容,帮助大家获取胜利。

  • 仅179元!小米有品开卖Haylou智能手表:全天心率监测 续航30天

    6月4日消息,今天小米有品上架了一款Haylou Solar智能手表,具备金属机身、支持12种运动模式、全天心率监测、30天持久待机等特点。售价仅179元,与普通手环一个价。设计方面,Haylou Solar智能

  • 联通公用电话全面停止服务?官方辟谣:以偏概全的假新闻

    昨日,“联通公用电话全面停止服务”的话题突然登上微博热搜榜。对此,中国联通方面回应称,这是典型的以偏概全假新闻。中国联通表示,对各地公用电话采取的是各地自行运营的模式,绝不可能一刀切叫停全国所有的公用电话。所谓‘联通公用电话全面停止服务,公用电话成为历史’的说法,明显是假新闻。

  • 裁减媒体团队、出售海外业务,BuzzFeed还要不要搞新闻?

    其实,延长时间线来看,近年来BuzzFeed的人事变动和结构调整并不少见。 2018 年,BuzzFeed在英国遭遇巨额亏损,随后关闭了在欧洲的一些分支机构; 2019 年,它裁掉了 200 名左右的员工。最近,它还计划出售在德相关业务。

  • 参与评论
文明上网理性发言,请遵守新闻评论服务协议