智能算法的尴尬

摊上事儿的今日头条

2017年12月29日，国家互联网信息办公室指导北京市互联网信息办公室，针对今日头条、凤凰新闻手机客户端持续传播色情低俗信息、违规提供互联网新闻信息服务等问题，分别约谈两家企业负责人，责令企业立即停止违法违规行为。

今日头条手机客户端“推荐”“热点”“社会”“图片”“问答”“财经”等6个频道自2017年12月29日18时至12月30日18时暂停更新24小时、凤凰新闻手机客户端“头条”“推荐”等2个频道自2017年12月29日18时至12月30日6时暂停更新12小时。

北京市互联网信息办公室相关负责人指出——今日头条和凤凰新闻手机客户端违反国家有关互联网法律法规和管理要求，传播色情低俗信息，存在严重导向问题，对网上舆论生态造成恶劣影响。在尚未获得互联网新闻信息服务资质的情况下，今日头条手机客户端违规转载新闻信息，且“标题党”问题突出，严重干扰了网上传播秩序；凤凰新闻手机客户端违规自采和转载新闻信息，扰乱了网上传播秩序。

北京市互联网信息办公室责令两家企业深入自查自纠，全面清理网上违规内容，杜绝类似情况再次发生。

亡羊补牢的牧羊人

面对相关机构的严厉整顿，两家企业负责人表示，将严格落实网信部门管理要求，对相关问题进行自查自纠，分别对违规问题严重的部分频道暂停内容更新，而今日头条除了暂停更新外，随后更用一连串动作成为市场关注的焦点。

一直以来，将“通过人工智能技术，推荐最适合的内容给用户”的今日头条在遭到最严整顿后开始大规模招聘内容审核编辑岗位，加强内容审核。在某招聘网站上，今日头条在天津招募内容审核编辑，每个员工每天需要审核1000条左右内容，负责监控审核今日头条平台内容是否违规，薪资约为4000至6000元/月。该职位要求热爱新闻，关心时事，具有良好的政治敏感度和鉴别力，要求本科及以上学历，党员优先。

据澎湃新闻获悉，今日头条此次招聘内容审核编辑，负责海内外产品的内容审核人员，总的新增规模在2000人左右。目前，今日头条内容审核编辑团队人数已经超过4000人（含海外产品），建立了一支国内最大的审核编辑团队。今日头条副总编辑徐一龙称，这个数据还会继续增加，预计很快突破10000人。

大规模招募审核编辑团队的同时，今日头条召开了一场旨在推动整个行业来问诊算法、建言算法的分享交流会。资深算法架构师、中国科学技术大学计算机博士曹欢欢，在今日头条总部带来了题为《让算法公开透明》的分享，消除社会各界对算法的一些误解，同时接受意见和建议。会后，今日头条正式面向行业公开算法原理，一时间让业界侧目。

依靠智能算法崛起的今日头条

它比你还了解你自己！无论是国外的Facebook、Google、Netflix还是国内的百度、今日头条、微博，算法对于它们而言都是极为重要甚至核心的资产，尤其是在AI全面崛起的今天，算法驱动的资讯类平台竞争已经非常残酷，而依靠智能算法崛起的今日头条在这个时候选择公开算法原理，

最早创办于2012年3月的今日头条在百度百科上的解释是“一款基于数据挖掘的推荐引擎产品，为用户推荐信息，提供连接人与信息的服务的产品”，无论是用户个性数据的获取与分析还是内容的整合与分发，科技技术元素一直以来都是今日头条宣传的重点，然而，从标题党到低俗、色情内容的传播，原本人们认为能更高效、准确筛选过滤内容的智能算法这一次却让人们大失所望。

人民日报对以今日头条为代表的的算法推荐资讯平台进行了点名，提出了价值观缺失、制造信息茧房、竞争手段无底线的“三宗罪”，从严厉整顿到官媒点名，让人们不得不疑惑融合大数据、云计算、AI的智能算法究竟怎么了？

不太智能的智能算法

当然们将关注的重点放在资讯平台算法时会发现，高大上的智能算法在实际应用面前并没有想象中的管用。无论是Facebook还是今日头条，标题党、假新闻都是一直存在的“麻烦”，以往这类互联网咨询平台更倾向依靠智能算法帮忙，让用户自行评定所阅读内容质量、属性。尴尬的是，很多用户会依照个人喜好随意标注，甚至会因政治倾向对某一派别的新闻进行恶意标注。

实际上“夸张的标题”、“假新闻”、“低俗内容”之间往往只有一线之隔，把决策权交给用户是一项非常冒险的行为。智能算法对于整体内容或者某一类内容的评定和把控往往来源于用户这些随意性的评定，可问题是当人们说出：“你好讨厌”这四个字的时候，不同的语气或情景完全可能地阿莱截然不同的语义，而智能算法很难理解人们随机或带有情感的评定，当这样的现象开始蔓延的时候，往往会形成“多数人的暴政”。

在推荐算法中，最常见的就是协同过滤算法。资讯类产品常常会使用基于用户的协同过滤算法，即利用K邻近算法，找到和你兴趣相近的用户，并把对方的喜好推荐给你。这种基于用户行为的推荐机制，在豆瓣一类更个性化的、社交属性更强的平台的中更为精准。可今日头条这类资讯平台中，用户群体更加繁杂，用户行为往往也都是无目的性的在豆瓣中标记某一部电影可能是为了告诉大家“我是看这种电影的人”，而在今日头条中点击一条新闻往往只是因为“想看看”。

资讯平台想要努力读懂用户，从而推荐更适合用户的内容为其服务时，必然需要海量数据来提升算法的准确性，尤其是当人们在平台上的行为表现充满随机性的时候，平台算法只能拼命地收集更多数据，可这却又带来了新的麻烦。

绕不开的数据迷雾

没有数据的算法同“巧妇难为无米之炊”一样，显然无法给用户带来可靠或者准确的服务，可对海量数据的诉求，又很容易让它们踩过界。2018年1月11日，工信部信息通信管理局约谈了百度、支付宝和今日头条，指出对照《网络安全法》、《电信和互联网用户个人信息保护规定》等有关规定，三家企业均存在用户个人信息收集使用规则、使用目的告知不充分的情况，并要求三家企业进行整改。

继2017年底的整顿后，今日头条又在2018年初因用户个人数据的收集被要求整改。同期，今日头条又被网友质疑“乱用手机麦克风监听用户说话”。虽然今日头条很快就进行了澄清，但人工智能算法与用户隐私的界限开始成为人们关注的新焦点。

“我在淘宝上浏览的东西，头条立马推荐这种东西，谁在出卖我？”在百度知道上，同样发现大量关于该现象的提问，比如，为什么我逛了淘宝或或者京东之后，今日头条就会出现类似的广告产品，是我的账号信息泄露了么？或许互联网平台数据收集、分析并分享暂时未给我们造成伤害，可人工智能技术与用户隐私之间界限迟早会引发市场的广泛讨论。

信息茧房的争议

除了前面提到的多数人的暴政、人工智能技术与用户隐私之间界限等话题外，信息茧房同样成为人们争议的焦点。以今日头条为代表的咨询平台通过智能算法读懂用户的结果是实现“看我想看，听我想听”，如同吸食精神鸦片后所获得的心理上的舒适感。久而久之，信息接受维度变窄，知识获取单一，行为习惯被自己的兴趣引导，在单调的信息中形成了特定思维习惯。

　身处“信息茧房” 的人，会被自己的兴趣误导，最终被困在自己狭窄的认知结构中。对其他领域越来越陌生，便会很难接受不同的观点，逐渐沉浸在自己认知的世界中。这就是今日头条色情低俗信息泛滥的原因，迎合了大众的低级趣味。

利用引以为豪的算法推荐，洞悉人性内心，只要用户感兴趣就源源不断推荐，越推荐用户就感兴趣阅读，以此增加用户粘性，带来了流量价值。绕了一大圈之后人们发现，内容分发、智能算法、精准推送等背后，依旧逃不过互联网流量变现的漩涡。

内容变现的曲折路

今日头条以机器算法流量分发出名，这对于很多自媒体创作者来说大大的降低了推广门槛，这种流量分发的机制本身淡化了粉丝的用处，即使你没有一个粉丝也能写出一篇爆文，这对于很多新手来说免去了之前推广粉丝的麻烦，也算是解决了传统自媒体推广的一个痛点。用流量分发吸引到自媒体的入住，用自媒体的内容充实整个平台，而用户对内容的追逐也为平台带来丰富流量。

今日头条的强势崛起佐证了流量分发模式的成功，但自2018年1月16日起，头条号平台将大幅提升内容（包括文章、图集和视频）向粉丝展示产生的广告收益，根据粉丝阅读和观看量级，提高至3～50倍不等。”这就意味着靠写文章赚广告费的自媒体们又重新需要加粉，整个平台似乎重新回到了以前粉丝经济的牢固。

实际上，在今日头条修改广告收益模式以前，多年的积淀已经让今日头条全面布局内容端、短视频、社交等领域，并仍在不断扩展自己的边界。快拍、西瓜视频、抖音短视频、悟空问答、内涵段子等等人气极高的项目都是今日头条在这些年陆续布局的，不断捕捉市场关注热点的同时，也为整个今日头条生态积淀下大量用户流量，“全家桶”式布局的优势在于各平台间的互推，但这类平台基本上都是以内容为价值核心的定位，一旦没有以内容生产者为中心的社交关系，用户无法有效留存，而从内容到用户流量到广告营收的变现模式，内容恐怕才是真正的承压点。

对流量的守护

在BAT三座大山下，国内互联网行业企业的崛起的确是非常不容易的，巨头们凭借庞大的流量和资本优势，完全可以将有希望的新兴企业扼杀在摇篮里或直接并购，从这个角度看今日头条的“全家桶”布局，也就不难理解其为何在如此短时间里进行如此庞大的领域布局了，而随着内容分发的崛起，百度、微博、腾讯等巨头同样积极布局，当内容分发流量对象趋于饱和时，整个市场的竞争同样会加剧。

近日， 今日头条官方头条号发布了一则公告称，自2018年1月24日起，禁止推广微信、微博等第三方平台账户，触犯规则或对账户进行扣分和禁言处罚。据说这场战争还将涉及阿里巴巴等电商平台，今日头条宣布在未使用商品卡功能的情况下，禁止在内容中推广电商平台(淘宝、微店等)产品。

结合“千人百万粉计划”可看出，今日头条对于流量的追逐可以说是相当坚定的，而对于流量变现，今日头条拿出的方法也不仅限于广告。

今日头条流量变现的野心

传统互联网企业进行流量变现的办法无外乎广告植入或者电商销售分成，近年来内容直接销售或许可行，但对今日头条一类主打综合资讯消息的平台而言，多少有些不合适。

尽管“得流量者得天下”，但流量变现也是让流量巨头们挖空心思。拥有大规模用户的互联网公司有足够动机涉足金融市场。一方面通常它们已经具备了某种交易场景，可以直接嵌入金融业务；另一方面，金融业务的变现效率非常可观。今日头条也意识到了这一点，庞大的用户体系加上支付体系，才能维持盈利的持续。

知识付费类的悟空问答、新知；电商类的放心购、今日特卖；甚至也包括短视频当中的打赏功能都可以看做是今日头条进行流量变现的尝试，在不断创造或尝试推出用户付费情景的同时，今日头条还积极布局保险和贷款业务，加上购买金融牌照，其整个金融板块的战略布局已经相当完整，而本身长期对用户大数据进行的抓去、整理、分析，也能让其金融业务得以快速铺开。

作为一家互联网企业，对流量的追逐和流量变现的展开无可厚非，但今日头条本身因为资讯平台而具有媒体属性，其一味满足自媒体或者网友的个性偏好以获得更多流量时，同样也放弃了很多。

被淡化的媒体责任与义务（黑纸白字）

资讯平台在很长一段时间内都在向市场灌输算法无罪、平台中立、互联网中立的概念，看似公平公正的传播却潜移默化地淡化了平台的责任与义务。以今日头条为例，“你关心的，才是头条”这句话其实偷换了概念，丢弃一切媒体责任，将所有低俗的原罪推给用户。

在这样的“算法无罪”、“技术中立”论调之下，头条的内容在2017出现了失控迹象，即使在各界包括人民日报和人民网多次提醒之下，用户对其推荐“内容低俗”的诟病更是始终未曾落停。尽管今日头条一直声称自己是基于数据挖掘的推荐引擎产品，为用户推荐信息，但这并不能改变今日头条作为新闻媒体的本质，尤其是随着用户规模的日渐庞大、影响日盛，今日头条已具备媒体的诸多功能和属性。

从传统媒体到门户网站时代，媒体编辑承担了把关人的角色，而到了今日头条、一点资讯等信息聚合平台兴起并占据市场后，编辑的作用开始弱化，这些基于推荐引擎的商业媒体让把关人变为“算法”，影响这个算法的则是内容受众者自己。传统媒体时代，“责任编辑”是一个近乎信仰的词汇，“白纸黑字”承载的不仅仅是内容，更有着媒体和媒体人的责任与义务。

而在这个人人都是自媒体的时代，媒体平台对流量的追逐和对内容的放任，势必会议牺牲媒体公信力为代价，长久下去对于媒体平台本身也没有任何好处。

创新并不意味颠覆一切

互联网和移动互联网的推动，让信息传播效率变得异常高效，今日头条这类具备智能算法、掌控互联网流量的新媒体平台在主流市场大肆攻城略地的同时却忽视了媒体平台核心的授权内容和新闻素养。

创新的内容创作和传播模式，满足大众在移动互联网时代阅读需求时，也造成了低俗色情垃圾内容满天飞的局面。在传统门户时代，编辑并没有采编权，网站上出现的新闻内容主要是转载具有新闻采编权的合作媒体，但这个时候，网站却存在大量的经过专业新闻素质培养的编辑，他们完全可以对内容进行严格的把控。

但进入移动资讯平台时代，这种原有的模式却出现了极大的变化。越来越多的内容分发平台开始去编辑化，内容生产开始进入众包阶段，平台将内容的编辑生产权转交给了新媒体从业者。这些人可以说鱼龙混杂，既有从体制内离职创业的传统媒体人，也有新诞生的自媒体人。

从媒体平台到内容作者对流量的追捧，很容易让“儿童邪典片”一类内容在网络上大肆传播，造成极大的危害。创新并不意味着颠覆一切，今日头条一类资讯平台想要持续健康成长，最基本的职业道德和素养是必不可少的。

需要时间成长的AI

从大数据的采集、分析到内容的推送甚至撰写，AI能够帮助人们完成很多任务，可这并不意味着它已经能够实现对人的完全替代。一直以来，今日头条对外展示的定位始终是技术公司，技术驱动一切。而人工智能又是最重要的技术应用。今日头条一般通过智能推荐和大数据判断，会把合适的内容推送给合适的人，平台只是流量分发机器。

而从目前的市场状况看，AI并不能承担起完全的责任，AI+人工的协作成为Facebook、今日头条们的最佳选择。技术或许能帮助我们实现很多想法，但AI的成长如同人类的智慧、知识一样，需要以时间为代价的沉淀。

在过去一两年时间里，人工智能领域比以往任何时候都更加活跃，人才和金钱都在以惊人的速度涌入这个领域。尽管人工智能在执行一些非常具体的任务时已经超越了人类，但它在一般智力方面仍然极其有限。