智能算法推荐于今日头条的发展功不可没,然而由于根据阅读量、阅读时长、转发量、过往阅读行业实施推荐,缺少必要的内容审核机制,容易导致为抓住用户眼球而牺牲文章质量问题的出现。正如人民网《不能让算法决定内容》一文所说,”内容能否推送、推送给谁,由机器说了算,依据的标准就一条:能不能抓眼球、能不能吸引用户。单一的标准不仅容易忽视优质内容更为丰富的面向和维度,也增加了把关内容产品的难度和成本。这也就不难理解,为什么即使事后不断处罚违规的内容账号,却无法停止劣质内容的再次生长“。

  12月29日,国家互联网信息办公室指导北京市互联网信息办公室,针对今日头条、凤凰新闻手机客户端持续传播色情低俗信息、违规提供互联网新闻信息服务等问题,分别约谈两家企业负责人,责令企业立即停止违法违规行为。其中今日头条手机客户端“推荐”“热点”“社会”“图片”“问答”“财经”等6个频道自2017年12月29日18时至12月30日18时暂停更新24小时。这是头条史上第一次遭到封禁,“印象中,也是新闻类APP第一次遭到网信办全面封禁。”

  尽管智能推荐算法五花八门,在内容分发市场发挥的作用也越来越大,但是算法没有思维,有思维的是隐藏在算法背后的人,算法的呈现形式由人的价值观决定,由人的利益驱使。人工智能技术与服务提供商第四范式的互联网业务负责人周开拓在接受记者采访时表示,“算法推送出的内容是企业自己在其中进行权衡的结果”,“人工智能,其实先有人工,后有智能,算法本身是没有倾向的。我们在推行的时候会把用户体验拆成两小块,一个是短期体验,另一个是长期体验。所以长期和短期体验的权衡,不是算法决定,而是人为决定。”

  面对普遍存在的内容质量困局,已有平台开始实践算法推荐+人工编辑的优化路径。2016年10月,一点资讯请来原新浪网总编辑陈彤做总编辑,CEO李亚在也毫不掩饰的说:陈彤加入一点资讯,就是因为机器算法有缺陷。2016年12月16日,Facebook上线Fact-Checking(事实审核)机制,将用户举报过多的信息交付机构记者来判断,如果记者判断这则内容是假新闻,就会将内容标记为存在争议,一方面会在前端页面提示给用户此内容可能失实,另一方面会从分发量的角度进行控制。2017年5月,扎克伯格发帖称Facebook会再招聘3000名内容审查员,在此次招聘后将会达到7500人。审查员会过滤社交媒体上的不适当内容,如恋童癖、身体暴露、种族仇恨等内容。

  今日头条质量低下问题已多次引起官方关注。2017年以来,今日头条三度遭约谈,成为低俗内容重灾区。1月6日,秒速赛车彩票北京市网信办发现今日头条”头条问答“栏目多次登载”庸俗讨论话题“,对今日头条提出严肃批评,并责令其整改;4月,央视曝光了今日头条向用户推送”艳俗“直播平台:火山直播,4月18日,北京网信办、市公安局、今日头条被“秒速赛车:禁”真是因为控制不住AI?市文化市场行政执法部队联合约谈今日头条、火山直播等平台,责令限期整改。7月,北京市网信办约谈今日头条、微博等网络信息平台,并永久”封杀“了一批”内容低俗“的违规自媒体帐号。

  正如周开拓所说,”人工智能,其实先有人工,后有智能,算法本身是没有倾向的“,”算法推送出的内容是企业自己在其中进行权衡的结果”。内容质量低下,源于平台的利益目的及部分用户对“低俗”内容的需求。今日头条的算法推荐与内容识别大部分是依靠用户的行为,会在用户浏览信息时智能抓取关键词,并给用户画像,对用户进行归类,进而根据关键词匹配出相关内容,最后将这些内容推荐给用户,若用户阅读的低俗内容多,则相应推荐的低俗内容也会多。