【导语】不管人工智能未来发展到哪一步,算法的内容分发属于文化产品,对价值观的追求不能丢。

  面对算法伦理风险,大概三年前就有关于算法有没有价值观的争论。针对这个问题我只有一个答案:算法肯定有价值观。因为不管是人工智能也好,机器人学习也好,都是人在操纵它们。人是有价值观的,特别是在意识形态领域,肯定是有价值观的。所以在这个维度上讲算法没有价值观,就是在逃避人的责任,就是在为发布低俗内容找幌子。

  那么一点资讯如何赋予算法价值观?一是要教算法去识别什么是好坏;二是对于算法学习能力的训练,评估它能不能识别内容;三是内容占比的问题,娱乐内容肯定得有,但比例得控制。新闻有一个基本定义,叫做欲知、应知而未知的信息。如果仅由算法或者点击率来决定内容的话,那决定的都是欲知而未知的信息,因为人在很多时候都是追娱乐八卦的,如果算法只看点击率的话,那带给用户的就是这样的内容。但是应知的内容应该在算法里加入,或者在编辑的调控里加入。哪怕有轰动的娱乐新闻,但如果今天同时两会开幕,那我们肯定要把两会的新闻优先发出来,这就是算法价值观的体现。

  一点资讯的总编辑和编辑是深入参与算法规则制订的。我们会输入大量负面案例让机器学习,比如涉黄、低俗、涉人身攻击等,从而让机器变得更聪明,慢慢地机器就会分辨应该选择呈现什么内容。当遇到重大突发事件或者重大时政事件,一点资讯会采用人工强制的方法。一点资讯有分类分级制度,特大事件需要全干预。如果事件大到特级的时候,我们就不再使用算法,而是全部采用人工干预,在重大事件里发挥编辑的作用。

  在人工干预方面,我们加强对自媒体账号分级管理。现在一点资讯自媒体账号有60万个,这些账号如果只由监管部门来管是不现实的。这是我们平台的自媒体号,也是我们的主体责任。我们要大力控制账号内容源;要在内容的审核发布过程中严格控制算法模型;不重要或低劣的信息不能出现在主要位置上,特别是头条的位置。

  对一级垃圾号,我们坚决清理;对涉及政治有害信息、低俗涉黄、历史虚无主义、有害虚假广告、人身攻击等方面的内容,我们都会清理出去。此外,我建议把互联网企业平台的联动机制建立起来,一家企业封掉的东西应该在全平台上进行封存。

    未来,算法效率一定会越来越高,越来越能判断人的想法。算法到了一个节点后效率会陡然提高,但这需要具备三个条件:一是要有大量的数据模型,必须输入大量的内容让算法学习;二是要有算法工程师;三是要有硬件。未来人工智能肯定是往更精准的方向发展,人工智能可以识别更多东西,包括价值观。但是不管人工智能未来发展到哪一步,由于算法的内容分发属于文化产品,一点资讯对价值观的追求不能丢。(吴晨光:一点资讯副总裁)