算法,须依法!

  新闻1+1丨算法,须依法!

  给“算法”立规矩!3月1日起,《互联网信息服务算法推荐管理规定》正式实施。保护个*益,维护国家安全。算法不能变“算计”!《新闻1+1》连线中国信息安全研究院副院长左晓栋,共同关注:算法,须依法!

  规范算法,聚焦五类应用!

  如何理解这次实施的规定,要从“生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类”这五类应用去规范算法的“黑箱”操作?

  中国信息安全研究院副院长 左晓栋:因为这五类应用有两个特点。①大多数用户使用互联网,每天都会经历的这些应用。比如我们访问的信息,新闻信息是算法推荐的,我们使用搜索引擎,搜索引擎呈现的搜索结果是算法推荐的等等。②因为侵害公民个*益乃至危害国家安全的事件在这些领域多发。因此要规范算法的使用,聚焦这五类应用,才能很好地从根本上维护公民在网络空间的合法权益,维护国家安全和公共利益。

  规范算法推荐,如何保障用户的知情权和选择权?

  中国信息安全研究院副院长 左晓栋:算法规定文件要保证用户的知情权和选择权。但是在实践中,的确平台拥有者有可能会规避这些要求,比如应当给予用户提供不使用算法推荐的服务,或者给用户提供关闭算法推荐服务的选项等。如果用户提出了这样的申请,服务提供者可能就退出服务,用户不能用了,这个是很有可能发生的。所以首先要在文件的层面上作出严格的规定,同时后续还要严格的执法,对于违反政策规定的行为要进行责任追究。

  避免算法变算计,平台企业的开放、透明是关键

  中国信息安全研究院副院长 左晓栋:有的人说算法是个“黑箱”问题,这的确给治理带来了很大的挑战。因此在3月1日实施的这份文件,包括此前的一些法律规定中,都明确了算法一定要做到开放,一定要做到透明。包括给平台企业提出的一些要求,也是要让他们落实这方面的法律的责任义务。

  对“具有舆论属性或者社会动员能力的算法推荐服务提供者”进行监督管理

  中国信息安全研究院副院长 左晓栋:《互联网信息服务算法推荐管理规定》中特别对“具有舆论属性和社会动员能力的算法推荐服务提供者”作出了要求,主要体现在两个方面。

  ①履行备案手续。3月1日是这个文件正式实施的日子,在2月28日国家网信部门已经正式公布了备案的网址。

  ②开展安全评估。2018年国家网信部门联合有关部委就已经发布《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》,算法推荐服务提供者自然属于这类,应该由此进行管理,所以要进行安全评估。

  对算法推荐管理规定施行的期待

  中国信息安全研究院副院长 左晓栋:算法推荐是一个综合性、全局性问题,还涉及平台治理、数据安全保护等多方面。因此3月1日这份文件的实施,的确是一个重大进步,但这也仅仅是一个开头,今后还要继续加强工作。比如大家现在反映比较多的,互联网企业制定的平台规则,实施算法是不是应当征得社会同意?在2021年11月国家网信部门向社会公开意见的《网络数据安全管理条例》中就提到平台运营者应当对平台规则、隐私政策和算法征求社会意见,如果是特大型的互联网平台,那么所涉及的规则、隐私政策和算法还应当征得主管部门批准,这些动作都体现了主管部门在解决算法推荐问题上所做的积极的努力,这些工作还会持续下去。总的来讲,通过一系列的努力,一段时间内不懈地治理,期待这份规定能够切实保证公民在网络中的合法权益,积极有效的维护国家安全和公共利益。

  如何看待算法诱导未成年人沉迷网络的危害性?

  沉迷网络并不是一个“新鲜词”,但当算法加入,进行诱导,后果会怎样?

  中国信息安全研究院副院长 左晓栋:算法推荐有一个特点,就是你喜欢什么,它给你推送什么。青少年往往涉世未深,而且自制力不够,如果服务提供者专门针对青少年的个人喜好,甚至是一些不健康的喜好,专门推送定制信息,比如某种题材的小说或者游戏,就更容易使青少年沉溺其中不能自拔,后果很严重。

  监管算法,是否会影响技术发展?

  中国信息安全研究院副院长 左晓栋:首先需要明确一点,技术的发展是中立的,也就是算法推荐有它存在的必要性。比如说我们在网上买衣服的时候,穿上衣服效果怎么样,通过虚拟试衣,提供一张照片,形象效果就可以展示出来了,这是好的应用。但是也的确存在着一些滥用的情况,有些对社会危害还是比较大,所以要让算法运行在法律的轨道上,我们鼓励它正确、合理地向上向善应用,而需要规范监管的是不当的应用,这个工作必须要进行下去。

  如何理解算法作恶可能会影响到国家安全?

  中国信息安全研究院副院长 左晓栋:因为算法有一种功能,就是社会动员能力。如果服务提供者针对一批特定的人,专门定制一批特定的政治性信息定向推送,从而影响他们的政治判断,甚至去动员他们从事某种社会活动,这个后果就可能比较严重。因为会严重影响这些人客观正确的判断和认知。事实上,在世界很多地方的政治选举中,算法推荐都有它的影子,甚至有一些算法推荐的应用导致政治选举结果被直接改变了。

  全球首批针对算法进行的综合性立法

  中国信息安全研究院副院长 左晓栋:算法推荐中的“黑箱”算计问题,是一个全球各国面临的共同问题,而且是一个发展中的问题,各国都在采取措施加以解决。从全球范围看,我们国家制定这样一个算法管理的规定,是处于全球首批。制定这个规定是基于我们国家互联网产业发展的实际情况,同时也基于我们国家对互联网治理的具体经验,而这些产业发展的情况,这些治理经验往往体现了中国特色,所以制定这个规定,实际上是我们国家对全球互联网治理、网络空间治理所做的中国贡献,体现了中国智慧。 【编辑:陈文韬】