图:在网上购物、刷视频、浏览新闻的过程中,算法的身影随处可见。 资料图片
■本报记者 李燕京
经过多年发展,算法推荐技术(以下简称算法)已成为数字时代的标配,被应用于互联网的各个领域,消费者在网上购物、刷短视频、浏览新闻等过程中都有它的身影。
作为一种互联网技术,算法通过个性化推送、排序精选、检索过滤等技术满足人们多元化、个性化的信息需求,实现用户与信息的快速精确匹配,的确给消费者带来了不少便利。但同时,其滥用也造成了消费者被不合理地差别对待等问题。
“大数据杀熟”不手软
2017年12月,“大数据杀熟”一词首次引爆网络。一网友无意中发现自己出差经常住宿的酒店房间价格在380-400元之间,而用朋友的账号查看时,同一房间价格仅300元左右。之后,消费者们不断发现平台通过大数据针对不同的消费者实施不合理的差别对待等现象,由算法引发的侵害用户权益问题逐渐被重视。
3月1日,北京市消费者协会发布的互联网消费“大数据杀熟”问题调查结果显示,超八成受访者有过被“杀熟”的经历。网络购物是“杀熟”重灾区,其次是在线旅游、外卖和网约车,还有部分受访者表示在电影消费和视频消费时遭遇过“杀熟”问题。
北京市消协体验人员分别通过新老用户两个账号同时在饿了么平台订购同一饭店的同样饭菜,老用户账号不仅比新用户账号少了7元“双重补贴”红包,配送费也比新用户少优惠0.4元。在北京市消协对16个平台进行的32个模拟消费体验样本中,有18个样本新老用户账号的价格一致;有14个样本新老账号的价格不一致。“大数据杀熟”在电商平台尤为突出,平台通过用户的消费记录了解消费者的消费能力和习惯,再进行暗箱操作,最后“薅熟人的羊毛”。
面对算法的“算计”,消费者很无奈,但也有人不甘坐以待毙,开始在同一平台注册多个账号,消费时比较哪个账号便宜就用哪个账号下单。北京消费者刘静对记者说:“我在多个购物平台都有两个账号,虽然使用起来比较麻烦,但总不能眼睁睁地被‘算计’吧,自己能做的也就这些了。”
能像刘静这样做的毕竟是少数。买机票、订外卖、订酒店,同一个航班、同一份餐饭、同一家酒店,使用不同的账号、不同的手机下单,价格却不相同,而且越是“熟客”越容易被算法“算计”。中国信息安全研究院副院长左晓栋在接受《中国消费者报》采访时指出,“大数据杀熟”等顽疾归根结底是滥用用户个人信息导致的。解决这类问题,首先要在治理违法违规收集用户个人信息上下功夫,其次要保障用户的选择权、删除权等权益。例如,要向用户提供不针对其个人特征的选项,或向用户提供便捷的关闭算法推荐服务的选项,并提供选择或删除针对其个人特征的用户标签的功能。
算法推荐让人画地为牢
很多消费者都遇到过这样的情形:某一次浏览、购物之后,手机就会不断弹出相关的信息,让人不胜其烦。不仅如此,在一些行业,算法还被用来向特定人群推送特定信息,使得消费者处于信息孤岛,被有限、片面的信息所误导。
算法在网络营销中已经起到了举足轻重的作用,但一旦被滥用,消费者获取的信息受限,选择权也将因此受到限制,比如有的企业利用大数据分析评估消费者的个人特征后将算法推荐用于商业营销。有业内人士向记者透露,新品要打出名头的办法是:首先,通过所谓的“意见领袖”发文,然后通过大数据找到特定人群,通过算法不断推送;之后,在各平台大量发“种草”文章,再次利用大数据找到感兴趣的受众,用算法进行新一轮推荐。
左晓栋表示,这些服务的推送是网络服务提供者定制的,定制就容易产生滥用,轻则损害消费者个人权益,重则甚至危害国家安全,因此对算法使用必须进行规范。
通过算法诱导用户沉迷、过度消费同样备受诟病。“有的游戏你玩不过去它就给你放点水,导致你像中毒一样停不下来;或者看你反复浏览某件商品,它就显示‘两件八折、三件七五折’这样的优惠,让你尽可能多买。”中国电子技术标准化研究院网安中心测评实验室副主任何延哲对记者说。
网络为未成年人带来了崭新的生活方式,也带来了未成年人网络保护问题。未成年人认知、判断能力较弱,价值观尚未成型,针对性过强的算法推送内容有可能引发各种不良后果,也可能导致沉迷网络现象。而且被算法诱导沉迷网络的还不只是未成年人。北京消费者张萌对记者说:“刷短视频经常会刷得停不下来,它推给你的并不都是你感兴趣的,但是隔几个视频就会冒出一个你感兴趣的,于是总想再看看,时间就一点点过去了。”
采访中,一位算法工程师告诉记者,一小段计算机代码就能追踪到你点击视频的行为,找出你观看哪类视频频率最高、时间最长,然后给你推送同类的东西。这种推送不仅留住了用户,而且将点击信息反馈给制作者,可以促使制作者加大该类视频的制作。
专家指出,在互联网信息服务日益多元化、基础化、普及化的情况下,有关规定必须精细化、有侧重地满足不同群体的利益诉求,引导算法应用遵守社会公德和伦理,遵守商业道德和职业道德,更好地保障未成年人、老年人、劳动者等群体的权益。
算法应用走上法治轨道
算法到底是什么?3月1日起施行的《互联网信息服务算法推荐管理规定》(以下简称《规定》)给出了定义:指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。
算法是技术进步的产物,技术本身并没有善恶,关键是通过规范让技术更好、更公平地为消费者服务。
《规定》中明确,不得生成合成虚假新闻信息;不得利用算法屏蔽信息、过度推荐、操纵榜单等干预信息呈现;不得利用算法诱导未成年人沉迷网络;不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。
针对未成年人,《规定》提出,算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿的不安全行为和违反社会公德的行为、也不得诱导未成年人养成不良嗜好等可能影响未成年人身心健康的信息,不得利用算法推荐服务诱导未成年人沉迷网络。
规范算法应用,并不是要彻底杜绝算法,而是要让算法透明化,回归用户的掌控,而不是操纵用户。就在《规定》实施的第二天,国家互联网信息办公室就《互联网弹窗信息推送服务管理规定(征求意见稿)》公开征求意见。意见稿提出,互联网弹窗信息推送服务提供者应当落实信息内容安全管理主体责任,建立健全信息内容审核、生态治理、网络安全、数据安全、个人信息保护、未成年人保护等管理制度。
中国政法大学传播法研究中心副主任朱巍对《中国消费者报》记者表示,“大数据杀熟”、平台二选一、数据垄断、侵害公民个人信息等问题的核心原因是数据和流量的无规则运行。数字经济背景之下的消费者权益保护不是个体维权的问题。首先,要做到算法公平;其次,算法在人工智能应用时,要维护好一定的价值标准和审核标准;再次,要有第三方公信力介入,比如消费者协会进行监管。
没有规矩不成方圆,在相关法律法规不断完善、监管不断严格的情况下,算法将被规范应用,而公平的算法将给消费者带来一个公平的消费环境。