算法沦为算计，消费者如何反“杀熟”

  “付费会员价格比普通用户高”“新人一天三四个红包，消费数万元的老客户三四天拿不到一个红包”“同一套餐不同价，老客户被用力‘宰’”……新华每日电讯记者在某投诉平台搜索发现，有近1.8万条投诉中包含“杀熟”关键词，有的年轻人也想通过“哭穷”的方式“驯化”算法。

图片来源于网络，如有侵权，请联系删除

  近期，算法不透明和大数据“杀熟”再次引起关注。对于平台经济发展，市场监管部门也明确表态，要督促平台企业提高算法透明度，优化算法规则。

  算法如同“读心术”，用好了能为消费者和商家精准提供个性化服务，让买卖双方享受到技术红利，但若“心术”不正，算法便会沦为算计，成为网络生态的破坏者。业内专家建议，要更加完善算法监管体系，避免本应享受“算法红利”的消费者掉入“算计陷阱”。

  “算法杀熟”套路屡见不鲜

  近期，随着机票预订高峰的来临，“骂机票贵”再次翻热，矛头指向大数据“杀熟”。

  记者在网络平台搜索发现，一些“骂机票专用贴”热度攀升，相关话题讨论量高达70万次，参与者覆盖多个城市，以“哭穷”的方式倒逼机票降价。

  在一些“反复评论骂机票，两天骤降五六百”“哭穷砍价套路话术”等分享攻略的评论区，有网友跟帖评论基本都有针对性地点出航空公司和订票平台名称精准“开骂”。有网友晒出“战果”：从北京飞济州岛，骂之前870元，骂之后369元，并将成功经验分享。

  “订酒店用不同品牌手机搜出差价上百元的房价”“放在购物车里的商品多点几次就会涨价”……新老用户被“差别对待”、红包发放“看人下菜”、同一商品百人千价。

  记者梳理发现，近年来，先低价吸引客户，等生客变熟之后，再利用大数据算法变相抬高价格的“杀熟”套路在酒店订房、外卖团购、出行订票等网购平台屡见不鲜。随着技术不断迭代，消费者反映大数据“杀熟”也变得更加“先进”。

  上海计算机软件技术开发中心主任、研究员蔡立志表示，前两年大数据“杀熟”行为有当时的算法技术不成熟的可能，而从去年开始，国内生成式人工智能大模型不断涌现，在数据的汇聚能力和理解推理能力上明显更强。

  “懂你”的算法缘何沦为“坑你”的算计

  “‘大数据杀熟’频现”成为中消协公布的2024年上半年十大消费维权舆情热点之一。四川省消委会去年下半年发布的《网络消费者知情权保护调查报告》也显示，在经历过网购商品和服务的消费者中，39.64%的受访者遇到过“大数据杀熟”的情况。

  甘肃慧联信息科技发展有限责任公司总经理王雪莲介绍，对商家来说，客户信息是最有含金量的销售参考，而算法能帮助商家精准获取最直接全面的客户数据，其为消费者打上的标签能够为商品精确、高效地找到潜在客户群体提供便利，提升成功交易的订单数与访客数。

  兰州大学信息科学与工程学院副教授刘忻分析，大数据“杀熟”的本质在于运用算法针对消费者购买习惯、经济实力进行精准画像，精准地为用户“贴标签”。

  “在实际操作中，一些平台和商家确实存在为了销量而利用算法‘算计’消费者的情况，通过用户年龄、职业、消费水平等特征，对相同商品实施差异化定价。”王雪莲表示，这样的行为虽然短期来看利于盈利，但不利于长远发展，久而久之会让用户产生信任危机，破坏网购生态。

  受访专家表示，如果“哭穷”反“杀熟”成立，说明算法对评论有效信息进行了抓取，但应对大数据“杀熟”，不能仅靠消费者“哭穷”。

  “一时‘哭穷’成功不意味着一直都会成功，要看到其背后对规范算法的迫切需求。”刘忻说，“哭穷”砍价并非治本之策，甚至有可能还会让大数据在掌握更多个人信息后进一步完善“杀熟”机制。

  甘肃政法大学民商经济法学院副教授盛玉华坦言，大数据“杀熟”问题屡禁难止，一方面在于消费者举证难、维权成本高，很难有力维护自身合法权益；更重要的是算法大模型备案尚在“成长期”，缺乏成熟规则指引，在责任主体上未对“服务提供者”等概念进行明确划分，不足以应对实践中的复杂角色定位，造成监管难、问责难。

  多措并举破解算法“数缚”

  业内人士和法律专家认为，人工智能隐藏的消费陷阱，有些恶意行为属于价格歧视，违反市场交易的公平原则，严重的已经涉嫌大数据欺诈。如何在促进大数据赋能市场发展的同时，更好完善人工智能算法治理体系，提升监管手段和能力，对大数据产业的发展和消费者权益保护都很重要。

  目前，有关法律法规已对大数据杀熟问题作出规范。2024年11月，中央网信办等四部门联合发布通知，开展“清朗·网络平台算法典型问题治理”专项行动，提出严禁利用算法实施大数据“杀熟”，各地陆续开展相关算法治理专项行动。

  前不久，市场监管部门明确提出，要对大数据“杀熟”加强综合治理，提高算法透明度，优化算法规则，保障消费者合法权益。

  刘忻表示，算法作为一种工具，其使用方向决定善恶，作为一系列代码的集合，它在某些领域属于核心资产，查看算法模型对执法者来说需要一定门槛，这是目前规范算法的薄弱环节之一。从技术角度看，需尽快完善大数据算法模型制定依据和检测办法；从管理角度看，需加强监管机制，明晰市场准入制度，让大数据走出技术“暗房”。

  2023年，上海计算机软件技术开发中心筹建生成式人工智能质检中心，2024年验收通过，专门研究、控制和解决生成式人工智能带来的潜在风险。受访专家建议，未来亟需进一步加快推广设立第三方检测机构，对应用程序中的人工智能大模型开展安全性检测。

  受访专家建议，要持续完善平台算法规则的解释机制，同时探索个人数据“所有权”保护问题。蔡立志认为，个人数据是极为重要的资源类型，各类App采集到的消费者数据如何使用和管理，是破解大数据“杀熟”的关键问题之一。

  “个人在使用各类App时，可视为将个人数据交于App程序管理，应更加明晰其相关各方的权利义务。如果个人决定不再使用某款App，有权要求该App抹去此前的所有数据记录。”蔡立志说。

  盛玉华表示，人工智能技术迭代快，其在市场及消费领域的应用也在快速多样化，设立统一的算法监管机构，对于提升算法常态化治理水平很有必要。（记者姜伟超 马莎 王铭禹）