“付费会员价格比普通用(yong)户高”“新(xin)人(ren)一天(tian)三(san)四个红包，消费数(shu)万元的(de)老客户三(san)四天(tian)拿不到(dao)一个红包”“同一套餐不同价，老客户被用(yong)力‘宰’”……新(xin)华(hua)每日电讯(xun)记者在某投诉平台搜索发现(xian)，有近(jin)1.8万条投诉中包含“杀熟”关(guan)键词，有的(de)年轻人(ren)也想通过“哭穷”的(de)方式“驯化”算法。
近(jin)期，算法不透明和大数(shu)据“杀熟”再次引起关(guan)注。对于平台经济发展，市场监管(guan)部(bu)门也明确表态，要督促平台企业提高算法透明度，优化算法规则。
算法如同“读心术”，用(yong)好了(le)能为消费者和商家精准提供个性化服(fu)务，让买卖(mai)双方享受到(dao)技术红利，但若“心术”不正，算法便会沦为算计，成为网(wang)络生态的(de)破坏者。业内专家建议，要更加完善算法监管(guan)体系，避免本(ben)应享受“算法红利”的(de)消费者掉入“算计陷阱”。
“算法杀熟”套路屡见不鲜
近(jin)期，随(sui)着机票预订(ding)高峰的(de)来临，“骂机票贵”再次翻热，矛头指向大数(shu)据“杀熟”。
记者在网(wang)络平台搜索发现(xian)，一些“骂机票专用(yong)贴”热度攀升，相关(guan)话题讨论量(liang)高达70万次，参与者覆(fu)盖多个城市，以“哭穷”的(de)方式倒逼机票降价。
在一些“反复评论骂机票，两天(tian)骤降五六百”“哭穷砍价套路话术”等(deng)分享攻略的(de)评论区，有网(wang)友跟帖评论基本(ben)都有针对性地点(dian)出航空企业和订(ding)票平台名称精准“开骂”。有网(wang)友晒出“战果”：从北京飞济州岛，骂之前870元，骂之后369元，并(bing)将成功经验(yan)分享。
“订(ding)酒店用(yong)不同品牌手机搜出差价上百元的(de)房价”“放在购物车里的(de)商品多点(dian)几次就会涨价”……新(xin)老用(yong)户被“差别对待”、红包发放“看人(ren)下菜”、同一商品百人(ren)千价。
记者梳理发现(xian)，近(jin)年来，先低(di)价吸引客户，等(deng)生客变熟之后，再利用(yong)大数(shu)据算法变相抬(tai)高价格的(de)“杀熟”套路在酒店订(ding)房、外卖(mai)团(tuan)购、出行订(ding)票等(deng)网(wang)购平台屡见不鲜。随(sui)着技术不断迭(die)代，消费者反映大数(shu)据“杀熟”也变得更加“先进”。
上海计算机App技术开发中心主任、研究员蔡立志表示，前两年大数(shu)据“杀熟”行为有当时的(de)算法技术不成熟的(de)可能，而从去年开始，国内生成式人(ren)工(gong)智(zhi)能大模型(xing)不断涌现(xian)，在数(shu)据的(de)汇聚能力和理解推(tui)理能力上明显更强。
“懂你”的(de)算法缘(yuan)何沦为“坑你”的(de)算计
“‘大数(shu)据杀熟’频现(xian)”成为中消协公布的(de)2024年上半年十大消费维权舆情热点(dian)之一。四川省消委会去年下半年发布的(de)《网(wang)络消费者知情权保护调查报告(gao)》也显示，在经历过网(wang)购商品和服(fu)务的(de)消费者中，39.64%的(de)受访(fang)者遇到(dao)过“大数(shu)据杀熟”的(de)情况。
甘(gan)肃(su)慧联信息科技发展有限责任企业总经理王雪莲先容，对商家来说，客户信息是最有含金量(liang)的(de)销售参考，而算法能帮助商家精准获取最直接全面的(de)客户数(shu)据，其为消费者打上的(de)标签能够(gou)为商品精确、高效地找到(dao)潜在客户群体提供便利，提升成功交易的(de)订(ding)单数(shu)与访(fang)客数(shu)。
兰州大学信息科学与工(gong)程学院副教授刘忻分析，大数(shu)据“杀熟”的(de)本(ben)质在于运用(yong)算法针对消费者购买习惯、经济实力进行精准画(hua)像，精准地为用(yong)户“贴标签”。
“在实际操作中，一些平台和商家确实存在为了(le)销量(liang)而利用(yong)算法‘算计’消费者的(de)情况，通过用(yong)户年龄(ling)、职业、消费水平等(deng)特征，对相同商品实施差异化定价。”王雪莲表示，这样(yang)的(de)行为虽(sui)然短(duan)期来看利于盈利，但不利于长远发展，久而久之会让用(yong)户产(chan)生信任危机，破坏网(wang)购生态。
受访(fang)专家表示，如果“哭穷”反“杀熟”成立，说明算法对评论有效信息进行了(le)抓取，但应对大数(shu)据“杀熟”，不能仅靠消费者“哭穷”。
“一时‘哭穷’成功不意味着一直都会成功，要看到(dao)其背后对规范算法的(de)迫切需(xu)求。”刘忻说，“哭穷”砍价并(bing)非治本(ben)之策，甚至(zhi)有可能还会让大数(shu)据在掌握更多个人(ren)信息后进一步完善“杀熟”机制。
甘(gan)肃(su)政法大学民商经济法学院副教授盛玉华(hua)坦言，大数(shu)据“杀熟”问(wen)题屡禁难止(zhi)，一方面在于消费者举证难、维权成本(ben)高，很难有力维护自身合法权益；更重要的(de)是算法大模型(xing)备案尚在“成长期”，缺乏成熟规则指引，在责任主体上未对“服(fu)务提供者”等(deng)概念进行明确划分，不足以应对实践中的(de)复杂角(jiao)色定位，造成监管(guan)难、问(wen)责难。
多措并(bing)举破解算法“数(shu)缚”
业内人(ren)士和法律专家认为，人(ren)工(gong)智(zhi)能隐藏的(de)消费陷阱，有些恶意行为属于价格歧视，违(wei)反市场交易的(de)公平原则，严重的(de)已(yi)经涉嫌大数(shu)据欺诈。如何在促进大数(shu)据赋能市场发展的(de)同时，更好完善人(ren)工(gong)智(zhi)能算法治理体系，提升监管(guan)手段和能力，对大数(shu)据产(chan)业的(de)发展和消费者权益保护都很重要。
目前，有关(guan)法律法规已(yi)对大数(shu)据杀熟问(wen)题作出规范。2024年11月，中央网(wang)信办等(deng)四部(bu)门联合发布通知，开展“清朗·网(wang)络平台算法典型(xing)问(wen)题治理”专项行动，提出严禁利用(yong)算法实施大数(shu)据“杀熟”，各(ge)地陆续开展相关(guan)算法治理专项行动。
前不久，市场监管(guan)部(bu)门明确提出，要对大数(shu)据“杀熟”加强综合治理，提高算法透明度，优化算法规则，保障消费者合法权益。
刘忻表示，算法作为一种工(gong)具，其使用(yong)方向决定善恶，作为一系列(lie)代码的(de)集合，它在某些领域属于核心资产(chan)，查看算法模型(xing)对执法者来说需(xu)要一定门槛，这是目前规范算法的(de)薄弱环节之一。从技术角(jiao)度看，需(xu)尽快(kuai)完善大数(shu)据算法模型(xing)制定依据和检测办法；从管(guan)理角(jiao)度看，需(xu)加强监管(guan)机制，明晰市场准入制度，让大数(shu)据走出技术“暗房”。
2023年，上海计算机App技术开发中心筹建生成式人(ren)工(gong)智(zhi)能质检中心，2024年验(yan)收通过，专门研究、控制和解决生成式人(ren)工(gong)智(zhi)能带来的(de)潜在风险。受访(fang)专家建议，未来亟(ji)需(xu)进一步加快(kuai)推(tui)广设立第三(san)方检测机构，对应用(yong)程序中的(de)人(ren)工(gong)智(zhi)能大模型(xing)开展安全性检测。
受访(fang)专家建议，要持续完善平台算法规则的(de)说明机制，同时探索个人(ren)数(shu)据“所有权”保护问(wen)题。蔡立志认为，个人(ren)数(shu)据是极(ji)为重要的(de)资源类型(xing)，各(ge)类App采集到(dao)的(de)消费者数(shu)据如何使用(yong)和管(guan)理，是破解大数(shu)据“杀熟”的(de)关(guan)键问(wen)题之一。
“个人(ren)在使用(yong)各(ge)类App时，可视为将个人(ren)数(shu)据交于App程序管(guan)理，应更加明晰其相关(guan)各(ge)方的(de)权利义务。如果个人(ren)决定不再使用(yong)某款App，有权要求该App抹去此前的(de)所有数(shu)据记录。”蔡立志说。
盛玉华(hua)表示，人(ren)工(gong)智(zhi)能技术迭(die)代快(kuai)，其在市场及消费领域的(de)应用(yong)也在快(kuai)速多样(yang)化，设立统一的(de)算法监管(guan)机构，对于提升算法常态化治理水平很有必要。（记者姜伟超 马莎 王铭禹）
来源：新(xin)华(hua)每日电讯(xun)