算法背不起意识傲慢的黑锅
－－透过滴滴危机看《今日简史》的数据独裁预言
图片
图片
1
智能时代的玩法，目前只掌握在几家公司手里，懂这游戏玩法的人不会说出真相，他们带着强烈的商业企图，最终是要设计一个游戏让你完全沉迷。
毕竟不是《骇客帝国》，毕竟机器还没完全主宰世界，毕竟每种算法，每款app都还有开发者，软件有隶属公司，公司有法人。每个运算程序导致的事故，除了推脱程序有漏洞，还应该看到运营者恶意逻辑或监管失职。
为什么人们对疫苗事故如此愤慨，而对每天使用的智能软件导致的公共事故如此宽容？对待因为数据的窃取，垄断，滥用导致的惨剧，像对待天灾一样？
智能程序是根据产品开发者要求，由工程师编程设计，可以更改修补升级的。就像建筑是开发商找人设计施工的。假如你买了高层洋房，一推开门阳台没有装栏杆，洗手池砸到脚背，你马上会想追究开发商责任，每一座桥建好桥头要写明施工单位和督造部门，桥塌了要能找到责任人追究。
一个打车app，在用户非自愿不知情中，被信息被泄漏，恶意标签化成为挑选指标，使得罪犯精准定位实施犯罪，为何不追究运营平台责任？客服搪塞警察受阻耽误了施救时机也不用负责任？为什么乘客的车费要分成但安全责任不用分担，多次事故发生平台内部整改做一下人事调整就可以了事？
这显示如今，大多数人面对虚拟软件产品的不合格不太敏感，信息技术所引发的社会问题感到茫然，找不到肇事者，没有参照系。
信息时代一切来的突然，人们还没有来得及想清楚它的逻辑，跟着跑都气喘吁吁了，哪有精力质疑。智能时代的玩法，目前只掌握在几家公司手里，懂这游戏玩法的人不会说出真相，他们带着强烈的商业企图，最终是要设计一个游戏让你完全沉迷。
2
想象一下一个城管看见一个烤红薯摊，上前执法的态度多么坚定自信。而两个警察跑去一个互联网大公司调取资料，被工作人员职业礼貌的要求出示资料，等待，审核，拒绝，警察顶着报案家属的压力，跑到网上发帖喊冤。
这世界玩法变的太快，法律和执法者都还没习惯。
如果这个司机是传统出租车公司，那多简单，组长经历先扣了，你们公司的司机姓甚名谁赶紧派人去找。
互联网平台有什么不一样？程序算法后面都是人。合作形式审核资料都是你们操作，司机利用系统信息漏洞找到目标杀了人，平台就是合谋啊（抬杠的人，卖刀的一次性卖出去是不再分卖西瓜的人利润的，逻辑没有可比性）。滴滴每笔乘车交易都分钱，包括受害者将要支付的这笔，而顾客失踪了，警方还要申请他们能不能看一下信息？
不管是实体的汽车，还是虚拟的软件产品，需要为设计缺陷承担责任和必要的解释这不是常识吗？
为什么舆论的重点，会集中在企业的客服态度是好还是不好，是不是敬业？这早就超出来企业文化和个人素质问题。
这些是急需讨论的，是法律需要规范细化的暗角，是这个时代必要梳理和达成的基本共识。
3
这种平台垄断，对算法任性的设计和操控，是一种权力独裁。就像在某个社会里，女孩不得把初夜献给贵族，因为他掌管着你唯一赖以生存的社会关系网。
网约车一推出，随之而来的安全隐患就暴露。uber在欧洲也被多次报道发生性侵事件，并及时作出了各种系统补救。虽然也难以在完全杜绝个例，不过随机概率的危险系数，和你乘坐其他交通方式一样，也算现代人接受便捷方式的同时，需要承担的风险。
企业在谨小微慎的优化系统，及时对待反馈修补漏洞之外的同时，唯一任务就是系统算法中尽量避免，制造有安全隐患的场景。
滴滴这家任性的公司，居然是反着来设计的，开发者明确社交方向，还推出许多暧昧的广告词，这得多傲慢，才有这种想法？这是浪漫吗？是为儿女不结婚的父母分忧吗？还是受了有姑娘叫滴滴为了结交北京本地小伙这一灵感启发？
婚恋约会是主动诉求，有第三者资料筛选的，约会也通常在咖啡厅这种开阔，能借上厕所开溜的空间。而叫车我只想出行，没有社交意愿也没甄别条件，我是不得已跟陌生同处密闭空间。
在这个空间，人身安全是第一诉求。
行业垄断的任性就在这儿。不是你需要社交，而是我为了增加交易，设计出社交属性功能。你只要叫车，就给你派一个年龄相仿的异性司机，你能每次都拒绝吗，还是只能忍了自求多福？要知道，现在许多上班族住的偏远，拼车是她们唯一的出行工具。
类似事件不是一次两次了，刚开始也没看事件细节，只觉得如今出行危险的瘆人。行业门槛越来越低，层层外包利润越拉越低，广州这打出租车比十几年前的体验差多了，不是换班就是问你去哪，常常碰到司机憋着情绪，要么态度粗暴，要么一路对着手机群里大声聊天，怨天骂娘。网约车连出租车的职业外表和服务用语都省了，只要有辆车，不论是白天上班还是在家无聊，都可以深夜上街转转，对滴滴来说谁拉谁无所谓，只管分钱。
这种平台垄断，对算法任性的设计和操控，是一种权力独裁。就像在某个社会里，女孩不得把初夜献给贵族，因为他掌管着你唯一赖以生存的社会关系网。
4
图片
设想，将来有一天，你明明受害，但找不到肇事者，你明显被歧视，但找不到歧视者。你的世界被精细的数据计算筛选定位导航，你的大部分选择，依赖数据做决策，刚开始还不习惯，数次对比之后，发现算法不论选的衣服，还是订的酒店，永远比你做的决定接近你想要的效果。你冲动遮蔽的智商被算法数次碾压后，你开始习惯，开始依赖它，不再有异议，也无从逃离，算法代替了你曾经依赖的“自由意志”。
但是，你一点都不知道在不停获取你数据，编写这一算法的，制定这些玩法规则的人是谁？
粗略读完尤瓦尔赫拉利的《今日简史》，沿着这位有趣的历史学家思考了一些当前世界的重大议题。上一段的描述，就是其中核心的忧虑之一－－既信息技术和生物技术的发展，算法依赖数据积累的个人信息作出的决策，让过去人文时代宣扬的“自由意志”瓦解，建立在民主，自由，平等这些价值观，和其衍生的政治制度和社会规则失效。
过去几百年通过启蒙，战争，会议努力达成的民主游戏散架了。人们熟悉的旧故事讲不下去了，而新的故事还没产生。
赶上此次因治安问题引发的对打车软件滴滴的声讨和反思，正好与书中担忧的大公司对数据的滥用，法律对虚拟世界约束的乏力，以及民众的恐慌无力感，做了最好的诠释。
5
观点一，数据独裁。谁拥有数据，谁就是庄家，制定，修改游戏规则，操纵游戏的玩家。
与农业文明争夺土地，资本社会争夺资本和人力一样，在可预见的人工智能时代，大数据成为企业竞争的核心资源。
在刚进入智能时代，人们还沉浸在生活便捷的快感中时，并未有太多人在意，不知道每次购物，每份外卖，每次滑过手机屏幕的痕迹，都被记录成数据保存或转卖，成为未来为你定位，筛选，划分群体的坐标依据，这些变化到底意味着什么。还没有意识到数据是一种新型资源和商品，商家用一个星座测试就能换取。赫拉利比喻，人们用自己的隐私数据换取免费邮箱，就像曾经的非洲部落长老，用土地换得欧洲殖民者一堆廉价塑料饰品一样。。
最近两个热门社会议题，似乎都与数据垄断有关。一是忽然飙升的房屋租金，有资料显示目前租房市场，主要份额都是由某家和某家旗下的多家公司掌控。某家多年来花重金打造了最完整的房屋资源库。因为数据完备，他们可以精准的把控市场行情，有能力囤积，加价，再定向投放。他们可以在政府一次约谈警告之后，就放出几倍量的房屋资源。
具体数据的真伪，有兴趣的可以自行考证。我感兴趣的是，这一切来的比想象中的快，互联网企业的赢者通吃法则决定，最后胜出的企业，会利用规模优势独霸市场，形成垄断，让行业失去竞争。
6
滴滴的这一幕独角戏，演的精彩完整，记忆犹新。或者几乎每个人都参与了表演。虽然还看不清目前的危机是戏的高潮，还只是序幕，但滴滴一定是这个时代一家互联网企业如何萌芽成长最后独大，包含了特有时代DNA和病毒样本。
许多人应该还记得第一次用滴滴。那种很新鲜，像忽然圣母降临，出现了一种整合闲置交通资源的链接，绿色，便捷，欣欣向荣的趋势，简直神奇。我第一次买了电器，叫了滴滴很快直接停到跟前，开过江对岸到家正常十二三块钱的出租车价，最后什么补贴优惠券下来，居然支付了三块六毛八。我都想跳一段忠字舞，高歌一曲《走进新时代》，歌颂一下这种创新。
不过，后来，后来的故事大家都知道。听说滴滴优步合并了，补贴取消了，优惠券也没了。不过凭着初恋好感和惯性，打车还是会先叫滴滴。有几次和朋友出去，明明一辆辆的士空过，我仍然盯着手机地图上缓慢的移动的车，宁可忍耐十几分钟，滴滴走错掉头，司机暴躁的电话质问。坐上去仍旧不忘推广，现代人需要习惯网约车这类绿色环保观念。
直到有一次叫了两次车都派单派到好几公里外，着急取消了打了一辆出租车，下车才发现，怎么比滴滴计算的费用还便宜？才第一次对这个公司的逻辑发生怀疑，初衷不是为节省社会资源开发的算法软件吗？怎么会比每月交着分子钱，在街上闲转的出租车打表还贵？有一次深夜坐顺风，车上司机问我付了车多少钱，啊？不是给你的吗？八十五块，我们拼车车三个人你不是有两百多吗？哪有，司机说，到我手有一百多不错了，也就是晚上拼个油钱，白天还不够搭时间的。原来滴滴是两边榨取，他们的高级的数据系统是两头算的，只要拼车的钱是少于单独打车的，就肯定有乘客会使用，只要给到司机的钱，是比空跑划算司机又愿意等待的，那交易就永远有的做，利用信息不对等，两边心里期许之外的钱，都可以归平台所有。这就是垄断。因为你没有第二选择，乘客为了省十块钱，司机为了多分二十油费，付出时间成本，安全成本，最后达成交易，不过利润主要归平台所有。
信息时代的技术进步，应该带给你的一点技术红利，像是微信免费地图导航免费这样的技术，都被独角公司巧妙的转化成平台利润榨取了。
7
你根本都不知道哪里错了，就被当作算出的小数点后几位给省略了。
《今日简史》观点二：数据算法的普及，导致个人歧视的出现。
这是基本已经实现的“未来”生活，你我的世界，越来越依赖算法推荐。我上淘宝买过一次家乡特产，然后每当打开页面，淘宝就会推荐许多别的家乡特产，激起我的思乡之情不自觉购买。买过一次茶台，app就不时的给我推送符合茶台风格的许多茶具。据说亚马逊忽然给一个家庭寄来婴儿用品，父母觉得蹊跷，后来发现网购平台凭她女儿的浏览记录判断她女儿怀孕，一了解果然，而这件事父母都不知道。当然，商家不会替代父母，不是为了给你送温暖寄去的，而是尽可能让你不知不觉购买更多东西。
我自己有时候打开淘宝，揣测机器到底是怎么认识我的，我是不是已经被归入低消费人群了？是不是我得经常搜一搜贵的东西？或者专门用我的账号帮女士买卫生巾让她认为我是个经期稳定的女生？
有一天，我真的在淘宝查了各种滑雪，攀登珠峰所需的器具，价格，在算法上留下关心滑雪的迹象。因为这是我可以确定自己不会涉及的项目，我常待南方，根本见不到雪。
当然，我知道这些愚蠢的想法对于越来越精确的算法是徒劳。最终，所有数据痕迹会汇总，绘制一个从里到外精准无比的个人坐标，凭这个坐标，可以对一个人作出最准确的判断和预测。如果数据说我需要吃什么药才能健康，买哪件衣服才不会随便丢掉，娶哪个姑娘才能不吵架不离婚，这些都可以有理有据到让我放弃质疑。
数据算法让你放弃决策的同时，也锁定了你是怎样一个人。锁定了你的习惯，认知，身体状况以及信用预期。因为这种数据坐标是独特的，没有群体指向的，所以没有什么群体不公，政治正确这些。凭算法对你个人的分析，银行就可以不贷款给你，买票你就自动靠后，或者订车来接你的都是单身异性，而这一切你几乎无从抗议。你根本都不知道哪里错了，就被当作算出的小数点后几位给省略了。
过去你遭遇到不公，遭遇到歧视，你能找到一个人或者某个群体，可以集结同一种族，性别，团体的同胞，去抗议，纠正，或者表达不屑。
而数据算法结出的歧视，没有人接受你愤慨，也没有同伴在一个战壕里。你说这程序算法不公平，如果不是开发者自己承认，那就算你跑去滴滴公司拆了所有机器，也无法论证哪里不对，一个程序已经足矣复杂到个体工程师也难以理解。
未来拥有数据者的无所不能，和可能渗入算法的恶，隐藏在超出人脑理解的复杂中，不像武侠世界那般黑白分明，也超越一般普通人想获取知情权的能力，需要法律监管和国家制衡。
8
人工智能是智能，计算和储存，是工具，而目前只有人有意识，有欲望，制造驱动人工智能这种工具，也被工具驯化。
更大的误解是，我可以不用滴滴，那你能不打车吗？能不用windows或苹果不租房不网购不手机支付不上网不用通讯手段，不跟周围社交退回到丛林里吗？显然，大部分人已经不能。
所以在今天，网络，windows，安卓，微信支付宝这些，已经不是某家公司的产品，而是大多数人需要赖以生存的公共基础设施。这些设施当然有庄家操纵，不过发生了公共事件，还是要声张一下，不能退缩。尽管明知这声张的力量微弱的可怜。
对于数据垄断制造的恶，只有政府能平衡。在欧洲在美国，这种事件一次发现，都会重罚到企业瘫痪，在中国怎么好像只是需要批评教育的问题，能让他淡定的警察都束手无策？
赫拉利认为大众对人工智能的误解，来自两个观念的混淆－－智能和意识，是完全不同的两码事。人工智能是智能，计算和储存，是工具，而目前只有人有意识，有欲望，制造驱动人工智能这种工具，也被工具驯化。
而此次事故相关的系统漏洞，来自系统的开发者对顾客数据的滥用，企业的渎职，这些人心傲慢造成的事故，不能让兢兢业业的算法来背锅。
0
