养宝宝俗语
出生20的宝宝吐奶 bdyachi.cn
宝宝 咬牙切齿 握紧拳头 头部抖动几下 好象跟别人打架一样
如果小孩误食水晶宝宝要不要紧 最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
象宝宝尿布
宝宝膝过伸
两岁的宝宝夏天两只胳膊都是红包 是痱子吗
宝宝喝奶粉腹绞痛呕奶
宝宝喉咙里鼻咽后老感觉吞咽
宝宝回老家半年回来后就不要妈妈是怎么回事
宝宝吸奶舒服还是老公舒服 最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
宝宝 满月 拉 绿便
3岁宝宝读的古书 最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
宝宝喝的三清宝有图片吗 最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
2个月宝宝60公分
宝宝是长头
宝宝嫩屁屁
5个月宝宝 尖叫 最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
金宝宝衣服 最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
孕期检查百度宝宝知道
宝宝 舌苔厚 大便不干 最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
谢张宝宝
3岁半宝宝小指肿了出血
宝宝吃瑶柱
乙肝妈妈不给宝宝母乳怎么缩奶
小宝宝发烧37.8 最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
宝宝9个月不吃母乳妈妈去染发会对宝宝有影响吗
两个月 宝宝 奶粉量
宝宝脐带出血了严重吗 最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
两岁的宝宝一个肾脏怎么办
宝宝筛查视力 视力 c 9.99怎么办
宝宝拉手跟头 头后仰
三个月的宝宝吃保婴丹可以喝水吗 最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
一岁半宝宝放屁多小便多
宝宝 杏鲍菇做法 最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
4个月 宝宝
宝宝吐完水 最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
宝宝高烧 嗓子哑
三岁女宝宝总说内裤夹小便处
宝宝有点流口水…尿液有点发黄绿 最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
宝宝脚很平
宝宝 吐 拉肚子 不发烧
宝宝吃勺子 梦见我姐生了个女宝宝
两个健康的人却生不了宝宝 宝宝夜醒 踹气 半夜喊醒了就哭 最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
两岁宝宝可以吃蕨麻吗 最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
照宝宝屁股 最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
2个月宝宝伸舌头流口水 最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
六个月宝宝咬手帕
四个月宝宝头部耳朵上方一小块不长头发怎么回事 用针打宝宝鞋子
宝宝有脚骨 最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
最近,一批所谓的“邪典儿童视频”,即肇始于YouTube网站的ElsaGate(艾莎门,又称“艾莎公主门”)系列视频,在很多社交网站和自媒体号上被传得异常邪乎且煽情,甚至近乎于都市怪谈,引发了很多家长和网友的恐慌。
和儿童有关的问题向来容易煽动起大家的情绪。毕竟,中国的家长们在历经各种食品安全问题、幼儿园虐童事件后,心态已经非常脆弱和敏感了。因此,没有必要用一些明显是阴谋论和夸张、恐吓、扭曲的信息,给家长制造不必要的恐慌。国内儿童保护的现况存在着太多的不足和需要努力改进的地方,在很多问题上并不能和国外的情况相提并论。与其拿着放大镜在一惊一乍地审核、分析和脑补一些儿童视频里面所谓的阴谋和洗脑成分,倒不如正视现实,把力量用在真正有用的地方。
这篇文章将按照时间顺序,讲述YouTube从2015年到2017年爆发ElsaGate的事件始末,这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长,希望你读完这篇文章后,能够更为理性地对待这类事件。更重要的是,希望这篇文章,能帮助你更好地理解当下,让大家用更冷静的方式和态度,来真正保护好孩子。
埋下定时炸弹的YouTube低龄儿童视频热潮
2015年2月,YouTube 宣布推出专门为儿童打造的YouTube Kids APP,根据最初的宣传⑴,这款App可以从YouTube主站的海量视频中,筛选出对孩子合适的内容,让父母可以放心地休息一会,不用再担心自己的孩子浏览YouTube视频时乱点而看到不好的内容。此外,父母可以根据自己家孩子的情况,只播放事先选择好的内容,或者自定义移除掉不想被孩子搜索到的选项。YouTube的产品经理非常自豪地称,这是一大创举。
然而,这款产品推出仅3个月,美国联邦贸易委员会(Federal Trade Commission)就收到了投诉。致力于保护儿童免受各种商业活动伤害的民间组织“让童年远离商业”(Campaign for a Commercial-free Childhood)最先发现了YouTube Kids App上存在大量不适合儿童观看的内容,他们列举了各种有问题的视频,分类整理了一份清单,并且一直到今天都还在跟进和更新⑵。早在ElsaGate爆发前两年,负责人Josh Golin就在这份投诉信中指出了关键问题所在:即使YouTube Kids App号称是为了保护儿童、创造更安全的环境,但几乎可以预见,YouTube的算法很可能会被别有用心的人钻空子。
2015年6月,在被联邦贸易委员会找上门的差不多同时,YouTube上一档叫做“Webs & Tiaras”(字面意思是“网和皇冠”)的低幼儿童视频节目彻底火了。这款节目后来平均每周都能有超过1亿的观看量,据统计,光是2015年5月份,“Webs & Tiaras”就被观看了5.4亿次,一跃成为YouTube主站热门排行第三名。
这档专门针对学龄前儿童的节目没有任何台词和对话,女性角色扮演《冰雪奇缘》中的艾莎公主,男性角色扮演蜘蛛侠,通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除,根据当时的报道和讨论来看,其中可能有个别地方遭到过质疑,或被认为不太适合特别小的孩子,而大部分内容是尚可接受的。彼时谁也没想到,这款看似无害的节目,会成为“艾莎公主门”丑闻的滥觞。
这档节目一火,大量模仿者一窝蜂般出现,影响迅速扩散。因为这类节目的制作成本极低,只需要几套服装(欧美国家能买到很便宜的万圣节化妆服),手机即可拍摄编辑,人人都可以上传;制作也没有难度,节目连对话都没有,只需要找点背景音乐,也不要求复杂的情节构思;而且因为没有对话,也就没有外语门槛,几乎所有的学龄前小朋友都能看,受众遍布全球。
于是,这些小成本、低难度的“超级英雄混搭”视频,很快成为了YouTube上一种特定的视频节目类型。由于针对的受众极其年幼,制作者选择的往往是小朋友中人气最高的卡通角色:除了艾尔莎公主和蜘蛛侠,后来还加入了蝙蝠侠、忍者神龟、迪斯尼长发公主、美国队长和美漫著名的大反派“小丑”等等,进行各种混搭和改造。这些元素后来越变越丰富,也越来越鱼龙混杂:用黏土动画、玩具模型扮演超级英雄,在视频中加入各种特效和罐头笑声,改编成情景对话剧……花样迭出。
另一款初期和“Webs & Tiaras”高度相似的节目“Toy Monster”(玩具怪兽)就是用玩具而不是真人扮演超级英雄。制作人Eric(他拒绝透露全名)在接受采访时表示,正好就是在2015年夏天,这类真人扮演超级英雄的低龄儿童节目非常火,他和一些朋友看到后觉得非常适合自己,后来就全职做这种节目了。而“Superhero Reality TV”(超级英雄真人秀)的制作家庭则买了几套不同的服装,三周内做好了节目,发布才48小时就获得了2000万观看量,按照父亲Davey Orgill的原话,“钱就像水一样流进来。”
还有一些节目做得粗糙、幼稚,配色和视觉效果堪比中国的中老年表情包,但并无恶意。然而,当视频制作者的数量扩大到了一定规模,自然就开始有恶意性质的或者包含了少儿不宜内容的视频加入其中,比如尺度越来越大,人物穿得越来越性感,开始有裸露镜头,然后成人调情、亲吻的情节也慢慢加入其中,一切在开始失控和被玩坏。“Webs & Tiaras”的制作人Phil Ranta对此并不意外,他说,看到有人能靠制作这样的视频年入百万,自然就会吸引一些不择手段的人。
大约在2016年前后,这种超级英雄混搭视频热潮里,越来越多地出现一些低级庸俗的诡异内容,比如怀孕的艾莎公主,比如拉屎段子,或者加入了古怪又毛骨悚然的音效。有一个极其无聊的搞笑视频,是怀孕的艾莎公主和蜘蛛侠,叹气然后放屁,崩出了一堆花花绿绿的大圆球——也许正好迎合了幼童所谓的口腔期对屎尿屁故事的低级爱好(如果你相信弗洛伊德理论的话),在YouTube上竟然达到百万观看量。
早在Elsagate这个词在2017年夏天被造出来之前,就已经有一些网友开始讨论和深挖,这些儿童视频到底是什么鬼。后来被多家媒体引用的YouTube频道“h3h3Productions”博主就扒皮了其中一些儿童视频节目(“Toy Family”和“Dennis Cee”),痛斥制作人的投机心态,并展示了视频中一些大面积裸露和成人调情的场景,比如正在马桶上的蜘蛛侠,一把将误推门进来的艾莎公主摁在地上吻下去,博主认为这传递给了小孩子一种强奸情结。还有一些类似节目的视频截图,包括蜘蛛侠和躺在床上的艾莎公主抚摸调情,或者艾莎公主不小心走光被蜘蛛侠看到了裸体,这些桥段显然超出了低幼儿童节目的尺度。⑶
不过,这种超级英雄混搭视频,也仅仅只是众多针对低幼儿童观众、依靠流量来盈利的类型视频之一。几乎同时火起来的“玩具开箱视频”(toy unboxing videos)至今还在YouTube热门观看榜上称霸。这种类型的视频的常见内容是一点点拆开一个封闭的惊喜礼物的纸盒包装,或者是一个球形或蛋形的封闭体(塑料或者巧克力制作的都有可能),展示里面的玩具或惊喜。或许有人会觉得难以理解,但实际上这种开箱模式一直都是逗小孩的常见手段,在各种幼儿玩具设计中被广泛运用,在某种程度上,手心里藏个东西突然亮给小孩看,也算是同一种套路。
大多数人根本想不到,几岁大的学龄前儿童是有多么痴迷于观看这种视频:一个视频从几分钟到十几分钟不等,内容在成年人看来极为冗长单调,仅仅只是一层层拆开圣诞节礼物,从里面拿出玩具玩——这样的视频能有几百万点击的惊人流量。几十个惊喜彩蛋挨个敲开,掏出不同的玩具,这样的视频能有几千万的累积观看量。
在玩具开箱视频类型中,有一些特别火的节目,直接用真人儿童当主角。其中最热门的当属“莱恩的玩具评论”(Ryan’s Toys Review),这档节目主要记录的是五岁的小男孩莱恩从爸爸妈妈那里收到了什么惊喜,如何开心地尖叫,如何拆开包装、拿出玩具玩。全世界的低龄小朋友,也包括各种大人,都在津津有味地观看莱恩的节目,他有时候会睡在自己的梦幻玩具城堡里,房间里堆满了玩具,包括火车、乐高积木、迪斯尼娃娃等,父母经常和他有一些简单的英文对话,他有时候也会为自己的玩具呜哇呜哇配音,告诉镜头自己玩耍时的心得。这款节目和“Webs & Tiaras”是同一时间开始做的,短短一年就已经有250万订阅,40亿观看量,有时候一周的观看量就能逼近2亿。2016年3月时,据统计它已经是YouTube的第二大热门节目,后来则跃居全美国第一;傍靠YouTube走红的小莱恩可谓是当之无愧的超级明星儿童,不亚于任何一个影视童星。
在2016年YouTube的热门视频排行榜中,光是玩具开箱视频类型就在前100名中占了足足五分之一。超级英雄混搭视频和开箱视频类型节目中,高人气的还有The Superheros Life(超级英雄生活),Superfriends(超级朋友们),The Kids Club(儿童俱乐部),Toy and Funny Kids Surprise Eggs(玩具和有趣的儿童惊喜彩蛋),等等。
可以看到,Elsagate丑闻系列视频混合了非常多这些热门类型视频的元素,模仿、试图翻新或干脆直接抄袭的,不计其数。真人儿童的出现则让问题更加复杂化,如何判断其中是否存在有过界或者不适合儿童的情节,成为了争议的焦点。例如后期卷入“爱莎公主门”的视频节目中有一款高人气节目,叫“玩具怪人(Toy Freak)”,是一名父亲和他的两个女儿出镜的节目,最终被认定包含了不适宜儿童的内容而被YouTube删除,这位父亲还因此遭到警方的调查。
由于YouTube禁止13岁以下儿童注册,所以这类视频的受众一般用的都是父母的账号,很难明确搞清楚到底是多大的孩子在观看这种视频。Phil Ranta推测他的节目“Webs & Tiaras”观众年龄应该在2到8岁之间,而发明Elsagate这个词的Reddit众网友认为大约在2-5岁之间。——总之,观众的最低年龄只有2岁,这是目前一个较为普遍的判断。
这种专门针对学龄前低幼儿童的视频制作,是一门巨大的生意,这个产业正在伴随着智能手机和互联网的普及和扩散而迅速崛起。作为全球最大的视频网站巨头,YouTube的流量优势实在太明显,被盯上也毫不奇怪。而YouTube Kids App的宣传,正好让很多父母放心地把手机和平板电脑交给了自己的宝宝们;这些还在学习走路和说话的儿童,竟然每周都能够贡献几亿的视频观看流量,谁都能意识到这其中蕴含的巨大商机。
YouTube的“黑镜”时刻
无数人讨论的一个问题是:为什么YouTube上这些视频会有如此畸高的观看量?
“Webs & Tiaras”的制作者之一Phil Ranta的解释是,低幼儿童观看视频的倾向有别于成年人,他们喜欢重复同一个内容。根据Ranta的观察,这些低幼观众喜欢把一个视频翻来覆去看很多遍,他觉得有的视频可能被同一个小孩看了50次,所以视频节目的观看量会看起来像是在“注水”。
虽然年幼的孩子确实喜欢缠着父母反复讲同一个故事,但在每周过亿的观看流量数字面前,Ranta的说法并不足以说服所有人。一直都有网友试图通过调查证明这些节目其实背后偷偷刷了数据,有时候视频评论区的确也发现了很多毫无意义的字符,疑似机器人痕迹,但并没有人弄清这是怎么做到的,目前而言也没有足够的证据能证明这个指责。
“Toy Monster”的制作人则表示,要靠水军刷出这样的数据是不可能的,YouTube肯定会发现。在2017年2月,他首次正面地回应了这类质疑⑷,他解释说,大部分的观看量实际上并不来自节目订阅用户,而来自YouTube的“推荐”,吸引了小孩子去点击——至于评论区毫无意义的垃圾字符回复,他认为是不识字的低幼儿童观众、乱戳屏幕而无意识发送的评论。这个推测遭致了他视频发言下面的网友的嘲讽,不少人留言问“所以到底出了多少钱”。
但“Toy Monster”可能确实说中了一部分原因:YouTube的推荐算法,恐怕难逃其咎——早在2015年,“无让童年远离商业童年运动”组织的投诉信中就指出,YouTube的算法很可能会被利用,并给儿童带来严重的问题。联邦贸易委员会也认为,YouTube Kids App这款产品集中针对的是那些还在学习走路和说话的低幼儿童,实际上涉嫌用视频诱导这些毫无自我保护能力和分辨力的幼童去点击广告从而骗取流量,这个流量等于收入的模式下毫无疑问存在很大隐患⑸。
那么,YouTube的算法到底是怎么回事呢?
这里简单介绍一下,目前视频网站的推荐算法可以粗略分为两类,一种是“和这个视频类似的,还有这些推荐给您”,即基于视频内容的推荐。比如说,当“Webs & Tiaras”火了之后,产生了无数人物穿着艾莎公主和蜘蛛侠服装的、高度雷同的视频,这些都属于基于相似内容的推荐。这意味着,只要是同一类型的视频,不管质量如何,只要数量够多、网撒得够大,得到的推荐机会就越多——如果出格一点,能红的机会则更大。所以视频制作者倾向于用最少的成本,做更多的视频。
另一种推荐算法则是“喜欢这个视频的人,同时还喜欢这些视频”,也叫协同过滤,即基于用户的行为偏好模式来进行推荐。操纵这种算法的最常见手段,叫做“托攻击”(Shilling Attack)。举例来说,当“Webs & Tiaras”火了,有人做了个叫“Mars & Lions”的山寨节目,然后让机器人同时“喜欢”这两档节目,山寨版就可能被推荐给喜欢原版的观众。
形象地说,YouTube的产品等于在三岁小孩面前摆上了一条传送带,任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物,直到有一天家长发现,自己的娃塞了一嘴巴烂糊糊,大概还很开心,而YouTube算法根据吃烂糊糊的偏好或行为,把更多的烂糊糊摆在了你家娃的面前。
这一幕的反讽意味,可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时,这一点都不好笑。
随着在推特和facebook上标记这种话题、互相提醒的父母和网友越来越多,两年多前就埋下的这颗定时炸弹,终于要爆炸了。除了投诉,更多的家长们扑在了这条传送带上游,开始进行大型试吃,并把有问题的内容给标记和报告给YouTube。Facebook上还专门成立了一个群组,叫“YouTube家长导航”(Parents Navigating YouTube),自愿检索、标记、报告这些YouTube上的问题视频。
但是,只要尝试过就会发现,想要在实践中准确定位哪些属于Elsagate视频,其实是非常困难的。由于婴幼儿视觉、听力还未发展完全,所以低幼教育节目和产品都普遍倾向于使用颜色鲜艳、线条简单的卡通风格,辅以活泼欢快的配乐。虽然Elsagate的问题视频的共同特征大约可以总结为:小成本制作,视觉效果粗劣,以超级英雄或迪斯尼动画人物为主角居多,背景是欢快的儿童音乐,但是和很多健康无害、中低成本的儿童启蒙教育视频节目比起来,区分度也并没有那么大。而且,被称之为Elsagate的系列视频,实际混杂了好几种完全不同的类型,既没有logo之类明确、统一的区分标准或标志,也不是同一个生产源。
在交流讨论这个问题时,豆瓣网友NullPointer说了一段很精辟的话:成为Elsagate的这些视频背后的根源,与其说是YouTube的推荐算法,不如说是过于目标导向的流量售卖的商业模式,这直接扭曲了YouTube的生态——上传者中被机制奖励的是那些不择手段的人。无利不起早,招来攻击者的,其实是基于流量的运营策略。
要知道,平均每分钟就能有400小时时长的视频上传到YouTube,人们光是一天在YouTube上观看的视频总时长,就有大约10亿个小时。这些视频组成了一个极为庞大的数字时代的怪兽,而人类已经无法驾驭它们。“要在这些视频中找出不适宜内容,等于大海捞针”,YouTube儿童和家庭内容的全球总负责人Malik Ducard如是说。他认为这个问题难以彻底解决,由于机器学习算法有待改进,又缺少人工筛选监控,最终则只能依靠父母来为孩子把关。
一名员工在接受Polygon采访时透露,其实YouTube Kids只有千分之五的内容会被认定为是不适宜(disturbing)或违反公司政策,同时,一旦有内容遭到举报,限于言论自由原则,公司在删除内容或整个节目时,必须非常、非常小心。但他也承认,尽管算法一直都在改进和提高,他们仍然极其依赖这些父母来充当志愿者,报告哪些视频和节目出了问题。
早在2015年受到联邦贸易委员会指责时,YouTube Kids APP的官方团队就回应称将改进产品;此后,一切并没有发生什么实质性的改变。YouTube作为世界上最大的视频平台,其Kids App被千万用户下载,两年期间起码带来了几百亿的观看量,坐拥摇钱树的 YouTube并无动力下大力气做出改动,而是坐视丑闻不断发酵。
直到2017年上半年,一些大广告商决定停止在YouTube投放广告——因为不想让自己的广告和有争议的视频出现在一起,那时候,YouTube才真正开始惊慌,并采取行动——某种程度上,他们真正在乎的是广告商,而不是家长们。2017年8月,YouTube终于宣布更改规则。特别是广受争议的“推荐”功能( recommended videos),上传者仍能在YouTube主站继续生产这些内容,但凡是被认定带有不合适儿童内容的视频、节目,都将被取消广告分成。
2017年3月的新闻截图:广告商抵制YouTube,可能令Google损失百万。
但这还远远不够。“算法不能代替人工干预,当你想要给孩子更安全的环境时,你需要的是人。”2017年年底,两年前的投诉信署名人、“让童年远离商业”组织的执行总监,Josh Golin在接受Polygon采访时说道。
不管是多高明的算法和技术,终究是人造物,它会被人扭曲,被人滥用和攻击。即使是算法的训练和改进,也仍然需要人。YouTube的CEO,Susan Wojcicki,在2017年12月的官方博客中也承认了这一点:“无论是删除不适宜内容,还是训练机器学习,人工审核者的参与都至关重要,因为只有人,才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位,加强对内容的人工审核。而Josh Golin的看法要更尖锐和极端:“如果真正担心的是孩子的安全问题,那整个YouTube Kids APP的前提就是错误的。”在Josh Golin为代表的技术悲观论者眼中,只要是以盈利为目的,儿童安全问题的隐患就永远存在。

文中注释:
⑴、YouTube Kids App最早的宣传:https://youtube.googleblog.com/2015/02/
⑵、“让童年远离商业“组织的最早的投诉信,已被美国联邦贸易委员会存档,并持续更新,多家关于Elsagate的报道都引用了投诉信内容:
http://www.commercialfreechildhood.org/sites/default/files/FTC_youtube_update.pdf
⑶、YouTube频道“h3h3Productions”扒皮儿童视频节目的链接:
https://www.youtube.com/watch?v=fBWf6Zvn0jQ
⑷、Toy Monster首次正面解释为何观看浏览量如此之大:
https://www.youtube.com/watch?v=qIknzuGDU2k
⑸、美国联邦贸易委员会对YouTube Kids App的最早批评:
https://www.mercurynews.com/2015/04/06/ftc-asked-to-investigate-youtube-kids-for-deceptively-targeting-toddlers-with-ads/
⑹、YouTube CEO于2017年12月发布的官方博客内容:
https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html
宝宝树 割包皮
  • 三岁宝宝发烧吐血
  • 宝宝鼻炎 香菊颗粒
  • 宝宝喉咙哑有咳嗽发底烧贪睡
  • 宝宝两周年了喝啥汤好?
  • 宝宝辅食 樱桃
  • 宝宝搓灰面