手机端
当前位置:主页 > 热点 >

她被称为n字,并被告知要割裂手腕。Facebook做了什么?



您可以称呼某人为n字并为她提供有关如何自杀的图形指示,这样您就不会被Facebook开除。或者,您可以告诉一位母亲,您希望她的儿子被强奸,并且不会被踢出这个世界上最受欢迎的社交媒体平台。或者,您可以告诉一位5岁女儿已去世的母亲说:“如果您的孩子继续垂死,那是上帝在试图告诉uu不配他们。”您可以给那位母亲写信:“ F ** k您c ** t。您已经死了吗c ** t?手指交叉。像您一样吐在c ** ts上。您c ** t狗。死c ** t。你这只狗,你是无知的笨狗。死了。

不过,您可以留在Facebook上。这是CNN进行为期六个月的调查的结果,调查涉及在Facebook上提倡进行疫苗接种的父母,医生和其他人所面临的欺凌和骚扰行为。Facebook发言人表示,由于CNN的调查结果,该平台正在进行自己的调查。Facebook官员-已经在2016年大选中因该平台的作用而受到抨击-除其他问题外-说他们不容忍欺凌和骚扰。

Facebook首席执行官马克·扎克伯格( Mark Zuckerberg )于去年11月写道: “我们有责任确保人们在我们的服务上安全,无论是遭受恐怖主义,欺凌还是其他威胁。”根据Facebook的社区标准,“欺凌和骚扰发生在许多地方,并以许多不同的形式出现。” “我们不容忍这种行为,因为它阻止人们感到安全并在Facebook上受到尊重。”她的儿子死了。 然后反vaxxers攻击了她。

但是,CNN的调查使这些陈述受到质疑。我们的调查发现,即使Facebook屡次违反Facebook关于欺凌和骚扰的标准,并以最可憎和暴力的方式口头虐待他人,Facebook有时仍允许用户留在平台上。例如,收到消息的女士称她为n字并告诉她割开手腕,并将该消息报告给Facebook。Facebook认为该消息违反了其社区标准,发件人是屡犯,但仍然允许发件人留在平台上,直到CNN开始提出问题为止。

新书《反社会》(Antisocial)的作者安德鲁·马兰兹(Andrew Marantz)说:“这太恐怖了。“ Facebook喜欢称自己为社区,如果他们想兑现这一诺言,则应在最低限度上尽量保护人们免受此类侵害。”甚至扎克伯格都说他的公司需要做更多的事情。Facebook首席执行官在五月告诉记者: “在欺凌和骚扰方面,我们还有很多工作要做。”'我被吓到了'收到带有n词消息的Aisha Odom表示同意。

奥多姆是得克萨斯州奥斯汀市的三个孩子的母亲,他敦促Facebook上的其他人接种疫苗,以帮助保护像她的兄弟那样的人,后者患有克罗恩病,无法接受某些免疫接种。她以为自己已经习惯了抗Vaxxer攻击,但是在4月,Odom登录到Facebook Messenger并阅读了一条使她感到身体不适的消息。“我们能为(原文如此)婴儿免疫而变得像你一样无知吗?” 用户写信给她,拼出了n字。“您没有受过教育,这是您需要学习的东西...如何正确切开手腕。杀死自己,杀死孩子,杀死父母,全部杀死。”

然后,用户给出了有关Odom如何割裂手腕的说明性说明。奥多姆说:“我不知道这是否构成威胁。我很害怕。” “我给丈夫打电话给他发了截图,他也很害怕。”奥多姆立即将该消息报告给了Facebook。据Facebook发言人称,Facebook认为该邮件不仅违反了Facebook的标准,而且用户此前也违反了Facebook的标准。用户的惩罚:根据Facebook发言人的说法,在30天之内,她不允许在Messenger中发送消息。否则,她将被允许像往常一样继续参与并在Facebook上发帖。奥多姆说她对Facebook没有做更多的事情感到“惊讶”。

奥多姆告诉美国有线电视新闻网:“称呼某人一个可怕的种族诽谤,并告诉他们杀死自己,这在Facebook上是完全可以的。”8月,在奥多姆(Odom)报告该消息四个月后,美国有线电视新闻网(CNN)将其发送到Facebook,并询问为什么未从平台上删除该用户。9月,Facebook删除了该用户的帐户。发言人写信给美国有线电视新闻网说:“我们进一步调查了该帐户,并确定该帐户应采取行动。”发言人没有解释为什么Facebook不自行删除用户。在不愿透露姓名的情况下发言的发言人拒绝让Facebook高管接受采访。

CNN的调查我们的调查始于三月份的一个故事,内容是有关反Vaxxers在Facebook上攻击疫苗倡导者的故事。该故事发布后,Facebook发言人要求CNN在报告我们的故事时发送我们收集的内容。在接受者的许可下,CNN向发言人发送了65条疫苗倡导者说他们发现令人反感的内容,包括帖子和评论以及直接消息。母亲在孩子死后提倡在Facebook上接种疫苗的信息和评论。

该发言人将该评论发送给了Facebook的社区标准团队,该团队发现由31个不同的用户发布的这些内容中有39个违反了他们的社区标准,其中大多数涉及骚扰。Facebook仅删除了其中一位用户,即向Odom写邮件的用户。即使其他用户违反了Facebook标准,他们仍然保留在平台上。在接受者的许可下,CNN将这39条内容发送给了伦理学家,律师和社交媒体专家。纽约大学医学院医学伦理学系主任亚瑟·卡普兰(Arthur Caplan)说:“发送这些信息的人应该永远远离社交媒体。所有这些信息。“ Facebook不能为此采取更多行动吗?他们应该这样做。”

迈阿密大学法学院教授,​​专门研究社交媒体的玛丽·安妮·弗兰克斯(Mary Anne Franks)说:“这绝对令人痛苦。” “ Facebook可以做得更好。”该书的作者马兰兹回忆起扎克伯格的一句名言。“ Facebook是世界上最赚钱的公司之一。它们可以快速移动并破坏事物。为什么他们不能快速移动并修复事物?” 他说。``如果这些不跨越文明界限,那会怎样?''当CNN询问为什么Facebook仅从该平台删除31个用户之一时,发言人给出了两个答案。

首先,发言人表示,Facebook无法识别用户,因为CNN在大多数情况下发送了评论的屏幕截图,但未链接到他们。发言人没有解释Facebook如何设法识别向Odom发送信息的人,但不能识别其他任何用户。Facebook首次推出疫苗弹出窗口,以阻止错误信息的传播发言人也没有解释为什么他们无法识别用户,但是CNN能够使用屏幕截图中的信息(例如姓名,个人资料照片,工作地点和就读学校)识别大多数用户。

其次,发言人指出,Facebook通常不会因为单次违反欺凌和骚扰标准而将其遣散。相反,它需要多次违反或“罢工”。根据Facebook报告“ 执行我们的社区标准 ” ,“我们不希望人们使用该系统,因此我们不共享导致临时封锁或永久停工的具体罢工次数。” “罢工的影响取决于违规的严重程度和一个人在Facebook上的历史记录。”除了向Odom发送消息的用户之外,CNN的调查还发现至少有两个用户说他们之前违反了Facebook的标准,但被允许留在Facebook上。

一位用户告诉CNN,他曾7次被“ Facebook监狱”入狱,另一位用户则说她“相当频繁”地在Facebook上受到了类似的惩罚。当CNN指出尽管有多次罢工,但这两个用户仍在Facebook上时,发言人回应说,Facebook将对撰写违规内容的用户进行“更彻底的调查”。伦理学家质疑Facebook为什么没有删除发表了一些最粗暴的评论的用户,特别是那些鼓励暴力的用户。

提倡疫苗的人在Facebook上收到的消息和评论。加拿大阿尔伯塔大学(University of Alberta)卫生法和政策学教授蒂莫西·考菲尔德(Timothy Caulfield)说:“其中一些应立即予以禁止。” “如果这些人没有跨越某种文明的界限,那会是什么?”纽约大学的道德操守者考菲尔德和卡普兰表示,Facebook应对反vaxxers的滥用行为尤为重要,因为它们可能会威胁发布疫苗事实的用户。

他们指出,今年的麻疹暴发-根据美国疾病预防控制中心(US Centers for Disease Control Prevention)的数据,这是27年来最大的麻疹暴发,有1200多例。专家说,麻疹在很大程度上是由于社交媒体,尤其是Facebook上的反疫苗误传。卡普兰在给美国有线电视新闻网的一封电子邮件中写道:“疫苗市场非常敏感,因为高度脆弱的生活-新生儿,癌症患者,患有免疫疾病的人-处于平衡之中。” “ Facebook不应该容忍反vaxx狂热分子和狂热分子,也不能容忍他们。

需要对其进行监视,或者如果对其进行举报,检查,阻止和禁止此类产品,则应予以监视。公共卫生必须覆盖疫苗领域的错误信息和威胁行为。”今年,Facebook采取了措施来减少反疫苗错误信息的影响。3月,该平台宣布将开始降低在“新闻Feed”和“搜索”选项中散布此类错误信息的群组和页面的排名。9月,Facebook宣布,当用户搜索与疫苗相关的内容,访问与疫苗相关的Facebook组和页面或在Instagram上点击与疫苗相关的主题标签时,教育弹出窗口将出现在社交媒体平台上。

难以发现欺凌“我们不仅有责任全面构建工具,而且还要确保将其良好使用。”  扎克伯格告诉议员。 “完成所有更改需要花费一些时间,但我致力于实现这一正确目标。”扎克伯格对立法者说:“我们不仅有责任建立工具,而且还要确保工具被永久使用。” “完成所有更改将需要一些时间,但是我致力于做到这一点。”2018年1月,扎克伯格为自己提出了一个挑战:修复Facebook。

“世界感到焦虑和分裂,Facebook有很多工作要做–无论是保护我们的社区免受虐待和仇恨,捍卫民族国家的干预,还是确保在Facebook上度过的时间都花在了充分的时间上,”扎克伯格在Facebook帖子中写道。“ 2018年我个人面临的挑战是专注于解决这些重要问题。我们不会防止所有错误或滥用,但我们目前在执行政策和防止滥用工具方面犯了太多错误。”在一系列的《社区标准执行报告》中,Facebook透露了其努力的结果。

例如,在2019年的前三个月中,该社交媒体平台删除了540万条违反其针对儿童裸露和对儿童的性剥削标准的内容。在几乎每种情况下(99%的时间),Facebook都会自行检测到此内容,而不会被用户提醒。但是,Facebook检测到欺凌和骚扰的成功率要低得多。在2019年第一季度,社交媒体平台对260万条内容采取了行动,以违反欺凌和骚扰标准,但用户必须在86%的时间内报告该内容; Facebook仅14%的时间自行找到并标记了内容。

问题在于,虽然算法检测裸露相对容易,但检测何时有人在网上受到欺凌却要复杂得多,因为从不违背社区准则的语音中辨别出辱骂性语音涉及微妙之处。扎克伯格在去年11月的一份报告中写道: “当您进入仇恨言论和欺凌行为时,语言上的细微差别会变得更加困难-就像理解某人谴责种族歧视言论时,而不是利用它来攻击他人一样。”

Facebook表示,由于很难检测到欺凌行为,因此他们必须依靠举报滥用行为的用户。发言人补充说:“在欺凌和骚扰方面,背景确实很重要。” “在不知道所涉人员或情况细微差别的情况下,很难说出欺凌言论与开玩笑的区别。因此,我们在很大程度上依赖于报道-如果您或您认识的人遭到欺凌或骚扰,我们鼓励您举报。”

Facebook最近的一份报告得出了相同的结论。“在诸如欺凌和骚扰之类的领域中,上下文对于了解内容是否违反我们的政策至关重要,我们希望在可预见的将来,我们的自动化系统将无法以与其他违反政策类似的规模检测到该内容, “根据Facebook的透明度报告。“ [在许多情况下,我们需要一个人向我们报告此行为,然后我们才能识别或删除它。”

去年,Facebook产品管理副总裁Guy Rosen表示,该平台正在努力改进。罗森写道:“我们决心提高对这些类型滥用的了解,以便我们能够更好地主动发现它们。” “总的来说,要防止在Facebook上滥用网站,我们还有很多工作要做。机器学习和人工智能将继续帮助我们检测和删除不良内容。”凯瑟琳和格雷格·休斯  1个月大的儿子赖利死于百日咳。

尽管Facebook敦促用户举报侮辱性帖子,但凯瑟琳·休斯(Catherine Hughes)表示,她根本做不到。她太忙于哀悼婴儿的死亡。休斯的1个月大儿子赖利(Riley)因百日咳而死。她被带到Facebook上敦促其他人接种疫苗,以保护像莱利这样的婴儿,这些婴儿太小了,无法拍摄所有照片。休斯估计,自儿子于2015年去世以来,她和丈夫已收到成千上万的Facebook辱骂信息和评论。她估计其中约有一半来自美国的用户。

他们被称为婴儿杀手。她被称为妓女,甚至更糟。他们被告知要自杀。他们受到死亡威胁。即使在儿子葬礼的那天,评论也一直在流传。她说:“当我们在莱利的葬礼上时,那些信息特别使我们大吃一惊。你正经历人生中最糟糕的一天,他们认为自己的信仰比基本的人类道德更为重要。”休斯指出,即使她不为失去孩子而哀悼,她也永远无法报告大量的帖子,评论和消息。另外,她说,其中许多都是针对自己的个人资料的评论,尽管这些评论可以隐藏或删除,但Facebook 不允许用户举报在自己的个人资料或时间轴上发表的欺凌或骚扰评论。

休斯说:“当涉及到欺凌文化时,你不能只把它留给受害者-失去亲人的父母-来消除这种可恶的行为。” “ Facebook已经做了不可思议的事情。他们是如此前瞻性地思考。为什么他们不能提出该技术和算法来找到该问题的解决方案?”Serese Marotta的儿子约瑟(Joseph)于2009年死于流感,享年5岁。她的5岁儿子约瑟夫(Joseph)于2009年死于流感。在敦促其他人接种流感疫苗后,马洛塔(Marotta)被抗vaxxers袭击。他们给她起了淫秽的名字,一名用户发出了死亡威胁。像休斯一样,她没有举报评论和消息。

居住在纽约锡拉丘兹的Marotta表示:“我坚信Facebook应该能够弄清楚如何进行监视,我认为这是他们的责任。”他是Families Fighting Flu的首席运营官。“如果他们能提出监控儿童色情制品的算法,他们应该能够提出一种监测此类行为的算法。”本书作者马兰兹(Marantz)表示同意。“如果这些人被认为是全世界最好的计算机工程师,他们将无法编写一个程序,该程序带有标记以告诫某人杀死自己并称她为n字的评论,这对我来说似乎是不可信的,”他说。

Marantz说,由于该平台使用数据处理和算法将广告定位到用户,因此他们应该使用相同的工具来保护用户,而不是在受到欺凌时依靠用户进行举报。他说:“确实需要很多楚茨帕和受害者指责说,受害者必须承担责任。”给Facebook的建议当CNN将此批评引起了Facebook的注意时,发言人通过电子邮件发送了评论。

“我们希望我们的社区成员在Facebook上感到安全和受到尊重,并将删除旨在有针对性地针对私人的材料,以期使他们蒙受侮辱或羞辱。我们尝试向用户提供控制权,例如阻止其他用户和主持人评论,以便他们可以限制他们接触有害,令人反感或有害的内容。我们还鼓励人们在我们的平台上举报欺凌行为,以便我们可以审查这些内容并采取适当的行动,”发言人写道。发言人还指出,Facebook在其社区标准页面上关于欺凌和骚扰的声明,其中提到了该平台的“ 欺凌预防中心”,该网站是青少年,父母和教育者的资源,寻求与欺凌和其他冲突有关的问题的支持。

一年前,Facebook推出了“新工具和程序,使人们可以更好地控制Facebook上不想要的,令人反感或伤害的体验”,包括报告朋友或家人可能受到欺凌或骚扰的能力。Facebook全球安全主管Antigone Davis在帖子中写道:“一旦举报,我们的社区运营团队将审核该帖子,使您的报告保持匿名,并确定其是否违反我们的社区标准。”据Facebook发言人称,Facebook每天评论超过两百万条内容。

该发言人重申,在报道欺凌行为之前,要检测技术上的挑战,因为一个欺凌帖子和一个无害的帖子可能包含类似的语言。卫生法律和政策专家考菲尔德(Caulfield)表示,毫无疑问,治安欺凌行为存在技术挑战,特别是因为Facebook内容如此庞大。他说:“肯定有Facebook的资源和管理问题。” “但是考虑到我们现在的文化背景,在这个不真实和错误信息的时代,演算已经改变,我们需要开始更加积极地监视这些平台。我认为需要更明确的规则和更明确的行动。”

母亲的警告:如果您有白人十几岁的儿子,请听...三位专家对Facebook如何克服检测欺凌的技术挑战提出了建议。
该书的作者马兰兹(Marantz)说,更多的人注视内容可能会大大有助于解决欺凌问题。马兰士在《纽约时报》最近的一篇评论文章中写道:“明天,马克·扎克伯格(Mark Zuckerberg)可能会使Facebook的盈利能力略微下降,而道德则大大降低:他可以雇用数千名内容主持人,并公平地向他们付款。”

联邦通信委员会前主席汤姆·惠勒(Tom Wheeler)对软件如何提供帮助有一个想法。他建议政府应强迫Facebook和其他社交媒体网站向第三方提供其算法的结果。他去年在《纽约时报》的一篇观点文章中写道,这种“开放” 将涉及一种称为开放应用程序编程接口的东西。API是外部人员访问平台数据库部分的一种方式。克莱姆森大学研究人员Darren Linvill和Patrick Warren表示,虽然Facebook允许访问其API上的某些数据,但与其他平台(如Twitter和YouTube)相比,访问量要少得多。

克莱姆森团队表示,Twitter的开放API更加开放,使他们能够识别可疑的俄罗斯巨魔并向Twitter发出警报。克莱姆森行为,社会与健康科学学院副教授林维尔说:“帕特里克和我杀了几十个俄罗斯巨魔,因为推特是开放的,我们不能在Facebook上做同样的事情。”研究人员指出,尽管Facebook相对封闭的API为其用户提供了更多的隐私,但它使研究人员更难于帮助Facebook实现减少欺凌等目标。

克莱姆森商学院副教授沃伦说:“ Facebook的举动有其后果。“存在负面的公共利益后果。”惠勒现在是布鲁金斯学会的客座研究员,也是哈佛肯尼迪学校的高级研究员。他说,如果Facebook被迫开放其算法的结果,那么外界人士就可以在该平台上对欺凌行为进行自己的研究。惠勒告诉美国有线电视新闻网:“这样一来,您可以设计自己的算法,说'我想查询n字的用法',或者您想要查询的任何内容。”

惠勒说,尽管这不会消除对Facebook的欺凌,但这将是朝着正确方向迈出的一步。他说:“我们不能用魔术棒解决这个问题,但是直到透明为止,我们才能开始解决它。”法律学者丹妮尔·西特隆(Danielle Citron)是麦克阿瑟基金会(MacArthur Foundation)今年因与网络骚扰作斗争而获得的“天才补助”,她也对Facebook提出了建议。在线间谍渗透了反疫苗的Facebook团体,发现该团体的成员发出呼吁攻击疫苗倡导者,包括哀悼死去的孩子的母亲。

据受害者说,结果是一波又一波的骚扰。雪铁龙说:“我把这些人称为网络暴民。死亡人数减少了一千。这就像一千只蜜蜂的刺伤。”柚子说,Facebook应该想出一种报告暴民的方法,而不是必须报告每个单独的内容。她说:“ ​​Facebook需要将网络暴民视为一种真实现象。” “应该有一种方法,用户可以让他们知道这场风暴正在发生-他们可以说,'看看我的页面,网络暴徒已经下降了。' ”

波士顿大学法学院教授Citron一直是Facebook的无偿顾问,他说,在过去十年中,Facebook在欺凌和骚扰问题上走了很长一段路。她说:“他们没有把一切都做好,但他们正在努力。”但她说,Facebook在监管自身方面面临着固有的冲突。她说:“他们不想让人们失望,他们想要自己的生意。”Citron说,Facebook需要记住,如果被虐待的受害者被吓到平台,它将失去业务。

她说:“人们被吓到并下线追赶是不好的。”疫苗倡导者莫拉塔(Moratta)的五岁儿子死于流感,她说她并没有被Facebook吓到-但她已经与许多受到暴力威胁的父母进行了交谈,他们感到恐惧。她说:“显然,我们在这个国家有言论自由,但是当您谈论对另一个人造成伤害时,我认为这是不应该的。” “ Facebook正在通​​过传播这种不良行为来破坏社会。他们正在为此提供帮助,而不应该这样做。”
分享至:

®关于本站文章™ | 若非注明其他来源,默认 均为本站编辑部原创文章,如有侵权,请联系我们™