主页 > 走在家居 >Facebook 公布《社群守则》执行成效, 2019 第一季就停了 >

Facebook 公布《社群守则》执行成效, 2019 第一季就停了

2020-06-06


台湾社群龙头的 Facebook 在今天发表了第三份《社群守则执行报告》,涵盖了 2018 年第 4 季和 2019 年第 1 季期间的调查,调查範围是对于目前 Facebook 总共将《社群守则》中九大政策的各项衡量指标:成人裸露和性行为、霸凌和骚扰、儿童裸露和儿童性剥削、假帐号、仇恨言论、管制商品、垃圾讯息、全球宣扬恐怖主义,以及血腥暴力内容等。这也是 Facebook 首次公开与管制商品守则以及申诉案件和恢复显示内容相关的数据资料,希望能藉由提供透明的政策执行过程,实践 Facebook 对资讯公开的承诺,并持续推进社群平台安全,保障用户安全。

Facebook 公布《社群守则》执行成效, 2019 第一季就停了

报告中所提到用于追蹤 Facebook 执行《社群守则》成效的重要衡量指标包括:

盛行率:指的是用户看到违反《社群守则》的内容的频率。

Facebook 非常在乎用户实际看到违规内容的频率。处置的内容指 Facebook 撤下的内容数量盛行率则是指 Facebook 尚未辨识出来,而用户仍有可能看到的违规内容数量。Facebook 衡量的方式为定期针对用户在 Facebook 上浏览的内容进行取样,然后藉着查看取样内容,了解违规的比例。

这个衡量指标目前适用于成人裸露和性行为、血腥暴力内容以及假帐号:
Facebook 估计用户在查看 Facebook 内容时,每 10,000 次浏览中就有 11-14 次含有违反成人裸露和性行为政策的内容。

Facebook 估计用户在查看 Facebook 内容时,每 10,000 次浏览中就有 25 次含有违反血腥暴力内容政策的内容。
Facebook 估计 Facebook 的每月活跃帐号中约有 5% 为假帐号。
在这份报告中,Facebook 也首次分享「全球恐怖主义」与「儿童裸露和儿童性剥削」的盛行率衡量数据。这两类内容的盛行率都不高,因此难以使用Facebook 的标準机制进行衡量;但 2019 年第 1 季的资料量足以让 Facebook 估算出结果,资料显示用户在查看 Facebook 内容时,每 10,000 次浏览中含有违规内容的次数不到 3 次。

处置的内容:因违反《社群守则》而遭到 Facebook 处置的内容数量。

Facebook 採取的处置包括移除内容、为内容加上警告画面或停用帐号。此数据反映的是用户发布的违规内容数量,以及Facebook 辨识违规内容的成效。

在假帐号方面,由于有心人士企图一次建立大量帐号并发动自动攻击,导致受到处置的帐号数量增加。Facebook 在 2018 年第 4 季停用了 12 亿个帐号,在 2019 年第 1 季则停用了 21.9 亿个帐号。

主动先发率:这是指在 Facebook 採取处置的内容中,于用户检举前,已经由 Facebook 系统主动侦测到的数量。

这项衡量指标通常可反映人工智慧在特定政策领域的应用效果。

本报告涵盖的六项政策领域中,超过 95% 的处置内容都是由 Facebook 在用户检举前主动侦测到的违规内容。

在仇恨言论方面,移除的内容有 65% 是由系统主动侦测,相较于一年前 Facebook 初次分享成果时的 24% 提升了不少。

Facebook 公布《社群守则》执行成效, 2019 第一季就停了

在 2019 年第 1 季,Facebook 总共撤下 400 万则涉及仇恨言论的贴文,而 Facebook 持续投注心力,希望能针对不同语言及地区,提升侦测仇恨言论的技术与能力。

Facebook 处置内容时会同步通知发布者,并且在多数情况中,若发布者认为 Facebook 的处置有误,他们可以提出申诉。在第三版的报告中,Facebook 开始提供遭到用户申诉以及恢复显示的内容数量。

因为 Facebook 採取的处置并非全然正确,但只要 Facebook 确认是误判,就会立刻设法修正。正因如此 Facebook 会在报告中提供相关数据,让大家了解有多少内容在申诉后已恢复显示,以及有多少内容即使未经用户直接提出申诉,也已由Facebook自行恢复显示。而内容未经申诉就会恢复显示的原因如下:

Facebook 误将多则内容相同的贴文移除时,只要其中一位用户针对处置提出申诉,Facebook 便会将所有相关贴文一併恢复显示。或是 Facebook 主动发现审查结果有误,此时 Facebook 就会在发布者提出申诉前自行恢复显示内容。

在其他案例中,特别是含有 Facebook 视为恶意连结的垃圾讯息贴文遭到移除时,若 Facebook 确认该连结已经无害 Facebook 便会恢复显示贴文。

相同季度的「申诉内容数量」与「恢复显示内容数量」无法直接比较,因为在 2019 年第 1 季恢复显示的内容可能是在2018 年第 4 季提出申诉。同样的,于 2019 年第 1 季申诉的内容可能是在 2018 年第 4 季遭到处置。

*请注意,由于 Facebook 会将数据四捨五入,所以申诉后恢复显示的内容与未经申诉就恢复显示的内容总和,不一定会与「总恢复显示内容数量」完全一致。

Facebook 公布《社群守则》执行成效, 2019 第一季就停了

另一项也是相当重要的是非法贩售毒品和枪枝武器,为了防止非法贩售毒品和枪枝武器,Facebook 早已制定多项政策。多年来,Facebook 以各种方法施行政策,包括:调查与已移除的违规内容相关联的个人档案、粉丝专页、社团、主题标籤和帐号;封锁及过滤数百个与毒品贩售相关的用语;以及与专家携手合作,随时掌握有心人士用来掩饰犯罪行为的最新手法,例如毒品的最新俗称。

自 2018 年夏季起,Facebook 开始藉人工智慧找出违反管制商品政策的内容。这项投资让 Facebook 得以针对更多内容採取行动,并且在大多情况中,还能在用户检举前早一步进行处置。在 2019 年第 1 季,Facebook 针对 90 万则涉及毒品贩售的内容採取行动,其中有 83.3% 是由系统主动侦测;同一期间,Facebook 也针对 67 万则涉及枪枝武器贩售的内容採取行动,其中有 69.9% 是由系统主动侦测。

这项技术能主动揪出更多违规贴文,让 Facebook 的团队得以专注于自身的任务,努力找出有心人士未来可能用于避开侦测的方式,以保障用户安全。

Facebook 公布《社群守则》执行成效, 2019 第一季就停了

过去一年来,Facebook 採取了几个作法,让政策研拟和衡量政策执行成效的过程更加公开透明。独立的外部审查和意见回馈是帮助 Facebook 进步的不可或缺要件。基于这个精神,Facebook 成立了资料透明度谘询团队(Data Transparency Advisory Group, DTAG),针对 Facebook 在《社群守则执行报告》中分享的衡量指标进行独立、公开的评估,藉此了解这些指标是否能为整体运作带来实质帮助,以及是否精準符合需求。这个独立团队是由成效衡量、统计学、犯罪学和管理学等领域的国际专家组成,专门评估 Facebook 执行政策的方法,Facebook 将执行流程与衡量方法的详细机密资讯提供给谘询团队,而他们已经在本週发布独立评估结果。在评估结果中,谘询团队指出《社群守则执行报告》是落实资讯公开透明的重要手段,他们也发现 Facebook 执行政策的作法均十分恰当且合理。此外,他们也指出一些 Facebook 能够更加公开的领域,可藉此提升平台用户的信任程度及回应热度。这些重要的分析数据将有助于 Facebook 了解未来需要努力的方向。



上一篇:
下一篇: