关键词：危险言论;网络化;继发效应;线上领土;言论监管;网络法案
中图分类号：I207.23 ? ?文献标志码：A ? ?文章编号：1001-862X（2022）02-0186-007
当代“危险言论”（dangerous speech）议题，因其与世界各地所涌现的新型民粹主义、移民浪潮、宗教极端势力以及女权运动等社会议题之间的密切关系，而得到各国政策制定者、跨国网络平台以及来自法律、语言、计算机等专业领域人士的广泛关注。不仅如此，全球化时代的网络生态，尤其是社交媒体的指数级增长也为我们识别、消解危险言论及其负面反馈提出挑战。对此，斯科普斯（Scopus）数据库过去三十年的共词分析（co-word analysis）结果显示，“危险言论”研究主要涉及三个维度：“危险言论与言论自由之间的一般辩护”“基于机器学习的危险言论自动分类与检测”以及“性别导向的危险言论与网络欺凌现象”[1]。其中，危险言论的多重界定集中体现在安德鲁·塞拉斯（Andrew Sellars）的仇恨言论“八项共同标识”[2]以及苏珊·贝内施（Susan Benesch）的“危险言论（五项）模型”[3]之中;言论禁令及其道德义务之间的规范边界也在亚历山大·布朗（Alexander Brown）的《仇恨言论法律》（Hate Speech Law 2015）[4]当中获得综述;玛丽·松田等人的《伤人言语》（Words that Wound 2018）[5]则力图更新危险言论及其伤害原则的适用领域;而反诽谤联盟（ADL）的“仇恨金字塔”（pyramid of hate 2018）[6]以及“第十九条”（Article 19）的“言论工具包”（Toolkit 2015）[7]等实用框架的建立，也旨在揭示危险言论的反馈梯度。多国学会针对多语种危险言论的计算语义分析比赛（GermEval-2018，SemEval-2019，2020）也在逐年取得进展。
尽管如此，眼下对“危险言论”的研究分歧依旧包括：危险言论相较于多种邻近概念的界定标准、危险言论的现实成因与情感表征、“反叙事”（counter-speech）策略的应对可能、在线危险言论不同于传统语境的取效进程、网络平台涉嫌沦为危险言论沃土的规避措施、数据外包和算法机制在处理危险言论方面的进展与局限等。尽管“危险言论及其网络化现象”已然在国际领域形成学术热点，我们针对仇恨犯罪（hate crime）的表达形式及其算法检测的探究仍有可为空间。其中，较之于大量英语开发的自然语言分析器，身为全球第二大语言的汉语，以它作为通用语言的智能应用目前多集中在社会热词、情感倾向以及谣言传播等领域[8]，并未形成针对危险言论现象的充分关注。有鉴于此，本文试图立足我国线上领土安全的时代议题，首先分析危险言论的基本语义症候与暴力反馈机制，它将涉及危险言论的非还原性概念辨析;其次，阐释危险言论位于全球化网络场域的传播特征及其影响;再次，从我国国情出发，探究线上危险言论的法律规范可能与技术应用前景。
一、危险言论的基本内涵
“危险言论”一词原指“任何可能增加受众容忍或实施针对另一群体暴力风险的表达形式，包括但不限于演讲、文字或图像等形式”[9]。就认知领域而言，目前“危险言论”的概念界定基本取决于言论的“内容、意图、伤害”三个层面[10];抑或说者的动机、表达，听者的反馈以及言论的影响四个维度。其中基于内容与意图的界定视角仍旧热衷于经验主义伤害的法律框架迁移，其结果便是它碍于言论自由的高阶意义而惯性忽略更多难以量化的非线性伤害门类。针对此，我们首先试图援引艾瑞克·海因茨（Eric Heinze）的“伴随主义”及“本质主义”两种言论取效形式[11]，并从中确立伤人言论的本体论立场，借此打破危险言论及其继发反馈之间的线性因果要求。其次，相较于法律禁令的硬性劃界，社会语言学与现象学视角实际更有利于我们站在“危险言论损害他者公民身份”的认知高度之上超越思想中立的辖区争议，进而重新厘定危险言论的涵盖范围。再次，有别于从伤害迹象的关系隐喻出发重建仇恨神话的“家族相似性”集合[12]，抑或强调安全困境的过度防御机制所催生的集体恐惧症候，为化解传统的“仇恨言论”（hate speech）与“恐惧言论”（fear speech）[13]的情感归因困境，我们选择代之以伤害导向的“危险言论”一词，但其“危险标准”将有别于原有的狭义物理区间而倾向遵循一种“同音异义词”式的语义延展。基于此，通过使用分解语义学（decompositional semantics）的复合概念划分，我们尝试将“危险言论”分为三个层面：1.作为交流行为的言论;2.针对群体或其特定成员的受保护特征目录;3.言语行为的伤害可能。
为避免陷入“危险言论”的抽象认知，我们试图转而强调它是一种具备言后效应的交流现象，由此引入罗曼·雅各布森（Roman Jakobson）的语言交流模型[14]，尤其是编码与语境要素，以此检验危险言论的信息生成与反馈机制。首先，相较于根据“内容枚举法”划归难以计数的危险言论子集，反向确立、防范它所赖以取效的标志性修辞显然更为切题：“我们-他们”的极化对立、罪责归因、自我美德标榜、威胁构建、消除其他（和平）选项、未来偏见、替罪羊、阴谋论以及非人化（dehumanization）等手段。不仅如此，危险言论的伤害输出同样需要考量它的语境参数，尤其是资源分配不均、传声渠道单一、广泛波及受众、缺乏冲突化解机制、权威阶层极化、少数族裔歧视、社群矛盾转嫁以及前暴力史等综合境况。综上所述，危险言论的伤害机制始终需要协同考量包括发言者、接收者、大众媒介、言论本身及其编码方式等语境因素的共同取效可能。因而，当这一交流语境替换为全球网络领土，其中的发言者与接收者同时演变为高度置换的“能指符号”，虚拟的社区架构与跨媒介资源却在为危险言论的多重表征持续提供保障，我们显然有必要探究它有别于传统交流模式的涌现特征与应对可能。
二、危险言论的网络化特征
（一）距离性与延宕性
卡莱布·永（Caleb Yong）在探究“言论自由所覆盖的仇恨言论”时，强调区分“直接、即时、面对面、针对性、个体化的（不受保护）模式”与“间接、扩散、概括、非个体的（受保护）模式”[15]。然则，网络言论以其线下暴行的延宕性与距离性特征屡屡打破传统监管模式的时空连续性要求。就距离性而言，近年来因讽刺伊斯兰先知形象与经典教义而引发的族裔动乱，包括法国《查理周刊》（Charlie Hebdo）枪击总部事件（2015）以及美国牧师特里·琼斯（Terry Jones）网络直播焚烧《可兰经》案件（2010）等，已然表明生成空间下的冒犯性言论缘何在遥远的阐释空间引发致命后果而自动升温为煽动性言论的。尽管它们的传播后果具备可预见性，发言者依然辩称艺术表达以及公权话语本身并未直接构成针对他人的“真正威胁”，线上反馈的滞后条件使得言论不会仅因它增加在不定的将来发生非法行为的可能而受到惩罚。[16]不仅如此，危险言论的多传多改现象也使得它的言后效应变得愈加复杂。科普特基督教徒所拍摄的电影《沙漠勇士》（Desert Warrior 2012）便因历经数月的多方剪辑而为煽动发言者的暴力追责招致困难。这也再次证明，现实领域的非言语行为已然假借线上言论自由的泛化隐喻而成功逃避追责，它昭示出确立网络言论本身与其继发行为之间可规诫边界的重要意义。
（二）匿名性
发言者身份可辨显然只是线上言论的个案，颇为常见的匿名性特征实则更易干扰涉事主体的身份识别与责任归因。在印度WhatsApp视频引发民间私刑的案例（2017）中，原本由巴基斯坦慈善机构为警示儿童绑架所发布的虚拟视频却遭到匿名者删改其泛文本关键信息，这一重新上传的版本有意将儿童贩卖归罪于印度少数族裔致使当地私刑一度泛滥。可以说，网络言论的匿名性特征通过麻痹受众对于信息源头的可信度辨识，从而削弱煽动话语二次传播的责任感知，这也意味着匿名性的负面效应已然“助推数字技术话语向新媒体平台的阴暗面持续倾斜”[17]。进而，当下的匿名发言者同样可能是超统计的机器化网络暴民，马其顿共和国的铁锈镇韦尔斯（Veles）便因其社区紧密性与高失业率境遇而成为极右翼虚假新闻的散播温床，它的活跃性与操控性在与危险言论如影随形的政治竞选时期更为瞩目，因其定位便是通过匿名化攻击迎合乃至激化政治辩论当中好战的党派主义，尤其是针对女性、少数宗教与族裔的偏见与压制。此外，在名人效应加持的互联网时代，匿名经济与自我宣传经济间的拉锯式诉求，不仅展现出在线舆论生态的冲突盈利模式，而且集中表现为侮辱性的网络滥用现象。印度新媒体便试图套用讽刺喜剧的现实主义戏仿，生产以“伪世俗主义”为廉价议题的辱骂（Gaali）节目。可以说，危险言论的匿名性特征极易推动发言者摆脱超我的审视并放松对本我的控制，它因而既是小群沟通的利器，同时也可能是冒犯和误导的帮凶。
（三）社群性
相较于线下语境，建立在匿名性以及隐密性基础上的网络社群化，显然为潜在的危险言论者打破时空隔阂，为具有暴力属性的行动单位创设利好条件。其中，以煽动意图为关键词的网络信息凭借大数据的筛选与推送，逐渐聚合为基数不定的过滤气泡（filter bubble），其中的同好言论经由“信息级联、群体极化以及偏见吸收”[18]等传播机制日渐固化其极端保守的社区边界;与此同时，意见领袖在回音空间（echo chamber）不断涌现，并凭借话语权的延增效应推动墙内交流循环演进。为升级程度不一的暴力纲领，零散的激进社区还极力主张协同多个仇恨部落的言论分支。其中，另类右翼势力（Alt-right）便企图将遍布厌女情结的男士圈（manosphere）论坛视为引导白人男性走向极端民族主义立场的天然沃土：他们利用种族化模因的跨界调用，挑动性别对立的零和博弈，从而为不同范畴的危险社群整合铺设前路。此外，内群体成员招募作为危险言论的实践目标其本身便可以反哺社群效应。这也意味着危险言论的说服手段往往极具欺骗性与诱导性，并有意弃置批判性的推理与论证方式，而代之以点燃情绪、刻板印象与挑起伤害等手段。三K党“只为孩子”（just for kids）网站便为消除年轻群体对待施暴成本的道德自抑以及理性决策的认知负荷，而综合选用权威（可信度）、喜欢以及共识等三种启发式吸引手段[19]，从而在修辞层面率先征服不在场的他者，并鼓舞非同质化的潜在成员参与行动。
（四）跨媒介性
危险言论的吸引手段以及网络平台的展示可能催生出危险言论的跨媒介性特征。亨利·詹金斯（Henry Jenkins）借此描述当前好莱坞以非线性多维叙事作为未来方向的文化战略。[20]而实际上，这一平行宇宙的推广模式早已为危险言论的宣传策略所借鉴。伊斯兰国的在线杂志《达比克》（Dabiq 2014）便借由多语版本开發，有意将西方改教者视为可供内化的潜在受众，并以呼吁他们加入穆斯林兄弟会，建立基于宗教认同的伊斯兰国家作为煽动宗旨。可以说，《达比克》所释放的网络影响同样源于它能够综合调用“协同叙事、主体世界生成以及语义触发”[21]等跨媒介手段，并在迎合西方受众网络偏好的同时，美化宗教圣战及其病毒式宣传的不利形象。其一，协同叙事是指通过不同的网络平台和媒体渠道构建统一叙事，同时保持文本内容之间具备整体性和连续性的策略。于是，除却《达比克》主平台所提供的政教议题，其他在线视频、社交标签与自动推文等实时元素的存在，不仅有助于杂志文本的随机回访，同时可以发散伊斯兰神学元典的抗争命题。其二，想象世界的艺术生成则有赖杂志的多元视听与文本配套形式。《达比克》为此效仿好莱坞工业制式，着意营造基于递归性以及冗余性特质的“暴力美学”场景，并通过征调宗教图景、经典战歌以及远古英雄等视觉冲击符号营造理想化的伊斯兰世界。其三，以语义触发为关键的主体附加参与则强调多渠道媒体的交互征引。该杂志借此利用“文化激活器”推进危险叙事的娱乐化包装与互文性刺激，从而优化暴力意识形态的可传播性。据此来看，危险言论显然尝试凭借跨媒介触手所渲染的故事叙述世界，不断缝合世俗领土与虚拟空间之间的主体感知差异。
三、危险言论的网络化影响
其一，国际、地区间的现有立法准则与监管模式已然不足以应对危险言论的跨国输出。危险言论的国际关切实际源于反思和杜绝第二次世界大战中的极端种族主义与大屠杀行径。尽管如此，战后兴起的联合国框架及里程碑式的《消除一切形式种族歧视国际公约》（ICERD 1965）和《公民权利与政治权利国际公约》（ICCPR 1966）至今未能明确区分、规范危险言论的言后效应以及言外效应。[22]盖因它所广泛确立的言论自由的绝对立场以及结果主义的判罚依据，始终坚持将言论与行为之间并未满足明确性和即时性伤害原则的危险言论置于言论保护的普遍范畴内，而这显然并不适用于具备距离性、延宕性以及匿名性反馈特征的线上言论。不仅如此，相较于以“拉巴特计划”（The Rabat Plan）为更新版本的高门槛国际入刑标准，国家、地区间的危险言论治理则因各国政体以及意识形态的高度介入而呈现出监管阈值的差异化波动。[23]于是当现行的法律框架挪用至线上场域之时，以美国《第一修正案》为基石的言论上游原则及勃兰登堡测试（Brandenburg test）[24]对产自本土的网络巨头及其言论开放政策影响颇深，更不必说第三方服务商本身便在以《通信规范法》（CDA）第230条为代表的多重法律框架之下享有“第三方（不当）信息免责权”。正因为此，尽管危险言论与言论自由之间的微妙平衡早已见诸欧委会的《网络犯罪公约》（Convention on Cybercrime 2001），跨国平台的企业体量与生存逻辑却使得这一双边等式往往只能存在于理想模型。
其二，跨国平台所享有的信息免责地位，对于主权国家的言论防火墙造成实质冲击。因线上言论的跨国效应而引发的集体维权，早在雅虎美国与法国两家反种族主义组织展开反诉（2000 2004）之时便已现端倪。它表明社交媒体对于他国言论辖区的空前渗透，其与普遍监管的寒蝉效应之间的制衡关系正在日益激化。究其缘由，危险言论为躲避跨国话语审查而有意利用原生内容的语境迁移所产生的含混释义为其背书，这也意味着网络平台的社区生态始终受制于其所挪用与翻译的危险言论范畴背后的复杂公共政治。与之相应地，当前的跨国平台频繁高举民主旗帜，实际却将本土价值施加给全球半数以上人口，其常见操作便是“裁剪人权的外衣以包裹其真实的实践动机，从而插手这一全球化时代所谓的当务之急和政治辩论”[25]。因而，最为反讽的景象便是言论自由成为危险言论的战术共犯：全球言论场域的“木桶效应”，亦即言论开放地区的最低监管引力已然波及各国话语体系。2021年度的《脆弱国家指数》曾重申其判定指标：“中央政府疲软或失效，对自身领土缺乏实际控制权;无法提供公共服务;腐败和犯罪猖獗;难民和人口非自愿流动以及经济急剧下行。”[26]可以说，上述颓势已部分映射到网络空间当中，它迫使我们承认主权国家可能失去控制自身全部线上领土的核心能力。
其三，网络平台基于双重身份的运作机制，将直接影响线上危险言论的语义症候与反馈效用。时至今日，引领一时风气的《网络空间独立宣言》（Declaration of Independence of Cyberspace 1966）正如它所坚信的技术乐观主义一般令人生疑，因为它未能阐明一个关键问题：这一独立被谁创造，又持何种价值观？如果答案是占据显著份额的个别服务商，那么网络空间的未来选项已然面临裂变：现状镜像化、冲突领地、巴尔干化、天堂以及网络末日（cybergeddon）。[27]它的立场偏颇源于：当我们将网络平台视为公共话语空间之时，便极易忽视它的本质是私有产物;而一旦我们热衷于探究其经济效益，它却俨然已从传统国家职能当中获得分权。一方面，以“注意力经济”著称的科技公司实际需要对股东而非一般用户负责，这意味着它本身便隶属于可控型危险言论的利益阶层。尤其网络平台选用“长尾营销”（long tail marketing）鼓励用户逐步参与边缘（有害）内容的广告投放与流量变现，而危险言论作为打破“奥弗顿之窗”（Overton window）公议范畴的有效手段，本身便有利于将社区文化的接受边界扩容至违背话语历史秩序的未知地带。而另一方面，社交媒体却凭借其在“民主政治竞选、公共政策宣传、职能机构服务上线化、煽动歧视少数群体，以及说服公众宽恕大屠杀”[28]等领域的仲裁身份而收获显著权柄。更有甚者，当今的网络平台可能正在悄然运行全球体量最大的审查制度，其中“線上言论自由的阈值界定是由少数深度投资的利益方所掌控的巨大文化力量”[29]。基于此，网络平台的双重身份昭示出它的社区公约最终将交由少量经验不足的跨国版主，乃至低容错率的廉价机器代为执行。因而，尽管荣登“新三位一体言论模式的构成要素，亦即介于国家和出版商之间的新州长”[30]，跨国平台的高问责门槛与低透明身份却预示着这场被喻为全球“打地鼠”比赛的危险言论防治前路坎坷。
其四，线上生态赖以高速扩张的“思想市场”与“内容中立”预设，亟需危险言论网页过滤机制的人工成本投入。斯坦利·费什（Stanley Fish）曾声称，如果没有专业评价以及监管机构所设置的过滤程序，眼下网络世界自诩中立的言论不过是碎片化的“浮动能指”，因而极易信息过量地镶嵌到任意议程之中，亦即它是拼凑、扩散虚假新闻乃至危险言论的利好条件。[31]这一现象伴随着线上知识的成本压榨以及独立机构的声量流失，反而使得我们轻易陷入“知情困惑”（informed bewilderes）的境地。[32]有鉴于此，如果我们顾忌世俗政府的家长制作风及其代理主体的“有限理性”与“认知偏差”所引发的监管逆境，那么伪理想主义的网络平台同样无从回避这种可能，尤其是它在市场经济体制之下所宣扬的“自由物品交换”以及“理性消费者”概念。[33]简言之，基于数据提取与秘密操纵的“监视资本主义”始终偏向惠顾市场当中能够给予更多消费回馈的参与者，但他们显然不属于危险言论的惯常受害者：声量有限的从属群体。
四、危险言论的网络化监管
有鉴于线上领土所喻示的用户自律局限性、企业道德模糊性以及跨国机构协同性等现实挑战，我们认为危险言论的全球监管尤为需要各国政府、网络平台以及公民社会的共同努力。其中，主要责权方为国家与跨国平台。针对跨国平台未来的监管方向，可包括如下数端：
其一，安全手册的通用操作。围绕“真实、安全、隐私、尊严”的社区宗旨，建立用户导向的“危险言论”规范名目、追责示例、分类举报以及申诉途径。为此，社交媒体应当在规避应激性滞后操作的同时，尊重协调各国不同的言论监管气候。就范围而言，線上屏蔽不应仅限于本土页面，海外空间的放任发酵只会使得局部监管沦为无效震慑;就程度而言，平台应当谨防组织利用线下示威，致使过量撤换事件;就时效而言，面对并未直接触犯物理伤害原则的监管对象，平台应确保其政策连贯性。
其二，危险言论的算法提升。平台为获取自然语言处理的最新技术，有必要投资推动危险言论模型的“机器学习”向“深度学习”扩展，并逐步完善“数据收集、特征提取、模型训练以及综合评估”[34]等基本检测程序。近年来，煽动份子有意混淆危险言论与艺术、信仰、科研记录之间的灰色地带，平台必须为此细化危险言论的包装门类来应对这场“军备竞赛”式的监管困境。此外，针对个人与群体所享有的网络“被遗忘权”（RTBF），平台需要适时调整危险词条的搜索排序。有鉴于此，眼下以支持向量机（SVM）、“特征子集选择”（FSS）与“人工神经网络”（ANN）为计算模型，同时辅之以“词嵌入”“词频”“词性注释”以及“情绪特征”等语义手段的检测系统可能更为实用。
其三，人工审查的并行模式。针对多语种筛查的翻译漏洞，网络中介应当培训、授权由人道主义专家、母语人士以及本地志愿者共同组建的注释团队。此外，面对煽动符号、图像、音乐以及视频等极易绕行过滤机制的传播形式，平台有必要邀请普通用户共同参与危险言论的批量报备项目。不仅如此，考虑到眼下以“推特革命”为典型的暴力征召试验，包括2019年发生在新西兰基督城（Christchurch）的全球首例恐怖直播事件，人工审查必须在算法经济错误推荐血腥页面登上世趋之前予以裁决。为此，平台理应依照地理需求与用户数量合理增加、调配人工成本的覆盖力度。
其四，跨平台分享与协同机制。2018年达成的圣克拉拉原则（Santa Clara Principles）便要求平台针对“帖子删除数量以及账户停用名单”，切实履行数据公开、用户通知以及上诉许可服务。[35]此外，平台有必要依托第三方机构定期对照公布来自政府、用户的内容投诉、意见结果以及流行率调查，包括不当商业赞助、竞选广告以及暴力动员的目标人群、投放指标与线下支出，借此杜绝脸书在2020年罗兴亚人（Rohingyas）种族灭绝事件的调查阶段拒绝递交非法社交数据的类似做法。不仅如此，世界主要平台有必要就“维护网络安全，打击线上恐怖”达成操作共识。这也将助力打击因主流平台的安全升级而随即出现的仇恨引流效应，亦即煽动分子转而通过迁向虚假账户、边缘平台以及加密应用等方式逃离拦截。
而与之相应地，主权国家的未来目标集中涉及两点：其一，立足网络监管的透明度与问责制需要，分类革新面向用户以及平台的立法措施。有鉴于此，我国自2017年起便着手推行《中华人民共和国网络安全法》，其中第十二条已经明确规定危险言论的治理类别。此外，网络言论的全球监管同样需要跨国框架，欧盟正为此制定《数字服务法》（Digital Services Act 2020）以及《数字市场法》（Digital Markets Act 2020），其重点条款便是根据平台的规模与影响相应配备国家推选的数字监管委员会。
其二，推广提升公民数字素养的教育项目，重点培养成员线上事实核查、资源评估以及道德反思能力。对此，我国自2020年起便以打击网络乱象为主题逐年开展“清朗”专项行动。德国的“巴登-符腾堡民主中心”（DBW）选择搭建有害数字通信记录平台并为仇恨受害者提供疏导咨询。此外，国家同样可以帮扶第三方非营利机构负责线上数据检测与政策建议，如澳大利亚的“在线仇恨预防研究所”（OHPI）等独立机构便隶属其中。
除此之外，公民社会本身也可以自发加入危险言论的抵制运动。公益项目如巴基斯坦宣扬和平的“我是卡拉奇”（IAK）艺展以及法国抨击种族异化的《人类动物园》（Zoos humains）收藏，也旨在警示民众危险言论的负面效应。近年来个人作品当中的危险言论关切同样屡见不鲜，其中颇为闻名的埃图·凯瓦瑞迈基（Eetu ?Kevarinm？覿ki）的《仇恨言论美学》（Vihapuheen Estetiikka 2017），便试图通过算法迭代展现遭遇种族仇恨侵蚀的人类残像。
五、小 结
围绕危险言论的全球治理议题，我们应当首先意识到，同时涉足法律以及日常领域的“危险言论”现象很难获得统一的身份界定。但这并不妨碍我们将“危险言论”视作动态的交流行为从而分析它的语义生成与阐释机制。基于此，当危险言论的传播语境转变为全球线上空间之时，它的取效特征和覆盖范围无疑为网络中介以及官方机构的言论监管体系带来挑战。对此，我国“构建网络空间命运共同体”[36]的时代命题，显然要求我们在互相尊重各国网络领土的法治基础上，不断合作推进言论辖区的安全建设。
参考文献：
[1]Tontodimamma，Alice，et al.Thirty Years Of Research Into Hate Speech：Topics Of Interest And Their Evolution[J].Scientometrics， 2021，126（1）：157.
[2]Sellars，Andrew.Defining Hate Speech[J].Berkman Klein Center Research Publication，2016，（20）：3.
[3]Benesch，Susan and Jonathan Leader Maynard.Dangerous Speech And Dangerous Ideology：An Integrated Model For Monitoring And Prevention[J].Genocide Studies and Prevention：an International Journal，2016，9（3）：77-79.
[4]Brown，Alexander.Hate Speech Law：A Philosophical Examination[M].New York：Routledge，2015.
[5]Matsuda，Mari.Words that Wound：Critical Race Theory，Assaultive Speech，and the First Amendment[C].New York：Routledge，2018.
[6]ADL.Pyramid of Hate[J/OL].（2021-11-26）https：//www.adl.org/education/resources/tools-and-strategies/pyramid-of-hate-en-espanol
[7]Article 19.‘Hate Speech’ Explained[J/OL].（2021-4-5）https：//www.article19.org/data/files/medialibrary/38231/‘Hate-Speech’-Explained---A-Toolkit-%282015-Edition%29.pdf
[8]高玉君，等.社會网络谣言检测综述[J].电子学报，2020，48（07）：1421-1435.
[9]Benesch，Susan.Dangerous Speech：A Practical Guide[J/OL].The Dangerous Speech Project，（2019-4-19）：https：//dangerousspeech.org/guide/.
[10]Marwick，Alice，and Ross Miller.Online Harassment，Defamation，and Hateful Speech：A Primer of the Legal Landscape[J].Fordham Center on Law and Information Policy Report，2014，（2）：16-17.
[11]Heinze，Eric.？Hate Speech and Democratic Citizenship[M].Oxford：Oxford University Press，2016：8-10.
[12]Brown，Alexander.What is Hate Speech？ Part 2：Family Resemblances[J].Law and Philosophy，2017，36（5）：561.
[13]Buyse，Antoine.Words of Violence：Fear Speech，or How Violent Conflict Escalation Relates to the Freedom of Expression[J].Human Rights Quarterly，2014，36（4）：785.
[14]Jakobson，Roman.Closing Statement：Linguistics and Poetics[J]//Virginia Jackson，Yopie Prins.The Lyric Theory Reader：A Critical Anthology.Baltimore：Johns Hopkins University，2014：239.
[15]Yong，Caleb.Does Freedom of Speech Include Hate Speech？[J].Res Publica，2011，17（4）：385-386.
[16]Lidsky，Lyrissa Barnett.Incendiary Speech and Social Media[J].Tex.Tech L.Rev，2011，（44）：151.
[17]Pohjonen，Matti，and Sahana Udupa.Extreme Speech Online：An Anthropological Critique of Hate Speech debates[J].International Journal of Communication，2017，（11）：1173.
[18]Sunstein，Cass.On Rumors[M].Princeton and Oxford：Princeton University Press，2014：35-38.
[19]Waltman， Michael.， and Ashely Mattheis. Understanding Hate Speech[J/OL]. Oxford Research Encyclopedia of Communication， （2017-9-26）： https：//oxfordre.com/communication/view/10.1093/acrefore/9780190228613.001.0001/acrefore-9780190228613-e-422.
[20]Jenkins，Henry.Convergence Culture：Where Old and New Media Collide[M].New York：New York University Press，2006：95.
[21]Monaci，Sara.Explaining the Islamic State’s Online Media Strategy：A Transmedia Approach[J].International Journal of Communication，2017，（11）：2848.
[22]Di Rosa，Alessandro.Performative Hate Speech Acts.Perlocutionary and Illocutionary Understandings in International Human Rights Law[J].The Age of Human Rights Journal，2019，（12）：107-111.
[23]Carlson，Caitlin Ring.Hate Speech[M].Cambridge：The MIT Press Essential Knowledge Series，2021.
[24]Bakircioglu，Onder.Freedom of Expression and Hate Speech[J].Tulsa J.Comp.& Int’l L，2008，（16）：15-16.
[25]Titley， Gavan， Ellie Keen， and László F？ldi. Starting Points for Combating Hate Speech Online[Z]. Strasbourg： Council of Europe， 2014：17.
[26]Fiertz，Natalie.，et al.Fragile States Index Annual Report 2021[M].Washington：The Fund for Peace，2021：40.
[27]Healey，Jason. The Five Futures of Cyber Conflict and Cooperation[J/O]. Atlantic Council Issuebrief， （2011-12-14）： https：//www.files.ethz.ch/isn/136858/121311_ACUS_FiveCyberFutures.pdf.
[28]Benesch，Susan.But Facebook’s not a Country：How to Interpret Human Rights Law for Social Media Companies[J].JREG Bulletin，2020，（38）：87.
[29]Tarleton Gillespie.Custodians of the Internet：Platforms，Content Moderation，and the Hidden Decisions that Shape Social Media[M].New Haven：Yale University Press，2018：197.
[30]Klonick，Kate.The New Governors：The People，Rules，and Processes Governing Online Speech[J].Harv.L.Rev，2017，（131）：1603.
[31]Fish，Stanley.The First：How to Think About Hate Speech，Campus Speech，Religious Speech，Fake News，Post-Truth，and Donald Trump[M].New York：Simon and Schuster，2019：158-159.
[32]Castells，Manuel.The Rise of the Networked Society：The Information Age：Economy，Society and Culture[M].London：Wiley Blackwell，1999：4.
[33]Gordon，Jill.John Stuart Mill and the “Marketplace of Ideas”[J].Social Theory and Practice，1997，23（2）：237-238.
[34]Jahan，Md Saroar，and Mourad Oussalah.A Systematic Review of Hate Speech Automatic Detection Using Natural Language Processing[J].arXiv preprint arXiv，2021，（2106）：5-6.
[35]Santa Clara Principles.Santa Clara principles on transparency and accountability on content moderation[N/OL].（2021-11-25）.https：//santaclaraprinciples.org/.
[36]王四新，網络空间命运共同体理念的价值意义[J/OL].人民论坛网，（2022-3-25）http：//www.rmlt.com.cn/2022/0325/643216.shtml.
（责任编辑 黄胜江）
本刊网址·在线杂志：www.jhlt.net.cn
作者简介：袁德雨（1991—），女，安徽合肥人，山东大学文艺美学研究中心博士生，主要研究方向：叙事学与符号学。
最新评论