技术、法律携手,治理“按键”伤人

admin 216 0

  网络暴力事件层出不穷 技术、法律携手,治理“按键”伤人 

  ◎实习记者 李诏宇

  整治网暴等网络不良行为乱象,需要行政监管、互联网平台、网民等多方主体共同参与。我们应该合力净化网络生态,营造积极健康、清朗有序的网络环境。

  陈磊

  首都经济贸易大学法学院诉讼与司法制度研究中心主任

  这几天,网名为“春游哥哥”的汶川地震幸存女孩遭遇网络暴力一事持续发酵。她公开的私信记录显示,部分网友对其进行了言语侮辱及恶意骚扰。

  近年来,网络在人们的生活中发挥着越来越大的作用。在给人们带来便利的同时,网络也带来了网络暴力这一让无数人闻之色变的“洪水猛兽”。随着网络暴力行为危害的加大,治理网络暴力愈发受到人们的关注。

  3月28日上午,国务院新闻办公室举行新闻发布会。会上,国家互联网信息办公室有关负责人介绍了2023年“清朗”系列专项行动的相关情况,其中包括“清朗·网络戾气整治”这一与网络暴力治理有关的专项行动。

  网络暴力的危害究竟有多大?如何更好地认定网络暴力行为?应该采取何种措施治理网络暴力?记者针对上述问题采访了有关专家。

  网络暴力危害巨大

  “一般来说,个人或群体有意识地通过网络传播攻击性言论,以针对某一明确的个人或团体反复、持续实施侵害的行为,就是网络暴力行为。”首都经济贸易大学法学院诉讼与司法制度研究中心主任陈磊指出,“网络暴力的侵害形式主要包括威胁、骚扰、侮辱和社会性孤立等,行为通常伴有侵犯他人名誉、披露他人隐私等。”

  类似汶川地震幸存女孩遭遇的网络暴力事件并非孤例。近年来,刘学州事件、粉发女孩事件等均涉及网络暴力。这些事件造成了极其不良的后果,引起了社会的广泛关注。

  其中的部分网暴受害者或陷入长期的消沉与自我怀疑,或成为抑郁症等严重心理疾病的受害者,有些甚至选择了结束自己的生命。

  面对网络暴力带来的危害,科学认定、有效治理网络暴力势在必行。

  在日前举行的新闻发布会上,国家互联网信息办公室有关负责人表示,近年来,国家网信办持续开展“清朗”系列专项行动,重拳整治包括网络暴力在内的网络生态突出问题,压紧压实网站平台主体责任,积极回应人民群众关心关切,有力维护了网民的合法权益。

  其中,“清朗·网络戾气整治”专项行动主要从严管评论区信息内容,督促网站平台加强评论区管理等方面发力,努力铲除网络暴力等网络生态突出问题的滋生土壤。据了解,2022年开展的13项“清朗”系列专项行动,累计清理违法和不良信息5430余万条,处置账号680余万个,下架App、小程序2890余款,解散关闭群组、贴吧等26万个,关闭网站超过7300家,在治理网络暴力,尽可能地减轻甚至避免网络暴力带来的危害上取得了一定的成效。

  人工智能助力认定网络暴力

  要治理网络暴力,首先要准确、高效地认定网络暴力行为。

  相对于传统语言暴力行为,网络暴力行为因为采用了虚拟化、模糊化的互联网语言而更加难以识别,其与正常的调侃、玩笑、戏谑等行为较难区分。与此同时,由于网络传播的特点,网络暴力的传播速度远远快于传统语言暴力,其传播范围也远远广于传统语言暴力。因此,仅仅采取传统的人工识别方式认定网络暴力,不仅费时费力、效率低下,而且容易因为识别者的主观原因出现误判甚至错判,总体效果不够令人满意。

  “社交平台、短视频平台等公共网络空间,已经成为网络暴力行为的高发地。互联网因其虚拟化、零成本、低代价等特点,对网络暴力的产生起到了巨大的推波助澜作用,也给网络暴力的认定带来了极大的困难。”北京理工大学网络与安全研究所所长闫怀志表示,“在认定网络暴力行为上,人工智能技术可以发挥很大作用。”

  据介绍,采用人工智能识别技术,能够有效地在公共网络空间中将各种恶意语言、图片、视频等网络暴力“源头”识别出来。这种识别基于人工智能技术的先进算法,相比于人工识别,具有更加高效、准确、客观等优势。

  “人工智能技术对于遏制网暴的最大作用,在于其强大的自然语言理解能力。”闫怀志指出。针对评论、弹幕等典型的非结构化语言数据,人工智能可以利用情绪解析、文本观点提取、词法分析、文本相似度识别等技术,实现对网暴的全量、多维度、快速分析,并进一步在此基础上,弄清楚相关受众在看待相关话题时的想法、情绪与核心观点,从而阻断网暴传播链的环节,最大限度地降低网暴带来的负面影响和危害。

  “必须指出的是,人工智能识别技术不能完全代替人工识别,应该把二者结合起来,发挥各自的优势,确保网络暴力行为的认定准确可靠。”闫怀志说。如果仅仅依靠人工智能识别技术,可能会因为其机械性、固定性等缺陷,造成一些令人啼笑皆非的认定错误,陷入过犹不及的境地。

  双管齐下治理网络暴力

  有效制止网络暴力行为,除了技术手段,还需要法律的参与。

  网络平台可普及评论智能过滤、评论或私信动态关闭、识别屏蔽恶意用户等功能,有效遏制网络暴力问题。同时,还可以利用人工智能识别技术,在对评论进行大数据模型匹配和校验后,向违规发言者做出言论提醒,及时制止网络暴力行为。

  记者了解到,针对网暴治理,国内多个网络平台正在展开行动。

  北京爱奇艺科技有限公司有关人士向记者介绍,他们上线了私信防范网暴的功能,可以便利地使用一键举报网络暴力行为、关闭消息功能,以减少网络暴力内容对用户造成的负面影响。该公司还积极引导用户发布正向内容,对存在潜在网络暴力内容的信息做出提示,引导发布者进行善意的表达,助力营造健康的网络环境。

  “网络暴力行为实施者依其行为的恶劣程度,可能要承担民事、行政和刑事责任。”陈磊指出。根据我国民法典的相关规定,网络暴力实施者造成他人损害的,应承担侵权责任;如果其行为较为恶劣或者情节较为严重,则需要承担相应的行政责任;如果其以肉体暴力或者其他极端方法进行网络暴力,情节特别严重的,就需要承担相应的刑事责任。

  陈磊进一步指出,任何个人和组织使用网络都应当遵守宪法法律,遵循公共秩序和社会公德,不得利用网络从事侵害他人合法权益等活动。整治网络暴力等网络不良行为乱象,需要行政监管、互联网平台、网民等多方主体共同参与。我们应该合力净化网络生态,营造积极健康、清朗有序的网络环境。(科技日报)

标签: 北京 健康 科技

发表评论 (已有0条评论)

还木有评论哦,快来抢沙发吧~