Ins推反网络暴力功能:AI技术成网络言论环境的“保护伞”人工智能

2019-07-10    来源:AI基地    编辑:吉吉吴
AI技术成为网络言论监管的有力杀手锏。

       7月9日消息,美国当地时间7月8日,Instagram推出两大反网络暴力功能,即言论提醒和自主选定黑粉功能,用来帮用户抵制网络暴力。2016年,以“贾斯汀·比伯退出Instagram”为导火索,Instagram首次推出了负面评论过滤功能。之后,Instagram还通过机器学习来处理含有攻击性信息的照片。
 

      近日,Instagram推出言论提醒和黑粉选定功能,以应对网络暴力。Instagram主管Adam Mosseri说:“为了让人们的身心更加健康安全,我们不惜承受Instagram用户减少的代价。”
 

AI成网络言论的“清道夫”


       网络谣言以及不当的网络言论借助网络环境疯狂肆虐,成为虚假信息以及有害信息滋生的温床。在今年的愚人节之际,阿里曾经提出谣言粉碎机AI技术,阿里“AI谣言粉碎机”的算法模型由阿里巴巴达摩院机器智能实验室研发,目前在特定场景中的准确率已经达到81%。依靠深度学习和神经网络技术,通过对信息的多维度和多角度分析,该团队设计了一整套包含发布信息、社交画像、回复者立场、回复信息、传播路径在内的综合判定系统,首次把谣言识别和社交用户观点识别打通,并做交叉分析,最快能够在1秒内判定新闻的真实性。

       此次Instagram推出的功能也与之大同小异,言论提醒功能利用AI技术,在冒犯性言论发表之前,向发言者发出提醒。比如:当某用户输入了“你又丑又蠢。”并点击发布时,AI会发出“请为Instagram保持一个友好环境”的提醒。另外,针对照片和字幕,Instagram也能通过机器学习技术探测到不良信息,并及时加以制止。
 

“通过获得这种干预,人们有机会反思和撤销他们的评论,使收件人避免收到有害评论通知。”Instagram主管Adam Mosseri表示,“经测试,我们发现这项功能确实有引导作用,能使一些用户撤销评论或修改评论内容。”
 


 

       这两款工具是Instagram打击网络暴力的重要成果。“我们致力于引领行业打击网络霸凌行为,我们复盘了Instagram的多年经验,以实现这一承诺。”Mosseri在7月8日的博客中写道。这个工具也可能有利于商业行为。正如Mosseri在《时代》杂志描述的:“网络暴力言论可能对品牌名誉造成持久的伤害。”
 

       Mosseri表示,他们也在上下求索,以使反霸凌监测不干涉用户的正当自由,避免用户流失。但是Mosseri也在《时代》杂志上说:“为了让人们的身心更加健康安全,我们不惜接受Instagram用户减少的代价。”
 

AI技术净化社交媒体环境


       网络之所以成为霸凌的猖獗地,源于网络平台的低门槛、用户的易煽动性和匿名感(自以为在ID下匿名)以及更深层次的商业及局部势力等多种因素。无论是个别用户自发的恶意攻击、在煽动下的情绪宣泄,还是网络水军有预谋的抹黑,都会对当事人和网络环境造成严重破坏。从理论上说,运用Instagram的防霸凌功能,一些被煽动的用户可以在AI提醒下自我冷静,有利用建设更加健康的网络环境。

       不仅是Instagram,脸书也采用了自主监督学习的AI技术更快速的识别平台上的负面言论,17年谷歌也开发出了一个名为Perspective的人工智能API接口,以此对抗纷扰的网络世界里那些充满“恶意”的网络表达。甚至吸引了《纽约时报》、《卫报》、《经济学人》这些国际知名媒体纷纷使用这套系统来管理它们的评论。

       与此同时,国内内容社区平台知乎也采用了AI规范评论用语,自研的瓦力算法瓦力可通过从情感倾向性、亲密关系、文本特征三方面入手,建立了内容情感模型、用户亲密度模型和文本识别模型,并通过训练不断迭代完善,最终实现7个层次的网络反对意见识别,促进和谐友好的社区言论环境构建。

       AI以及大数据技术能够快速实现信息正负面的识别,使信息呈现正向的积极导向作用。大多数的社交媒体平台都已经开始试水用AI技术净化社交媒体环境,在减轻社交媒体的审核机构工作量的同时,扼杀虚假信息以及暴力言论等等,重构社会信任,促进网络环境的大和谐。

       人工智能工具是强大的、高效的,同时应该始终贯彻技术造福于人的目标,让AI成为堵住网络不良言论的杀手锏。

1
3