科技网

当前位置: 首页 >IT

贴上AI标签的评论区正在剥夺我们同等言论

IT
来源: 作者: 2019-04-05 21:27:55

人工智能是技术的又一次升级,但是人工智能不能成为一切腐朽旧思想的避难所,不能包庇价值观的混乱,也不能纵容技术平台对用户话语权的剥夺。

自古站着说话都是不会腰疼的,在这样一个鼓励质疑的社会气氛当中,戾气彷佛成了最好的鼓励。去中心化的时代,人人都有麦克风,络发言的成本到达了历史最低。

近日,知乎正用AI辨认 答非所问 和 不友善 又被媒体反复引用。前不久,罗永浩 精日没啥 的言论相继被北京和广州点名批评,微博的评论区 锤粉 、 锤黑 的论战比罗永浩本人的演讲还 好看 ,但是这种 好看 是靠着你来我往的炸药桶攻击而炒起来的热度。

广州官方微博下面, 当心锤粉 评论排在热评的第一位, 走狗 等字眼也屡见不鲜。微博的骂战如此壮烈让 路人 都不忍直视,更不谈上不来理性的分析罗永浩是不是是精日,精日是什么的问题。微博距离中国言论环境下的 公共领域 还差得很远。

内容管理,要从评论区觅得曲径通幽处评论区比内容本身还好看,现在已经不但仅是个口上的噱头了。各大社交和问答平台都开始注意到评论区的运营。

此前,为了提高评论审核的效力,有效管理微博评论,微博也开始有所动作,面向头部用户和正式会员用户开通评论审核的功能,在开放此功能以后,用户可以对自己微博下的评论实现评论先审后放。

因此,如果把文章本身称为 第一内容区 的话,那末评论区俨然已成为蓬勃发展的 第二内容区 ,今天重视评论区的管理开始变得越来重要。

在4月的GMIC大会上,知乎合伙人、高级副总裁李大海做了一个分享,称知乎正在打造 智慧社区 ,并泄漏出,在知乎的内容社区当中,AI已可以开始进行语义辨认和语境判断。由于单单依赖人工的气力来管理内容,实在不是一个高效的选择。

在知乎里面,现在有一个2岁多的机器人叫 瓦力 ,目前这个机器人可以上快速响应答非所问和不友善的内容,减少像轻视,歹意贴标签,辱骂等等低质内容对用户的干扰。但是目前遭到NPL(自然语言处理)本身的局限性和平台运营存在的相应问题,这个智慧社区还存在着很多问题。

如果说人工智能算法能够通过监测人们说话时的声学特点,比如发音频率,声音高低,和语气的变化,来辨认人类说话的情绪类型是一项很了不起的技术。那末直接通过NPL来鉴定人类的说话情绪则是更难上加难的操作。

由于一个脏字不带,一个敏感词都没有的句子,AI很难总结出它们的共同特点从而有针对性的挑选出来作为负面言论的代表,真正成为评论区的 清道夫 。

另外,目前知乎的机器学习方式是利用知乎的中文语料库,调动用户积极对语料进行手动标注来训练AI,这在机器的监督学习中是必不可少的一步。但新的技术正在出现,比如强化学习和in-streamsupervision,数据可以在自然使用进程中取得标注。

或,知乎还可以学习科大讯飞建立语音云平台一样,引入语料云平台,这样可以从其他更广泛的渠道以更快的速度发现更新的语料。

由于等到知乎中文语料库中有足够的新兴语料可以让机器进行学习时,代表这类语料的存在在平台上已经比较广泛了,如果此种语料是恶性的,那末则说明评论的内容生态已遭到了一定污染。

在评论区,AI与人的关系还值得细嚼把目光投到国外,国外的那些顶级媒体则更早就开始重视到评论区的重要性并开始用技术对评论区进行打理。

纽约时报与Jigsaw(谷歌Alphabet旗下科研团队)合作,并牵头华盛顿邮报、Mozilla基金会成立了TheCoral Project(珊瑚项目),研究如何改进评论,并孵化一系列开源工具为各大室提供技术支持。

2015年时,纽约时报采取的评论体系会依靠算法对不同用户的评论进行优先级排序,并且决定哪些用户的评论可以不用经过较长时间的人工审查就可以发布。

但是,人工智能到底是蓝海还是深坑还需要时间的检验,智能相对论分析师杨苏颖还想在此提出利用人工智能管理评论内容生态的两个讨论点:

AI的背后是人,如果人不想解决某个问题,那末AI也只是噱头和摆设最近,在某草根公众号中看到一篇文章,名叫《欲加之罪,何患无词》,谈论的是有关喜马拉雅APP内容付费的问题,该公众号的主人在喜马拉雅上传了自己解读书籍《乌合之众》音频,后突然因版权投诉而被下架了。

喜马拉雅方面的客服称由于已经有解读该书的付费音频存在,所以再上传解读该书的音频就算作是侵权。对某一个单一的知识付费内容能不能垄断市场暂且不论,这个唯一被平台认可的《乌合之众》付费音频下面的评论却显示出这个付费的内容并不尽如人意。

但是平台不顾听众在评论区的反馈,完全没有用心传播优良内容的匠心。如今许多平台都尝试使用AI进行评论区的管理,但是AI要履行的始终是人的想法,就算AI通过各种辨认的功能发现了这个问题,如果人并不想解决这个问题,那么AI的设立又还有甚么用途呢?

贴标签是被允许的么?在评论区,AI通过辨认用户言论来给每个用户贴标签,这一点很难说不是在将每个人的言论权利做一个高矮次序的排列。

许多用AI来管理评论区的平台谈到技术方面都会说到现在可以利用AI可以对用户进行标签,有点儿像所谓的社会信誉体系。但这类看似公道的信誉体系背后的问题是:争了好几百年来的同等言论权就这么被AI再次剥夺了?

站在社会学的角度,我们常常在讨论的是标签对人性的压抑和标签给人带来的种种痛苦,并思索着如何才能让社会环境进一步 去标签化 。但我们没注意到的是,AI正在利用我们在络留下的数据对我们进行标签化。

如果,某个人曾发布过一些负面言论,那末经过AI的辨认判定后,他的言论可能今后永远只能在评论区的下游飘荡。潜在地,这个人是否是相当于被间接削弱了言论权呢?你可以发言,但是不会有人看得到。这也代表了在络社区当中话语权会被进一步中心化。

所以,AI也应当该考虑一下去标签化的问题,并建立去标签化的机制。每个人都有被谅解的机会,但是数据会知道这一点吗?

技术不但没有使信息自由活动,反而建立了更加庞大的信息孤岛。在当中,只有互为好友的人才能看到在同一个人朋友圈下面的评论互动,这样的评论机制在当中建立起的无数个不同的小圈子,小圈子之间隔着高高低低的围墙。

虽然帮助我们连接了更多的人,但是却把父母给隔离了起来。

她/他能够看到的评论区永远只有自己一个人,想要通过你的朋友圈了解你的生活,了解你的朋友和外面的世界,但是技术却阻断了这么简单的念想,他不知道你平常是怎么和朋友打趣,乃至不知道你说的佛系,在评论区看不到更多的解释,还以为你要去出家,赶忙打个过来询问。但为了避免你麻烦的解释进程,技术还可以建立起更多 去麻烦 的机制,比如分组可见。

对我们而言我们是在提高自己的生活效力,更好地管理自己的生活,但是对父母而言,他们只是被强制削去了知情权,这实际就是剥夺发言权的前一步。

在日常的信息获得当中,剥夺话语权的方式是很隐晦的。

它通常会先剥夺你的知情权。本日头条的人工智能算法推荐信息,过度迷信算法的精准性,实则把用户困在它制造的信息孤岛。由互联所打破的信息壁垒,在本日头条的作用下被重新建立起来,只是这背后更加深入的是,同质信息的轰炸阻断了那些没有主动获得信息能力的人上行的通道。

在这样庞大的信息社区当中,平台需要建立自己的人文价值观和社会,一旦当它们的价值开始混乱,钱就会成为唯一的尺度。人工智能是技术的又一次升级,但是人工智能不能成为一切腐朽旧思想的避难所,不能包庇价值观的混乱,也不能纵容技术平台对用户话语权的剥夺。

如何在保护话语权和保护平台社区环境之间寻求一个平衡点,是应用AI管理评论区需要思考的第一个问题。

评论区的 黄金屋 和 颜如玉 在今天是不言而喻的,但平台的内容运营者们想要在这上面使力则还需要继续探索。AI帮助进行智能评论区管理是件好事,但在AI的背后还潜藏着太多未解的难题,管理者们一定要带着问号去利用好AI,让AI成为内容管理的福音。(本文首发钛媒体)

更多精彩内容,关注钛媒体号(ID:taimeiti),或下载钛媒体App

第一时间获得TMT行业新鲜资讯和深度商业分析,请在公众账号中搜索「钛媒体」或「taimeiti」,或用扫描左方二维码,即可取得钛媒体每日精华内容推送和最优搜索体验,并参与活动。

智能相对论 智能相对论(id:aixdlun):深挖人工智能这口井,评出咸淡,讲出黑白,道出深浅。重点关注领域:AI+医疗、机器人、智能驾驶、AI+硬件、物联、AI+金融、AI+安全、AR/VR、开发者和芯片、算法、人机交互等。

有道理。小时候常常被教育不要轻易下结论,不要动不动给别人打标签。现在的AI却理所当然地标签用户,技术上的进步,同时带来了伦理,道德上的问题。。。

12:05 via weibo

我们会向您的号发送验证码,请查收并按提示验证您的号。如果您没有收到短信,请留意垃圾短信拦截

经检测,你是“钛媒体”和“商业价值”的注册用户。现在,我们对两个产品因进行整合,需要您选择一个账号用来登录。不管您选择哪一个账号,两个账号的原有信息都会合并在一起。对给您造成的不便,我们深感歉意。

孩子过敏性咳嗽怎么办
宝宝过敏性咳嗽怎么办
5个月宝宝咳嗽

相关推荐