黔西南州信息港

当前位置:

人民日报人工智能是虚假新闻的克星

2019/05/15 来源:黔西南州信息港

导读

人工智能如何更好地掌握规律、制定规则,给算法提供正确指引,让人工智能能够更有效地甄别虚假和低俗内容并控制其传播,是当前业界和学界要重点研

人工智能

如何更好地掌握规律、制定规则,给算法提供正确指引,让人工智能能够更有效地甄别虚假和低俗内容并控制其传播,是当前业界和学界要重点研究的问题。

当前,甄别和控制络虚假信息传播已经成为一个世界性话题。虚假信息不仅令我国络空间深受其扰,一些西方国家也日益意识到它的危害。去年美国大选中,不同利益集团相互指责和控诉对方制造和传播虚假信息,吃相难看,颜面尽失。

虚假信息及低俗内容,在互联环境中跨地域大规模快速传播的现象,主要出现在拥有海量用户的互联应用平台产生以后。每一个用户都可以在这个平台上发布信息,并在平台内部和平台之间快速传播信息。在一定的利益动机和社会心理机制作用下,一些平台用户试图发布虚假信息及低俗内容谋取各种利益。由于这类信息和内容往往流传甚快甚广,使得社会原有的甄别及防范机制难以及时做出反应。

对这一新问题,有多种解决思路。比较传统的方法,诸如提高公众传播素养,更多发挥传统媒体把关功能,加大对虚假信息及低俗内容发布者的处罚力度,加重平台等。

然而,一些业界人士担心人工智能没法处理复杂的价值判断问题,也有互联人士认为算法没有价值观。其实,人工智能的算法本身就是根据特定领域的规律和规则制定的,在这些规律和规则中,就包含着价值选择与判断。在确立模型并不断学习以后,履行算法的机器完全能够具有超出人脑的能力,这在不久前围棋的人机大战中已得以验证。互联企业的反应,却是更多地借助技术手段。如脸谱推出事实核查工具,邀请用户通过下拉菜单将他们看到的可疑报道在该平台上进行标记。第三方事实核对人员随后分析标出的报导,并判定其为真实报道还是虚假;谷歌(微博)实验室发起成立了一个名为FDN的学术和技术联盟,研究方向主要是社交媒体的原创判断和真实性认证。我国的互联平台也作出了多方努力。例如,北京字节跳动科技公司在今日头条平台上,依靠人工智能技术,模仿人脑机制,对低俗图片的拦截率较之前纯人工拦截提高了73.71%;针对标题党现象,一些站构建了人工+机器的模式构建防火墙,对敏感词、标题党和虚假信息进行技术性拦截。

如何更好地掌握规律、制定规则,给算法提供正确指引,让人工智能能够更有效地甄别虚假和低俗内容并控制其传播,是当前业界和学界要重点研究的问题。

首先,我们需要更全面地梳理和分析产生虚假和低俗内容的利益结构和动机,分析各类利益主体制造和传播虚假及低俗内容的行为特点,如谋求政治利益和谋求经济利益的行为主体,在制造和传播虚假及低俗内容的行为方面有哪些异同。通过这些分析,为建立模型提供依据。

其次,可以通过对络平台上虚假及低俗内容传播者生产的内容进行文本分析,对其传播行为进行跟踪研究,以掌握其心理特征及行为特征,支持识别模型的构建。

此外,还可以通过对人们络信息接收和接受的心理特征及行为的分析,建立模型,探索如何通过算法干预这一进程,阻断虚假及低俗内容的传播,减低其传播效果。

(作者是中国人民大学学院教授、博士生导师)

女性白带多正常吗
子宫内膜炎症状及治疗
平时白带多怎么办
标签