如何甄别虚假和低俗内容?采用人工智能是个好办法

2017-03-23 14:13:46 来源：51CTO抢沙发

2017-03-23 14:13:46 来源：51CTO

摘要：甄别和控制网络虚假信息传播已经成为一个世界性话题。虚假信息不仅令我国网络空间深受其扰，一些西方国家也日益意识到它的危害。随着人工智能的不断发展，如何通过人工智能能够更有效地甄别虚假和低俗内容并控制其传播，是当前业界和学界要重点研究的问题。
关键词：人工智能内容

　　现在，甄别和控制网络虚假信息传播已经成为一个世界性话题。虚假信息不仅令我国网络空间深受其扰，一些西方国家也日益意识到它的危害。随着人工智能的不断发展，如何通过人工智能能够更有效地甄别虚假和低俗内容并控制其传播，是当前业界和学界要重点研究的问题。

　　数字化信息时代，人人都是通讯员，个个都是记者，网民可以通过贴文、微博等形式提供在网络上自由发布信息。而网络的匿名性又使得发布网络虚假信息承担责任的风险降低，这些都促使了网络虚假信息肆虐。

　　虚假信息及低俗内容，在互联网环境中跨地域大规模快速传播的现象，主要出现在拥有海量用户的互联网应用平台产生以后。每个用户都可以在这个平台上发布信息，并在平台内部和平台之间快速传播信息。在一定的利益动机和社会心理机制作用下，一些平台用户试图发布虚假信息及低俗内容谋取各种利益。由于这类信息和内容往往流传甚快甚广，使得社会原有的甄别及防范机制难以及时做出反应。

　　传播虚假信息主要有三大危害：一是破坏市场诚信环境；二是虚假信息经过发酵传播会破坏市场正常运行机制；三是在市场特殊环境下，一则虚假信息可能在舆论环境中产生蝴蝶效应，渲染恐慌情绪。

　　人工智能在计算机领域内，得到了愈加广泛的重视。并在机器人，经济政治决策，控制系统，仿真系统中得到应用。那么，针对网络虚假信息传播，究竟如何更好地掌握规律、制定规则，给算法提供正确指引，让人工智能能够更有效地甄别虚假信息并控制其传播呢?

　　首先，我们需要更全面地梳理和分析产生虚假和低俗内容的利益结构和动机，分析各类利益主体制造和传播虚假及低俗内容的行为特点，如谋求政治利益和谋求经济利益的行为主体，在制造和传播虚假及低俗内容的行为方面有哪些异同。通过这些分析，为建立模型提供依据。

　　其次，可以通过对网络平台上虚假及低俗内容传播者生产的内容进行文本分析，对其传播行为进行跟踪研究，以掌握其心理特征及行为特征，支持识别模型的构建。

　　此外，还可以通过对人们网络信息接收和接受的心理特征及行为的分析，建立模型，探索如何通过算法干预这一过程，阻断虚假及低俗内容的传播，减低其传播效果。

第三十五届CIO班招生
国际CIO认证培训
首席数据官（CDO）认证培训

责编：liuhan

免责声明：本网站（http://www.ciotimes.com/）内容主要来自原创、合作媒体供稿和第三方投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
本网站刊载的所有内容（包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等）版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时，请及时通知本站，予以删除。