作者／方可成

这早已是我们习以为常的现象了：在网上发表评论、跟帖时，有许多人根本不仔细阅读原文内容，甚至完全不看内容，只看标题就直接大发一通议论，乃至演变成人身攻击。

这样的人，往往是网络讨论的破坏者，他们说得越多，仔细读文章的人就可能说得越少。所以西方已经有不少媒体关闭了网站上的评论区，或者进行人工审核和编辑挑选。

为了治治这些不看内容就瞎评论的人，挪威公共广播旗下的NRKbeta想了个办法：要想在我这里评论，必须先回答关于文章内容的测试题，答对了才能评论。

比如，今年2月，NPKbeta发表了一篇文章介绍一项关于数字监控的新立法计划。监控、安全和隐私，这都是很有争议的话题，也是容易吸引无脑评论者的话题。不过，要想在这篇文章下面评论，必须先答对3道测试题：

比如最后一题是，文章提到的“DGF”是什么的简称？

通过这样的设置，基本上所有评论者都是阅读了文章、对基本信息有共识的人。只有在掌握了同样信息的基础上，才有可能发生建设性的讨论。

在14篇文章的评论区实验了几个月之后，NPKbeta发现：尝试回答测试题的人比评论的人多得多，而答错的人也比答对的人多得多——平均错误率高达72%。如果不是有人故意捣乱的话，这个数字或许说明：读者对文章的阅读理解能力真的不高，从一篇文章中吸收的信息真的有限。

另外，NPKbeta也意识到了这种做法的一些负面后果。比如，因为有了回答测试题这一道步骤，最后发表评论的往往是最有时间、最有发言欲望的人，而这些人不一定是最高质量的讨论者——喷子们可能很有时间、很有发言欲望，而对于他们来说，回答对这几道测试题也不是什么困难的事情。相反，哪些本来可以贡献好内容的评论者可能因为怕麻烦、没时间而选择了放弃。

目前，NPKbeta还没有制定出规则，决定在哪些文章的评论区使用测试，哪些不用。因为NPRbeta的规模并不大，这项实验的规模也很有限。不知道如果有更大的媒体网站尝试这种设置的话，会导致怎样的结果——当然，大的商业网站不太会有动力来做这样让数据变得难看的事情。

i

以上内容节选自新闻实验室会员通讯第103期。

评论区的喷子们是世界性的难题，在中国，一些新媒体平台利用算法来净化讨论环境。

我和今日头条的小伙伴聊了聊，了解他们的做法。

问：今日头条是如何利用算法辅助净化讨论环境的？

答：我们的识别模型如下。

每条评论内容都会由模型对其进行计算打分，比如某一条评论在“低俗”的维度上得分是0.8，在“谩骂”的维度上得分是0.6，这个得分越高就意味着把握越大。头条评论每天对谩骂、低俗内容的识别准确率达99%。

问：这个准确率是什么意思呢？

答：准确率的含义是，“人工验证确实有问题”的评论量除以“机器识别认为有问题”的评论量。

问：你刚才提到“谩骂”和“低俗”，那具体怎样算“谩骂”和“低俗”呢？除了明显的脏话之外，“尼玛”算吗？歧视性语言算吗？

答：我们有一套自己的判断标准。如果词本身较脏，标准从严，算谩骂。“尼玛”用在正向和中性评论时不算谩骂，用在负向评论时算谩骂。歧视性的语言算谩骂，包括对国家、地区、特定群体及性取向等方面，比如娘炮、基佬等算谩骂，但是中性词如同性恋等，不算谩骂。

问：打击恶意评论，会对用户活跃度产生负面影响吗？毕竟有一些人会发现自己的评论显示不出来。

答：从目前的数据来看，平台打击恶意评论不仅净化了环境，对于用户的活跃度也产生了积极影响，在日活跃用户中发评论的人的比例显著增长。在链接的评论报告中可以看到，人均贡献的评论是上升的。另外，评论区采用了深度学习模型训练，规模大概在百万级别，（识别）准确率和性能都有显著提升。

关于今日头条用户评论的更多数据，可以阅读《就你话多！今日头条用户评论数据报告》。点击文末“阅读原文”查看报告全文。