喷子注意了Google要用机器学习检测恶意评论_[#第一枪]

发布时间：2021-06-07 15:01:42 阅读：次来源：剪脚机厂家

雷锋网(公众号：雷锋网)消息，Google旗下的Jigsaw开发了一款AI工具Perspective，它使用机器学习检测网络上的骚扰和辱骂内容，可以帮助新闻机构和内容平台识别恶意评论。

Perspective软件可以确定网上评论的“毒性”，有毒程度则是通过挖掘数百万条评论，然后由10位评委进行打分而得到的。它会基于评论与被贴上“有毒”标签的评论的相似度，或评论迫使别人不再对话的可能性，进行打分。

Perspective的API现在在官网可以试用，感兴趣的朋友可以测试一下。

据称，纽约时报、卫报、经济学人和维基百科，正在测试这一新技术，Google和Jigsaw也希望其它新闻机构也能使用。它还可以减少人工审核。根据测试结果，川普的名言“Grab her by the pussy”毒性达到了92%（由于这句话涉及对女性的严重歧视，就不翻译了）。

虽然评论可以提升用户参与度，但总拦不住有的人会因为匿名性而发表不当言论，这样看来Perspective还是很有用的。

只是由于人类语言的复杂性，它的评价不一定准确。上图是雷锋网测试的一段中性文字，但结果是46%。或许是不太支持中文吧。

Jigsaw表示，技术将会向所有平台公开，未来还会继续增强，用来识别个人攻击评论和偏离主题的评论。

Jigsaw成立于2010年，还开发过能找到潜在ISIS恐怖分子的软件。雷锋网曾报道，它的前身是网络和政策智囊团Google Ideas，后变成了科技孵化器Jigsaw。它主要专注于使用技术“解决棘手的地缘政治挑战，包括打击暴力极端主义，遏制网络审查，从而减轻与数字攻击相关的威胁”。Jigsaw将投资这样的技术，它能帮助最需要的人群获取信息，并抵御最有挑战的安全威胁。