显示标签为“Google”的博文。显示所有博文
显示标签为“Google”的博文。显示所有博文

2017年2月26日星期日

对抗网络暴力,Google 的新工具可以识别恶意评论

在成千上万的网络言论中,区分出恶意的内容需要大量的金钱、劳动力和时间。不少网站因为不堪其扰关闭了评论区,这并不是合适的解决方案。


用人工智能给评论评分


Google 正在解决这个问题。周四,这家公司公开发布了一项名为 Perspective (意为“明察”)的人工智能工具,可以给网络发言评定恶意程度。这是内部智库 Jigsaw(之前的 Google Ideas)去年 9 月发起项目的成果,也是开源项目 Conversation AI 计划的一部分。

Perspective 使用机器学习自动检测网络侮辱、骚扰和辱骂言论。在示范界面中输入一个句子或短语,AI 可以立即评定其恶意程度,结果以“和攻击性评论相似度为百分之几”的形式显示,比任何关键字黑名单和人类管理员都要快。
Perspective 是开放的 API,可以接入现有网站,帮助管理员获取评论的得分情况。但 Perspective 不会决定如何处理恶意的评论。是否标记,会不会删除,或者是开发类似的打分系统,处理方式由内容发布商决定。

为了建立评分模型,Jigsaw 团队获得了来自《纽约时报》的 1700 万条读者评论,维基百科编辑页面的数百万条讨论和其他合作网站的内容,并聘请了数千人来打分,每个评论会给 10 个人来评判。
这个工具已经在纽约时报、经济学人和卫报等网站测试,以期改善评论部分。目前测试需要邀请,年内接口将放开。

对抗网络暴力的一种思路


与以往方法的不同之处在于,新方法主要侧重于语言的评估,而非观点的评判。也就是说,不受欢迎的想法是可以接受的,只要清楚理性地提供论据即可。影响打分的是情绪化和攻击性的语言。这保护了不同观点的表达,同时有助于理性讨论环境的营造。

一个例子是,如果有人写“XXX是叛徒”,攻击指数为 72%。但如果补充了论据支撑,如“XXX 通过在阿萨德的新闻发布会以俄罗斯力不能及的方式帮他背书以帮助境外势力破坏美国在叙利亚的利益犯下叛国罪”(原文见福布斯报道),工具评分就只有 11%。
也就是说,情绪化的短句子攻击指数更高,而有论据支撑的长句子评分会降低。至于论据是不是真相,Perspective 暂时还不能判断——这项工作还是读者自己查证比较好。

审查与自我审查


这项工具可以帮助促进更理性的互联网环境,或者,像批评者所称,是在以算法干扰公共讨论。

Perspective 遇到的问题首先是文法上的:一些字词在不同社群内有着不同的内涵。对特定群体有侮辱性的词,往往以各种方式被群体接纳,中文的例子比如“小粉红”和“白左”,在没有上下文的情况下判断评论者的立场显然很难。
此外,哪怕不考虑所谓的反串黑和春秋笔法,对社交媒体常见的略缩语、替换词、拼写重复目前也没有办法。而文字游戏正是网友擅长的,特别是长期受屏蔽词库训练的网友。
另一个担忧是 Perspective 是否会损害言论自由。为了提高评论的评分,用户要么会开始自我审查,要么转而使用其他的服务,或者索性弃用。

对此,Jigsaw 总裁 Jared Cohen 说,工具不是为了绕过人类的判断,而是把内容标记出来呈现给管理员。
没有评分工具的时候,默认的制度是人为的举报和审核。Perspective 只是提高了网站的效率,让他们不会再以关闭评论区的方式来解决问题。

Cohen 强调说,Perspective 是一项还在进行中的工作,需要人们为它作出贡献才会有所改善。并希望可以用于英语以外的其它语言。
Twitter、Facebook 等社交巨头都有反仇恨言论的工作。但靠压抑的方式营造出的理性乌托邦,在观点越来越撕裂的今天,有没有可能成为另一个言论滤泡?
但至少,目前攻击性言论让许多人感到不舒服的情况下,需要采取某种形式的行动。

您可能感兴趣:








2017年1月2日星期一

Google 的手机遇上了电池故障

手机仍有 20% 的电量却自动关机,这种事情不只发生在苹果身上,Google 此前发布的高端机型 Pixel 近期也遇上了相似的麻烦。


不少用户在网络论坛 Reddit 等平台上抱怨,在电量仍然充裕的情况下,Pixel 手机多次出现自动关机的现象。
Google 暂时没有还没有解释这种故障的原因,也还没有给出合适的解决方案。

在 Pixel 手机上,除了电池问题外,其它出现的故障例如无法用流量连接 Google Play 商店、通话时麦克风没声音等。不过,电量问题看起来是更普遍的,有相似问题的是华为代工的 Nexus 6P,同样是 Google 亲儿子。

不少用户在过去几个月里接连在论坛上说起这款机型的电池问题。华为和 Google 在本月 22 日称已经开始进入调查,目前还没有公布更多信息。他们的进展看起来不会很快,除了让用户联系客服外,这个故障被标记为低优先级就意味着用户还要再等上一段时间了。 

暂时还不清楚这种问题跟硬件或软件有关系。对于国内用户来说也关系不大,Pixel 和 Nexus 6P 这两款手机都不在国内发售。

但在智能手机相当成熟的情况下,对于大的手机公司来说,电池出现这类较多的故障是少见的。这背后,一部分原因跟智能手机用更稳定的锂电池取代以前的镍镉电池有关系。

有相似问题的苹果称是一部分的电池部件出现问题,但没有解释得很详细。苹果称,在组装成电池包前,部分电池组件在受控环境中暴露时间过长,影响了质量,跟安全没有关系。苹果称,这部分主要影响到了 2015 年 9、10 月份的部件,最近已经开始在国内也提供 iPhone 6s 换电池的服务了。

你可能感兴趣







2016年12月12日星期一

人工智能初创企业的出路,今年主要是卖给大公司

近几年来, AI 领域的初创公司不断增多。不过这些公司的命运大多都是,卖给大公司。
根据 CB Insights 的统计数据,从 2011 到 2016 年,约有一半的人工智能初创公司最终走向了收购。
近两年来,这一趋势变得更加明显。5 年内,一共有 140 家公司被收购,其中 2016 年完成收购的人工智能公司约为 40 家。



这些人工智能领域的初创公司,买主基本都是大科技公司。2016 年,在人工智能领域公司的收购上,表现最为积极的公司有 Google、IBM、Yahoo、Intel、Apple、以及 Saleforce。
三星和通用也在今年加入到了收购大军当中,今年十月,前者买下了 Viv Labs,一个类似于 Siri 的人工智能语音助手。
后者则在 11 月收购了两家分别用于物联网技术的 Bit Stew Systems 和专注 CRM(客户关系管理)的 Wise.io。

大公司都买下了哪些人工智能公司?

2016 年,Google 买了 11 家人工智能初创公司,依然表现最积极。


以 Google 为例,它买下的公司主要用于拓展现有业务。比如 2013 年 Google 收购了聚焦于深度学习和神经网络的初创企业 DNNresearch,用于帮助提升图像搜索功能。
它也收购了像 Deepmind 这样本身发展成熟的团队,收购后依然保持独立运营。今年,Google 主要收购了一家做视觉搜索的初创公司 Moodstock,以及语音识别开放平台 Api.ai。
英特尔和苹果今年也买了不少,前者在今年分别收购了用来提升计算机视觉技术的 Itseez、和 Movidius,还花了 3.5 亿美元买下了深度学习企业 Nervana Systems,寄希望于人工智能技术在芯片上的应用带来下一个利润增长点。
苹果则在最近收购了机器学习公司 Tuplejump 和 Turi,一改保密文化,在一次闭门会议中,公开了人工智能的内部计划。


AI 领域拿到的钱越来越多,投资方也有大公司

根据 CB insights 今年第二季度数据统计,近 5 年来, AI 行业拿到的钱总体增多。到 2015 年有所回落,但相比 5 年前, AI 行业的投资金额已经涨了近 7 倍。


每年都会出现大量 AI 公司,不过拿到钱的中期企业越来越多,2015 年,B 轮和 C 轮的公司占比从之前的 20% 上升到了 26%。
活跃投资方中不少是来自于大公司中的风投部门,比如 Google Ventures 或是 Intel Ventures。

您可能感兴趣