威尼斯在线平台对小孩子性摧残内容说不,谷歌

日期:2019-09-30编辑作者:威尼斯在线平台

谷歌方面表示,这款API将免费提供给NGO(非营利组织)和行业合作伙伴使用。隐私护卫队在该API访问请求页面看到,申请者需提供姓名、电子邮件、组织名称、项目描述等信息。

Langford表示,由于现在对AI存有一些“异想天开的观点”,IWF将对谷歌的AI工具进行全面测试,以了解其表现如何,如何将其融入人类审查人员的工作流程中。

  近日,谷歌发布一款AI(人工智能)工具,可帮助审核人员优先识别儿童性虐待(CSAM)内容,从而防止这些图像在网上传播。谷歌称,这款AI工具不仅可基于已有的数据库作资料对比,还能标记新发现的图片,这意味着正在遭受性虐待的儿童有可能更快被识别出来,并免受进一步虐待。

威尼斯在线平台 1

采写:南都记者 李玲 蒋琳

新智元将于9月20日在北京国家会议中心举办AI WORLD 2018世界人工智能峰会,邀请机器学习教父、CMU教授 Tom Mitchell,迈克思·泰格马克,周志华,陶大程,陈怡然等AI领袖一起关注机器智能与人类命运。

事实上,谷歌从2006年就开始了这项研究。2008年,谷歌开始使用“哈希技术”(又称散列技术,是指对一串数据进行杂糅,输出另一段固定长度的数据,作为这段数据的“指纹”)来标记已知的儿童性虐待图像,以便识别重复图像。 每个违规图像都会被分配一个自己的ID,无需人眼查看,计算机即可识别。

他还表示,这类工具是向迈向全自动内容审核系统的第一步,可以识别以前很难识别的材料,无需人为干预。“这种分类器在我们这个领域的地位有点像“圣杯”一样”

责任编辑:

【新智元导读】谷歌宣布推出免费AI工具软件,辅助人类鉴黄师对儿童性虐待内容(CSAM)的图像进行分类和鉴别。过去的类似工具往往只能阻止已经标记的不良内容的传播,而谷歌本次推出的AI软件可以自己对图像材料进行标记,经人类工作人员实地测试,鉴黄效率提升了700%。

原标题:谷歌推出免费AI工具 可快速识别儿童性虐待图片

不过他还说,应该只在范围明确的案件中信任这类工具,以避免让不良内容漏网。“几年前我认为这种分类器的诞生可能还要等五六年,但现在我认为,在某些情况下,我们距离完全自动化识别工具的诞生可能只有一到两年的时间了。”

近日谷歌推出的内容安全API则是结合了最前沿的AI技术,可以在现有技术的基础上大规模提升识别效率。通过深度神经网络技术在图像识别上的应用,这款API可以优先呈现更有可能是儿童性虐待场景的图像。另外,与此前只能与已被标记为儿童性虐待的图像不同,这款API还可以识别出以前没有被标记的图像。

申请者需提供姓名、电子邮件、组织名称、项目描述等信息。

互联网观察基金会(IWF)副首席执行官Fred Langford表示,该软件将“有助于我们这样的团队更有效地调配有限的资源。目前,我们只使用纯人力来进行内容审核,然后判断能不能通过。这款AI工具将有助于我们对审核内容进行分类。”

9月3日,在谷歌工程主管Nikola Todorovic和产品经理Abhi Chaudhuri发布的一篇博文中提到,在一项实验中,该工具可帮助审核人员在同一时间段内,找到比以往更多的儿童性虐待内容,识别效率提升了700%。

谷歌表示,在一项试验中,在这款AI工具的帮助下,审查员“在相同时间内对儿童性虐待内容的操作量提高了700%以上。”

互联网观察基金会首席执行官Susie Hargreaves OBE表示,这款AI工具可以帮助专家更大规模地审查材料,将以前未被标记为非法材料的图像作为目标,从而提高儿童性虐待内容的识别速度,并跟上犯罪者的步伐,使互联网成为更安全的地方。

互联网观察基金会(IWF)副首席执行官Fred Langford

2013年,谷歌尝试将儿童性虐待图像的加密“指纹”整合到跨行业数据库中,帮助企业、执法部门和慈善机构更好地在检测和删除儿童性虐待图像方面协作,从而遏制犯罪。

新智元AI WORLD 2018世界人工智能峰会

威尼斯在线平台 2

新智元AI WORLD 2018大会倒计时 15

作者:李玲 蒋琳返回搜狐,查看更多

在这一领域,大多数技术解决方案都是通过根据以前识别出的不良内容目录,来检测现有的图像和视频。(比如由微软开发的PhotoDNA图像识别工具,现在Facebook和Twitter等都在使用。)这类软件可以有效阻止人们共享之前已标记的儿童性虐待内容,但无法捕获未标记的非法内容。人类必须介入并亲自对内容进行审查。

对于谷歌推出的AI工具,互联网观察基金会表示欢迎。这是一家致力于阻止儿童性虐待内容在线传播的大型组织,在十几个国家运营用户举报网络,并聘请审核团队专门识别和打击CSAM内容。

IWF位于英国,是致力于阻止儿童性虐待内容在线传播的最大组织之一,由谷歌等大型国际科技公司提供资金。

IWF聘请内容鉴别团队来识别这些不良内容的图像,并在十几个国家提供举报渠道,以便互联网用户报告可疑内容。该机构自己也会开展调查行动,锁定会共享儿童性虐待内容的网站,并与执法机构合作来关闭这些网站。

本文由威尼斯在线平台发布于威尼斯在线平台,转载请注明出处:威尼斯在线平台对小孩子性摧残内容说不,谷歌

关键词:

威尼斯在线平台发挥接二连三和教化效果,优图

当雷锋同志网 (民众号:雷正兴网)问到腾讯优图跟《科学》是还是不是会有出生场景应用上的合营时,贾佳亚教师代...

详细>>

智能化商业路线图,云栖科技(science and technolog

原标题:云栖科学技术评价 | AI正在变得“普通” 前几日,“互连网+”的观点已经向各行业、各使用的纵深不断渗透...

详细>>

地平线余凯这么说,2018北京车展

原标题:什么是人造智能行业生态最根本的因素?地平线余凯那样说 1月十二日至七日,2018巴黎市国际车展在中夏族...

详细>>

李彦宏同台,2019社会风气智能AI大会

原标题:马云、马化腾、李彦宏同台,这场 AI 盛会不要错过丨限时报名 芯技术·芯架构·芯安全2019世界人工智能大会...

详细>>