Facebook推新技术:AI能自动锁定有自杀倾向用户

快讯 | 2018-02-26 16:24:51
时间:2018-02-26 16:24:51   /   来源: 网易科技      /   点击数:()

(原标题:Facebook is using A.I. to help predict when users may be suicidal)

 2月23日消息,美国纽约肖托夸县的治安官Joseph Gerace看到过许多自杀行为,在他成为公职人员之前,他最好朋友的父亲就以自杀结束了自己的生命。去年7月一位Facebook安全团队的成员打电话给911中心的调度员称,当地一位居民需要紧急救助。Gerace称:“这能够帮助我们提升公共安全。我们不会干预人们的私生活,但是如果出现危险我们就会介入。”

Facebook推新技术:AI能自动锁定有自杀倾向用户

去年8月份肖托夸县当地媒体报道的第一起自杀案例就是由Facebook追踪到的,当时公司收到举报称一位女性在她的Facebook上发出了自杀的信息。多年以来,Facebook都允许内部审核人员对自杀内容进行审查,并且决定是否需要通过自杀预防热线为用户提供帮助,或者在紧急情况下让公司的法律反应团队介入。

随着技术的不断发展,对于Facebook来说必然存在一种工程学方案来应对自杀行为。大约1年以前,Facebook增加了新技术,能够自动标记涉及自杀意图的帖子供公司审查员进行分析。去年11月份,Facebook已经证实这个新系统已经获得了成效。

据Facebook称,这个新系统标记的涉及自杀想法的帖子数量已经提升了20倍,收到Facebook自杀预防系统帮助的人数也增加了两倍。公司也一直在对系统的语言和Instagram的自杀预防系统进行升级,但目前仍然处于研发的早期阶段。周三时Facebook也公布了关于这项技术更多的细节。

虽然表现自杀想法的帖子很少,但自杀是一种很普遍的威胁。据美国疾病控制和预防中心的数据,自杀在美国死亡原因中排名前十,在年龄15到34岁之间的死亡原因中排名第二,仅次于意外伤害。

Facebook自2013年建立一座人工智能(AI)研究实验室并且雇佣著名的研究人员Yann LeCun作为负责人之后,就开始打造AI人才和技术。实验室已经创造出许多令人印象深刻的技术,比如说借助用户照片识别物体、将文本内容转变成其它语言等等。

包括亚马逊、苹果、谷歌和微软在内的所有科技巨头都在AI领域投资升级自己的服务和平台。但是自杀预防并非AI研究人员关注的热门话题。曾在雅虎和微软AI部门任职的一位Facebook研究科学家Umut Ozertem称:“我从未听说过自杀预防系统,但它让我非常感兴趣。自杀行为曾让我失去了三位好朋友。”

Facebook对于自杀预防的探索已经超过了10年,自杀预防也是谷歌和微软正在进行的事情。比如说,如果有人用谷歌搜索“我想自杀”,就会出现国家自杀预防热线的电话号码。微软则会在搜索结果中显示救助中心的信息,并且让用户在Xbox线上服务上报自残信息。(过客)

标签: 倾向 新技术 用户

最近更新