您好!欢迎访问澳门威斯尼斯人游戏!
专注精密制造10载以上
专业点胶阀喷嘴,撞针,精密机械零件加工厂家
联系方式
0798-232658824
您当前的位置: 主页 > 新闻动态 > 公司新闻 >

公司新闻

美国也用AI监控学生,社交媒体邮件全都要查,背后另有人工审查员

更新时间  2022-10-07 11:11 阅读
本文摘要:郭一璞 发自 凹非寺量子位 报道 | 民众号 QbitAI前不久,几家海内企业用盘算机视觉,或者脑机接口监控学生上课是否认真的消息刷了屏。不外,把技术用在监控学生身上,可不是中国企业唯一份的。 在美国,有一家名叫Gaggle的公司,正在用盘算机视觉+人工双重审查的方法,监控学校里的学生们。或许是盯着学生认真上课这件事在美国没什么市场,Gaggle的门路和中国公司们纷歧样,监控的是潜在的学生宁静问题和不良行为,因为美国的校园枪击案很严重。

澳门威斯尼斯人游戏

郭一璞 发自 凹非寺量子位 报道 | 民众号 QbitAI前不久,几家海内企业用盘算机视觉,或者脑机接口监控学生上课是否认真的消息刷了屏。不外,把技术用在监控学生身上,可不是中国企业唯一份的。

在美国,有一家名叫Gaggle的公司,正在用盘算机视觉+人工双重审查的方法,监控学校里的学生们。或许是盯着学生认真上课这件事在美国没什么市场,Gaggle的门路和中国公司们纷歧样,监控的是潜在的学生宁静问题和不良行为,因为美国的校园枪击案很严重。

在美国,因为有了Gaggle公司这个系统,1400所学校的480万学生被监控,这家公司声称他们的系统已经挽救了数百人的生命。Gaggle的监控方案Gaggle的监控列内外,潜在的宁静隐患包罗自杀、校园枪击案、强奸猥亵、吸毒等。在美国,自杀是少年儿童死亡的主要原因之一。

Gaggle说,在2018~19学年度,他们的系统阻止了722名学生自杀。而这一数字背后,则是系统监控出来的52000次学生提及自杀,其中有6000次相当严重,系统立刻通知了学校。

此外,校园枪击案也是一大监控重点。这个系统已经用在了去年发生校园枪击案的圣达菲(Santa Fe)高中,其时的事件导致8名学生和2名老师死亡。而详细的监控方式,则是AI+人工。

监控内容的入口并非海内常见的摄像头,而是网络邮件和社交媒体信息。Gaggle的系统接入了接入Google G Suite(谷歌全家桶)和Microsoft 365(微软全家桶),邮件也会被监控,如果学生用学校的邮箱地址注册了Twitter,Facebook和Instagram,那么这些社交媒体账户也会被Gaggle看到。

而Gaggle看到之后,会用先AI后人工的方式来审查。对于学生们发送内容的文字部门,会和关键词举行对比,而图片则重点判断它是否涉黄。

澳门威斯尼斯人游戏

文字关键词分为三个种别,第一列主要是自杀自残行为的相关词汇,第二列则是伤害他人的词汇,第三列是其他词汇,包罗涉黄涉毒等关键词。△ 来自BuzzFeed News你会看到其中有包罗Lesbian、Gay、Queer等LGBTQ类词汇,Gaggle给出的解释是监控歧视行为。而机械检查是纷歧定准确的,因今后面另有第二道人工检查。

Gaggle一共有150名人工审查人员,其中125人是“一级宁静代表”,24人是“受过培训的专业宁静人员”,质料会先给一级宁静代表审查,之后交给受过培训的专业宁静人员,这些人卖力将监控到的危险行为通知学校。一级宁静代表的门槛很低,时薪10美元,是远程外包,不需要什么专业配景。不外事情很轻松,每周只要事情38个小时,这群人每月审核的信息数量凌驾100万条。

而受过培训的专业宁静人员们,Gaggle称这些人拥有执法、心理、通信、卫生治理、教育等专业的学位。凭据监控效果,判断学生可能举行某种危险行为,凭据以下规则来判断应该接纳怎样的行动,是删帖,还是联系学校、学区或者学生。

审查出的效果中,最轻的是“违规”,就是冒犯了上面的关键词,也能是误报;再严重一级的是“可疑内容”,好比发色情图片,或者网络欺凌,这时学校治理员会收到警报;最严重的则被称作“可能的学生状况(Possible Student Situation)”,Gaggle说这是对学生宁静的直接威胁,好比学生“原创”的色情、暴力、自杀、强奸等内容,泛起这种情况,Gaggle会直接把它传送到美国的国家失踪与被聚敛儿童中心(National Center for Missing and Exploited Children),这是一个美国国会建立的组织,也是相关儿童失踪等信息的中心数据库。不外,如果没有这么严重,Gaggle也会接纳行动的。他们遵循美王法律中的“三振出局法”,也就是再一再二不再三,如果一个学生连说三遍“Fuck”,学校治理员就会收到警报,说脏话的学生账户权限就会被限制,学生只能去找老师认可错误,请求重新开放权限。1400所学校在用现在,Gaggle已经用在了1400所学校,共有480万学生被监控。

Gaggle是直接和美国的学区互助的,现在有17个学区直接互助,这些学区漫衍在加州、德州、田纳西州、印第安纳州、俄亥俄州、新泽西州、北卡罗来纳州等多个地方。也就是说,如果学生不想被监控,可是自己所在的整个学区都在监控中,那很难找到一所不受监控的学校了。不外,虽然是跟学区互助,用度却是要学校掏,Gaggle在一所学校收费凌驾6万美元。引来非议虽然是从学生宁静出发的产物,但Gaggle还是受到了许多品评。

一名Gaggle监控之下的学生说,他现在对别人看自己的信息已经习以为常了。也有人认为这种监控不正当,学生应该享有隐私权。也有人质疑,担忧Gaggle这家公司不会好利益理这些收集上来的信息,万一卖到别处去就贫苦了。

甚至,一位加州议会候选人还公然表现阻挡,说如果自己当选就终结掉这种“专横的政府行为”。最后,你怎么看待这种用在学校的技术+人工监控方式?— 完 —量子位 QbitAI · 头条号签约关注我们,第一时间获知前沿科技动态。


本文关键词:美国,也,用,监控,学生,社交,媒体,澳门威斯尼斯人游戏,邮件,全

本文来源:澳门威斯尼斯人游戏-www.cltqc8.com