成功预测校园暴力发生概率的AI,会是大雄的哆啦A梦吗?

原标题:成功预测校园暴力发生概率的AI,会是大雄的哆啦A梦吗?

你的校园生活快乐吗?相信很多人会回答“是的”。但是有17.18%的人不这么觉得。上海海事大学的一份调研报告中显示,高校中有17.18%的人认为自己遭受过校园暴力。

抱团冷落、网络欺凌、威胁勒索、肢体暴力……这些事情每天都发生在我们身边,就连《哆啦A梦》里的主角大雄,都是一位典型的校园暴力受害者。不一样的是,大雄受到胖虎欺负时,哆啦A梦会为他出头。在现实中,我们可以把解决校园暴力的重担交给AI吗?

AI寻找校园“高危分子”,究竟有多准?

虽然听起来十分不靠谱,但目前的确有机构在进行相关的研究。最近辛辛那提儿童医院医疗中心进行了一些实验,结果表示AI可以检测出青少年的暴力倾向,而且检测结果和专业心理医生一样准确。

来自辛辛那提儿童医院医疗研究中心的精神病学家先是在美国74所中小学中找到了103位曾经有过施加校园霸凌行为的青少年,通过和他们进行心理咨询对话,再加上对于他们家庭背景的调查研究,将数据信息和录音进行标注,利用机器学习进行挖掘,建立了相关模型。

经过几次训练,最后研究者们发现这一模型可以对青少年的心理进行精准的把握。分析对话录音中的语气、语调结合家庭背景,可以推断出青少年实施校园暴力的风险有多高。在测试中,AI模型非常清晰的把一批青少年分为了“高风险组”和“低风险组”。这一结果和科学家们的评估相差无几。

也就是说,这样的评估方式可以被广泛应用。为每个学校配备一位心理医生或精神病学家自然是不现实的,但有了AI的存在,甚至可以定期、批量的对青少年心理状况进行评估,从而减少校园暴力发生的可能。

从干预到治愈,AI还能为校园暴力做些什么?

可是对青少年进行评估之后,我们还能做些什么?总不能将那些高风险的青少年和普通人隔离开来,或是进行一些人为干预,那样这些青少年自身又称为了“AI暴力”的受害者。

校园暴力的成因非常复杂,一方面和校方、家庭、社会制度疏于管理有关,另一方面也关系到施暴者自身的心理因素。

而除了预测风险,AI能够解决的问题还有两类,一类是监控校园暴力的发生状况,另一类是在校园暴力发生后对施暴者和受害者进行心理危机干预。

调查显示,从2008年之后有65%的校园暴力都包含了网络欺凌。也就是说网络欺凌通常是校园暴力的开始,接下来会出现语言暴力、肢体暴力等等现实世界的伤害。准确追踪到网络欺凌的苗头,或许可以防止校园暴力向更严重的方向发展。

这时利用NLP技术和图像识别寻找百度贴吧、QQ空间、朋友圈、抖音/快手等等社交媒体中的暴力言论就可以成为一种高效的方法。不久前浙江温岭发生的校园暴力事件,施暴者就是在微博、贴吧、知乎等社交媒体中对受害者进行了长达十年的侮辱和造谣。

其实地域性的社交媒体、侮辱性的词汇等等都具有很强的指向性,可以被语言识别技术轻松的发现,而这些社交媒体大多又是实名制的,及时对这些信息进行屏蔽、删除甚至追责,或许可以减少校园暴力对青少年造成的伤害。

Facebook就邀请了美国家庭网络安全组织作为自己的安全顾问委员会成员,推出了安全及防欺凌中心,专门开拓入口接受用户举报解决相关问题,同时利用人工智能监测用户发布内容中的暴力倾向和自杀倾向,以保证及时参与干预。

而在心理危机干预方面,中国整体相对发达国家都趋于弱势。在沪卫计委的调查中,中国17岁以下的3.4亿儿童和青少年有3000万人受到各种心理行为问题的困扰。而且中国心理咨询服务整体的就职门槛较低,只需大专学历和500小时以上的培训时间,通过考试就能获得资质,甚至没有临床方面的要求。

利用AI服务心理咨询,是一种历史悠久的解决方案。在1966年,人工智能研究还处于萌芽时期时,科学家就开发出了一款名为ELIZA的神经语言处理项目,目的是为了模拟精神病治疗师的行为和话术。虽然这一项目没能取得成功,但是却成功的打开了AI+心理咨询的大门。

像IBM就和多所大学合作,利用神经网络对人类的语言进行分析,通过对语言、话题的一致性进行研究,寻找患精神病的几率。同时最近流行的虚拟心理沙盘也是将实体心理沙盘数字化,通过对沙盘摆放和表情识别、眼动追踪的机器学习,给出比现实沙盘更详实的结果。

对于青少年来说,利用AI来进行心理危机干预一方面能降低校方和家长付出的成本。另外处于青春期的青少年面对电脑、手机可能会更容易放下心理防备,展示出更真实的状态。包括前文中提到的辛辛那提儿童医院研究中心,也在尝试把AI对语言的分析能力从预测校园暴力释放到“治愈校园暴力”上。对于施暴者和受害者来说,都可以通过这种方式降低校园暴力对于他们未来长远的影响。

结语

我们很遗憾的发现,目前AI虽然能对于校园暴力有所作用,可是这些作用能力真的少之又少。

AI可以删掉社交媒体中每一条带有侮辱性质的留言,却不能阻止青少年之间的口耳相传。AI可以抚慰受害者的心灵,却不能为他们挡住拳脚。原来哆啦A梦真的只是童话,在现实世界里,技术也会有无能为力的时候。

想要解决校园暴力,最起码尽可能降低校园暴力对青少年的伤害。还是需要依赖法律法规的完善,以及家长、校方和全社会的共同关注。等到那一天,或许会有更多有志之士挖掘出AI解决校园暴力的更加可能,让哆啦A梦真的出现。

极客网企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2018-05-04
成功预测校园暴力发生概率的AI,会是大雄的哆啦A梦吗?
原标题:成功预测校园暴力发生概率的AI,会是大雄的哆啦A梦吗?你的校园生活快乐吗?相信很多人会回答“是的”。但是有17.18%的人不这么觉得。

长按扫码 阅读全文