tube|Ins和Fb毁童年？家长必入的“救救孩子”神器( 三 )

SuperAwesome至今已经完成了5800万美元融资，最近一轮是去年1月由微软的投资基金M12领投的1700万美元融资，考虑到微软旗下有非常受儿童欢迎的游戏Minecraft和游戏直播软件Mixer，这一步意义深重。
在去年9月，游戏开发商Epic Games收购了SuperAwesome，主要看中的就是KWS这一技术，因为它不但对儿童进行了保护来帮助Epic Games守法，而且减少了数据处理的繁琐，家长一经认证，未来Epic Games想让儿童用户玩任何游戏和开启新功能都将是一个更加无缝的体验。
而今年9月， Epic Games更是选择将KWS这一家长身份验证技术对所有开发者开放，帮助打造一个更加安全的游戏世界。

文章插图
图片来源：Protocol
作为元宇宙（metaverse）的死忠粉，Epic Games的CEO Tim Sweeney也将这一布局与元宇宙相连，他认为元宇宙能够为我们提供多种体验，这些体验并不会由一个公司单独提供，作为游戏开发者既要保证所打造的体验具有交互性，更要保证在用户安全性上不能马虎，在前期在用户安全上下功夫将在未来具有深远的意义。
01、高效除互联网“恶霸”！除了信息被收集，年轻用户在互联网体验中遇到的最大问题莫过于霸凌和骚扰了，数据显示全美有40%的12-17岁的用户在网络世界中遭遇过霸凌，74%的玩家在游戏中都曾遇到过不同程度的骚扰。
目前多数平台现有的机制并不有效，往往将希望寄予在家长监管身上，但家长有的时候并不知道年轻人在使用什么平台和如何使用，更别说防患于未然了，我们需要更加批量化和智能的解决方案。
曾经上过以色列版“Shark Tank”的连续创业者Zohar Levkovitz所创立的L1ght就提供了一个不同的解决思路，让监管从游戏和社交等平台开始。通过使用人工智能和深度学习技术，L1ght能够分析文字、图片、视频、语音等资料来判断这是否是一个需要举报的情况，Minecraft等游戏平台和WhatsApp等聊天软件都可以通过API接入使用L1ght的技术来大批量快速“消灭”平台上的“坏蛋”。
类似的筛查技术通常使用字典式匹配，但L1ght则是分析语境和用户的历史聊天记录，准确度更高，它可以精准辨别一段对话是两个成年人在火热调情还是成年人在恶意骚扰未成年人，还可以分别出一段包含打斗词语的对话是两个人在玩游戏还是一方在暴力辱骂另一方。

文章插图
图片来源：Venture beat
这一技术刚面世3个月，L1ght就成功的移除了WhatsApp上公开群组中超13万个恋童癖，它还成功说服Google和Facebook清除了在它们的平台上打广告的带有儿童色情等可疑内容的软件，Bing也在它的建议下将未成年人色情内容从搜索结果中彻底清除。
L1ght在去年2月完成了由Mangrove Capital Partners和Tribeca Venture Partners领投的1500万美元种子轮融资，这笔资金将用于扩大R&D方面的努力，不断提升高效检测网络上“危险发言”的能力并和更多互联网公司达成合作关系。
瑞士的初创公司Privately也在使用AI做类似的事情，它第一款面向消费者的产品叫做Oyoty，可以与Facebook和Instagram等软件相连，实时分析危险性帖子和对话并及时干预，比如用户想要发裸露照片或分享地址等个人信息时，系统会提示他们再考虑一下要不要这样做。

文章插图
图片来源：Techcrunch
这两年随着互联网巨头连续在青少年网络安全方面栽跟头，Privately也将注意力转移到发展B2B方面的技术，它的软件可以插入任何app，干预网络暴力和隐私侵犯方面的危险行为。