谷歌|私人相册照片被谷歌AI举报:全网封杀、喊冤无门

离离原上谱 。
有位旧金山全职奶爸被谷歌全网封杀了,原因是他为了告知医生孩子的病情,用自己的安卓手机,拍下了儿子腹股沟感染的照片 。
结果谷歌把这些照片标记为儿童性虐待材料(CSAM) 。
谷歌|私人相册照片被谷歌AI举报:全网封杀、喊冤无门
文章图片

当事人立刻决定上诉,但谷歌不仅无情拒绝,还标记了他别的视频和照片,搞得旧金山警察局都开始介入调查 。
推特上网友们展开了激烈讨论,有人聚焦在隐私被侵犯上,有人说着宁可严管不能放过,还有一位妇科医生开始担心起自己的教学:
谷歌|私人相册照片被谷歌AI举报:全网封杀、喊冤无门
文章图片

这到底是一场乌龙还是大离谱事件?
一次在线求医引发的“案件”
问题始于2021年2月 。那个星期五的晚上,因儿子腹股沟肿胀,疼痛难忍,马克夫妇忧心万分 。
在接受第二天的视频医疗咨询前,妻子按照护士的建议,拍了几张儿子腹股沟感染处的高清无码特写,并上传到医疗保险系统 。
为了方便医生根据照片提前初步诊断,妻子拍照时,马克用手指指着儿子的不适处 。
在照片的帮助下,医生诊断并开了抗生素 。
谷歌|私人相册照片被谷歌AI举报:全网封杀、喊冤无门
文章图片

△马克和儿子(图源《纽约时报》)
儿子的病解决了,马克的麻烦却来了 。
没过两天,因“严重违反谷歌政策且可能违法”的“有害内容”,马克的谷歌账户被禁用 。
“有害内容”包括“儿童性虐待和剥削” 。
马克大呼头疼:“哦,天哪,谷歌可能认为那是儿童色情片 。”
更灾难的事还在后面 。马克是谷歌的重度用户,从同步日计划到备份照片视频,都靠的是自己的Gmail账户 。
但由于这哭笑不得的乌龙,多米诺效应接踵而来——他被谷歌全网封杀了!
他失去了对自己电子邮件、联系人、照片的访问权,Google Fi账户也被关闭了(这意味着他必须得去另一家运营商申请一个新电话号) 。
走法律流程起诉,大概得花掉7000美元 。“emm……我认为它可能不值7000美元 。”马克说 。
谷歌|私人相册照片被谷歌AI举报:全网封杀、喊冤无门
文章图片

不过,马克曾经在一家大型科技公司担任自动化工具的软件工程师,该工具用于删除被用户标记为有问题的视频内容 。
他知道,为了保证AI不出错,通常还有人工审核流程 。
因此刚开始马克还没那么愁,他觉得只要进入人工审核阶段,他就能找回自己的账户 。不然,他会和自己之前的数字生活“天人永隔” 。
他填了申请表,解释了儿子的感染情况,要求谷歌对决定进行审查 。
几天后谷歌审查团队回应称不会恢复账户,还悄没声标记了他别的视频和照片 。更要命的是,旧金山警察局已经开始调查他 。
不过有点好笑,因为Google Fi和Gmail被禁用,警员联系不上马克 。
谷歌|私人相册照片被谷歌AI举报:全网封杀、喊冤无门
文章图片

△图源《纽约时报》
费尽周折联系上后,调查员对马克进行了全面审查,最终认定这不构成虐待或剥削儿童 。
但警方没办法直接和谷歌沟通,说明马克的无辜;后来马克提供警方报告,再次向谷歌上诉,仍无济于事 。