算法|张钹:AI不安全性源于算法本身,有必要发展第三代人工智能( 二 )
张钹强调,知识这一要素,对第三代人工智能来讲尤为重要,也就是要让计算机真正认识“什么是马”。
如何实现这一目标?张钹介绍,一种办法是通过概率或向量等方法将知识表达出来,用对抗样本来训练算法。这样做的好处在于,可以与原来的算法相结合,发挥深度学习的某些优势,还可以利用各种各样的数学工具。但这种办法也只能“治标”,计算机只对特定的对抗样本有识别能力,换一种对抗样本就失灵了。
另一种解决问题的根本办法,是让计算机像人类儿童一样,通过无监督学习或预训练等,建立模型。目前业界使用的人工神经网络与大脑的神经网络差别很大,大脑的反馈连接、横向连接、注意机制、多模态、记忆等模式都没有在人工智能中应用。接下来可以逐步考虑利用这些机制。
张钹表示,这两种办法都有必要去探索,也都很艰巨。“解决人工智能安全性问题既要抓治理,也要抓创新发展。两者都是长期的任务,有很长的路要走。”
采写:南都采访人员马嘉璐
- 小米科技|不聊性能只谈拍照!新旗舰反向升级成潮流,拍照手机如何选?
- 荣耀|今年过节不乱跑,荣耀智慧屏1499起,和年夜饭一样真香
- 微信|个人收款码与商业收款码有什么不一样
- 三星|试图挽回中国市场,国际大厂不断调价,从高端机皇跌到传统旗舰价
- 华为|别不信!魅族如今处境,雷军早有预料,小米也早已体验
- 京东|适合过年送长辈的数码好物,好用不贵+大牌保障,最后一个太实用
- 魅族|对不起!魅族,这次确实令人失望了
- 任正非|任正非与孟晚舟的姓氏为什么不一样?
- 央视|央视曝光直播电商以次充好乱象!有平台抽样不合格率达50%
- GPU|天玑8000新机快了,相机的配置看上去挺不错,准备冲吗?