斯坦福大学副教授Reza Zadeh：神经网络越深就越难优化

2016-11-20 11:50分享至

优化是非常困难的一类问题，而这正是深度学习的核心。优化问题是如此困难，以至于在神经网络引入几十年后，深度神经网络的优化问题仍阻碍着它们的推广，并导致了其 20 世纪 90 年代到 21 世纪初的衰落。自那以后，我们解决了这个问题。在这篇文章中，我会探讨优化神经网络的“困难度（hardness”，并发掘其背后的理论。简而言之：网络越深，优化问题就越难。原文链接

为何最强人工智能比不上婴儿大脑？

“在相对最近的人工智能中，人们从想直接设计一个可以完成成人做的事情的系统转变成一种认识——即如果想要有一个灵活和强大的系统来完成成人做的事情，这个系统需要能够学习婴儿和孩子做事情的方式。”加州大学伯克利分校的发展心理学家 Alison Gopnik 说，“如果你将现在计算机可以完成的事情与 10 年前可以完成的事情相比较，它们已经取得了很大的进步，但是如果你将这些事情与一个 4 岁儿童可以做的事相比较，仍然有相当大的差距。”

2016-11-20

24小时热榜查看更多榜单

210112z,2023-12-05 19:10:28

210112z,2023-12-05 19:11:21

210113z,2023-12-05 19:10:332023-12-05

210111z,2023-12-05 19:11:182023-12-05

关于36氪