医疗服务

注册

 

发新话题 回复该主题

2023将至,吴恩达Bengio等大佬 [复制链接]

1#

编辑:编辑部

年对AI来说注定是不平凡的一年,这不吴恩达、Bengio等一众圈内大佬在接受DeepLearning.ai的采访中展望了年AI的发展趋势,还分享了自己的科研小故事。

还有不到天,年就要过去了。

辞旧迎新之际,吴恩达、Bengio等一众AI大佬们在DeepLearning.ai聚在一起,展望了自己眼中的年。

作为DeepLearning.ai的创始人,吴恩达首先发表了欢迎致辞,并回忆起自己刚开始搞研究的那段岁月,为这场多位大佬参与的讨论开了个好头。

亲爱的朋友们:

当我们进入新的一年时,让我们不要把年看作是一个单一的孤立年份,而是我们未来完成长期目标的年份中的第一年。有些结果需要很长时间才能实现,但如果我们设想出一条道路,而不是简单地从一个里程碑到另一个里程碑,就能更有效地做到这一点。

我年轻的时候,几乎没有把短期行动与长期结果具体联系起来。我总会专注于下一个目标、项目或研究论文,说是有一个模糊的10年目标,但没有一个明确的路径来实现。

10年前,我一个星期就建立了我的第一个机器学习课程(经常在凌晨2点进行拍摄)。今年,我更新了机器学习专业的课程内容,更好地规划了整个课程(虽然有些拍摄仍然是在凌晨2点进行的,但数量减少了!)。

在以前的业务中,我倾向于打造一个产品,然后才考虑如何将其推向客户。如今,即使在起步阶段,我也更多地考虑客户的需求。

朋友和导师的反馈可以帮助你塑造你的愿景。我成长过程中的一大步,就是学会信任某些专家和导师的建议,并努力去理解。例如,我有朋友是全球地缘政治的专家,他们有时就会建议我在特定国家加大投资力度。

我自己是得不出这个结论的,因为我对这些国家并不了解。但我已经学会了解释我的长期计划,征求他们的反馈意见,并在他们给我指出不同的方向时认真倾听。

现在,我的首要目标之一是使人工智能创新的民主化。让更多的人能够建立定制化的人工智能系统,并从中收益。虽然实现这一目标的道路漫长而艰难,但我可以看到实现这一目标的步骤,而朋友和导师的建议也极大地塑造了我的思维。

随着年的到来,你能在多远的未来做出计划?你想在某一主题上获得专业知识,推动你的职业生涯,还是解决技术问题?通过路径假设(即使是未经测试的假设),征求反馈意见来加以测试和完善?

为年心怀梦想吧。

新年快乐!

吴恩达

YoshuaBengio:寻找具备理性的AI模型

过去,深度学习的进展主要是「大力出奇迹」:采用最新的架构,提升硬件,扩大算力、数据和规模。我们是否已经拥有了我们所需要的架构,剩下的就是开发更好的硬件和数据集,以便我们能够继续扩大规模?现在还缺什么吗?

我认为是缺的,我希望在未来的一年里能找到这些缺失的东西。

我一直在与神经科学家和认知神经科学家合作,研究最先进的系统和人类之间的差距。简单地扩大模型规模并不能填补这种差距。相反,在目前的模型中建立一种类似于人类的能力,来发现和推理高层次的概念和它们之间的关系,可能会让差距变得更大。

考虑一下学习一项新任务所需的例子数量,即所谓的「样本复杂度」。训练一个深度学习模型玩一个新的视频游戏需要大量的游戏玩法,这些玩法对而人类而言,可以很快学会。但计算机需要考虑无数的可能性,来规划一条从A到B的高效路线。而人类则不需要。

人类可以选择正确的知识片段,并将这些片段贴合在一起,形成一套相关的解释、答案或计划。此外,给定一组变量,人类非常擅长确定哪些是原因,哪些是结果。而目前的人工智能技术在这个能力上还无法接近人类水平。

通常情况下,AI系统对生成的答案和方案的正确性高度自信,即使实际上是错误的。这个问题在文本生成器或聊天机器人这样的应用中可能是一些很有意思的笑话,但换到自动驾驶汽车或医疗诊断系统中,却可能威胁到生命。

目前的AI系统的行事特征,部分原因是它们就是被设计成这样的。比如,文本生成器的训练只是为了预测下一个单词,而不是建立一个内部数据结构,也不必说明所操作的概念以及它们之间的关系。

但我认为,我们可以设计出能够追踪事情背后的意义,并对其进行推理的AI系统,同时仍能发挥当前深度学习方法的众多优势。这样就可以解决从过度的样本复杂性到过度自信的不正确性等各种挑战。

论文链接:

分享 转发
TOP
发新话题 回复该主题