问：你认为深度学习，或者基于神经网络的机器学习的极限是什么？
答：要给出一个真实的答案，必须要了解发生事情的确切过程，如果这些过程是不透明的，那么很难清晰的证明可以做什么，不可以做什么。
抛开细节不谈，深度学习现在正在做的是收集大量的例子，并试图找到一些模式。这在某些方面可能会很有趣，但我还是想问：AI是工学还是理学？工学的意义是试图理解关于世界元素的东西，所以他可能需要一个谷歌翻译器。
它有用么？非常有用，所以从工学的角度来说，谷歌翻译器非常有用。但是它有没有告诉我们关于人类语言的事情？显然没有。所以，从一开始它就已经远离了科学。
谷歌翻译器是如何工作的呢？它需要一个巨大的文本，例如华尔街日报语料库，然后其想达到的目标是离语料库的正确描述越来越近。实际上语料库中每句话都是一个实验，你所说的每一句话都是一个实验，都想弄明白话语是否符合语法？
所以，我们可以问问自己有没有什么科学可以采取随机的实验，即没有目的的进行实验？比如，一名化学博士生，他在写一篇论文，论文没有明确的目的，只是将很多东西随意的混合，然后抱着“也许”的心态，看是否能发现一些东西。
显然，这名博士生会赶出实验室。
科学都是试图找到批判性的实验，这些实验可以回答一些理论问题。
谷歌翻译器一开始就离科学很远，而且一直如此。针对翻译器，人们只是文谷歌翻译器在语料上做的有多好？然后一直忽略了另一个从未提及的问题：在违反语言规则的事情上，它做的有多好？
以前面提到的结构依赖为例子，假设有一种语言，使用线性邻近作为解释模型，深度学习也能很容易利用这一点。有了这个模型就意味着学习语言是一件简单的事情，但从科学的角度来看，这是一个失败，我们其实并没有发现本质。
问：神经网络看起来像是一种近似器，在辩论中回荡着正确的行为主义。但我认为，当数据集很大时，实际上有一些根本不同的东西。您认为我们可以用神经网络来学习，表示复杂的语言结构么？它会以某种方式帮助我们理解科学么？
答：有可能，可能会发现没有注意到的模式，比如，有一种语言，使用者都已经消失，只有一些记录。我们能做的是从记录中发现一些什么，如果有说这种语言的人还存活，那么这个人不比什么样的实验都管用，但是如果没有人存活，那么就只能用一些数据做实验，然后从中学到一些东西。
问：下面讨论一些哲学问题。您说过，社会上的邪恶源于制度，而不是我们的本性，大多数人都是善良的，他们有善良的意图，但也有故意作恶的能力。这取决于他们的成长，取决于他们的环境么？
答：或许是源于我们的天性，实际上我们做的任何事情都源于我们的本性，制度也是人性表达的一种方式。
但据我们所知，人性可以产生许多不同的制度，但已经发展起来的那些结构与历史偶然性有关。制度对于我们的本性必不可少，像市场制度这样的东西只是我们本性的一部分，我们还有其他的一些制度。
古典自由主义的认为，只有自由才是我们的本能，是我们本性的核心，但是他的反面也是我们的本性，人性可以容纳这两种本质。
问：有没有一些记忆给你带来了快乐，然后你想再次体验？
答：当然。坠入爱河，有一些孩子。
问：您在语言学，认知学方面给世界做出了突出的贡献，重温你当时第一次想到那些概念的时候，会让你感到兴奋么？
答：兴奋。当你发现一些东西的时候，例如对结构依赖性的观察和解释，都是令人兴奋的。
在20世纪50年代，那时候语言被认为是一种外部的现象，一种思想之外的东西。很明显，这似乎是不合理的，就像我前面说的，你身上的东西决定了你说的是英文，而不是斯瓦希里语。
