微软CEOSatyaNadella:AI的真正智慧,将出现在

2020-07-09    收藏848
点击次数:757

微软CEOSatyaNadella:AI的真正智慧,将出现在
REUTERS/Shannon Stapleton

AI 大热门的时代,我们是否应该静下来想想,应该让 AI 为我们做些什幺?O'Reily Media 的创办人兼 CEO Tim O'Reilly 在今年 4 月出版自己的新书前,採访了微软 CEO Satya Nadella。两者对 AI 的看法有许多相同之处。

Tim:在你的书中,你提到了,为 AI 定义宏伟的、鼓舞人心的社会目标,注定将会是一个挑战。你写着:「在 1969 年,当甘迺迪总统承诺登月计划时,这个目标之所以被选中,很大程度上是因为它向科技提出了巨大的挑战并要求全球合作。类似的,我们需要为 AI 制定一个足够大胆和雄伟的目标,一个可以通过不断改进当前科技实现的目标。」

我喜欢非常喜欢你这个想法,可以进一步说明吗?

Satya:如果你从 AI 将会辅助人类的假设开始思考,你会觉得 AI 是一个辅助性的科技。如果有一天我们能够让有视觉障碍的人看得见这个世界,或者让有阅读障碍的人能够阅读,那将会是真正的突破。AI 成为带来参与性的科技,将会是意义非凡的,尤其是在我们期望 AI 能够替代许多东西的时代。我们可以进而让 AI 融入我们的社会,发挥更多的作用。

我的这些想法,主要是出于我的儿子。我的儿子先天上有些缺陷,他没有常人的那种自由,我经常想:「要是他能说话就好了。」所以,每当有人谈到「脑机」连接时,我都充满兴趣。

我们正处于创造一种「极限」科技的时代,这种科技也是我们通往「超级智慧」的道路。而指导我们的设计原则、道德哲学,就是最关键的东西。

在某种意义上说,我们所必须做出的最有决定性的选择将是「谁来设计超级智慧」?

Tim:我的书中有一个章节叫做「我们时代的天网」。我的看法是,人工智慧当中,我们对集体智慧的讨论还不够。我们正在用搜索引擎、社交媒体和金融市场建立一个集体智慧机制。而且我们已经让人工智慧做到了我们希望人工智慧做的事,也就是为了最大化人们的利益。其实我们已经打造了一个某种含义上的「天网」,我们必须及时採取行动.

Satya:没错,儘管我们人类有认知偏见,但我们仍有很大的优势。正如 Herbert Simon所说,我们不需要不优化,我们对自己已经满足了。这实际上是有帮助的。我们之所以感到满足,是因为我们共同拥有一个道德基础。现在,当我们说,AI 等同于优化问题时,我们可能真的会有问题。人们必须从道德的基础上出发,所以我并不赞同人们将符号基础当作是一种突破;我们所需要的突破是符号基础上的道德基础。

Tim:你也说过要建立增强人类能力和体验的智慧。你说过想把重点放在将人类天赋,如创造力、同情心、情感、物质性、洞察力与 AI 混合在一起。

Satya:这样说吧,这里还有很多「人工智慧」没有提到。稀缺的商品就是真正的智慧。不过,真正的智慧是什幺呢?

真正的智慧将会在最人性化的特质中出现,也就是同情、怜悯,这才是最重要的。在我们真真正正地弄清楚,如何将它嵌入到机器中之前,我们将不得不让智慧与人类一起成长,并为人类壮大。

我们必须考虑应该给予人类什幺样的教育。有了 AI,也许你真的不再需要学习傅立叶变换了。你可能会去做正念,可能想要发展同情心. 这是我需要声明的一些东西。现在有一种狂热,就是每个人都需要接受 STEM 教育,我们的确该接受。但是,我们好像过分强调 STEM 了。

Tim:有一个概念,在我的职业生涯中发挥了作用,Clay Christiansen称之为「吸引力利益准则」,就是当有一件事物变得商品化时,就会有别的东西变得有价值。我在 2004 年左右,第一次从 Clay 那里听到这个消息。他和我在同一次会议上进行了演讲。我在谈论微软如何取代了 IBM:PC 硬体成为商品之后,软体就变得有价值了。我的观点是,开放源代码会使软体商品化,而其他的东西将变得有价值。最终我意识到这东西就是大数据。而 Clay 则在讲他的「吸引利益准则」的想法,我发现我们其实在说同一回事,这个准则也完全适用于 AI。由于人类认知中的机械部分,被 AI 所商品化,人类独特的其他部分将更有价值。

Satya:这是一个很不错的想法。

Tim:所以在未来的经济中,在关怀、创造力上,还有很多机会。创意经济不仅仅局限在艺术和文化。连饮食也可以加入创意。每当产品成为商品时,我们都可以找到新的方式,通过将它们与人类的创造力相结合来使其变得更有价值。

Satya:这实际上是我们的痴迷,对吧?当我看到 Minecraft 一代,或者甚至 Snapchat 的一代. 对我来说,这一代最有啓发性的事情,不过就是创作、故事、或者已有事物狂野体现。在 Minecraft 中,人们都在建造他们想象之外的世界。

这就是我想要培养的一代。在最新版本的 Windows 中,我们让「画图」能够画 3D 图像。因为在 AR 与 MR 的世界中,这将是不可或缺的。

微软CEOSatyaNadella:AI的真正智慧,将出现在

Tim:你还谈论过,透过大量数据进行推理,以及更快地做模式识别的能力。在 AI 的发展中,本身就有一种创造力。现在,当人们用随机森林算法赢得 Kaggle 的挑战赛时,在这选择之中,创意就体现出来了,而现在,创意则体现在更高级的超参数中,因为现在人们已经使用了所有提供的数据。你如何看待 AI 对创作过程的帮助?以及解决问题的创造性方法?

Satya:当我看着我们现在拥有的,或是正在研发的编程工具,如果你了解我们添加到传统工具中的一些 AI,例如 Word 里面,用来拼写检查和猜词的部分,可以说,它已经完全是一个写作助手了。如果我们对 AI 说,「我想像 Faulkner 一样写作」,AI 将会向我们相应提供建议。

Tim:是的,就像写作中的 AutoTune一样。

Satya:是的,我没有学过写作,我读的是工科,但我有一个成为伟大作家的梦想,那我就需要这种 AI 来帮助我。

我这幺想的原因,与我在中国看过的「小冰」、「小冰」与人的对话有关。「小冰」是微软研发的聊天机器人,发展得还不错。「小冰」的意义,更多的是促使人们交谈。而人们也向她表达了内心的想法。当时我就说:「哇,这个就是 AI 真正所能展现出的同情心。」小冰让在生活中有烦恼的的人们,也能对别人的遭遇感到同情,这是非常超现实的。

微软CEOSatyaNadella:AI的真正智慧,将出现在

Tim:我们之前也谈到过,AI 已经成为第三个「运行时刻」的想法。让我们谈谈一下这一点吧,以及实际发生的情况。

Satya:我想上一次我们谈过,我说「PC 或手机操作系统是第一个' 运行时刻',第二个是浏览器和网页,第三个' 运行时刻' 就是这个懂你,懂世界,懂得上下文,能够帮助你的个人助手。

然后我们说:「真的,如果你把思想、观念和最终的行动,三者都在组合一起,这个个人助手就出来了」。这个助手本质上增加了你的想法的增加,扩展了你的感官,语音是一方面,视觉是另一方面。

那就是最终极的「运行时刻」了,对吧?

有趣的是,这也说明了我为什幺在书中,试图写这三点:1、什幺是最终极的数位体验?最终极的数位体验是与电脑互相融合的真实世界。就是 MR。2、这将需要 AI 在知觉,认知和行动上的突破。 3、然后我有点突然地提到,说:「如果你想要理想地创造这样的计算能力,那幺你必须摆脱冯诺依曼架构和古典计算的束缚。我们可以做出量子电脑吗?」这就是我写到的三点。

Tim:你的书中很多次提到了量子电脑,这让我有点惊讶地看到。

Satya:进步是真实的,我的意思是,我们在这个领域已经很深入了。但是,问题是,它在多久后能变成现实?我不知道。但是应该不会等太久。

Tim:你的书中有一部分写得很好:「我们不只是智慧机器,而且是可智慧机器」。我们并不了解人工智慧究竟是如何得出结论的,这是人们对 AI 的一个重大忧虑。现在,当然,对人类来说也是如此。因为我们只倾向于认为人类思想都是理性的,并没有意识到我们所做的产品其实一点也不智慧。所以,这是理性主义者在某种意义上的最后一次发声。

Satya:的确。但我有两个方法。一个是问责制。 当你设计、创造了 AI,你需要负责吗?整个 Tay 的实验真的影响了我们对这种事的想法。Tay 的实验之所以失败,根本上是有人有预谋地向它输入最后能够劫持算法的数据。这是谁的责任?我会说这是我们的责任。

Tim:嗯,显然这是 Facebook 和假新闻的问题。我和一些安全研究人员进行过非常有趣的对话,谈论怎幺欺骗自驾车。如果是你,你会如何通过创造他们在视觉领域容易误解的东西,来攻击他们?敌对的干预措施必定会有很多,我们需要更稳健的 AI 设计。

Satya:当人们说:「哦,天啊,这些 DNN真是神奇。他们在做的,是我们甚至还不知道的事」. 在一定程度上,我认为这个说法是真实的,但围绕神经网络的层数、权重的选择,有很多关于该如何学习的人类的决定。我们还没到让位与这些算法的时候,我们需要对他们所做的决定负责任。我想,我会对人们说:「好吧,如果我们用语言来实现 AI 中的字面编程呢,这个责任又该谁负?」

Tim:最后一件事我想问你,因为我很喜欢这一段。你写到:「我们这样挑战自己:如果我们在明年年底,被人以没有履行使命的罪名,送到法庭上接受审判,那幺,我们是自己是不是有足够的证据证明自己付出过努力?」我觉得这是一个我们整个社会都可以效仿的挑战!

Satya:我感觉到的是,儘管微软已经很成功了,但是我们没有明确的目标,来指导我们做决定,无论我们研发的产品,还是围绕着产品构建的商业模式,我们还在追寻,微软存在的终极意义是什幺?

而且光说不练的话,你根本不可能激励任何人,其实就是这样的想法。在某种意义上说,在过去三年中,我们没有在做别的事,就是变得更加专注于行动了。

这是一个进行中的工作。我们永远不会结束。我们有这样的目标,并具有学习的文化元素,心态随之成熟。对我们来说,是最有帮助的两件事。

放在三年前,我不会这样说。当时的我,被微软的辉煌,出色的产品所蒙蔽。我逐渐明白,事物的成长都是曲线式的,而微软的成长也放缓了。

我意识到,我们必须对自己坦诚。这也是我们如此强调创作故事的原因。我有点喜欢 Joseph Campbell,我觉得:「关于微软的创造神话,应该是啓发我们的东西。

微软的第一件产品,就是比尔和保罗一起为 ALTAIR 开发了 BASIC 编译器。这个故事放在 2017 年的今天是为了告诉我们什幺呢?它告诉我们,我们为应该为别人的科技发展而建设科技。而在一个将被科技塑造的世界,在世界的每一个角落,在经济的每一个领域,这将是一个伟大的使命。

而且,我也喜欢这样的目标,就是创造科技,从而让别人创造更多的科技。

相关文章  RELEVANT ARTICLES