下一个纪元的 AI --- 专访 Open AI CEO S
原视频发于油管：OpenAI CEO Sam Altman | AI for the Next Era ，本文是对访谈的整理与翻译。
image.png
对话的双方是主持人 Reid Hoffman (以下简称 H) 和 Open AI 的 CEO Sam Altman (以下简称 A)
一些术语：
AGI： Artificial general intelligence 泛人工智能
DALL.E： 一个可以利用语言生成画作的AI模型
Copilot： 一个可以帮助生成计算机代码的工具
Alignment Problem：让AI和人类的利益对齐问题
H: 首先，我们先讨论一些接地气的话题。 你们推出了基于大模型的API，你是如何看待这项商业的前景，以及如何用它去创造不同的商业的？
A: 当前，用户的用他（大模型）们去创造很好商业文案，服务教育行业。但是目前还没有看到人们用它开启一个 万亿美元级别的行业， 就像 Google当年做的事情一样。 我想这个事情在不远的将来就会发生，也许是我们的模型，也许是 Google 自己的模型。 我想，随着大型语言模型的发展， 就在未来的几年，它会给Google 最重要的搜索业务带来第一次严重的挑战。 人们将会要考虑一些根本的变化，那些变化非常的重要。 聊天机器人将首次达到媲美人类的水平。这些聊天机器人不像以前的出现的， 以娱乐为主的聊天机器人。 这一次的 AI 将可以提供有价值的服务， 一些公司将基于此发展出新的业务，比如医疗建议， 新的教育服务，他们中的一些将生长成为大公司。
多模态模型还是一个新的东西， 人们用它们做了很多有趣的事情。 我想， 人们非常希望能够和这些模型用自然语言沟通， 通过多轮人机对话， 来优化他们用这些AI 生成的作品。 DALL.E ， Copilot 做了一些早期的实践， 我认为这回会是未来的一个趋势。 嗯，我认为这将是一个很大的商业。 随着人机交互变得容易，这种大模型会变成一种新的技术平台。 拥有一个好的模型的公司，会拥有一个爆炸性的增长。
H：现在大型语言模型已经开放了API 接口，在这种情况下， 如果一个AI公司想构建一个长久的业务， 什么事情是最重要的？
A： 现在只有少数公司掌握了大模型， 现在他们向公众开放了接口， 人们可以在模型上构建各种应用。 我认为， 将会产生一个中间层， 这个中间层将会非常重要。 现在很多初创公司都在搞自己的模型，我认为者不可持续。 未来，初创公司会基于大型模型，对他们去做调整（tune it）， 然后得到适用于他们业务的模型。 那些公司将获得持久的价值， 因为他们得到了专属的模型。 他们可以自己用他们， 他们也可以分享出去。 我认为这些中间层的公司会创造出非常大的价值。
H： 到目前为止，你觉得大型语言模型最让你吃惊的地方在哪？
A： 我认为当前人们对于大型语言模型的系统性误解在于，人们只会觉得AI只是重复人类做过的事情，无法为人类的知识创造出新的东西。 我觉得很快，新的模型就会让领域内的专家意识到， 这种想法是错的。
H：既然谈到科学， 大语言模型在那些地方可以为科学加速呢？
A：我认为当前正在发生2件大事， 而第三件正在来的路上。 当前AI 为科学带来的2个加速：（1）在一些专业领域上，专业的大模型带来了前所未有的能力， 比如 AlphaFold，它可以帮助生物科技公司在科学上去突破。 （2）另外一类是生产力提高工具， 比如 Copilot, 这些工具帮助了千千万万的科研人员和工程师提高了他们的生产效率。 第三件事情， 说起来有点吓人，让人想到 Alignment Problem， 就是 AI 模型会拥有自我提升的能力。 首先，作为 AI 工程师， 我们要看这个模型是否可以帮助我们解决问题，比如优化代码。 比较惊悚的一个版本是， AI 可以自我修改代码，优化程序。 没那么惊悚的一个版本， AI 进化就像我们人类科学发现，对事情给出一种解释，然后去验证下它。 我们会教 AI 去做这种事情。 我认为，驱动人类社会和经济进步的动力，在于可以推动科技发展的社会结构，以及科技发展本身， 我们也会参与其中。
H：很多人可能都不知道什么是 Alignment Problem， 可以给大家说一下么？
A: Alignment problem 是说，我们可能会创造出一个非常强大的系统，但是这系统的行为可能和我们当初的预想大相径庭，甚至会和我们当初的愿望完全相反。 很多科幻作品都和这个题材有关。 对我们来说， 就是如何保证 AGI 最终符合人类的利益，不会对人造成损害， 不会被坏人利用。 我不认为刚才提到的 AI self-improvment 会造成 alignment。 为了解决 alignment 问题，我们使用了一些办法。其实， 当我们的AI 非常厉害以后， 我们可以让他们去创造出一些解决 Alignment Problem 的办法。 这样，我们的工具箱里面就又会多出来一个新的工具。
H：就像你刚才说的，这种的模型不会有种族偏见？我们知道， 有些训练数据中会包含带有种族偏见的内容， 而你说的模型会自我清除(self clean)这些偏见？
A: 当然。 如果模型足够聪明，他们就会知道什么是种族偏见，而我们就可以告诉模型， 把种族偏见去除。
H：你认为在未来几年， 进化(evolution) 的登月时刻 （Moon Shot）是什么？
A：你指的是 AI 进化么 （AI evolution）?
H：是的。
A：我先说一些确定性的事情， 我认为 大语言模型（LLM）将变得非常厉害， 超出人们预期。 人们都在说，算力到了极限， 数据到了极限， 这是真的。 但是我们还有很多新的算法。 另外一个确定性的事情是， 真的多模态模型将会到来，不同类型的数据，文本，图像，将在模型中自由的流动。 我认为我们将拥有可以持续学习的模型。 现在的GPT 模型会出现 stuck time， 继续使用也不会让它变的更好， 我认为这将会被改变。 就这一点，就是一个很大的胜利，他将解锁很多新的功能，人们会利用它创造很多新的应用。 但是我们会持续研究性的范式， 到目前为止，我们到很多令人开心的结果。 这些问题的根本，都在于如何产生新的的知识推动人类进步。
H: 刚才这点很重要，因为人们不知道你的这个预测是严肃的， 而不是简单说说。接下来， 谈谈你对 AI 和 核聚变（fusion） 的想法。
A：一个很不幸的事情是，AI现在成为了一个超级流行词。 这种流行往往不是什么好事情。 我希望这不意味着 AI 会遭受一场灾难。 但在历史上，这就不是件好市，你看到初创公司， 人们到处都在谈论 AI，谈论他们做了什么模型，做了什么融合。 人们在各个行业都在说 AI+ 将成为现实， 这意味着 AI 将成为一种平台型的科技基础设施。 我们目前在AI发展的第一线， 我愿意做一些基于我看到的事情的预言。我刚才已经说了我们的一些研究，我会依据它们做一些预测，那也是我们如何运营 Open AI 这家公司的。 我们只有在对一件事情有信心的时候，我们才会去做。 我们拿出10%的公司资源去做一些探索性的工作，去探索那些可以让公司获得巨大成功的项目。很不幸，我觉得未来5年内， 我们还会要用 Transformer，我们也想找到更好的模型，但是目前来看 Transformer 依然很棒。 但是我知道，找到下一个范式一直都很重要。 我想那是预测一些事情的方法，不要去想 AI+ （作为Open AI） ，而是去看看能不能把现在工作的方法做的更好。你不能预测那些重大的进展，有时候他们就是发生了。
H：你对AI 应用有什么想法，比如 AI用户高频量化交易，它会成为一种中性的军备竞赛么？ 有点像 生命3.0 中提到的观点（Omega Point of View)
A: 我相信，你会看到AI会渗透到各个地方。 我思考的点在是，智能（Intelligence）和能源的的边际成本都在趋向于0， 而这两项是很多东西的成本项。 这两个趋势会影响很多事情，这会导致社会的巨变。 就像历史上发生了很多次的巨变一样。 而对于这些巨大的改变，人们总是倾向于低估他们。当然有些事情，我没有那么大的信心，它不会把所有事情都变得特别便宜 。 有些人还会去花费巨大的能源和智能去做一些事情， 他们可以得到这些资源。（H：两条逆向的曲线交叉了，A：是的） 就像：未来能源的价格会是现在百分之一，智能的价格也是现在的百分之一， 但是有些人就像花费1000倍的价钱去做一些事情（大事）。
H： 你是如何看 元宇宙 和 AI 的？
A: 我不是很清楚， 但是我觉得他们都很酷。
H：元宇宙是一个模拟器，可以用于娱乐和教育。
A: 我觉得元宇宙未来会和 Iphone 比较像，他们都是应用软件的一个容器，提供一个新的人机互动的界面。AI 则是一场科技革命。 元宇宙和 AI 会互相适应，相互配合，但是我不十分确定。
H: 那就走着看着把。
H：有观众提问么？
观众：你是如何看待像 GPT-3 这种AI 对生命科学研究的影响的？ 比如和缩短研发周期， 而在生命科学研究中，有些过程就是比较慢， 比如受制于自然法则。
A：我觉得目前的已有的模型还不能对生命科学领域产生很重大的影响。 不过已经有人在尝试做这些事情， 而且取得了一些小的成功，不过这些成功还还在初级阶段。 不过这种情况很快就会发生变化了。这个领域将诞生千亿美元甚至万亿美元级别的公司。 这种领域是很少见的。 如果你能比现有的生物科技公司效率提高100被， 那么你将真的很了不起。 正如你所说，这个行业有一些很难绕开的自然法则， 比如需要人体实验。 不过我想，如果能够避免这些环节那么将把效率提高很多。 我知道一些合成生物学的公司正在试图让整个过程加快。 AI 给了他们的一些帮助。 在这个领域，提高研发效率，降低研发成本会让你取得很大的竞争优势。 当然，如果是我， 我不会选择心血管疾病作为开始（监管压力）；但是在利用生物进行制造的领域，这是个好的试验场。 另外，模拟器（simulator）目前做的不是很好，如果我开一家生物科技公司，我会向这个方向努力。
H： 你觉得AI 的自我进化如何帮助提升 simulator ？
A: 人们正在做这方面的努力，我不太清楚进展。但是我知道他们都是很聪明，目前前景很乐观。
H： 还有其他问题么？
观众：我很好奇，我们的生活中，有哪些不会被 AI改变？
A： 一些生物本能的东西， 比如和人互动。我们大脑内的奖励机制会依然驱使我们创新，和傻东西保持距离， 组成家庭。 未来100年， 人们会比过去100年更加重视在 5万年前人们就重视的东西。
H： 你最喜欢的一个乌托邦科幻小说是什么？
A： 好问题。 星际迷航很好，我喜欢探索宇宙。我喜欢科幻， 我也花几天时间写过科幻小说，那很有趣。 我希望你能推荐一些科幻小说
H： 好的，我会给你推荐几。
观众： 我最喜欢的一本小说是 “童年的终结（Childhood's End）Arthur C. Clarke 在 19世纪60年代写的。 用一句话来说， 就是外星人来拯救地球，他们带走了所有的孩子，然后留下了其他所有的东西。 bla, bla, bla, 你是如何看待家庭组件和 AGI 科技的？
H： 这个问题远远超越了 Open AI， 人们对于要小孩的事情， 持有很多不同的看法。 有些人说，因为有了 AGI， 我就不想要小孩了（还有这种思潮？ 难怪要问这位 CEO ）。 对我来说，我来自于大家庭，我会养小孩。 但是人们都有自己的主见。 如果我听见有人说， 因为 AGI就不想要小孩了，我会觉得很郁闷。 我觉得有很多小孩是挺棒的事情。
观众：你认为未来5年人们和基础模型打交道的方式是如何的？ 你认为在很多垂直领域内会有很多公司去 fine tuen 基础模型么？或者你觉得 prompt engineering 将成为很多公司的内部功能 in-house function？(这句话不是特别明白)。
H：未来5年，我不认为我们会继续去做 prompt engineering。交互会集成在模型中， 人们通过带有上下文的文字或者语音和计算机交流，比如去生成图片。也许还有一些 prompt engineering，但是只是在比较特殊场合使用比如我去做一些研究。 但是我认为，主要的人机交互界面将是自然语言。
A: 在进入下一个问题之前， 我想深入一下这个问题。 对于一个很好的视觉思考着（Visual Thinker), 它可以从 DALL.E 获得很好的结果，因为他知道如何不断的引导 AI。 你不觉得这是这种事情（要的人机交互界面将是自然语言）的一个普遍真理么？因为人类的智慧，讲通过自然语言来提升AI。
H：当然。我只是不希望出现 Prompt Hacking ，只是用一个 magic word 来做一些改变。我认为用高质量的idea 来引导 AI很重要，你要知道你真正想要的东西， 这样艺术家可以获得最好的生成的图片；而不是只是通过 magic word 来投机取巧。
A: 显然， 语言的引导要远远好于 prompt engineering。
观众： AGI 提出已经有了一段时间了，人对与 AGI 的定义依然不一致，每个人都有自己的定义。 你是如何定义 AGI的，
H：我知道有很多定义， 但是对于我来说 AGI 意味着AI 的能力达到了普通人的水平。 就像你的一个远程工作的同事，它可以做一些让你开心的事情，只不过是隔着屏幕。 它可以是一个好医生，一个好的程序员，就像我们普通人可以做到的一样。 而Supert Intelligence 则是非常聪明的，他的智慧将超过人类智慧的总和。
观众： 随着AI 的进展，未来20，30年， 你认为什么社会问题会变得严重，我们应该如何提前预防？
H：最重要的影响在于经济， 一部分人会利用 AI 变得很富有，社会的两极分化会变得严重， 我认为社会无法容忍这种情况。 到时候，新的社会契约是什么样的？我觉得一个要解决的问题是，如何分配社会财富，如何访问AGI 资源。我们需要共同具体，哪些事情可以做，哪些事情不能做。 我是个乐观派，我认为人类会很好的解决这个问题。 也许我们行为会不同， 但是我们会解决这个问题。 但是我认为，财富，治理，对AGI的问题，会变得非常重要，我们需要解决这些问题。
[bla, bla, bla A 插入了一个问题，这段没太明白]
观众：AI 可以提高人类的创造力。那么 AI 作为创造力提升工具 和 AI 本身的创造力的边界在哪里？
H：当前，AI 帮助人们创造，工作的很好。到目前为止，AI 还是一个创造力增强工具，它并没有取代人类的创造力。 我认为这个趋势还将延续很久。 也许未来，也许 100年以后， AI 可以开始有完全的创造力。 在10年前， 这是一个有趣的问题， 人们不会想到这里。 那个时候，人们普遍觉得AI将首先取代蓝领工作， 然后是低技能的白领工作， 再是高技术工作， 那些需要非常高智商才能完成的工作，比如程序员，最后，也许是永远不能取代的， 是那些有创造力的工作， 比如艺术家。 可实际却于此相反， 我觉得这是一个很有意思的警示， 做预测是一件非常难的事情。 具体来说，我们可能很难去判断，我们所作的工作的难易程度。 也许控制我们的身体，去做一些体力活，也是一件非常难的事情。
观众：你说创业公司自己训练模型不是个好主意，但是我觉得， 训练模型需要的就是数据和算力。 数据都是可以再互联网上公开拿到的， 而未来大公司也会持续的售卖算力。 这类创业公司如何能够做到差异化呢？
H： 我是说有一个中间层， 创业公司做不同领域的 fine tuen，去适应不同的垂直细分领域，而不是从头训练起。基础模型需要巨量的数据和算力。
