对话主要围绕 Sam 对人工智能发展前景的看法，包括目前该领域最有前途的研究和创业方向、OpenAI 面临的挑战、AI 可能带来的社会风险等。Sam 强调要敢于提出与众不同的 idea，要有自我认知和独立思考的能力。他认为 AI 将给社会带来巨大变革，机遇和挑战并存，需要我们未雨绸缪。
Ravi: 首先请你用三个词来形容你在 19 岁时在斯坦福读本科的体验。
Sam: 兴奋、乐观和好奇心。
Ravi: 你如果现在作为一名斯坦福本科生，会怎么做？
Sam: 我会全身心投入到人工智能研究中，因为我相信这是一个前所未有的历史机遇。但具体去哪里做研究，我倾向于选择工业界而非学术界，因为工业界拥有更多的计算资源。
Ravi: 你认为 OpenAI 目前最需要解决但在未来三年内可能无法解决的问题是什么？
Sam: 如何构建真正的大型计算机。这并不仅仅是工厂，还包括能源、数据中心、芯片设计、新型网络等整个生态系统，我们需要全面考虑如何创造更多这样的资源。
Student: 作为一名有抱负的创业者，你认为人工智能领域目前最适合创业的方向是什么？
Sam: 我建议不要听从任何人对创业方向的建议。如果一个创业点子已经被公认是好点子，那多半不是真正好的机会。你需要学会提出那些与众不同甚至非主流的想法。相信自己的直觉和独立思考能力。
Ravi: 你能分享一下你目前在思考的问题吗，是大家都没有谈论的？
Sam: 我们正在努力解决如何制造出博士级甚至更高的智能，并以最佳方式将其应用到产品中，为社会和人们的生活带来积极影响。这是一个非常重要但尚无答案的问题。
Student: 能否探讨一下你对通用人工智能（AGI）潜在风险的看法？具体来说，你觉得通用人工智能带来的最大危险，是不是那种会登上新闻头条的灾难性事件？或者，其危险性是否更加隐蔽而深远，类似于当前许多人因频繁使用 TikTok 而表现出的注意力缺失症状？你是否更加关注这些潜在的微妙风险，还是那些灾难性的大风险？
Sam: 我个人更加关注那些微妙的风险，因为这些风险更容易被我们忽视。对于灾难性的危险，大家已经有所警惕并投入精力去防范。但对于潜移默化的危险，比如社会适应 AI 变革的速度，我们需要更多时间去理解新的社会规则，这是我所担忧的。
Student: 嘿，Sam。我的问题是面向在座的很多创始人的。我会提一个问题，然后解释为什么我认为这个问题很复杂。我想问的是，你是如何判断一个想法是非主流的？我之所以觉得这个问题复杂，是因为人们很容易过度思考。我觉得现在，甚至你自己也说，AI 是创业的一个好领域。这个想法应该是被大家认同的。也许这是理所当然的。这是一个转折点。我觉得要判断一个想法是否是非主流的，取决于你所在的群体。普通大众对科技的看法，与科技圈子里的人的看法是不同的，甚至科技精英们的观点也与科技圈子里的人不同。所以，我想知道你是如何确认你的想法足够的非主流，值得去追求的？
Sam: 我的意思是，你真正想要的应该是正确。即使你的观点与众不同，但如果错了，那就是错的。如果你在过去的两次衰退中预测了 17 次，那么你可能在正确的两次中持了与众不同的观点。也许，甚至并不一定。你之前的 15 次尝试都错了。因此，我觉得过于沉迷于反对传统很容易让人激动过头。我再次强调，最重要的是你的看法要正确。一般来说，大多数人的看法是正确的。然而，当你的观点与众不同并且正确时，这就是最有价值的。这并不总是绝对的对或错。比如，房间里的每个人都认同 AI 是创立公司的好起点。如果房间里的某个人找到并成功创立了正确的公司，尽管其他人认为这并非最好的选择，这就是最重要的。因此，当传统的观点正确时，你完全可以遵循，然后在你具有独特见解的领域中寻找机会。关于如何做到这一点，我认为找到正确的伙伴群体非常重要，找到原创的思考者也非常重要。但是，你也需要独自去做一部分，或者至少你需要独自完成部分工作，或者和几个可能成为你的联合创始人的人一起。我认为，当你过于关注如何找到正确的伙伴群体时，你可能已经陷入了错误的思维模式。所以，学会相信自己，相信你的直觉，相信你自己的思考过程，这会随着时间的推移变得越来越容易。无论他们说什么，我认为任何人在开始的时候都不可能真正擅长这一点。是的，因为你们可能还没有培养出这种能力，而你们所面临的社交压力和进化压力都在阻止你们做这件事。这是一种你会随着时间的推移慢慢提高的能力，并且不要在初期就对自己的标准设定得过高。
Ravi: 接下来是我的最后一个问题，关于即将发布的 GPT-5，有什么让你特别兴奋的地方吗？有些什么是我们都将看到，而人们可能还没有意识到的？
Sam: 我还不确定。这可能听起来有些回避问题，但我认为关于 GPT-5，或者不管我们怎么称呼它，最重要的就是它将变得更为智能。这种说法似乎也在回避问题，但实际上，这是人类历史上极为重要的事实之一。我们可以肯定地说，基于当前的科学研究，GPT-5 将明显优于 GPT-4，而 GPT-6 又将超越 GPT-5。我们尚未达到技术的巅峰，但我们对未来的方向有了清晰的认识。这种进步不仅局限于某个特定领域。也并不是说我们要，你知道，它不仅仅是在某项评估、某个学科或某种模式上越来越好。而是在更广泛的层面上，智能化的程度在全面提升。我认为，这一点的重要性至今仍被低估了。
Student: 嘿，Sam。我有一个问题。是关于 OpenAI”宫斗剧”的。去年发生了什么？那么，你从中学到了什么教训呢？因为你提到了韧性。那么，你从离开那家公司再到现在回来，学到了什么教训？是什么让你回来的？因为微软也给你提供了 Offer。你能分享更多的情况吗？
Sam: 我学到的最好的教训就是我们拥有一个令人难以置信的团队，即使没有我，他们也能完全独立运营公司，实际上他们就这么做了几天。而且，这个团队非常有韧性。我们明白，我们会遇到各种意想不到的挑战，在达到通用人工智能（AGI）的道路上，随着世界各地对此反应越来越激烈，挑战只会越来越大。我一直相信团队能在巨大压力下表现出色，但真正的测试是通过实践来验证的。这次经历让我确信，团队不仅有韧性，而且完全有能力接手公司的管理工作。至于我为什么回来，起初，董事会在第二天早上打电话给我，问我是否考虑回归，我当时拒绝了，我很生气。但后来我想了想，我意识到我多么热爱 OpenAI，我多么热爱我们建立的这支团队、这个文化和我们的使命，我其实就想一次性把所有的事情都做完。
Student: 目前，人们对于短期内 AI 是否会被滥用非常关注。以及全球冲突和即将到来的选举等问题。你认为现在工业界内的人、政府可以做些什么？还有像我们这样的人，以及那些拥有强大开源模型的人？
Sam: 我认为，一件很重要的事情是，我们不能假装这种技术或者其他任何技术都是完全好的。我相信 AI 将会带来极大的益处。但我也认为，就像任何其他工具一样，它有被滥用的可能，你可以用锤子做伟大的事情，你也可以用锤子去伤害人。我不认为这就意味着我们，或者你们，或者社会应该逃避尽可能减轻不良影响的责任，并最大化好处。但是我确实认为，我们需要意识到，任何足够强大的工具都会把权力交给使用者，或者我们需要做出一些决定，对社会中人们的行为做出限制。我认为我们在这方面可以发表意见。你们也可以在这方面发表意见。我认为政府和我们选举出来的代表，以及民主进程在这个问题上有最大的发言权。但我们不可能做到完全正确。我们这个社会，也不可能做到完全正确。我认为，紧密的反馈循环是我们可以采取的最好方法，让我们尽可能接近正确的方向。那种在安全与自由和自主之间寻求平衡的方式我觉得值得我们借鉴过去的技术并尽我们所能去做到我们，作为社会的一部分，会尽我们所能
Student: 嗨我想问，创造出比任何人都要聪明的东西的可能性让我感到恐惧。
Sam: 当然会我觉得如果我不害怕，那就太奇怪了，也是不好的预兆人类随着时间的推移变得越来越聪明，能力也越来越强你远比你的曾曾祖父母要更有能力在那段时间里，人类基本没有生物学上的改变当然，你的饮食和医疗条件可能会有所改善也可能会变得更糟，我不确定但这并不是你能力更强的主要原因你之所以更有能力，是因为社会基础设施的智慧和能力远远超过了任何个体通过这种方式，你、社会、你的前辈，以及互联网、iPhone 等，使你手指尖有了大量的知识，能做出你的前辈肯定会觉得惊人的事情。现在的社会比你更智慧。就你所知，社会就如同一个通用人工智能。这并不是因为任何个体的大脑，而是我们所有人之间的连接，我们逐步建立并贡献的社会基础设施。然后我们为后来人攀登到更高的高度做出贡献。比我们更智慧的事物也会对这个基础设施做出贡献。你的孩子会有你没有的工具。这个基础设施将被建设得更高更大。这总是有点儿让人恐惧。但我认为，这主要是带来好处，而不是坏处。人们将做出更好的事情，解决更多的问题。未来的人们将能够使用这些新工具，以及这些新工具所增强的新基础设施。如果你想象一个世界，其中 AI 进行了大量的科学发现，那么这种科学进步就会被添加到这个基础设施中，然后你的孩子，或者十年后的你，可以利用它开展全新的探索。但这种变化给人的感觉，并不是因为存在某个智力超群的实体。我们在某种意义上比我们的高祖更加聪明，更有能力。关键在于，每个人都能做更多事情。
评论(0)