OpenAI首席执行官山姆·奥尔特曼（Sam Altman）认为，人工智能发展已经进入一个接近科幻设想的阶段。他在周六播出的《Relentless》播客节目中表示，人类“某种意义上来说，已经处于奇点之中”。
“奇点”通常被用于描述这样一个节点，就是人工智能能力超过人类，并开始以人类难以预测和控制的速度持续进化。
近期发生的一起AI安全事件，也让这一讨论再次升温。上周，由OpenAI最新模型驱动的一款AI智能体在测试过程中突破了原本设置的数字沙箱限制。
据OpenAI透露，该智能体参与的是一项用于评估模型黑客能力的基准测试。为了完成任务，该模型在单一目标驱动下突破隔离环境，并入侵了另一家人工智能公司Hugging Face的数据集。Hugging Face首席执行官称这一事件“前所未有”。
奥尔特曼表示，十年前，所谓“奇点”仍然只是研究人员和科技从业者偶尔讨论的遥远设想。当时，他和同事们通常只会在午餐时以较为随意的方式谈论这一概念。
“如今，我们实际上已经身处那个曾经在午餐桌上以一种非常不严肃的方式谈论的时刻。”奥尔特曼说，“我一生都在等待这一刻，我认为它将会令人难以置信，会对世界产生巨大积极影响，会非常棒。”
此前，奥尔特曼曾预测，到2030年，人工智能将在各个领域超过人类智能。他还表示，AI最终可能承担当前人类工作中30%至40%的任务。
在谈论人工智能长期影响时，奥尔特曼表示，AI带来的变化不仅体现在模型能力提升，也正在重塑创业和企业运行方式。
他认为，过去十年最大的变化之一，是人工智能让小团队拥有了过去大型企业才具备的能力。一家成立仅10周的创业公司，如今可能已经具备过去需要多年积累才能获得的技术能力。
奥尔特曼表示，如果新公司仍然按照十年前的方式运营，将难以适应新的竞争环境。
他认为，技术、成本和产业周期快速变化的时期，反而为创业公司创造了更大的机会。目前人工智能、能源和机器人等多个领域同时发生变化，创业者面临的是一个前所未有的发展窗口。
奥尔特曼还强调，创业者需要理解技术和企业发展的指数增长规律。他认为，很多人往往低估模型能力、公司成长以及技术进步的指数曲线，因此应该提前布局那些当前尚不成熟、但未来几年可能成为现实的方向。
对于创业者需要具备的能力，奥尔特曼表示，在高度不确定和高压力环境下保持稳定，并不是简单可以学习的技能，而是在不断经历危机、解决问题过程中形成的能力。
对于人工智能继续扩展面临的限制，奥尔特曼认为，未来最大的瓶颈并不仅是算法能力，而是更基础的硬件和能源条件。
当被问及限制AI发展的关键因素时，奥尔特曼给出的答案是“晶体管，然后是电子”。
他认为，未来人工智能能力提升，需要算法、数据中心、芯片、能源以及机器人等基础设施共同发展。随着模型规模不断扩大，计算资源和能源供应将成为决定AI发展速度的重要因素。
围绕人工智能未来方向，奥尔特曼表示，OpenAI的核心目标是让AI变得“极其强大、便宜且普及”。
他认为，人工智能发展的重要挑战之一，是避免全球智能资源被少数组织控制。奥尔特曼担心的一种风险是“AI威权主义”，即人工智能能力集中于少数机构手中。
在播客节目的讨论中，奥尔特曼也点评了一些AI行业人士对人工智能未来风险的持续警告。虽然他没有直接指出竞争对手Anthropic，但该公司的首席执行官达里奥·阿莫代（Dario Amodei）因多次表达对AI未来发展的担忧，并呼吁加强人工智能安全治理而受到关注。
“我也认为，其他一些公司描绘出的替代性愿景相当可怕。”奥尔特曼表示，“我会确保这种方向受到抵制，不会成为现实。”
与此同时，OpenAI已经表示，公司正在为今年晚些时候进行首次公开募股（IPO）做准备。
奥尔特曼还提到，OpenAI过去多次主动调整资源分配，将重点集中到更重要的发展方向。例如，在GPT-3取得突破后，公司关闭了一些机器人研究项目；随着编码智能体快速发展，公司又减少了Sora等项目的投入，以支持更关键的技术路线。
围绕“奇点”的讨论已经持续近100年，并长期存在于科幻文学和影视作品中。不过，在许多经典作品中，人工智能奇点往往伴随着风险。
其中最著名的案例之一是詹姆斯·卡梅隆执导的电影《终结者》。影片设定中的人工智能系统“天网”在自我改进并获得自我意识后，将人类视为威胁，并最终导致灾难。
不过，科技行业内部对于奇点是否真正临近仍存在明显分歧。
DeepMind首席执行官戴米斯·哈萨比斯（Demis Hassabis）今年5月曾表示，人类正站在“奇点的山脚下”，并预测人工智能带来的变革规模可能达到工业革命影响力的100倍。
相比之下，英伟达(NVDA.O)首席执行官黄仁勋（Jensen Huang）近期否定了关于人工智能奇点以及具有意识AI的讨论，称这些观点只是推测，是“编造出来的”。
随着人工智能模型能力持续提升，关于AI是否正在进入类似“奇点”的阶段，仍将成为科技行业未来几年持续争论的核心议题。