Altman谈OpenAI宫斗、马斯克诉讼以及AGI与外星文明

AI快讯 1年前 (2024) admin
2,573 0

GPT-5何时发布?

Altman在接受油管博主Lex Fridman的科技博客采访时,被问及GPT-5的发布时间。他表示自己并不知道具体的发布时间,但透露OpenAI今年将推出一款新的模型,尽管目前还没有为该模型命名。他表示OpenAI将在未来几个月发布许多令人兴奋的新产品,在讨论GPT-5是否超出预期之前,先会发布新的模型。

Altman谈OpenAI宫斗、马斯克诉讼以及AGI与外星文明

在被问及GPT-5所需克服的最大障碍时,Altman认为涉及计算和技术两个方面。他表示突破的关键因素可能是一台更强大的计算机,或者是一个新的技术窍门。这些因素都是相互关联的。Altman认为OpenAI在这方面做得非常出色。他引用了之前的一句话:“我们将200个中等规模的东西结合在一起,形成一个巨大的东西。” Altman表示OpenAI在技术层面上采用了分布式持续创新的方式。

谈论AGI何时来临没有意义

Altman曾经对AGI的到来时间进行过推测,但后来意识到这个问题的构建并不好。他表示人们对AGI有着不同的定义,因此讨论何时能够达到一个模糊的界限并没有意义。相比之下,他认为更有意义的是讨论何时能够构建出具有执行特定功能的AI系统。他预测在20年代末或更早的时候,我们将拥有相当强大的系统。他相信当我们能够看到AGI并感叹其伟大时,我们已经取得了重大突破。

Altman认为GPT-3.5和GPT-4并没有真正意义上改变世界,只是一种人工制品。他认为当一个系统能够显著提高全球科学发现的速度,那将是一个巨大的改变。他相信大部分真正的经济增长源于科技进步,这一点对他对AGI的理解至关重要。

Q*到底是什么?

关于Q*,有很多神秘的传闻。Altman表示他其实很希望拥有一个“核设施”,但Q实际上并不是这样的东西。他说OpenAI并不擅长保守秘密,受到了很多泄密的困扰。然而,他也神秘地表示自己还没有准备好讨论Q

他表示OpenAI正在进行各种各样的研究,他们认为推理在这些系统中是很重要的方向。他们还没有完全解密这个谜题,但对此非常感兴趣。Altman表示在完全实现GPT-5之前,他们不会进行Q的秘密构建,他们决定公开讨论GPT-1、2、3和4。这样做的部分原因是因为Altman认为AI和惊喜(如Q)不应该放在一起。他认为在将来的时间里,人们和机构需要适应和思考这些事情。他认为OpenAI的最佳策略之一就是让全世界关注AGI的进展,认真对待AGI,并在做出决策之前慎重考虑所要建立的系统、结构和治理。

谈Sora:理解世界但仍有局限

在谈到Sora和世界模型时,Altman首先反驳了那些对Sora发表的负面评价。他回忆了第一次看到Sora生成视频时的感受,他发现Sora在生成过程中很好地处理了遮挡物,当遮挡物消失时,后面的物体又显现出来,让他觉得Sora的效果不错。

但Altman也承认Sora仍然存在一些限制,比如视频中猫咪的躯干会突然长出肢体。他认为这些弱点既是因为Sora技术路线的固有缺陷,也是由于模型体量和训练数据的限制所造成的。

Altman表示,在Sora发布之前,他们需要确保模型的性能符合人们的期望,这方面还有很多工作要做。同时,他们必须能够妥善处理深度伪造的问题,确保Sora以有益的方式被使用。

谈到艺术工作者对Sora的担忧时,Altman做了一个类比,将AI与绘画中的摄影相提并论,认为AI只是为艺术创作带来了新的形式。他表示虽然在制作过程中可能使用了AI工具,但视频的构思、组合和运作仍然是由人来完成的。

谈马斯克:尊重,未来仍能是朋友

在谈到马斯克的诉讼案时,Altman表示自己仍然弄不清楚发生了什么。他回顾了OpenAI的发展历程,表示最初OpenAI只是一个研究实验室,并没有明确的商业化计划。随着时间的推移,他们意识到必须调整结构,以获得技术发展所需的巨额资本。

Altman认为马斯克的离开是因为他认为OpenAI会失败。马斯克希望完全控制OpenAI以扭转局面,但他们希望OpenAI继续朝现在的方向发展。同时,马斯克想将OpenAI变成他管理的盈利公司,或与特斯拉合并。因此,他决定离开,Altman认为这是件好事。

在谈到Grok的开源问题时,Altman表示在马斯克提出Grok虚伪之前,他从未开源过任何东西。他认为马斯克开源并不是直接目的,而是有其他意图。

尽管如此,Altman仍然非常尊重马斯克,并希望这只是AI领域的“友谊比赛”,希望他们未来仍然能保持联系。

回顾“宫斗”,人生至暗时刻

Altman回顾了去年11月17日的董事会,称那是他一生中最痛苦的职业经历。他形容当时的情况为混乱、可耻、不安以及其他许多负面的事情。

从宫斗事件开始,他开始真正意识到通往AGI的道路将是一场巨大的权力斗争。他开始思考如何更好地管理公司,包括了解董事会结构和与人合作的方式,并希望以一个具有弹性的组织来缓解权力斗争。

Altman表示,董事会成员总体上都是善意的人,只是在某种压力下,他们可能做出并不是最佳解决方案的选择。他仍然支持董事会拥有巨大的权力,但作为一个非营利组织的董事会,需要设立更多规则,以确保他们对所有人负责,而不仅仅是个人利益。

他还提到在重返董事会时,他们邀请了一些经验丰富的人加入,以便在OpenAI接近实现AGI的过程中能更好地承受未知的风险和压力。

Ilya到底去哪了?

关于Ilya的去向,社交媒体上出现了很多谣言,有人说他因为看到了AGI而被OpenAI关在某个秘密基地里做人质。

Altman直接否认了这一点。他表示自己喜欢Ilya,并非常尊敬他。关于他的工作计划应该由他自己回答,但他希望能继续与他合作。

当被问及Ilya是否见到了AGI时,Altman表示他们都没有见过AGI,他们也没有创造出AGI。不过,Ilya是一个非常关注AGI及相关安全问题的人,他会考虑AGI对社会可能产生的巨大影响。

Altman强调Ilya没有见过AGI,并提到了他们最近见面时的情景:Ilya与一只小狗玩耍,这个场景就像是一部滑稽电影中的镜头一样可爱。

版权声明:admin 发表于 2024-03-21 10:00:00。
转载请注明:Altman谈OpenAI宫斗、马斯克诉讼以及AGI与外星文明 | ai导航网

暂无评论

暂无评论...