人工智能 2040：计划 A(ai-2040.com)
ai-2040.com
AI 2040: Plan A
https://ai-2040.com/
170 评论
我热切地期待着同一批人推出的 "人工智能 2100"。
“所有这些 GPU 都是你的，除了欧罗巴。不要尝试在那里着陆”。
拜托，兄弟，再等十年吧，兄弟，我保证 AGI 即将到来，不，曲棍球图不是胡说八道，我们只需要再等几年，兄弟，拜托，拜托，兄弟
大数字上升并变得更大，图表上升并向右，这一定是社会进步的可靠衡量标准。
这似乎更准确。直到 2026 年初。
尽管它对地缘政治和中国有令人匪夷所思的固着，但却严重低估了这一点。很明显，中国将很快超越美国公司的创新能力和计算能力。即使这只是因为他们关心高等教育、提供足够的电力以及让聪明人做聪明事，而不是随意用禁令和出口管制来压制他们，用金融保护主义来溺爱他们。
尽管它对地缘政治和中国有令人匪夷所思的固着，但却严重低估了这一点。很明显，中国将很快超越美国公司的创新能力和计算能力。即使这只是因为他们关心高等教育、提供足够的电力以及让聪明人做聪明事，而不是随意用禁令和出口管制来压制他们，用金融保护主义来溺爱他们。
嗯，中国也开始援引出口管制来限制国产机型：https://www.reuters.com/world/beijing-is-looking-curbing-ove...
我想知道中国目前能做到多少，因为美国太乱了。
整篇文章当然有点荒谬，并且也非常关注 OpenBrain，无论它是什么。
我还想知道在现有的大型科技公司（例如 Meta 或腾讯）而不是像 OpenAI 这样的专门公司运营一个人工智能实验室的经济性。似乎不可能对当前一代人工智能的使用和当前一代推理技术收取足够的费用来盈利，即没有人能够或愿意为代币支付至少边际成本。
整篇文章当然有点荒谬，并且也非常关注 OpenBrain，无论它是什么。
我还想知道在现有的大型科技公司（例如 Meta 或腾讯）而不是像 OpenAI 这样的专门公司运营一个人工智能实验室的经济性。似乎不可能对当前一代人工智能的使用和当前一代推理技术收取足够的费用来盈利，即没有人能够或愿意为代币支付至少边际成本。
我确信有些人会对我的措辞有疑问，但诚实的问题是：
有没有我们集体决定不追求知识的例子？成功地？
我想核武器可能是最好的例子，尽管研究似乎不必真正“停止”，而是转入地下，而且我们仍然有国家试图攀登这个阶梯。
但我不知道这与法学硕士/人工智能有多大相关性。感觉就像潘多拉魔盒打开了，我们唯一的选择就是继续改进它们。他们所做的事情显然是有价值的，虽然我绝对可以看到其中的危险，例如：权威政府和监视，但我不相信将婴儿和洗澡水一起倒掉。
所有回到印刷机的技术（可能是在那之前）也可以说让政府更容易压迫其公民。制定法律（并执行法律！）来阻止政府做这些事情感觉就像是前进的道路，而不是试图把头埋在沙子里。
也许我太天真了，也许我只是看到了我一生都在阅读和梦想的科幻未来，而我却被现实蒙蔽了双眼，也许我关于“知识应该免费/可获取”的理想被误导了。我不知道。
有没有我们集体决定不追求知识的例子？成功地？
我想核武器可能是最好的例子，尽管研究似乎不必真正“停止”，而是转入地下，而且我们仍然有国家试图攀登这个阶梯。
但我不知道这与法学硕士/人工智能有多大相关性。感觉就像潘多拉魔盒打开了，我们唯一的选择就是继续改进它们。他们所做的事情显然是有价值的，虽然我绝对可以看到其中的危险，例如：权威政府和监视，但我不相信将婴儿和洗澡水一起倒掉。
所有回到印刷机的技术（可能是在那之前）也可以说让政府更容易压迫其公民。制定法律（并执行法律！）来阻止政府做这些事情感觉就像是前进的道路，而不是试图把头埋在沙子里。
也许我太天真了，也许我只是看到了我一生都在阅读和梦想的科幻未来，而我却被现实蒙蔽了双眼，也许我关于“知识应该免费/可获取”的理想被误导了。我不知道。
> 有没有我们集体决定不追求知识的例子？成功地？
从本质上讲，人类选择不追求的知识不会被太多公开。引起人们注意的价值有限，而且不会带来良好的娱乐效果。尽管如此，其他评论还是提供了大量示例。
> 也许我太天真了，也许我只是看到了我一生都在阅读和梦想的科幻未来，而我被现实蒙蔽了双眼，也许我关于“知识应该是免费/可获取”的理想被误导了。我不知道。
我个人并不认为传播任意知识有内在的好处。印刷机和核武器之间有很大的区别。
从本质上讲，人类选择不追求的知识不会被太多公开。引起人们注意的价值有限，而且不会带来良好的娱乐效果。尽管如此，其他评论还是提供了大量示例。
> 也许我太天真了，也许我只是看到了我一生都在阅读和梦想的科幻未来，而我被现实蒙蔽了双眼，也许我关于“知识应该是免费/可获取”的理想被误导了。我不知道。
我个人并不认为传播任意知识有内在的好处。印刷机和核武器之间有很大的区别。
如果你阅读了该方案，就会发现法规主要是关于人们可以用巨型计算集群做什么，而不是关于创意本身。这些想法本身必须对公众完全透明。
至于历史先例：克隆人、人类基因组编辑和镜像生命似乎是一个先例；核武器和核能是另一个先例；仔细想想，我觉得无人机送货也被法规扼杀了......？A计划并不是建议永远不建造超级智能，而是建议更谨慎、更透明地建造超级智能。
至于历史先例：克隆人、人类基因组编辑和镜像生命似乎是一个先例；核武器和核能是另一个先例；仔细想想，我觉得无人机送货也被法规扼杀了......？A计划并不是建议永远不建造超级智能，而是建议更谨慎、更透明地建造超级智能。
虽然技术赋予了政府权力，但它也赋予了个人权力，更重要的是改变了物质动力，以更好地将政府的激励措施与人民结合起来。民主是在物质变革之后出现的，而不是在物质变革之前出现的。民主的出现是因为它对于追求权力的政府来说是最佳的，而不是出于他们内心的善良。
以资源开采为基础的经济将人视为奴隶。权力的真正来源是资源，人只是达到目的的手段，所以你在追求资源的同时避免反抗，尽可能地虐待人民。
凭借稳定的基础设施，政府可以从受过教育的富裕人口中获得更多收入，从而可以对其征税并利用其创新成果。过多干涉公民的繁荣是违背其自身对权力的追求的。激励措施是一致的。
解决人工智能问题并不是要停止这项技术或制定一堆脆弱的法律。它始终与协调一致：将现代国家、现代经济、代议制民主或 AGI 本身等大型类似 AGI 的实体与人类繁荣保持一致
以资源开采为基础的经济将人视为奴隶。权力的真正来源是资源，人只是达到目的的手段，所以你在追求资源的同时避免反抗，尽可能地虐待人民。
凭借稳定的基础设施，政府可以从受过教育的富裕人口中获得更多收入，从而可以对其征税并利用其创新成果。过多干涉公民的繁荣是违背其自身对权力的追求的。激励措施是一致的。
解决人工智能问题并不是要停止这项技术或制定一堆脆弱的法律。它始终与协调一致：将现代国家、现代经济、代议制民主或 AGI 本身等大型类似 AGI 的实体与人类繁荣保持一致
这只是一个故事。当今的主要问题是国家缺乏民主，政府的合法性越来越低，因此利用技术来监视和管理骚动不安的民众。你所讲述的是 1990-2010 年计算机和互联网的英雄故事。
亚沙-莱文（Yasha Levine）曾写道，在这一叙事之前，麻省理工学院的学生们曾抗议，因为计算机将与政府数据库相连，共享反越战活动人士的数据。尽管提出了抗议，但活动家们的看法是正确的，这种情况还是发生了，而且现在还在大规模发生。
http://yashalevine.com/surveillance-valley
亚沙-莱文（Yasha Levine）曾写道，在这一叙事之前，麻省理工学院的学生们曾抗议，因为计算机将与政府数据库相连，共享反越战活动人士的数据。尽管提出了抗议，但活动家们的看法是正确的，这种情况还是发生了，而且现在还在大规模发生。
http://yashalevine.com/surveillance-valley
是的，RMS 在他的《阅读权》和许多其他东西中都说对了--我们正看到从未被废除的计算权正在慢慢消亡。幸运的是，开放源代码足以延缓这一进程；我们都应该对开放权重模型的存在感到惊讶和感激，因为它具有深远的民主化意义。
> 对有开放式重量模型表示赞赏
谢谢 习先生
谢谢 习先生
家长评论者完全没有提到科技？他们描述的似乎是几个世纪前而不是几十年前开始的民主过渡。
没人能在手机上运行核反应堆，却能运行人工智能
我们在上世纪 90 年代就在讨论人工智能，在此之前也有人讨论过这个问题。
答案总是一样的：硬件无法挂起。
现在它可以，而且会变得更好。
由 ZIRP 和无知的国会推动的 SaaS 时代是一次侥幸，从工程学的角度来看，除了炒作和千篇一律之外，并没有产生任何效果。
被它充实和授权的一代人和潮一代人一样都是暂时的。以牺牲有助于全人类的科学进步为代价来满足他们的诉求是毫无意义的。
中国不会。俄罗斯不会。
美国人剥削血汗工厂的童工，这样他们就可以无视自己的生理需求，保留一份 "知识工作 "的工作（说到第一世界的特权），把财富交给他们，让他们去参观他们剥削的贫困村庄。
这些工人从未有过上大学还是去矿山的选择。对不起，世界上有 80 亿人，却只有 3 亿美国人。
在过去的 10-15 年里，我听了多少抱怨，我们甚至都不想要这些工作。在我看来，工作岗位的创造者和美国国会看到了千禧一代对电脑的喜好，因此在促成这种平庸的产出方面走得太远了。
让医疗保健和住房成为经济腾博会登录_腾博会官网_腾博会诚信为本_腾博会手机版。这两个领域仍然需要就业和技术。但至少结果不会是 "潮一代 "设计了一个世代相传的庞氏骗局来让他们致富，然后当大多数人意识到这些股票从来都不是真实的时候，让这一切都崩溃。
我们在上世纪 90 年代就在讨论人工智能，在此之前也有人讨论过这个问题。
答案总是一样的：硬件无法挂起。
现在它可以，而且会变得更好。
由 ZIRP 和无知的国会推动的 SaaS 时代是一次侥幸，从工程学的角度来看，除了炒作和千篇一律之外，并没有产生任何效果。
被它充实和授权的一代人和潮一代人一样都是暂时的。以牺牲有助于全人类的科学进步为代价来满足他们的诉求是毫无意义的。
中国不会。俄罗斯不会。
美国人剥削血汗工厂的童工，这样他们就可以无视自己的生理需求，保留一份 "知识工作 "的工作（说到第一世界的特权），把财富交给他们，让他们去参观他们剥削的贫困村庄。
这些工人从未有过上大学还是去矿山的选择。对不起，世界上有 80 亿人，却只有 3 亿美国人。
在过去的 10-15 年里，我听了多少抱怨，我们甚至都不想要这些工作。在我看来，工作岗位的创造者和美国国会看到了千禧一代对电脑的喜好，因此在促成这种平庸的产出方面走得太远了。
让医疗保健和住房成为经济腾博会登录_腾博会官网_腾博会诚信为本_腾博会手机版。这两个领域仍然需要就业和技术。但至少结果不会是 "潮一代 "设计了一个世代相传的庞氏骗局来让他们致富，然后当大多数人意识到这些股票从来都不是真实的时候，让这一切都崩溃。
[延迟]
你夸大了技术的优势。莫卧儿王朝的印度四分五裂，急剧衰落。英国人利用政治、金融和背叛手段瓜分并征服了剩下的一切。
> 我们将允许拉开差距，这将使殖民地时期的欧洲和殖民地时期的亚洲/非洲之间的差距显得微不足道。
如果大家都死了，那就很容易做出选择了。
如果大家都死了，那就很容易做出选择了。
但真的如此吗？ 在现实世界中，我们需要人工智能来维持人类生存吗？
是的，就是这个。看看我们的管理；看看我们的大规模协调；看看我们集体解决问题的能力。这太糟糕了，毫无希望。如果我们有全球性的问题，我们没有能力有效地解决它们。我们的智慧根本不足以处理我们正在制造的问题。在垃圾成河、二氧化碳浓度和战争之间，我们已经证明了自己在所需的规模上是非常不聪明的。如果我们幸运的话，我们的生存之窗还很窄小，这取决于我们能否尽快变得聪明起来。
考虑一下这个问题：现在进入数据中心的所有硬件？在 5 年左右的时间里，它们将全部进入二级市场......大量廉价的计算资源将涌入市场，这是你从未见过的。
考虑一下这个问题：现在进入数据中心的所有硬件？在 5 年左右的时间里，它们将全部进入二级市场......大量廉价的计算资源将涌入市场，这是你从未见过的。
我们永远都不应该制造 ASI，我说的是非常理智的。人工智能=不好。AGI，~人类的脑力，可以变得足够安全。
> 有没有我们集体决定不追求知识的例子？成功吗？
人类转基因生物、一些生物武器，我相信还有一长串没人希望存在的可怕东西。
> 有没有我们集体决定不追求知识的例子？成功吗？
人类转基因生物、一些生物武器，我相信还有一长串没人希望存在的可怕东西。
如果AGI意味着人工智能+机器人可以强有力地替代人类劳动力，并且机器人比人类更便宜、更快地制造，那么（a）任何足够无情的虫族都可以冲向并击败任何不抛弃人类的国家，（b）没有一个庞大的机器人军队的人将不会被他们的统治者以任何方式需要。如果这不是导致可怕结果的原因，那什么才是呢？
开发超大型热核武器的决定可能很重要——美国日晷项目预计需要大约 10 亿吨 TNT。不是最实用的武器，但一旦你达到一定的尺寸，交付就不再是问题了——无论如何它都会杀死所有人，所以无论你把它放在哪里都没关系！
https://en.wikipedia.org/wiki/Sundial_（武器）
https://en.wikipedia.org/wiki/Sundial_（武器）
如果有例子，他们的例子状态就会降低我了解他们的可能性。
1972 年生物武器公约？
苏联系统性地忽视了《生物武器公约》。有大量证据。
美国不是因为没有签署气候协议等许多世界条约而闻名吗？
这是一个有趣的主题和对话，但在这些以文化为中心的论坛中没有实际意义。我想知道是否有俄罗斯人在 Vkontakte 群组中讨论合理的场景，或者中国人在他们使用的阿里巴巴集团网站上做同样的事情。
问题在于我们都被我们的媒体、我们的想法和我们的文化所扭曲。 此类讨论需要最高程度的政治互动。
这很有趣，特别是对于生活在“第三世界”国家、与这三个超级大国都不结盟的人来说。 无论发生什么，我们都受到这些的摆布（不，美国并没有“更好”地对待我们）。
我的观点是，AGI 的发展已经没有回头路了。 我认为现任政府没有能力达成如此规模的协议。特别是考虑到我们生活的周期中的孤立主义阶段。（与我们在 20 世纪 90 年代遇到的氟氯化碳和臭氧层问题相比，当时地球正处于全球化阶段）
这是一个有趣的主题和对话，但在这些以文化为中心的论坛中没有实际意义。我想知道是否有俄罗斯人在 Vkontakte 群组中讨论合理的场景，或者中国人在他们使用的阿里巴巴集团网站上做同样的事情。
问题在于我们都被我们的媒体、我们的想法和我们的文化所扭曲。 此类讨论需要最高程度的政治互动。
这很有趣，特别是对于生活在“第三世界”国家、与这三个超级大国都不结盟的人来说。 无论发生什么，我们都受到这些的摆布（不，美国并没有“更好”地对待我们）。
我的观点是，AGI 的发展已经没有回头路了。 我认为现任政府没有能力达成如此规模的协议。特别是考虑到我们生活的周期中的孤立主义阶段。（与我们在 20 世纪 90 年代遇到的氟氯化碳和臭氧层问题相比，当时地球正处于全球化阶段）
> 是否有我们集体决定不追求知识的例子？成功吗？
研究第二次世界大战以来的人类生物多样性是最明显的例子，尽管它并不完全成功。
研究第二次世界大战以来的人类生物多样性是最明显的例子，尽管它并不完全成功。
重组 DNA 技术发明后，科学家们于 1975 年召开了阿西洛玛会议。他们自愿暂停某些类型的基因工程，直到制定严格的实验室遏制协议。
20 世纪 80 年代，生物伦理学家、神学家和研究人员在体细胞编辑（治疗现有患者的非生殖细胞）和种系编辑（改变后代）之间建立了严格的道德界限。
除了 2018 年中国科学家贺建奎之外，没有人进行过后一种形式的基因工程。作为回应，北京严厉收紧了法律，将可遗传基因编辑列为高风险医疗技术，受刑法制裁。何建奎被判处有期徒刑三年。
20 世纪 80 年代，生物伦理学家、神学家和研究人员在体细胞编辑（治疗现有患者的非生殖细胞）和种系编辑（改变后代）之间建立了严格的道德界限。
除了 2018 年中国科学家贺建奎之外，没有人进行过后一种形式的基因工程。作为回应，北京严厉收紧了法律，将可遗传基因编辑列为高风险医疗技术，受刑法制裁。何建奎被判处有期徒刑三年。
我完全理解为什么出于伦理原因，我们要禁止基因编辑，而且我想说的是，我同意这样做不符合伦理道德，但我内心有一部分人对本可以实现的东西充满渴望。CRISPR等技术也是如此，但这可能只是梦想的乐趣，现实将是一场噩梦。
采用我们在原子弹上采用的人工智能方法将是灾难性的。如果唯一被允许使用这项技术的人是政府、情报机构和少数指定的公司，那么专制滥用的风险将会飙升。
我担心任何限制其使用和发展的尝试都会被滥用和误导。我们已经看到像 Anthropic 这样的人在这样做，他们试图利用反人工智能情绪来参与监管捕获。去观看达里奥（Dario）的演讲，了解开放权重模型如何危险以及它们如何“并不真正开放”。每个人都可以看到，这种“安全”对话的大部分最终只是一种将潜在竞争对手拒之门外并建立垄断/双寡头垄断的策略。
我担心任何限制其使用和发展的尝试都会被滥用和误导。我们已经看到像 Anthropic 这样的人在这样做，他们试图利用反人工智能情绪来参与监管捕获。去观看达里奥（Dario）的演讲，了解开放权重模型如何危险以及它们如何“并不真正开放”。每个人都可以看到，这种“安全”对话的大部分最终只是一种将潜在竞争对手拒之门外并建立垄断/双寡头垄断的策略。
我同意。我想我应该这样说：
“停止”法学硕士研究只是意味着它将掌握在少数可以滥用它的人手中。我宁愿处于 M.A.D 状态。但不是少数国家/政府，而是数百万/数十亿人可以访问这些模型（理想情况下是开放的）。再说一次，也许是非常天真或误导，我知道生物恐怖主义可能（是？）是一个真正的问题，以及更“平凡”的事情，例如制造炸弹（核弹或其他炸弹）。
我只是觉得限制对政府或“受祝福的”实体的访问更糟糕。
“停止”法学硕士研究只是意味着它将掌握在少数可以滥用它的人手中。我宁愿处于 M.A.D 状态。但不是少数国家/政府，而是数百万/数十亿人可以访问这些模型（理想情况下是开放的）。再说一次，也许是非常天真或误导，我知道生物恐怖主义可能（是？）是一个真正的问题，以及更“平凡”的事情，例如制造炸弹（核弹或其他炸弹）。
我只是觉得限制对政府或“受祝福的”实体的访问更糟糕。
我认为《人工智能 2027》这篇论文过于乐观，但并非完全是天方夜谭。这篇论文给人的感觉是天马行空的猜测，它所依赖的前提我甚至不相信能通过表面的推理。即使在乐观的条件下，我们也不可能在 2035 年看到 "能够完成 95% 的认知和体力劳动 "的机器人。我也不认为 74% 的失业率是完全可能的。在这些数字变得可信之前，经济崩溃早就会让人工智能的发展陷入困境。
[延迟]
但在民用环境中，还没有人真正解决过让机器人把包裹送到你家门廊的问题，而且似乎也不可能很快解决这个问题
如果你不在乎能否把无人机找回来，那么问题确实简化了一些。
如果你不在乎能否把无人机找回来，那么问题确实简化了一些。
如果我把你带回到 2020 年，并告诉你再过 5 年，基本上就不会再有人类程序员编写代码了，你几乎肯定不会相信我。
近代史上的许多技术也是如此--汽车取代了马、人类首次登上月球、甚至从早期互联网的创建到大规模应用。
从一项新技术的快速发展到社会彻底改变，一般需要十年或二十年的时间。
我并不是说我同意 2035 年的预测，但在我看来，如果人工智能能帮助我们提高我们已经在开发的颠覆性机器人技术的速度，这并非不可能。
2010 年，自动驾驶汽车和自动驾驶无人机似乎非常科幻，而且遥不可及。但今天，仅仅 15 年过去了，这些东西已经开始越来越多地投入使用。
如果他们把 95% 这个数字降到 50-60%，我想我可能会倾向于同意。这并不是因为我的直觉有道理，而是因为我大脑的逻辑部分知道指数趋势（如果存在的话）会做一些我们无法本能预测的事情。但即使假设指数为 95%，这个比例也确实很高。
近代史上的许多技术也是如此--汽车取代了马、人类首次登上月球、甚至从早期互联网的创建到大规模应用。
从一项新技术的快速发展到社会彻底改变，一般需要十年或二十年的时间。
我并不是说我同意 2035 年的预测，但在我看来，如果人工智能能帮助我们提高我们已经在开发的颠覆性机器人技术的速度，这并非不可能。
2010 年，自动驾驶汽车和自动驾驶无人机似乎非常科幻，而且遥不可及。但今天，仅仅 15 年过去了，这些东西已经开始越来越多地投入使用。
如果他们把 95% 这个数字降到 50-60%，我想我可能会倾向于同意。这并不是因为我的直觉有道理，而是因为我大脑的逻辑部分知道指数趋势（如果存在的话）会做一些我们无法本能预测的事情。但即使假设指数为 95%，这个比例也确实很高。
指数的特点是，如果你承认 60%，就很容易承认 95%。
> 我也不认为失业率达到 74% 的可能性微乎其微
250 年持续的自动化从未造成大规模失业，尽管数次导致每个人的工作岗位被淘汰。
250 年持续的自动化从未造成大规模失业，尽管数次导致每个人的工作岗位被淘汰。
你不认为淘汰的速度很重要吗？这里有一点幸存者偏差，即
"我拉着雪橇穿越这个湖已经50个冬天了，即使气温超过冰点。从没掉下去过！"
"我拉着雪橇穿越这个湖已经50个冬天了，即使气温超过冰点。从没掉下去过！"
在我看来
我们已经处于 S 曲线的顶部，而不是指数曲线的末端。至少对于法学硕士来说是这样。更好的训练数据将带来小的改进，更好的架构将降低计算密集度，所有这些“超大规模”数据中心将使其变得便宜且无处不在。但这并不是它变得更加智能。
我们已经处于 S 曲线的顶部，而不是指数曲线的末端。至少对于法学硕士来说是这样。更好的训练数据将带来小的改进，更好的架构将降低计算密集度，所有这些“超大规模”数据中心将使其变得便宜且无处不在。但这并不是它变得更加智能。
我完全同意这一点，但我也认为，类似于 "Attnetion is all you need "的颠覆性架构调整随时都有可能出现。
我觉得当前 LLM 的认知差距确实是结构性的，但如果我们用一种新的或扩展的变压器式架构来解决结构性问题，我们就会看到一个全新的游戏。
我觉得当前 LLM 的认知差距确实是结构性的，但如果我们用一种新的或扩展的变压器式架构来解决结构性问题，我们就会看到一个全新的游戏。
是什么让你相信这一点？
https://www.tobyord.com/writing/hourly-costs-for-ai-agents 和 https://www.tobyord.com/writing/mostly-inference-scaling 等账户似乎与 https://www.youtube.com/watch?v=aR20FWCCjAs ?
过去~一年中版本之间的差异
[延迟]
这是真的吗，还是因为他们在每次重大版本发布前都会削弱旧型号，所以才让人觉得是真的？
我记得 o1-o3 系列模型最终将连贯的代理工具调用串在一起，以便在工作负载开始产生幻觉/挥舞之前的几分钟内半可靠地编写和执行脚本，这让我感到震惊
现在，我们理所当然地认为，最新的模型可以在多个浏览器选项卡、应用程序、数据库、模拟器、docker 等之间切换，在数小时内编写、执行、e2e 测试和部署全栈应用程序，管理多达数十个子代理，相对未受影响，甚至不会在 1% 的时间内停止生产
这东西很神奇
现在，我们理所当然地认为，最新的模型可以在多个浏览器选项卡、应用程序、数据库、模拟器、docker 等之间切换，在数小时内编写、执行、e2e 测试和部署全栈应用程序，管理多达数十个子代理，相对未受影响，甚至不会在 1% 的时间内停止生产
这东西很神奇
是的，我们甚至还没有真正开始确定计算机使用代理（你能相信它们基本上仍然只是 OCR 屏幕截图吗？）
一旦我们拥有了像人类一样体验桌面界面的东西，一整套迄今为止几乎不可能实现自动化的工具就会投入使用，这将是人们最终在其行业特定应用程序上加入代理工作流程世界的另一次爆炸……
一旦我们拥有了像人类一样体验桌面界面的东西，一整套迄今为止几乎不可能实现自动化的工具就会投入使用，这将是人们最终在其行业特定应用程序上加入代理工作流程世界的另一次爆炸……
我一直觉得 bootstrap 很不错。 所有的渐变和闪光对我来说都没什么用。
如果是 5.4 到 5.6，那就更容易说这只是因为感觉真实，但 5.6 绝对比 5.0 好。虽然我没有任何实证数据，但这也是你的观点，2025 年 8 月的 5.0 版与 2026 年 7 月的 5.6 版相比，几乎晚了一年。如果有数字和狗屎作为参考，那就更科学了，而且现在也有一些基准，但你必须深入研究并真正理解它们，才能相信它们到底在测试什么，而我打赌你还没有。
我注意到他们使用了 Sam Altman 的名言。
"人工智能很可能会导致世界末日，但同时也会出现伟大的公司"。
是否有任何严肃的新闻来源表明，这只是一个不经意的玩笑？ 这篇文章链接到了这段评论的 youtube 片段，去掉了上下文，但评论令人毛骨悚然。
以最不友善的眼光看待任何人，你都可以想象一个人邪恶到在自己的有生之年造成世界末日，而他们却不会面临任何不便，但这句话中的情况却不是这样的
这句话本身就很荒谬，我不认为一个有能力在社会上立足的人会认真说出这样的话。
是人们故意曲解了这句话，还是他们真的认为这是一种真实的观点？ 如果是这样，他们能解释一下他们怎么会认为有人会持有这样的观点吗？
"人工智能很可能会导致世界末日，但同时也会出现伟大的公司"。
是否有任何严肃的新闻来源表明，这只是一个不经意的玩笑？ 这篇文章链接到了这段评论的 youtube 片段，去掉了上下文，但评论令人毛骨悚然。
以最不友善的眼光看待任何人，你都可以想象一个人邪恶到在自己的有生之年造成世界末日，而他们却不会面临任何不便，但这句话中的情况却不是这样的
这句话本身就很荒谬，我不认为一个有能力在社会上立足的人会认真说出这样的话。
是人们故意曲解了这句话，还是他们真的认为这是一种真实的观点？ 如果是这样，他们能解释一下他们怎么会认为有人会持有这样的观点吗？
我认为他指的是我们所知的世界末日。这可能是真的，但时间线可能是 20 年、2000 年或更久。
纽约时报》今天报道说，俄罗斯和中国正在资助西方的反数据中心和反ai歇斯底里。
在低信息量的社交媒体用户心中，助长反数据中心和反ai歇斯底里情绪总比制造这种情绪要容易得多。
在低信息量的社交媒体用户心中，助长反数据中心和反ai歇斯底里情绪总比制造这种情绪要容易得多。
从历史上看，这些运动加剧了冲突。他们并不关心冲突是关于什么的。
但与其他一些人不同的是，我听到了很多甚至不使用社交媒体的人的反人工智能情绪。
但与其他一些人不同的是，我听到了很多甚至不使用社交媒体的人的反人工智能情绪。
所有新闻都受到当今流行社交媒体的影响。这成为人们通过小道消息谈论的一部分。
但毫无疑问，随着社会变得更加抽象/集中，存在大量有机的邻避主义、反科技增长的东西，以及对变化和失去控制的普遍恐惧。
但毫无疑问，随着社会变得更加抽象/集中，存在大量有机的邻避主义、反科技增长的东西，以及对变化和失去控制的普遍恐惧。
将“邻避主义”一词应用于反人工智能和反华盛顿情绪是对术语的严重滥用。数据中心不需要位于任何人的住宅区。
这些开发项目总是会引起当地人的抵制。我住过的一个小镇上，他们正在镇外 30 分钟的地方建造一个采石场，成吨的房子上都挂着反采石场的标语。尽管这与他们的社区关系不大，但反采石场的标语还是引起了很大的反响。
很多工业发展都面临这样的问题。积极分子从四面八方赶来抗议。
很多工业发展都面临这样的问题。积极分子从四面八方赶来抗议。
也有可能是实验室和助推器发出的无休止的挑衅言论极不受欢迎。
每个人都生活在一个深受社交媒体影响的世界里。即使你一辈子都没看过屏幕，你也花了成千上万个小时与看过屏幕的人交谈，并从他们那里获得信息。
这就给凯文-奥利里（Kevin O'Leary）等人提供了更多的弹药，让他们可以假装任何反对数据中心或人工智能的声音都是中国人的阴谋，或是你所说的 "歇斯底里"。
虽然我承认有些反数据中心的论点过于夸张，但在我看来，许多论点都是有道理的。数据中心从根本上说是一种提取技术。它们是巨大的、没有窗户的盒子，从一个地方拿走资源，让远在另一个地方的人变得富可敌国，而当地社区却极少受益。
此外，正如另一位评论者所提到的，人工智能将抢走我们所有的工作，这并不完全是中国人和俄罗斯人在煽风点火，而是美国前沿人工智能公司的领导人在这么说。请再提醒我一次，为什么我认为在我所在的州建立一个巨大的数据中心，其用电量比我所在的州目前的用电量还要多，对我生活的普通人来说是件好事？
老实说，我觉得这里的很多评论者都沉浸在自己的泡沫中，不明白人工智能和科技在很大程度上被广大民众普遍认为是对社会的净负面影响，而且我也不认为这是毫无根据的看法。
虽然我承认有些反数据中心的论点过于夸张，但在我看来，许多论点都是有道理的。数据中心从根本上说是一种提取技术。它们是巨大的、没有窗户的盒子，从一个地方拿走资源，让远在另一个地方的人变得富可敌国，而当地社区却极少受益。
此外，正如另一位评论者所提到的，人工智能将抢走我们所有的工作，这并不完全是中国人和俄罗斯人在煽风点火，而是美国前沿人工智能公司的领导人在这么说。请再提醒我一次，为什么我认为在我所在的州建立一个巨大的数据中心，其用电量比我所在的州目前的用电量还要多，对我生活的普通人来说是件好事？
老实说，我觉得这里的很多评论者都沉浸在自己的泡沫中，不明白人工智能和科技在很大程度上被广大民众普遍认为是对社会的净负面影响，而且我也不认为这是毫无根据的看法。
离我 30 分钟车程内就有 22 个高尔夫球场，而这里的人们却在为数据中心的用水量发愁......
[延迟]
> 在他们的社区建设数据中心
> 高尔夫球场是社区居民的传统绿地
我有一种感觉，这两类社区是脱节的
> 高尔夫球场是社区居民的传统绿地
我有一种感觉，这两类社区是脱节的
这与农业有什么不同？
它从社区获取有限的土地和水资源，并将其作为食物或燃料出售以获取利润。绝大多数利润来自下游和社区之外。
高尔夫球场作为人们聚集的传统绿色场所对我来说似乎有点牵强，因为它们大多数都是精英私人俱乐部。
它从社区获取有限的土地和水资源，并将其作为食物或燃料出售以获取利润。绝大多数利润来自下游和社区之外。
高尔夫球场作为人们聚集的传统绿色场所对我来说似乎有点牵强，因为它们大多数都是精英私人俱乐部。
我周围的大多数高尔夫球场都是开放的，任何人都可以去打球，只需支付低廉的果岭费。会所的热狗或汉堡价格也很低廉。
如果这就是你心目中没有 18 洞草坪也能提供的宝贵公共产品的话。
就“价值”而言，高尔夫球场是业主购买的私人财产，可以按照他们认为合适的方式使用。如果你想把它发展成其他东西，向他们提出报价？
高尔夫球场与其他行业一样（尽管我们这里也有一些公有的高尔夫球场）。工作日打 9 洞的费用为其中一洞 10 美元。我不太确定你在这里要求什么。
高尔夫球场与其他行业一样（尽管我们这里也有一些公有的高尔夫球场）。工作日打 9 洞的费用为其中一洞 10 美元。我不太确定你在这里要求什么。
[延迟]
当矿山将相当大一部分利润作为地方税缴纳，并遵守环境法规时，人们突然开始喜欢它们。
[延迟]
国家给予税收优惠，地方市政当局低价收购，这就是为什么所有这些城镇都能很快通过审批的原因。3000 万美元对一个数据中心来说只是九牛一毛，而对一个城镇来说却是一笔意外之财。
这听起来可能很疯狂，但我很高兴我附近正在建设的数据中心（新的 US-East-3）是由亚马逊公司建造的，它对当地政府和社区提供了口头服务，而不是像其他建筑商那样，为了节省几分钱，把噪音污染强加给其他人，并做其他一切不可取的事情。
没想到我会这么说。
没想到我会这么说。
> 您能举出一些发生这种情况的例子吗？
你是说人工智能数据中心在做这件事吗？不，他们没有这样做。
他们似乎正在做相反的事情。它们的噪音确实很难接受，取消冷却它们的风扇可能会在不到一年的时间内收回成本。就好像是某个卡皮坦星球的恶棍建造了这些东西。
你是说人工智能数据中心在做这件事吗？不，他们没有这样做。
他们似乎正在做相反的事情。它们的噪音确实很难接受，取消冷却它们的风扇可能会在不到一年的时间内收回成本。就好像是某个卡皮坦星球的恶棍建造了这些东西。
[延迟]
人们害怕人工智能对个人的影响，然后在不知不觉中为自己找理由。
如果流媒体视频的用电量和用水量与之相当，我很怀疑人们会不会要求不再建立 Netflix 数据中心。新闻报道马上就会夭折。
如果流媒体视频的用电量和用水量与之相当，我很怀疑人们会不会要求不再建立 Netflix 数据中心。新闻报道马上就会夭折。
没有人希望自己的电费上涨，当地的水务公司不得不提高费率来建造一个更大的工厂，而这一切换来的却是白领们失去好工作。这就是目前人工智能数据中心建设者们正在推销的东西。
也不尽然。有些数据中心建在没有水电供应的地方，当地人反对显然是合理的。
但我居住的地方有充足的水源和相对便宜的电力（大量可再生能源）。数据中心建设的风险并不大，但这里的人们也反对这样做。因为对大多数人来说，这其实并不重要。
但我居住的地方有充足的水源和相对便宜的电力（大量可再生能源）。数据中心建设的风险并不大，但这里的人们也反对这样做。因为对大多数人来说，这其实并不重要。
一个明显的问题是，在大量电力用户进来后，廉价电力是否会保持便宜，这些电力用户有着良好的记录，试图让自己的一切变得便宜，不考虑其他任何人。
或者另一个要问的问题是——这个数据中心如何让居住在那里的人们受益？如果没有，他们就没有理由想要建造一个。垃圾提示是必要的。我仍然不希望在我家旁边建一个，并且会竭尽全力与这种事情作斗争。
或者另一个要问的问题是——这个数据中心如何让居住在那里的人们受益？如果没有，他们就没有理由想要建造一个。垃圾提示是必要的。我仍然不希望在我家旁边建一个，并且会竭尽全力与这种事情作斗争。
高尔夫球场没有 24/7 运行的备用发电机，您可以从很远的距离听到嗡嗡声。它们也不污染空气。
这是一个糟糕的比较，但我确实明白你在这里尝试的是什么。我们到处平整土地来建造仓库，这也是荒谬的。也没有人真正抱怨这一点。
这是一个糟糕的比较，但我确实明白你在这里尝试的是什么。我们到处平整土地来建造仓库，这也是荒谬的。也没有人真正抱怨这一点。
人们可以关心不止一件事
就我个人而言，我很乐意关闭所有的高尔夫球场，把它们更好地用作其他用途。
哪怕只是把它们变成公共公园也很好
就我个人而言，我很乐意关闭所有的高尔夫球场，把它们更好地用作其他用途。
哪怕只是把它们变成公共公园也很好
几年前，我参加了一个高尔夫球场的拍卖会。它的价格是几千美元一英亩。你本可以到场竞拍的。
最后，赢家选择留下现有员工，继续经营。没有人，我是说没有人，想要开发这块地。那是一个基本上没有分区的时代。
最后，赢家选择留下现有员工，继续经营。没有人，我是说没有人，想要开发这块地。那是一个基本上没有分区的时代。
不，事实上，我们大多数人不可能带着任何有意义的结果出现并竞标。
最近，当我乘飞机降落时，我惊讶地发现，拥有 50 多套住宅的住宅开发区和马路对面占地相同空间的高尔夫球场之间的对比令人惊讶。
我不明白高尔夫的魅力何在。用一根歪棍子把球打进洞里？不过，这只是我的个人喜好。人们可以玩他们想玩的任何运动，或者做他们想做的任何事，并称之为运动。
话虽如此，但如果这项所谓的运动不占用那么多土地、水源等，那就更好了。尤其是在黄金地段
话虽如此，但如果这项所谓的运动不占用那么多土地、水源等，那就更好了。尤其是在黄金地段
人们可以假装关心不止一件事。
至于他们是否真的积极反对这些事情，以至于影响到建筑许可，那就完全是另一回事了。
至于他们是否真的积极反对这些事情，以至于影响到建筑许可，那就完全是另一回事了。
俄罗斯和中国并不是不断告诉我们人工智能会让我们失业的人，这就是为什么这是一件好事，以及为什么政府应该向现有的人工智能供应商投入数十亿美元。
需要消息来源。我不是说你错了，但需要消息来源
来源或链接？
那块破布还有什么选择？他们当然会倒打一耙，试图洗脱责任。
令人惊讶的是，美国宪法规定了言论自由权。与此同时，是谁在资助过去二十年硅谷媒体的空中楼阁？宣传不受欢迎的观点违法吗？从什么时候起，我们开始根据谁的观点来判断一个论点的优劣？
[deleted]
到目前为止，这是我见过的最现实的乐观人工智能起飞方案，更具体地说，这是我读过的第一个能充分解决人工智能对齐和力量集中问题的方案，即使是在假定硬对齐的世界中（在这个方案中，假定人工智能在 2038-39 年前都是错位的）。
太棒了，我希望它能对人工智能安全领域产生应有的影响。
太棒了，我希望它能对人工智能安全领域产生应有的影响。
这类 "论文 "一直让我感到不爽的地方在于，它们拒绝承认 LLM 和扩散模型不会导致 AGI、ASI 或任何它们强加给大众的缩写的可能性。
如果你连承认错误的可能性都不愿意承认，那么你的论证就是空洞无物的。 所有的 "选择 "都假定这些实验室是完全诚实的，并且在某种程度上是善意的（相对于目前社会的系统激励机制而言），而实际上，我们仍然只是在建立和完善概率模型，其输出的准确性和处理的灵活性（即代理）都在不断提高，但仍然缺乏任何真正意义上的 "智能"。
请给我看一篇论文，它不只是假设基于 LLM 的 AGI/ASI 不可避免，而是真正列出了历史表明我们可能会遇到的任何 "改变世界的技术 "的核心路径：
在最好的情况下，该技术真的会彻底改变世界，并实现其最大支持者所承诺的一切（如这篇论文）； * 在最坏的情况下，该技术真的会彻底改变世界，并实现其最大支持者所承诺的一切（如这篇论文）。
* 在中等情况下，它只是我们集体工具包中的另一种工具，而建立在外部投资基础上的革命的后果是逐渐消失
* 在最坏的情况下，该工具本身的效用非常有限，以至于投资崩溃而非消退；我们现在该如何处理所有这些计算？债务归谁？谁来买单？我们该如何降低这些生存风险？
我只是对这种伪装成学术界的不可避免论而不是实际的、中立的、受偏见控制的、公开的、描绘潜力的研究感到反胃。
---
略读之后，我又想到了另一条评论：上帝啊，这些东西仍然是他妈的金戈铁马。 这是一套更高级的化妆术，同样是低劣的西方沙文主义世界观，即美国的卓越和显而易见的至高无上。
不，我不想再听这些陈词滥调了。 去向白痴们传教吧，我可不是白痴。
如果你连承认错误的可能性都不愿意承认，那么你的论证就是空洞无物的。 所有的 "选择 "都假定这些实验室是完全诚实的，并且在某种程度上是善意的（相对于目前社会的系统激励机制而言），而实际上，我们仍然只是在建立和完善概率模型，其输出的准确性和处理的灵活性（即代理）都在不断提高，但仍然缺乏任何真正意义上的 "智能"。
请给我看一篇论文，它不只是假设基于 LLM 的 AGI/ASI 不可避免，而是真正列出了历史表明我们可能会遇到的任何 "改变世界的技术 "的核心路径：
在最好的情况下，该技术真的会彻底改变世界，并实现其最大支持者所承诺的一切（如这篇论文）； * 在最坏的情况下，该技术真的会彻底改变世界，并实现其最大支持者所承诺的一切（如这篇论文）。
* 在中等情况下，它只是我们集体工具包中的另一种工具，而建立在外部投资基础上的革命的后果是逐渐消失
* 在最坏的情况下，该工具本身的效用非常有限，以至于投资崩溃而非消退；我们现在该如何处理所有这些计算？债务归谁？谁来买单？我们该如何降低这些生存风险？
我只是对这种伪装成学术界的不可避免论而不是实际的、中立的、受偏见控制的、公开的、描绘潜力的研究感到反胃。
---
略读之后，我又想到了另一条评论：上帝啊，这些东西仍然是他妈的金戈铁马。 这是一套更高级的化妆术，同样是低劣的西方沙文主义世界观，即美国的卓越和显而易见的至高无上。
不，我不想再听这些陈词滥调了。 去向白痴们传教吧，我可不是白痴。
其中一位作者在这里谈到了这一点： https://www.astralcodexten.com/p/introducing-plan-a
> 越来越明显的是，如果人工智能真的存在，没有人有相应的计划。
> ...
> 计划 A 不是另一种预测。它是一个愿望清单，一个积极的愿景，一个引领未来的路线图。
> ...
> 如果我们只是在 2040 年代看到了一些酷炫的人工智能创新，那么我就什么都错了，这些都不重要。
我认为他们的立场是："如果目前的技术（如 LLMs）不能让我们实现 AGI，而只是带来一些很酷的新创新，那就再好不过了，但如果真的实现了，那就太可怕了，因为没人有计划该怎么做，所以这就是我们的计划"。
这种金戈铁马的气势实在令人不快。我认为丹尼尔说这是政治需要：https://x.com/DKokotajlo/status/2075261194978640096
> 越来越明显的是，如果人工智能真的存在，没有人有相应的计划。
> ...
> 计划 A 不是另一种预测。它是一个愿望清单，一个积极的愿景，一个引领未来的路线图。
> ...
> 如果我们只是在 2040 年代看到了一些酷炫的人工智能创新，那么我就什么都错了，这些都不重要。
我认为他们的立场是："如果目前的技术（如 LLMs）不能让我们实现 AGI，而只是带来一些很酷的新创新，那就再好不过了，但如果真的实现了，那就太可怕了，因为没人有计划该怎么做，所以这就是我们的计划"。
这种金戈铁马的气势实在令人不快。我认为丹尼尔说这是政治需要：https://x.com/DKokotajlo/status/2075261194978640096
所以这是一部同人小说？
如果碳税已经成为政治运动的致命政策，那么认为对 ASI 的恐惧会引发任何围绕暂停人工智能的真正运动的想法是荒谬的。
如果有任何暂停人工智能开发的举动，那将来自公众对这些公司的厌恶。不是从人工智能安全角度来看。
如果有任何暂停人工智能开发的举动，那将来自公众对这些公司的厌恶。不是从人工智能安全角度来看。
如果这是真的，并且人们关心美国进展的暂停，那么第一个方法似乎就是与人们见面：因此用水错误信息、去增长、电力供应限制。这确实让所有推动这些事情的人都以不同的眼光看待。他们很可能正在尝试做人工智能安全实验室表面上想做的事情。
作为人工智能安全主义者，最亲密的盟友（以分布式协调方式）是民粹主义误导者。迷人。
作为人工智能安全主义者，最亲密的盟友（以分布式协调方式）是民粹主义误导者。迷人。
你应该考虑一下，为什么你的立场的最佳盟友是错误信息。
还有人注意到 C 计划和 A 计划之间的逻辑矛盾吗？
计划 C：
> "......进行人工智能研发所需的人类越来越少，这意味着秘密项目越来越容易在不被发现的情况下完成。
计划 A：
> "......训练人工智能需要大量的人工智能芯片。大多数人工智能芯片都在巨型数据中心中。50 人工智能数据中心通常大到可以从太空中看到，而且耗电量大到需要显眼的基础设施。新的人工智能芯片只能在少数几家制造厂（fabs）制造，这些制造厂大多位于台湾、韩国、美国和中国。美国和中国与在芯片供应链中扮演重要角色的国家进行谈判，它们要求每个主要的数据中心所有者（及其上游供应商，包括芯片制造厂）公开申报其主要的采购和销售情况。"
A 计划要求的人工智能训练属性，D 计划要求的人工智能训练属性并不存在。
计划 C：
> "......进行人工智能研发所需的人类越来越少，这意味着秘密项目越来越容易在不被发现的情况下完成。
计划 A：
> "......训练人工智能需要大量的人工智能芯片。大多数人工智能芯片都在巨型数据中心中。50 人工智能数据中心通常大到可以从太空中看到，而且耗电量大到需要显眼的基础设施。新的人工智能芯片只能在少数几家制造厂（fabs）制造，这些制造厂大多位于台湾、韩国、美国和中国。美国和中国与在芯片供应链中扮演重要角色的国家进行谈判，它们要求每个主要的数据中心所有者（及其上游供应商，包括芯片制造厂）公开申报其主要的采购和销售情况。"
A 计划要求的人工智能训练属性，D 计划要求的人工智能训练属性并不存在。
立法设计？如果用五金店里的废品就能制造出核弹，那世界早就完蛋了。大型合作作品提高了监视的风险和可观察性。去国防供应商甚至能源公司应聘吧。
如果人工智能的生产仅限于大型实验室和大型数据中心，那么它事实上就受到了控制和监控。如果你知道所有 ASML 机器的位置，那么你就知道芯片的再生产率。如果没有人能够购买或制造将铀或钚浓缩到临界水平所需的机器，那么威胁就会受到控制和监控。
你可以挖出所有你想要的铀矿石。铀在黑暗中的应用从来都不是什么秘密。值得庆幸的是，这些机器和工艺足够庞大和昂贵，只有最有针对性的坏人才能获得它们，然后挟持全世界。如果基地组织或伊斯兰国可以使用从家庭仓库买来的 40 美元炸弹，而不是昂贵的飞机，他们就会这么做（他们确实这么做了）。
你必须立法控制那些大型、昂贵和缓慢的东西。炸药和芬太尼之所以如此危险，是因为它们更容易移动。自由并不一定是自杀协议。如果要求处方或获取炸药带来的不便减少了危害，那么它就是净积极的？
如果人工智能的生产仅限于大型实验室和大型数据中心，那么它事实上就受到了控制和监控。如果你知道所有 ASML 机器的位置，那么你就知道芯片的再生产率。如果没有人能够购买或制造将铀或钚浓缩到临界水平所需的机器，那么威胁就会受到控制和监控。
你可以挖出所有你想要的铀矿石。铀在黑暗中的应用从来都不是什么秘密。值得庆幸的是，这些机器和工艺足够庞大和昂贵，只有最有针对性的坏人才能获得它们，然后挟持全世界。如果基地组织或伊斯兰国可以使用从家庭仓库买来的 40 美元炸弹，而不是昂贵的飞机，他们就会这么做（他们确实这么做了）。
你必须立法控制那些大型、昂贵和缓慢的东西。炸药和芬太尼之所以如此危险，是因为它们更容易移动。自由并不一定是自杀协议。如果要求处方或获取炸药带来的不便减少了危害，那么它就是净积极的？
在 C 计划中，政府基本上错过了在秘密项目的威胁还很低时实施多国协议的机会。这就是为什么它说达成交易的可能性每个月都在降低，而不是完全为零。
首先，我想说“AI 2040：A计划”是一个做得很好的演示。如果感觉就像阅读一本有旁白的互动图画小说。等不及书、系列或电影了:)
A 计划似乎是一个良好的开始，我很高兴实际上正在努力解决任何潜在的危险。我认为唯一的薄弱环节是，无法对交通不便的第三世界国家、不结盟国家和恶意的富有的流氓特工进行监管。我所听到的只是一种监管公司的方法，这些公司本身在法律上必须对其东道国负责或受其约束。基本上，我看不出有什么办法可以让不结盟国家承担责任。
我看到很多人都关注人工智能的福祉和保护，这对国家经济很重要，但是，那些受到裁员影响的人（不一定是由于人工智能），加上现在感受到人工智能烧伤负面后果的劳动力，他们的担心是有道理的。任何觉得有必要批评他们的人，显然都没有以同样的方式受到人工智能的影响。失业将导致经济和人口不稳定，这比现代发生的任何事情都要严重得多。希望那些现在受到挤压的人不会被忽视。
A 计划似乎是一个良好的开始，我很高兴实际上正在努力解决任何潜在的危险。我认为唯一的薄弱环节是，无法对交通不便的第三世界国家、不结盟国家和恶意的富有的流氓特工进行监管。我所听到的只是一种监管公司的方法，这些公司本身在法律上必须对其东道国负责或受其约束。基本上，我看不出有什么办法可以让不结盟国家承担责任。
我看到很多人都关注人工智能的福祉和保护，这对国家经济很重要，但是，那些受到裁员影响的人（不一定是由于人工智能），加上现在感受到人工智能烧伤负面后果的劳动力，他们的担心是有道理的。任何觉得有必要批评他们的人，显然都没有以同样的方式受到人工智能的影响。失业将导致经济和人口不稳定，这比现代发生的任何事情都要严重得多。希望那些现在受到挤压的人不会被忽视。
这遵循经典的人工智能政策影响手册：列举一小部分潜在结果，使您首选的政策看起来显然是正确的，而忽略了这样一个事实，即实际上有无数可以合理预测的“计划”将支持截然不同的政策处方。
这完全是一个滑坡。始终建立在无限指数增长的假设之上。但每个指数在某个点都是 S 型曲线。
每当我遇到这些人时，我都会想起一个关于婴儿的模因，这个婴儿三个月后的体重是他出生时的两倍。按照这个增长速度，到 10 岁时他的体重将达到数万亿磅。
但是，这种空洞的陈词滥调并不能带来什么，对吗？它不能为你的选择或决定提供依据？它只是一种丧失力量的想法？
今天，他们正在买下所有的内存。你是否认为 "这样很好，因为在崩溃后的 5 年里，我可以买到一些便宜的内存"？如果每个有钱人的赌注都不一样，你是否掌握了一些他们不知道的信息，还是整个经济正在从你身边溜走？
你今天所体验到的奢侈品，是 1000 年前的国王都买不起的。当然，只要价格合适，就能立即获得通讯、食物和药品。
消费经济曾经辉煌一时，但现在已经结束了。我们有机器可以完成有用的机械工作（发动机）和有用的智力工作（LLM-计算机）。资本将把生产性工作从人类转移到机器上（如果我们允许的话），唯一剩下的工作将是送货司机和仓库管理员，然后这些工作也将消失。
人类人口曾呈指数增长，现在却趋于平稳，但这究竟是什么造成的？它可能回落到 10 亿甚至更少。当工作需要人的时候，供应就能与之匹配。当工作不需要人的时候呢？你可以去 "去增长 "集会上测量一下温度（以及平均年龄和儿童与人口的比例），就能了解在一个没有主题、只有空洞说教的悲观世界里，未来的供求关系会是怎样的。在你的家乡，他们是在关闭小学还是在修建小学？
今天，他们正在买下所有的内存。你是否认为 "这样很好，因为在崩溃后的 5 年里，我可以买到一些便宜的内存"？如果每个有钱人的赌注都不一样，你是否掌握了一些他们不知道的信息，还是整个经济正在从你身边溜走？
你今天所体验到的奢侈品，是 1000 年前的国王都买不起的。当然，只要价格合适，就能立即获得通讯、食物和药品。
消费经济曾经辉煌一时，但现在已经结束了。我们有机器可以完成有用的机械工作（发动机）和有用的智力工作（LLM-计算机）。资本将把生产性工作从人类转移到机器上（如果我们允许的话），唯一剩下的工作将是送货司机和仓库管理员，然后这些工作也将消失。
人类人口曾呈指数增长，现在却趋于平稳，但这究竟是什么造成的？它可能回落到 10 亿甚至更少。当工作需要人的时候，供应就能与之匹配。当工作不需要人的时候呢？你可以去 "去增长 "集会上测量一下温度（以及平均年龄和儿童与人口的比例），就能了解在一个没有主题、只有空洞说教的悲观世界里，未来的供求关系会是怎样的。在你的家乡，他们是在关闭小学还是在修建小学？
人工智能只是一个工具。当我们不断推动意识的要求时，它将成为一种工具。因此我并不担心。几乎所有关于未来技术发展的预测都是错误的。我们没有飞行汽车、悬浮滑板、聚变、矩阵等等。我们每个人的目标都是过上更好的生活。情况总是如此，强迫人们为了一些基于滑坡的外部议程而放弃奢侈品是残酷和自私的。
我们应该被淹没、被人工智能追捕、人口过剩、被恐怖分子杀害、因我们的罪孽而被上帝惩罚等等。幸运的是，我们需要的只是我们的隐私和大量的税款才能生存。
我们应该被淹没、被人工智能追捕、人口过剩、被恐怖分子杀害、因我们的罪孽而被上帝惩罚等等。幸运的是，我们需要的只是我们的隐私和大量的税款才能生存。
去增长在全世界都是一项极不受欢迎的政策。人们甚至会去哪里寻找去增长集会呢？讽刺的是，我不得不想象那里的每个人都会在那里。
> * 他们网络关闭小学或在你附近建造小学？*
我所在的地区（爱荷华州农村）在过去 10 年里建造了几所新学校。净收益是肯定的。
> * 他们网络关闭小学或在你附近建造小学？*
我所在的地区（爱荷华州农村）在过去 10 年里建造了几所新学校。净收益是肯定的。
> 但每个指数在某一点上都是一个西格玛。
例如，放射性衰变。
例如，放射性衰变。
点已采取。但有趣的是，你给出的例子是指数衰减而不是指数增长。自然界中哪里有任何东西可以永远呈指数级增长？培养皿中的细菌呈指数倍数繁殖。直到他们不这样做。
> 为什么人工智能永远无法胜任我的工作？
由于人工智能无法保留记忆，也无法根据所有现代人工智能模型的变压器/注意力机制获得经验或洞察力，因此人工智能缺乏判断力，永远不能被信任来处理真正关键的决策责任。此外，人工智能代理缺乏任何身份概念，因此肯定无法获得法人资格，也不会被起诉或解雇，或拥有财产。我认为，人工智能带来的倦怠、网络安全、隐私权的丧失，甚至环境问题，远比人工智能的对准或大规模劳动力转移的前景更令人担忧，也更真实。
由于人工智能无法保留记忆，也无法根据所有现代人工智能模型的变压器/注意力机制获得经验或洞察力，因此人工智能缺乏判断力，永远不能被信任来处理真正关键的决策责任。此外，人工智能代理缺乏任何身份概念，因此肯定无法获得法人资格，也不会被起诉或解雇，或拥有财产。我认为，人工智能带来的倦怠、网络安全、隐私权的丧失，甚至环境问题，远比人工智能的对准或大规模劳动力转移的前景更令人担忧，也更真实。
> 由于人工智能无法基于为所有现代人工智能模型提供动力的变压器/注意力机制来保留记忆或获得经验或洞察力，因此人工智能缺乏判断力，并且永远不能被信任来处理真正关键的决策职责。
有多个团队致力于为人工智能添加长期记忆。这不是一个根本问题。
有多个团队致力于为人工智能添加长期记忆。这不是一个根本问题。
对我来说，这听起来像是另一个中国人的意见；要确保中国人遵守规定，很难执行或检查。
听着，我很害怕我们的未来，但我看不出我们如何能改变困境，走向相互合作，除非像人类通常做的那样，只有在真正糟糕的事情发生后才会做出大规模反应。
听着，我很害怕我们的未来，但我看不出我们如何能改变困境，走向相互合作，除非像人类通常做的那样，只有在真正糟糕的事情发生后才会做出大规模反应。
> 确保中方遵守规定将难以执行或检查
考虑一下苏联与美国冷战时期的 SALT 条约和其他条约。
考虑一下苏联与美国冷战时期的 SALT 条约和其他条约。
我建议大家认真阅读他们的建议，因为他们深入探讨了中美两国如何以不可信/可审计的方式解决这一问题。简而言之，基本上所有相关的计算都可以被跟踪。
什么相当准确？所以现在 OpenBrain 有了一个 Agent-1，能让他们的算法进步比其他公司快 50%？如果是 CVE 多了 50%，那还算好的，但我怀疑是否能实现任何有意义的自我改进，而这正是 2026 年预测的核心。
我想知道。在分散训练运行方面已经取得了一些进展。
是的，Cognition 的研究在这方面很有意思，但它仍然无法消除对芯片的需求，只是在芯片分布在多个数据中心时，可以对芯片进行训练。
据 A 计划提案估计，由于销售公司为数不多，与人工智能相关的计算硬件中约有 96% 的所有权可以被追踪。
据 A 计划提案估计，由于销售公司为数不多，与人工智能相关的计算硬件中约有 96% 的所有权可以被追踪。
我怀疑我们甚至无法追踪所有的芯片生产能力。
我觉得我们最终会有一个同样让所有人失望的未来，而这里的任何计划都没有涉及到这一点。
People overestimate progress in physical world.
2035:
robot population will soon be larger than the human one
I'd bet that in most places 9 years is about the time needed to build a residential building. I think a good way to think about this is to think of this as producing a serial car. From pitching and capital acquisition to building a prototype to software, regulatory and then the final product which needs multiple factories and supply chains. Yes, of course robots sound cooler and there are compounding effects yada yada, but on the other side there are as many obstacles as things that accelerate this product (like capital acquisition and fearmongering of gov to bend regulatory stuff faster).
I'd bet that in most places 9 years is about the time needed to build a residential building. I think a good way to think about this is to think of this as producing a serial car. From pitching and capital acquisition to building a prototype to software, regulatory and then the final product which needs multiple factories and supply chains. Yes, of course robots sound cooler and there are compounding effects yada yada, but on the other side there are as many obstacles as things that accelerate this product (like capital acquisition and fearmongering of gov to bend regulatory stuff faster).
我的意思是，什么是机器人？如果将所有吸尘器、3D 打印机和洗碗机加起来，这可能接近或超过人口数量。
这是危险的天真和误导。他们声称希望避免集中控制，但提议建立一个人工智能监管的世界警察国家。政府施加如此多的控制只会以战争和暴政告终。
> 政府如此控制只会导致战争
详细说明。
详细说明。
如果技术的生产和分配仅限于一两家公司，那么这两家公司以及由此产生的权力，就会使它们成为事实上的世界政府。(民主选择可能是一场闹剧，但在网络上却是一种有用的摩擦）。
如果他们拥有所有的 RAM、机型和工作手段，那么你就只能任由他们摆布。他们会买下所有的内存，让你一无所有，然后买下所有的运输工具，再买下所有的电力。你将会像阿米什人一样被排除在当前经济之外，而它的插头也会被拔掉。
逐渐丧失权力是现在的默认计划。战争和暴政并不是最坏的情况。比起被变成牲畜，我更愿意接受布特勒圣战。
试想一下，如果有两类人，如何求得平衡？一种需要农业用地和 20 年的时间才能成为个体生产力，在娱乐饱和的环境中勉强维持健康的人口。第二类只吃电，第一天就可以工作。第 1 轮肯定是最强的大猩猩胜出，第 100 轮呢？
如果法学硕士乘坐宇宙飞船来到地球，你会欢迎他们进入你的工作和家庭吗？
如果他们拥有所有的 RAM、机型和工作手段，那么你就只能任由他们摆布。他们会买下所有的内存，让你一无所有，然后买下所有的运输工具，再买下所有的电力。你将会像阿米什人一样被排除在当前经济之外，而它的插头也会被拔掉。
逐渐丧失权力是现在的默认计划。战争和暴政并不是最坏的情况。比起被变成牲畜，我更愿意接受布特勒圣战。
试想一下，如果有两类人，如何求得平衡？一种需要农业用地和 20 年的时间才能成为个体生产力，在娱乐饱和的环境中勉强维持健康的人口。第二类只吃电，第一天就可以工作。第 1 轮肯定是最强的大猩猩胜出，第 100 轮呢？
如果法学硕士乘坐宇宙飞船来到地球，你会欢迎他们进入你的工作和家庭吗？
> 如果技术的生产和分销仅限于一两家公司
仅在美国我们就已经拥有至少 5 家公司。你的整个前提都是错误的。
仅在美国我们就已经拥有至少 5 家公司。你的整个前提都是错误的。
> 然后，在 2030 年代中期，他们的人工智能停留在人类顶级天才水平左右。
他们是美国和中国，并且是经过协议的。
这将是理想的，但要克服人性，摆在桌面上的钱太多了。
所以我希望我们自然地达到某种极限……一厢情愿的想法？
他们是美国和中国，并且是经过协议的。
这将是理想的，但要克服人性，摆在桌面上的钱太多了。
所以我希望我们自然地达到某种极限……一厢情愿的想法？
......与此同时，人们看着自己的人工智能账单，意识到代币并不值钱。 前沿是降低成本，而不是提高智能。
为什么 Scott Alexander（原始 AI 2027 论文的作者之一）没有加入/贡献这篇文章？
嘿，作者来了！斯科特确实做出了贡献，但比以前少了。
他在博客中表示：“我为《AI 2027》写了很多文章，并被列为合著者。我的一些文章也被纳入 A 计划，但数量要少一些。区别在于程度而非种类，但正因为如此，为了给我更多的自由度，以我喜欢的方式讨论它，减少公关上的阻力，我们决定这次不让我作为合著者。我仍然为能参与其中而感到自豪，尽管可能很小。（相关：所有内容）这篇文章仅代表我的观点，并未得到人工智能未来项目的正式认可）”
他在博客中表示：“我为《AI 2027》写了很多文章，并被列为合著者。我的一些文章也被纳入 A 计划，但数量要少一些。区别在于程度而非种类，但正因为如此，为了给我更多的自由度，以我喜欢的方式讨论它，减少公关上的阻力，我们决定这次不让我作为合著者。我仍然为能参与其中而感到自豪，尽管可能很小。（相关：所有内容）这篇文章仅代表我的观点，并未得到人工智能未来项目的正式认可）”
我想知道他们是否再次重复计算了 SpaceX 旗下 Anthropic 从 SpaceX 租用的产能。
相关帖子：A 计划简介
https://www.astralcodexten.com/p/introducing-plan-a
https://www.astralcodexten.com/p/introducing-plan-a
别再把 "P "塞进 "AI "里了。
不，管它。我不会等那么久。到 2040 年我就 61 岁了。我希望人类能够早日实现临床永生。
此时感觉有点像聚变力量，总是指日可待。
作者对该技术做出了哪些您不相信的预测？
ai-2027.com》中有很多可证伪之处，而且他们也并非事事正确。但有些事情他们还是说对了：例如，五角大楼已经援引出口管制来限制前沿模型的部署。而在最初的设想中，这种程度的政府监督要到 2027 年才会出现。
ai-2027.com》中有很多可证伪之处，而且他们也并非事事正确。但有些事情他们还是说对了：例如，五角大楼已经援引出口管制来限制前沿模型的部署。而在最初的设想中，这种程度的政府监督要到 2027 年才会出现。
代理-1 无法实现自我改进。当然，人工智能实验室里的人可以用人工智能编写 python 代码，但我怀疑这是否能使训练的算法效率提高 50%。编写 python 代码从来不是瓶颈，如果是的话，人工智能实验室可以雇佣更多的人来做这件事。而这正是预测的核心所在。
在我搜索 "人工智能采用率 "时看到的图表中，法律硕士的采用率为 30%。 举个能力的例子：克劳德曾在 30 分钟内一枪命中一个能学会连接四个人的 RL 代理。这可是博士水平的东西。
LLMS 已经有 4 年历史了，而销售 LLMS 的公司每年都要翻 10 倍。你能举出什么证据？你能让无利害关系的第三方相信你除了应付之外还有别的本事吗？世界上有哪些事实让你认为这只是新的（可能是暂时的）常态？
LLMS 已经有 4 年历史了，而销售 LLMS 的公司每年都要翻 10 倍。你能举出什么证据？你能让无利害关系的第三方相信你除了应付之外还有别的本事吗？世界上有哪些事实让你认为这只是新的（可能是暂时的）常态？
更多疯狂的猜测，现在随着一厢情愿的想法蔓延开来。
丹尼尔和作者们的工作非常出色。4.7 万字的增补部分是一个巨大的阅读量（和重读量），也是一个更大的思考和写作量。
我的早期分析
https://lifearchitect.substack.com/p/the-memo-special-editio...
我的早期分析
https://lifearchitect.substack.com/p/the-memo-special-editio...
[1] https://ai-2027.com/