人工智能不是外星人，而是我们自己
微wx笑
2023-04-03【人工智能】
0
0关键字：
人工智能 AI
我们已经拉开了智能本身进化的序幕。1945年，第一台可编程的通用电子计算机ENIAC可以执行四百个FLOPS，即每秒四百次浮点运算，其中一个运算是，例如，两个数字的乘法。近80年后的2022
我们已经拉开了智能本身进化的序幕。
1945年，第一台可编程的通用电子计算机ENIAC可以执行四百个FLOPS，即每秒四百次浮点运算，其中一个运算是，例如，两个数字的乘法。近80年后的2022年，最快的超级计算机可以执行1.1 exaFLOPS，也就是每秒刚刚超过五亿次运算。
一旦你有足够的原子，你就开始做化学，一旦你有足够的分子，你就开始做生物学，而一旦你有五亿个FLOPS，你就开始做人工智能。我们正在进入智能本身的进化时代，人工智能将没有我们生物学的限制，它将不受制于我们的进化历史，它将没有我们人类大小的头骨的物理限制，它将不限制于我们的感官、直觉或记忆。在可能的智能体的广阔空间中，新的居住者将开始出现，一次一个居民。
在过去的一年里，人工智能艺术和ChatGPT极大地改变了我对人工智能在我有生之年可能变得多好的感觉。有时，人工智能的突破听起来令人印象深刻，比如DeepMind的AlphaGo在2016年击败了世界围棋冠军选手，或者他们的AlphaFold在2021年预测了蛋白质的折叠，但大多数人没有专业的领域知识来完全欣赏这些成果。相比之下，人工智能艺术和ChatGPT是主流；我个人和我们中的许多人一样，对它们进行了大量的实验。这些系统引起了很大的轰动，因为它们在做什么方面出乎意料地有效，而且因为有这么多人尝试过，所以嗡嗡声一直很强烈，而且持续不断。
为人工智能艺术领域提供动力的三个独立的人工智能系统，即DALL-E 2、Midjourney和Stable Diffusion，都在2022年发布。这三个系统都能根据文字提示生成新颖的图像，而且都能创造出引人注目的、美丽的、有创意的艺术作品。此外，充满活力的人工智能艺术社区本身也很有创造力，不仅产生了无穷无尽的令人印象深刻的图像，而且不断发明新的技术和工具。然而也有争议；一些传统艺术家感到被欺骗和不被尊重--这种讨论正在进行。
11月30日发布的ChatGPT的领域是文本而不是图像。ChatGPT可以在几乎任何话题上产生流畅的语法反应，但它确实有一些严重的缺陷，比如有幻化虚假信息的倾向。OpenAI很谨慎地表示，ChatGPT只是一个 "研究预览"。即便如此，与它互动的体验是如此的新颖和引人注目，以至于ChatGPT立即走红；OpenAI仅在五天后就获得了一百万活跃用户，使其成为有史以来最快速采用的产品之一。ChatGPT给许多人敲响了警钟： 人工智能突然变得很好。
人类水平的生成性人工智能的存在是一个历史性事件。自大约5万年前的马特拉维索洞穴壁画以来，人类一直在有目的地创造图像，而我们已经有超过5000年的写作历史。然而，直到最近几年，如果你看到人类水平的图像或文字，你就知道它们是人类创造的。今天，这不再是事实，而且它只会变得更奇怪；生成性人工智能很快就会产生各种类型的媒体：图像、病毒视频、电影、剧本、小说、诗歌、音乐、视频游戏等等。
尽管取得了巨大的进步--或者也许是因为它--人们对2022年的人工智能成就的反应是复杂的。一些人欢迎人工智能正在创造的未来，而另一些人则表示严重关切，甚至焦虑、惊恐和恐惧。第一个担忧似乎是，人工智能会取代我的工作吗？这个问题的明显推断是，人工智能会接管每个人的工作吗？即使政府给了我们一个普遍的基本收入，我们如何找到没有工作的意义和目的？如果我们没什么可做的了，人工智能还会要我们吗？他们会不会把地球变成一个自然保护区，迫使我们回到自给自足的农业，并把我们作为宠物养在一个横跨全球的水族馆里，而人工智能则探索星星？
我认为这些担忧是合理的，但我乐观地认为，人工智能的优势可以大大超过其缺点和风险。我相信，如果我们深思熟虑，勤奋努力，我们可以远离可怕的结果。人工智能有可能改善人类的每一项工作，因为我们所关心的一切都需要智能。人工智能将导致能源、制造、运输、资源管理、贫困、健康、医药、教育、科学、太空探索、政治、娱乐等方面的巨大和持续改善。此外，我对人工智能是不可避免的这一事实感到非常欣慰；我们不可能选择一个没有人工智能的未来，就像我们不可能让人类采用电力或室内管道。过渡期已经开始了--所以我们不妨集中精力，尽我们所能地管理它。
我们没有预先存在的人工智能的心理类别，这是一个复杂的问题。据我们所知，人类是宇宙中唯一具有人类水平智慧的生物，所以我们只是不确定如何看待一个不是人类的人类水平智慧。人们建议我们把人工智能看成是外星人，但对我来说，这样做的基调是错误的，它让我们把人工智能看成是神秘的，甚至是有威胁的和可怕的。相反，我会把人工智能等同于我们在地球上拥有的东西，这种东西本身就是超级智能，我们已经对它有了深刻的了解：有组织的人群。
想象一下热门电视节目的编剧室，汗流浃背的文字工作者一次次敲打着剧本。想象一下，一个经验丰富的摇滚乐队在长期巡演的尾声，期待着对方的每一个音乐变化。想象一下，一个有20名员工合作到深夜的敏捷的创业公司，或者一个有10万名工人为数十亿客户服务的强大的跨国大公司。想象一下一所大学、一家伟大餐厅的繁忙厨房、一家医院的急诊室、一支冠军运动队、一个营的士兵，或者整个国家。我们在小型和大型团体中的协调能力是我们这个物种的决定性特征之一，与这些团体互动或成为其中一员是人类经验的核心。
因此，当我们看到人工智能做一些 "超人类 "的事情时，我们应该想象一个由人组成的团队--可能是两个人或二十万人。我们还应该考虑持续时间；想象这群人工作一分钟、一小时或一百年，取决于任务。在所有情况下，这不是魔术；这是大量的艰苦工作被压缩到少量的时间和空间。此外，当你要求人工智能做某事时，所涉及的许多工作已经发生了，它发生在人工智能被训练时。训练一个大型人工智能需要惊人的计算量，但一旦人工智能被训练出来，随后对人工智能的每一次使用都会利用这些相同的工作。
当然，我们可以并将把人工智能编程为个人，作为人或类似人的实体：一个聊天伙伴、一个顾问或一个朋友，但这将只是一种行为。在电影《她》中，人工智能由斯嘉丽-约翰逊（Scarlett Johansson）配音，她承认她与华金-菲尼克斯（Joaquin Phoenix）的角色的关系并不专一，她在与成千上万的人交谈。人工智能可以假装是一个个体，但它实际上是一个由人类创造的庞大复杂的软件系统。总而言之，数以百万计的人类为开发系统的数学基础和对前述软件的编程做出了贡献。然后是训练数据；我们在越来越大的训练数据堆上训练现代人工智能，从数十亿的独立文件、数百万小时的视频和音频中给它们提供PB级的文本和图像。人工智能训练数据集已经变得如此之大，以至于我们正在接近用一切东西训练人工智能的地步；我们很快就会用人类在整个历史上产生的一切东西来训练它们。
AI不是外星人；它们是由人类构思和建造的，并根据人类收集的工作成果进行训练，所以AI比人类更像人类；它们是浓缩和压缩的人类。很快，我们将开始把由此产生的混合物注入每个人的静脉，每剂只需几分钱，让我们所有人都拥有整体的力量。任何持续时间足够长的文明都会创造出同样的技术，这实在是太明显、太有效了，而且我们现在知道它是可以实现的。
我发现人工智能的不可避免性令人欣慰。科技巨头们并没有把我们踢来踢去地拖入这个未来，把我们带到一些随机的切入点。相反，是进化把我们带到了这里，也是进化在推动着我们前进。我所说的进化，是指更广泛的渐进式变化的力量，我们在基于DNA的生命的生物进化中看到，但也在许多其他形式中看到。物理学演变为化学，化学演变为生物学；生物学演变为人类，人类创造了语言和文字，这导致了人类文化，这种文化立即开始比生物学更快演变。这种文化的演变产生了技术，而技术最终导致了电子数字计算机的产生，而电子数字计算机也立即开始演变，由我们的手。
人类第一次提出使用大脑启发的人工神经网络的想法是在1943年，在军队完成ENIAC的两年前，但事实证明传统计算机更容易建造和编程，所以我们在二十世纪的其余时间里把注意力集中在它们身上。但这样做的效果非常好，因为我们在传统计算机的基础上共生地建立了现代人工智能；我们利用了传统的软件基础设施并使用了许多相同的硬件。我们在建造常规计算机时并没有偏离轨道，这是一个必要的引导过程，但现在看来，这个引导已经被充分地束缚了。
今天的人工智能的核心是人工神经网络，这些数学构造的灵感来自于我们大脑的结构和组织，这种结构和组织是生物进化的结论，是使用肉体进行计算的最佳方式。一个脑细胞由100万亿个原子组成，被塑造成极其复杂的分子机器，相互间的物理作用产生了该神经元的行为。人工神经网络用连接两个神经元的每个突触的单一浮点数字取代所有这些复杂性，这些数字是人工智能模型的 "权重 "或 "参数"。
到2022年底，我终于从骨子里感觉到，这种对大脑线路的卡通式的简单模仿可以和真实的东西一样有效，尽管它包含了生物大脑复杂性的一小部分。人们正确地批评了大型语言模型，如ChatGPT，说他们没有真正的理解，我同意。而且他们声称仅仅是扩大网络的规模不会永远有效，我也同意。但是有一个直截了当的方向：我们需要创建许多不同的人工神经网络，并将它们连在一起。我们可以将我们的大脑分为多达180个不同的区域；这些区域沿着不同的进化路径为不同的目的而进化。人工智能的未来是建立并迭代这些单独的区域，改进和优化各个部分，然后迭代通过组装这些区域创建的更大的架构，我们将在人工智能的协助下完成所有这些工作。其结果将是几十到几百个不同的训练有素的神经网络，连接在一起，作为一个紧密的系统运行，在每个领域都有人类水平或远远超过人类的表现。
用强大的人工智能来填充我们的宇宙，其风险如何？即使没有人工智能，人类已经有许多生存风险：核战争、气候变化、自然和工程病原体、政治两极化、法西斯主义、领土争端、恐怖主义、小行星撞击、超级火山，等等。更糟糕的是，简单地将人工智能添加到该列表中并没有抓住问题的严重性，因为人工智能将加速和加剧其他风险。想象一下，一个民族国家花费数十亿美元购买人类水平的人工智能，以入侵其他国家，干涉他们的选举，并破坏其经济稳定。想象一下，人工智能帮助一个流氓国家制造核武器，或者指导他们如何设计和部署一个噩梦般的病毒。想象一下恐怖分子与人工智能进行头脑风暴，一个能给他们详细指示如何以最少的努力造成尽可能多的混乱的人工智能，一个能每天提供新的新想法的人工智能，永远。
播客主持人蒂姆-费里斯提倡一种他称之为 "恐惧设定 "的练习，这包括认真考虑你能想象到的最坏情况。这个最坏的情况会有多糟？如果最坏的情况发生，你到底会怎么做？关于我们这个物种最重要的统计数字之一是我们的最小可存活人口，即可以重新建立起数百万人口的最小人数。这个问题主要是遗传学的问题：需要有足够的人以避免近亲繁殖，也需要有足够的人以对抗遗传漂移的影响，即基因频率的随机变化。但也需要有足够的人去区分劳动，以允许专业化，从而使人们能够自由地进行创新和发明，并足以使我们免受疾病或内讧造成的损失。
对我们的最低生存人口的较高估计是500人。在关于火星殖民的讨论中出现了最低可行人口；例如，我们要送多少人去那里生活？或者你需要派多少人进行多代人的太空旅行？从历史上看，这个数字使我们能够作为一个物种在夹缝中生存，看到我们的人口在惩罚性的咒语中减少，与世隔绝，没有食物，用我们的指甲抓着生存，最后，在冰川中，人口恢复到健康的规模。这个最低数量是至关重要的；如果我们的最低可存活人口要多得多，我们可能就不会有今天了。
假设这些灾难性的情况之一发生了，人类失去了99%的人口；这将使我们从80亿人减少到大约8千万人。但让我们把它变得更糟糕，更糟糕。在第一次打击之后不久，让我们假设我们遭受第二次灾难性事件，造成另一个99%的损失，连续两次重大灾难。我们已经从八十亿人下降到只有八十万人。你可以看到这将会发生什么。将会剩下多少个500人以上的不同群体？这取决于幸存者的地理分布；可能是一个八十万人的团体，也可能是多达1600个小团体，每个团体有大约500名成员。很可能是在中间的某个地方：几百个独立的团体。好消息是，如果这些幸存的群体中，只有一个群体能够抓紧时间恢复正常的文明，那么人类就会生存下来；它将克服这种双重99%的损失，最终重新崛起。
让我们把这种灭亡和重生的循环称为 "软重启"，我们能承受多少次软重启？最近的估计表明，地球可能至少还要保持17.5亿年的可居住性，但为了保守起见，我们只允许1亿年的软重启，我们马上就会看到原因。一个软重启需要多长时间？再次保守起见，让我们假设它需要一万年，大约是我们目前记录的历史长度。在一个近乎灭绝的事件之后，我们会给我们一万年的时间来重新建立现代社会。对于许多灾难，如致命的病毒，以前的文明的物质基础设施将完好无损，但不清楚这是否会帮助或损害重启的时间，所以我们将保持平均1万年。
这意味着在一亿年内，我们可以循环进行一万次软重启，每次持续一万年之久。我希望人类第一次就把事情做对，但很高兴知道我们有时间进行迭代，相当多的时间。但是如果我们的人口真的归零了呢？那将是一次艰难的重启，我们必须等待一个具有人类水平的物种重新进化。我们会给它1亿年的时间，这使我们回到我们自己的白垩纪-古生代大灭绝事件之前，该事件消灭了恐龙。当然，谁知道这次自然选择会进化出什么物种，或者它将有多大的智能，但1亿年是一个相当大的时间。而且它可能需要更少的时间，因为黑猩猩、大象、海豚和鲸鱼可能正在等待这样的灾难。耐人寻味的是，Silurian假说询问我们在过去是否会有一次艰难的重启，但他们的结论是可能没有。
如果我们还有17亿年的宜居地球，我们有时间进行10000次软重启和16次硬重启。考虑到这一数量的跑道，我们需要玩长期游戏，这意味着最重要的事情之一是从我们的错误中学习，从我们一般的经验中学习，并保存这些知识以帮助未来的迭代成功。例如，我们可能会决定一个强大的社会从第一天起就需要彻底的去中心化，也许我们会要求地球上每一百平方英里的区域都能自我维持。也许这就是我们需要在下一次重启后烙在我们社会DNA中的东西。或者，我们将禁止枪支，并在医疗保健和教育方面花费更多。我们的经验教训将取决于什么样的灾难把我们带下去。
但如果没有重启呢？一个毁灭性的结果是，如果人工智能接管并故意消灭我们，或者它在追求其他目标时偶然抹杀我们。我们必须不惜一切代价避免这种情况，因为这可能意味着我们不会有第二次机会。尼克-博斯特罗姆在他2015年出版的《超级智能》一书中详细介绍了人工智能的安全性： 路径、危险、战略。
然而，无论我们多么小心，我们都不可避免地要与恶意的人工智能作斗争，因为有些人类会故意创造它。有人或某些国家总是想破坏世界的稳定或推翻世界其他地区。对恶意人工智能的补救措施是防御性人工智能。如果你想拆掉我的电网，我需要人工智能来保卫我的电网，对其他所有脆弱的资产也是如此。但似乎僵局不可能永远持续下去；如果我们必须走一条无限长的钢丝，我们最终不会倒下吗？通配符是一个充满超级智能的人工智能的世界可能是如此奇怪，任何试图对其进行推理的努力都是没有结果的。也许到时候，人工智能会交给我们一个解决方案，而我们的任务只是为了生存足够长的时间来实现这一目标。另外，我们必须记住，部分信用是适用的。如果我们能把人工智能的启示推后几十年，甚至几年，那将增加数十亿人年的人类生产生活，所以我们必须尽力而为，即使最后还不够。
换个角度，想象一下你在深夜为一个项目完成一个复杂的视频。当准备导出视频时，你选择了文件名项目。视频导出后，你看了 "最后一次"，但你很快发现了一个错误。你编辑了时间线以修正错误，并第二次导出视频。你不想覆盖第一次导出的文件，所以你用了一个新的名字。但随后你又发现了另一个错误，然后又是另一个。
人们常常以幽默的文件名进展而告终：
项目
项目-最终
项目-最新的
项目-最新-固定
项目-最新-补充-这一个
我在这条路上走得够多了，所以我倾向于给我的导出的文件编号：
项目-001
项目-002
项目-003
项目-004
项目-005
这是一个微小的差异，但编号方案避免了天真的假设，即第一个出口将是最后一个。相反，使用数字拥抱了我们正在迭代的现实：创建一个版本，从中学习，然后创建下一个版本，一次又一次。
数字化的命名方案让我想起了视频游戏中的保存点。在许多游戏中，如果你死了，你会在最后的保存点重新开始。如果一个关卡很难，你可能要重玩该部分的游戏几十到几百次，只有在你学到了足够的知识和进步后才会有进展。在某种程度上，这让人想起了轮回的概念：你利用前世的经验来帮助你在今生有更好的表现。
在玩电子游戏时，你从重复的循环中挣脱出来的那一刻是崇高的；你超越了以前的最好成绩，进入了你从未见过的领域。突然间，你进入了一个新的世界：故事是新的，敌人是新的，你收集的物品是新的，艺术和音乐可能是新的，而前进所需的策略是新的。这不再是排练过的表演；这不是罐头，也不是重播：这是真正的现场。这个阶段的游戏是令人激动的，因为你在对新的情况作出时刻的反应；这是纯粹的游戏，而且它更特别，因为你知道它随时都可能结束。
今天，我们都在那个崇高的阶段，一起：我们以前从未走到这一步，我们以前从未走过这条历史之路，我们从未建立过我们即将建立的AI系统。我们正以每小时一百五十英里的速度驶向未知领域，这令人振奋；然而，让我们密切关注，让我们尽可能多地学习，让我们认真做笔记，并把它们储存在安全的地方--以防我们不得不重新做一遍。
转译自：https://metastable.org/alien.html
本文为转载文章，版权归原作者所有，不代表本站立场和观点。
上一篇：Chatgpt的前世今生
