“这不仅仅是一场工业革命，最终将超越人类和生物学！”AI来袭，人类还有生存空间吗？
当地时间5月30日，非营利组织“人工智能安全中心”（Center for AI Safety）在其官网发布一封联名公开信，称减轻AI（给人类）带来的灭绝风险应成为全球性的优先事项，与大流行病及核战争等其他影响社会的大规模风险处于同等级别。目前已有350位AI大佬签署了这封联名公开信，包括OpenAI首席执行官Sam Altman、谷歌DeepMind首席执行官Demis Hassabis和Anthropic首席执行官Dario Amode三大AI公司掌门人以及图灵奖获得者、被誉为人工智能“教父”的Geoffrey Hinton和Yoshua Bengio。
在此之前，Sam Altman等人也发表文章称，超级智能技术带来的潜在利益和风险将比过去任何其他技术更加巨大。“在未来几年内，AI系统将在大多数领域超越专家技能水平，并开展尽可能多的生产活动。”
《每日经济新闻》记者近期对一系列行业开展调查后发现，AI已经广泛应用于电商、游戏、留学等行业，并给部分职业造成了巨大冲击。
在此背景下，越来越多的人呼吁对AI行业进行监管。“现在是一个开始思考超级智能（superintelligence）监管的良好时机——未来的 AI 系统将比 AGI 都要强大。”Altman等如此说道。
在这场轰轰烈烈的技术浪潮中，人类应该如何应对？全球政府又该如何防范AI失控？每经独家采访了在国际AI领域享誉盛名的“深度学习之父”Jürgen Schmidhuber、IBM AI伦理全球负责人Francesca Rossi，以及加州理工学院电气工程和计算机科学教授Yaser S． Abu-Mostafa，探讨人类应当如何建立一个人机共存的世界。
“这不仅仅是一场工业革命”
自ChatGPT诞生以来，人类无不叹服于AI的强大，甚至许多人认为，《终结者》和《黑客帝国》中上演的场景或将在未来成为现实——硅基生物将主宰碳基生物。
《人类简史》作者Yuval Noah Harari近期也发表了一场演讲，暗示了这样的可能性，“AI可能会改变生态系统的含义，因为在地球存在的40亿年里，生态系统只包含有机生命形式。而现在，或者说不久的将来，我们可能会看到第一种无机生命形式出现，或者至少是无机代理的出现。”
他表示，在科幻场景中，AI要构成对人类的重大威胁有两个前提，即AI必须变得有感知力，发展出意识、感情和情绪，并且必须擅长在物理世界中导航。然而，当下的情况是，AI不需要意识就能威胁到人类文明的生存。
在Harari看来，当前我们身处的AI革命进程最重要的一个方面是，AI正在以超越普通人平均能力的水平掌握语言。通过掌握语言，人工智能正在获得通往所有机构之门的主钥匙，可以说，AI破解了人类文明的操作系统。“通过掌握语言，AI还能与人建立深入而亲密的关系，利用亲密的力量影响我们的观点和世界观。”他说道。
“从长远来看，AI将改变我们文明的方方面面。一切都会改变，这不仅仅是另一场工业革命。”被誉为“深度学习之父”、瑞士AI实验室IDSIA的科学事务主管Jürgen Schmidhuber告诉《每日经济新闻》记者。
“每5年，计算成本就会降低10倍。照这种指数趋势，可以初步预测，21世纪将出现‘廉价’计算机，其原始计算能力是所有人类大脑总和的一千倍。很快，数百万、数十亿和数万亿这样的设备也会涌现，几乎所有的智能体都能超越人脑。这是一种新事物，最终将超越人类，甚至超越生物学。”他进一步说道。
Schmidhuber于1997年提出的LSTM（长短期记忆网络）现广泛应用于谷歌翻译、苹果Siri、亚马逊Alex等应用，是深度学习领域商业化最强的技术之一；而他提出的具有线性化自注意力的 Transformers架构也是后来ChatGPT诞生的基础。
对于AI在人类社会中扮演的角色，国际机器学习权威学者、现加州理工学院电气工程和计算机科学教授Yaser S． Abu-Mostafa表示，“AI可以且应该继续从属于人类，从长远来看将对我们大有裨益。例如，在医学领域，AI正在取得革命性的进步，这将对我们的生活和我们的生活质量产生深远的积极影响。”Abu-Mostafa也是神经信息处理系统大会的创始项目主席，该会议在机器学习领域独具权威性。
这一点，Schmidhuber同样深信不疑，“在AI的快速发展中，个人和组织将以多种方式获益匪浅。”
“抢饭碗”？阵痛之下也有机会
在更广泛的讨论中，大部分人对AI的恐惧更多来源于汹涌的“AI替代人工”之说。
3月份，OpenAI和非营利性研究实验机构OpenResearch，以及宾夕法尼亚大学合作发表的一篇论文称，约八成的美国劳动力可能至少有10%的工作任务受到大型语言模型引入的影响，而约19%的工人可能会看到至少50%的工作任务受到影响。高盛此前也曾在一篇报告表示，AI革命可以取代3亿欧美白领岗位，受影响最大的是法律和行政工作，而建筑师、工程师也有被淘汰的危险。
实际上，在《每日经济新闻》的系列调查报道中，我们发现，AI的出现挤压了许多打工人的空间，例如跨境电商领域的文案、翻译、模特，游戏行业的原画师，留学教育机构的文书工作者等。
但值得注意的是，同样受益于AI的发展，各行各业的效率得以大幅提升。以跨境电商为例，有受访者告诉每经记者，借助ChatGPT等AI工具能在10分钟内完成以前需要花数万元成本做的事情，在今年3~4月，其公司业绩额相比去年同期的增幅超过200%。
科研人员的数据也说明了这一点。据斯坦福大学和麻省理工大学对一家世界500强软件公司客服人员长达一年的研究，生成式AI对工作效率的提高平均为14%，而技能生疏的新员工获益最大，效率提升了35%。
关于AI是否能够替代人工，也逐渐有了更多不同的声音。德银最近发布的报告中表示，历史证明AI最终会创造而不是破坏工作，AI浪潮下新增就业机会多于被它取代的岗位。
“我在80年代曾经说过，预测哪些工作会消失很容易，但很难预测哪些新工作会被创造出来。值得注意的是，人均机器人(15.680, 0.00, 0.00%)数量较高的国家，失业率反而相对较低，因为（借助新技术）创造了许多新工作。”Schmidhuber告诉记者，“30年前，谁又能预料到现在这么多人做视频博主赚钱呢？”
《经济学人》近期发表的名为《你的工作可能将不受AI的影响》一文中的观点与此不谋而合。报道中提到， 2013年，牛津大学曾发表过一篇被广泛引用的论文，指出自动化可能会在接下来的十年左右消灭47%的美国工作岗位。但实际发生的事情让人们大吃一惊，在过去十年中，发达国家的平均失业率大约减半，工作年龄人口的就业比例处于历史最高水平，日本、新加坡和韩国等自动化和机器人技术普及率最高的国家失业率反而最低。
在谈到AI未来将在人类社会中扮演的角色时，IBM院士、AI伦理全球负责人Francesca Rossi对每经记者表示，“AI应该旨在增强而非取代人类。”
“的确，AI会对很多工作产生暂时的负面影响，而且影响会发生得比较快，所以我们需要有一个安全网来尽量减少过渡期的痛苦。”Abu-Mostafa说道。
如何实现“人机共存”的世界？
那么，在这个过渡期内，世界应该如何搭建这个安全网？
在Francesca Rossi看来，对AI的担忧往往源于对“黑匣子”内部发生的事情缺乏理解，“AI系统的开发和应用必须根植于伦理，这意味着要优先考虑负责任的培训、合作和监督。随着AI技术不断被普及和使用，人们对这项技术仍然存在戒心是正常的，但现实情况是，AI的优势是显而易见的。只有将伦理置于AI开发的核心，社会才能学会信任它。”
“在部署AI时，首先应该考虑目前适用于各种产品的产品安全和质量预防措施是否也可以适用于AI产品。此外，还需要一个类似于FDA的机构来批准AI产品，并确保它们是安全的、没有偏见的，并且其带来的‘副作用’（例如隐私泄露等）在可接受的标准内。”Abu-Mostafa向《每日经济新闻》记者说道。
OpenAI创始人Altman近日在出席美国国会听证会时也建议美国国会成立一个新机构进行监管。他说，“因为人工智能是不会自己管理自己的，所以我们需要类似于IAEA（国际原子能机构）的国际组织来进行超级智能方面的监管。”微软总裁Brad Smith也支持美国政府成立新的机构来为主要AI系统发放许可。
隐私风险的确是AI部署中被广泛质疑的一个问题。4月，三星被曝在引入ChatGPT不到20天就出现了3起公司机密外泄的事故。
对此，Schmidhuber向记者坦言，“隐私监视和丢失可能是日益复杂的社会不可避免的后果。城市、国家和公司等超级有机体的结构越复杂，它收集到的信息就越全面。新冠时期为了减少病毒传播而进行的人员追踪就是最近的例子。”
而在AI引领的革命浪潮里，全球化、快速发展的数据则是最有价值的，甚至被视为“AI时代的石油”。那怎样才能更有效地进行数据管理，保障数据安全呢？
Schmidhuber认为，数据所有权有助于解决这个问题。“如果数据真的是‘新石油’，那么它应该有价格。然而目前，主要的监控平台不会为用户的数据和隐私的损失进行赔偿。但在未来，我们可能会看到尝试创建高效的数据市场，通过供需之间的相互作用，可以看到隐私数据的真实价值。”他告诉《每日经济新闻》记者。
而对于普通消费者来说，Abu-Mostafa认为，AI产品在经过安全性、有效性、公平性等标准的严格测试后，消费者的信任也将逐渐建立。
当前，各国政府和机构已经开始探索如何加强AI监管。
日本高官近日表示，G7政府官员将举行首次工作级AI会议，讨论知识产权保护、虚假信息以及应如何管理AI技术等问题。美国白宫已经宣布首个AI监管计划，美国国家科学基金会计划拨款1.4亿美元，用于启动7所新的国家AI研究院；欧洲议会下属委员会也已通过关于《AI法案》的谈判授权草案，该法案有望成为世界上第一个监管AI的全面立法。
随着AI在人类世界的广泛运用，如何实现人机共存的平衡呢？Schmidhuber告诉《每日经济新闻》记者，“无论我们在某个时候达到什么样的平衡，不久之后它就必须改变，因为AI会不断学习做以前只有人类才能做的新事情。因此，在自动化和人类参与之间，平衡点会不断变化，人类也应该随时准备学习新事物。就像200年前，在许多国家，60%的人从事农业工作。而在今天，这个数据只剩下1%~2%。”
在AI被广泛应用的同时，人类也需警惕过度依赖AI。Abu-Mostafa表示，“所有自动化都有相同的风险。如果出现问题，就没有后备方案，因为过去执行任务的人类团队已经解散，无法轻易重新组合以挽救局面。”
对此，Schmidhuber称，拥抱并掌握新技术有助于避免这种情况的发生。“回顾历史，当计算器首次推出时，教师禁止学生在学校使用它，以防止过度依赖机器。但现在，孩子们既学习算术的基本方法也学习使用计算器。”他对记者解释说，“今天的共识是，我们应确保孩子学会自己写论文，也要确保他们学习如何在AI的帮助下写论文。”
