如果不受控制的通用人工智能——或“像上帝一样”的人工智能正在地平线上若隐若现，我们现在已经走了一半。每一天，时钟都在向潜在的世界末日逼近。
这就是我上个月推出人工智能安全时钟的原因。我的目标很简单：我想表明，不受控制的人工智能的危险是真实存在的。时钟目前的读数是午夜前29分钟，这表明我们距离不受控制的人工智能可能带来生存风险的关键临界点有多近。虽然目前还没有发生灾难性的伤害，但人工智能发展的惊人速度和监管的复杂性意味着所有利益相关者都必须保持警惕和参与。
这不是危言耸听；它是基于硬数据的。人工智能安全时钟追踪了三个基本因素：人工智能技术的日益成熟、它们日益增强的自主性以及它们与物理系统的集成。
我们看到这三个因素取得了显著进展。最大的进步发生在机器学习和神经网络领域，人工智能现在在图像和语音识别等特定领域超越了人类，掌握了围棋等复杂游戏，甚至通过了商学院考试和亚马逊编码面试等测试。
尽管取得了这些进步，但正如斯坦福大学以人为中心的人工智能研究所指出的那样，今天的大多数人工智能系统仍然依赖于人类的指导。在我们提供的数据和指令的指导下，它们被构建来执行狭义定义的任务。
也就是说，一些人工智能系统已经显示出有限的独立性。自动驾驶汽车在导航和安全方面做出实时决策，而YouTube和亚马逊等平台上的推荐算法在没有人为干预的情况下推荐内容和产品。但我们还没有达到完全自主的地步——从确保安全和道德监督到处理非结构化环境中人工智能系统的不可预测性，仍然存在重大障碍。
目前，人工智能在很大程度上仍处于人类的控制之下。它还没有完全集成到维持我们的世界运行的关键系统中——能源网络、金融市场或军事武器——以一种允许它自主运行的方式。但毫无疑问，我们正朝着这个方向前进。人工智能驱动的技术已经取得了进展，特别是在军事系统，如自主无人机，以及民用领域，人工智能帮助优化能源消耗和协助金融交易。
一旦人工智能进入更关键的基础设施，风险就会成倍增加。想象一下，人工智能决定切断一个城市的电力供应，操纵金融市场，或部署军事武器——所有这些都没有任何或有限的人类监督。我们不能让这样的未来成为现实。
但我们应该担心的不仅仅是世界末日的场景。人工智能能力的阴暗面已经为人所知。人工智能驱动的错误信息运动正在扭曲公共话语，破坏民主国家的稳定。一个臭名昭著的例子是2016年美国总统大选，俄罗斯互联网研究机构在社交媒体平台上使用自动机器人传播分裂和误导的内容。
深度造假也正在成为一个严重的问题。2022年，我们看到了一个令人不寒而栗的例子，乌克兰总统弗拉基米尔·泽伦斯基（Volodymyr Zelensky）在俄罗斯入侵期间呼吁投降的深度伪造视频出现了。目的很明确：削弱士气，制造混乱。这些威胁不是理论上的，它们正在发生，如果我们不采取行动，它们只会变得更加复杂，更难阻止。
虽然人工智能以闪电般的速度发展，但监管却落后了。在美国尤其如此，在美国，实施人工智能安全法的努力充其量是零散的。监管工作往往交由各州负责，导致法律拼凑而成，效力参差不齐。没有统一的国家框架来管理人工智能的开发和部署。加州州长加文·纽森（Gavin Newsom）最近决定否决一项人工智能安全法案，担心它会阻碍创新，并将科技公司推向其他地方，这只会突显出政策的落后程度。
我们需要一个协调的、全球性的人工智能监管方法——一个监督人工智能发展的国际机构，类似于国际原子能机构监管核技术。人工智能就像核能一样，是一种无国界的技术。即使是一个国家在没有适当保障的情况下开发AGI，其后果也可能波及全世界。我们不能让监管漏洞将整个地球暴露在灾难性风险之下。这就是国际合作变得至关重要的地方。如果没有设定明确界限并确保人工智能安全发展的全球协议，我们就有可能陷入一场走向灾难的军备竞赛。
与此同时，我们不能对谷歌、微软和openai等处于人工智能发展前沿的公司的责任视而不见。越来越多的人担心，在激烈竞争和商业压力的推动下，对人工智能主导地位的争夺可能会掩盖长期风险。OpenAI最近因转向营利性结构而成为头条新闻。
人工智能先驱杰弗里•辛顿（Geoffrey Hinton）对谷歌（Google）和微软（Microsoft）之间的竞争发出了明确的警告：“我认为，在他们弄清楚自己能否控制这场竞争之前，他们不应该进一步扩大竞争规模。”
解决方案的一部分在于在人工智能系统中建立故障安全装置——“死亡开关”，或后门，允许人类在人工智能系统开始出现不可预测的行为时进行干预。加州的人工智能安全法包含了此类保障措施的条款。这种机制应该从一开始就被植入AI中，而不是在事后才添加进去。
不可否认，风险是真实存在的。我们正处在与机器共享地球的边缘，这些机器的智能可能与人类相当，甚至超过人类——不管这是在一年还是十年内发生的。但我们并非无能为力。引导人工智能朝着正确的方向发展的机会仍然在我们的掌握之中。我们可以确保人工智能成为一种善的力量的未来。
但时间紧迫。
本文来自作者[树炎彬]投稿，不代表钰兔号立场，如若转载，请注明出处：https://wap.yiyuanzi.com.cn/zskp/202507-67.html
评论列表（4条）
我是钰兔号的签约作者“树炎彬”！
希望本篇文章《我发布了人工智能安全时钟，揭示了我们面临的潜在风险》能对你有所帮助！
本站[钰兔号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： 如果不受控制的通用人工智能——或“像上帝一样”的人工智能正在地平线上若隐若现，我们现在已经走了一半。每一天，时钟都在向潜在的世界末日逼近。 这就是我上个月推出人工...