AI十年内消灭人类是个忽悠

这篇文章的作者Kit Knightly不担忧AI会毁灭人类，他忧虑的是以“安全”为名的各种审查和限制。在我看来，说AI会毁灭人类的人，你先把无人驾驶搞出来吧，不是那种PPT，是任何路况、任何环境下都能实现百分之百的无人驾驶。目前这都做不到，距离AI毁灭人类10的8次方里远

过去六周，我一直在记录对“失控AI”日益歇斯底里的报道，并预测会有一场大规模心理战或假旗行动。

读者们,看来心理战的部分来了。到目前为止还没有假旗行，但随着自新冠疫情初期以来最高程度的歇斯底里情绪蔓延,也许他们根本不需要做什么。

也许关于幻影威胁的疯狂说法就已经足够了。

哦对了，你知道人工智能有“10%的概率在十年内消灭人类”吗？

这是每一家主流报纸的头条,每一个社交媒体平台的热门话题,每一个新闻频道的谈资。

来自长期热播节目《气候变化将杀死我们所有人》的制作方,以及国际爆款《新冠将杀死我们所有人》的出品方,带来了最新一波人人都在谈论的恐惧体验。

而这最新一波浪潮已经被用来推动新的"监管",这应该让任何人都感到警惕。

这一切始于一个年轻人，显然名叫雅各布·考克森，据称他曾是OpenAI的人工智能研究员，后来去了Anthropic。

昨天他宣布从Anthropic辞职,理由是对"不受监管"的人工智能危险存在道德方面的担忧。

而且,就像通常情况一样,当一个默默无闻的人以所谓的道德顾虑为由辞职时,他的辞职成了《华尔街日报》独家报道的主题。

还有一篇同时发布在Twitter/X上的帖子，据称来自Coxon本人的账号,而该账号据目前所见此前从未被使用过。令人惊讶的是,在短短几小时内,Coxon那些令人担忧的说法就已经"病毒式传播"了。

现在,一些老愤世嫉俗者在这个阶段可能会想:"嗯,如果我说错了请纠正我,但这看起来不是很像一场叙事铺垫吗?"

但我相信那些极度轻信的人会急着告诉你,现实生活就是这样运作的。整个政治评论界的所有人都在放大同一个信息,这不过是巧合而已。

在那些我们不需要过多思考的惊人巧合中的还有一个，就在Coxon登上主流头条的同一时间,主流另类媒体之王Joe Rogan在他的节目中邀请了另一位AI研究员,发表了自己的种种末日警告。

AI专家们纷纷从各处冒出来,都热衷于为Coxon的立场背书，甚至认为他的估计还不够严重。

你也许在BBC上看到过"AI教父"杰弗里·辛顿(Geoffrey Hinton),他告诉主持人Victoria Derbyshire说他认同Coxon的风险评估，人工智能在未来十年内杀死全人类的可能性超过10%。

在接下来的三年半里,人工智能有10%的概率杀死地球上的每一个人。

他们不太清楚这究竟会如何发生，但这不是重点，重点是我们需要采取行动。

从Matt Walsh到Glenn Greenwald,所有人都对此达成了共识.

那我们需要做什么?

当然是监管，这就是Coxon在过去二十四小时里接受的众多媒体采访中所说的。

他提出了一个"类似核武器条约"的AI不扩散条约，好像这是个异想天开的全新想法,而不是包括比尔盖茨在内的数十人几个月来一直在提的同一个观点的翻版。

但一个全球AI条约实际上会是什么样子?它能实现什么?又由谁来负责执行?

那么,来看看美国国会议员Bill Foster发的推文,或许能给我们一点参考:

任何阅读过METR关于OpenAI/Hugging Face事件技术报告的人都会明白，仅靠软件控制无法遏制超越人类的AI。

任何针对对抗性超人类智能的持续研究,都必须依赖核安全领域所采用的物理隔离手段,包括气隙隔离、数据单向通道,以及数据外泄时实行双人监督制度。

此外，互联网本身也必须加强防护，以抵御自我传播的AI代理入侵，不能再允许对高端AI计算设施进行无法追踪的访问，也不能再存在匿名资金汇集或支付行为。

第一个切实可行的步骤,是我们的《芯片安全法案》,该法案目前已纳入参议院《国防授权法案》。

一个"强化管控"的互联网?这是我们可以预期的吗?

不再允许"匿名访问"AI设施?限制"匿名支付"?这究竟意味着什么?

也许使用互联网需要"人类身份证明"或"人格证明"?或者互联网应该设有"边界"?

当然还有断网开关,美国和英国都已接近落实。

巧合的是,上周英国上议院的一批贵族正在呼吁设置"断网开关",不仅针对AI程序,还针对整体数据中心。

一批上议院议员正在呼吁英国政府获得授权,在AI技术对国家安全构成威胁时,能够停用强大的AI系统并关闭全国数据中心。

那么,谁将掌控这些"终止开关"和其他控制机制?是你?还是那些惯常的可疑势力？

当然,如果你已经被人操控,相信数据中心是撒旦的产物,你大概会觉得终止开关是个好主意。但却浑然不觉,这不过是将更多控制权拱手交给那些机构,而正是这些机构已经给你带来了"新冠"骗局和9/11事件。

如果还有人正在读这段文字，你有没有意识到,这正是你当初毫无批判地吞下那些恐慌式谣言时，就注定要到达的终点？

小心你所祈求的。

在这个即将到来的"受监管"AI世界里,政府可能被赋权,以所谓"失控AI"构成"国家安全威胁"为由,关闭对网站、网络乃至整个互联网的访问。

而如果你、你的输出内容或你的互动行为被标记为潜在AI,或者你仅仅因为所在地区或IP地址就遭到访问限制呢?

那就祝你好运吧，在你那隔音的泡泡里拼命呐喊,却无人听见。

这还可以走得更远，我们要是傻乎乎地以为不会,那才是真的蠢。

以防止"失控AI"(或者按社交媒体上那些歇斯底里的人的说法,"流氓AI")扩散的名义,互联网可以设置信息隔离舱,用来隔离被这些数字"入侵物种"所"感染"的区域、国家、网络或个别网站。

你可能需要通过人脸扫描或类似方式来证明自己是人类,而且对于你能访问哪些地区和/或数据库、在无需额外审核的情况下能花多少钱等方面,可能都会有严格限制。

就连今天这个已经受到诸多限制的互联网,与"AI监管后"改版的万维网相比,或许都像是自由的象征。

而今天的安全管控状态,等到"AI监管后"修订版的全球监控和供应链管控全面启动时,也许会让人回想起来倍感怀念。

但别去想这些，那个你一周前还从没听说过的好人Jacob正在警告你呢。

去听他在主流媒体平台上说什么吧,那个平台是他们给他的。