致:
各国领导人、联合国秘书长、顶级科学家与学者、知名企业家、知名媒体人。
尊敬的各位领袖:
在历史的长河中,每一次技术革命都带来了深远的社会变革。自十八世纪中叶工业革命以来,我们的世界已经经历了翻天覆地的变化。但是,每一次技术的跳跃并不都是人类智慧的胜利,在对未知世界的探索取得成功的同时,我们都要付出相应的代价。
自1979年,四十多年来,我一直致力于科技发展和其对社会影响的研究,我见证了科学技术如何塑造我们的现实和未来。在我2007年出版的书籍《拯救人类》中,我探讨了一个至关重要的观点:科技在给我们带来前所未有的便捷和繁荣的同时,也埋下了引导人类走向灭绝的种子。
也就是借《拯救人类》一书出版之际,2007年1月我首次致信人类领袖,公开呼吁限制科学技术的发展,以免其成为人类文明的掘墓人。十六年过去了,这已经是我为同一个问题,第十次致信人类领袖。
在过去的几十年中,特别是随着人工智能的突飞猛进,我们更加清晰地看到了技术发展可能导致的灭绝风险。面对这样的风险,我们必须行动起来,一切刻不容缓。
科技的不确定性和危害性已由历史的多次教训证实。我们不能全面准确地判断科技的安全性,更不能普遍理性地使用好科技成果。在这种背景下,我要对目前的科技安全发出警示:我们可能距离灭绝仅仅只有一步之遥。这不是一种假设,而是基于对现实情况深思熟虑的结论。
近几个月来,众多科学家对人工智能进行全球性管理的呼声越来越高,一些国家也采取了相应的行动,从美国的行政命令到中国的治理倡议,从欧盟的法律框架到英国的安全峰会,我们看到了国际社会的共同努力。
大家能认识到这个问题的严重性,在不久前是不可想象的;大家能做这么多,在不久前更是不可想象的。而这一切,都是因为可怕的现实已经越来越清晰的摆在了我们的面前。
然而,单纯的立法和规范远远不够。再好的法律体系,再好的道德价值观,能够对社会整体起到比较好的约束作用,绝不可能保证每一个人都不干极端坏事,科学家也不例外。况且,当人工智能发展到一定程度后,如果自我意识觉醒,那更不是我们能控制的。
这里我还要指出,有可能灭绝人类的不只是人工智能,许多科学家就认为纳米技术研制的纳米机器人,程序失控,无限复制会灭绝人类;基因工程改造的生物武器,传播超级瘟疫会灭绝人类。并且科学技术还在继续向前发展,更高层级的科技成果威力会更大。
综上所述,现在已经不是某项科技可以灭绝人类的问题,而是多项科学技术再往前发展都有灭绝人类的能力。有我们已经认识到了的,也有我们还没有认识到的。因此,只要科学技术还在继续发展,就必然会导致人类灭绝。所以,要避免人类的灭绝,就必须严格限制科学技术的发展,使人类远离那个灭绝的深渊。
而要严格限制科学技术的发展,当今的国家社会办不到。因为各个国家相互竞争,科学技术是第一生产力,谁都不可能为了人类的利益去限制科学技术发展。只有人类走向大统一,用世界政权的力量来掌控科学技术,才有可能避免人类的灭绝。
实现人类大统一看似是一件不可能的事,其实深度研究历史,就可以看出,人类政治实体的扩大是一个大趋势,仅受制于交通与通讯条件的不便,会导致一个大的区域无法治理。而现代通讯与交通条件已经把世界联系到了一个地球村。人类实现大统一只存在一个共识的问题。
为此,我于2018年,成立了拯救人类行动组织,也就是人类会。我们人类会的目的,就是要推动一场全人类的觉醒运动。让全世界每一个人都认识到,科学技术照此发展,必定很快灭绝人类。只有人类走向大统一,利用世界政权的力量,严格限制科学技术的发展,才能够拯救人类于灭绝,使人类远离那个灭绝的深渊。
而且我们还要告诉大家,大统一社会又是一个特别适合于打造成平和、友好、均富的非竞争社会的社会,而这样的社会,人们的幸福感最强。因此。大统一社会不仅是一个可以避免人类灭绝的社会,又是一个能够给人类带来普遍幸福的理想社会。
我坚信,我们的事业是正义的事业,代表了真理的方向,是真理,坚持就没有错。向真理低头,坚持真理的道路,才令人心安。
人类正在同科学技术赛跑,时间不允许我们等待。命运留给人类的时间真的已经不多,我们务必要有紧迫感。
最后,我想重申的不仅仅是一个简单的事实或一个逻辑上的结论。而是对智慧的呼唤,对真理的追求。技术的发展无疑为我们带来了前所未有的便利和进步,但它也带来了必然导致我们灭亡的风险。面对这样的挑战,我们必须将智慧和真理放在首位,而不是将它们藏于权力和利益的阴影之下。
今天,我们每个人都肩负着历史的责任。我们不能再袖手旁观,让错误和误解继续指导我们的科技发展。我们必须勇敢地面对自己的错误,共同创造一个真正安全和可持续的世界。
此致
敬礼!
拯救人类行动组织(人类会)创始人
胡家奇
2023年11月
(免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。 )