【魔怔】机器独裁/无人性独裁者是可接受的吗？

使用CN2/CN2GIA顶级线路，支持Shadowsocks/V2ray科学上网，支持支付宝付款，每月仅需 5 美元

## 加入品葱精选 Telegram Channel ##

TLNR：我们暂时不考虑怎么实现一个无人系统统治国家，只是从概念上来思考自己对这个系统的接受程度：你认为一个没有公民参与，但同时也没有独裁者参与的自动化决策与行政系统的统治（失控机仆）是可接受的吗？或者说，独裁统治的罪恶，是来自独裁统治本身，还是来自独裁者的被无限放大的罪恶呢？

在品葱看到过好几次这样的问题了，我觉得这确实是一个值得认真思考的话题。随着你国这十年来行政系统的自动化，很多需要人来进行的事务工作被交给了计算机和数据库。就我观察你国很多人，包括老年人对此是大加赞赏，他们的理由通常是：面对机器的时候，他们再也不用忍受基层官吏的颐指气使、推诿卸责以及层层盘剥了。

我们对这个情景进行一下演绎推广，如果一个国家的行政事务完全自动化，政治决策由天顶星人工智能综合各行政系统的反馈信息后得出。（再次重申，我们只从概念上思考这个问题，不考虑如何实现这种情况，你就当习近平被机械妹抖脑控了）由于这是一个独裁系统，该系统的首要任务被设定为防止系统被内部、外部势力推翻，因此该系统会全力防止有人类爬到头上去，变成独裁者。注意：该国家除了行政和政治部分是自动化，且可以自我维护之外，军事、科研等部分仍然由人类组成，所以系统为了自身存在不可能直接下令军队杀光所有人。如果你要问我怎么压制军队，emmm，习近平怎么压制军队该系统就怎么压制。

这种假设下有一个最明显的好处：不存在权贵阶层——这是我之前提到的“不被基层盘剥”的极端化。很多人之前在类似的问题里提到过说机器独裁一定会基因筛选、种族灭绝云云，但是至少你可以确信这个决策不是哪个领导坚称某某种族天生卑贱或者哪个种族闹得领导很没面子或者不好捞钱导致的。

当然种族灭绝仍然是种族灭绝，但是再仔细想想其实机器独裁之下种族灭绝的可能性其实远远小于人类独裁，乃至人类民主。从历史经验来看，种族灭绝往往都是人的冲动导致的，包括新疆。2014年以前的经验表明，即使是在独裁统治下，新疆问题也大概率是可以通过其他方法解决，习近平的民族主义和帝国主义情节才是这一切悲剧的源头。我们甚至可以说，一战法国是民主国家，但是如果交给人工智能来决定的话法国在很多地方大概率不会跟德国死磕。

自古以来，一个共同体想要成立，必然要有上等人，中等人和下等人，一切的“费拉化”“民主化”和“帝国化”都是基于这个前提讨论的。但是随着技术的发展，我们逐渐能看到这个可能性：把上等人自动化。我们可以想象，在上等人可以被自动化的技术条件下，大部分下等人的工作早已经自动化了，同时机器独裁保证了不会有人类再次成为真正意义上的上等人，这样几乎所有人就都是中等人了，完美！

以前看过一篇科幻小说，**里面有人质问说：机器人没有人性的温暖。他得到的回答是：当然没有，不仅没有温暖，也没有人性的脆弱、冲动和残酷。**你国的科幻小说当然不敢直球统治者，但我觉得这句话放在独裁者身上太合适了。

当然如果失控机仆打了萌化mod的话那一定是可接受的（

品葱用户 范松忠 评论于 2020-11-16

机器好啊，我不反抗天网了，我接受终结者了，但我不会接受习小丑，就这么简单！

品葱用户 可爱猴猴 评论于 2020-11-16

萌化MOD草死，好，支持！但我希望形象是Elf（迫真

比起那个，那篇科幻小说叫什么名字啊，感觉这句话相关的故事会很能消磨时间

品葱用户 **Nemrac

可爱猴猴** 评论于 2020-11-17

>>萌化MOD草死，好，支持！但我希望形象是Elf（迫真比起那个，那篇科幻小说叫什么名字啊，感觉这句话相…

应该是2014或2015年sfw上的文章，名字忘了，大概讲的是机器人逐渐替代人类工作，最后连开发机器人的程序员也被替代掉的故事，可以去相关贴吧问一下。

品葱用户 louisjr 评论于 2020-11-16

半開玩笑的答, 機械人統治/管理, 可以, 起碼機械人按規距, 不會雙標
認真答, 不行, 到有天機械人能發長到這地步, AI就會跟人類一樣TM雙標了

品葱用户 wget 评论于 2020-11-17

首先不是所有事物都可以理性评价的, 你要是纯理性机器的话只会按照成功率去分配资源, 这放在科学/创造领域显然是不合理的, 那将会是一个比共产还共产的社会结构, 但是机器存在感性/感情的话有和人类有什么区别, 必然会以自身/自身种族生存为最优先目的.

另外说一个逻辑漏洞, 你中央计算机没有军事控制权怎么保证现有体制/政府不被推翻, 又或者说你怎么保证机器无法控制军队, 因为军事装备的生产肯定是自动化了的, 甚至在机器想独裁的时候人类军队的后勤是完全没有的 , 一句习怎么控制就怎么控制太过笼统.

在不可能实现的基础上谈论如何实现有点……..

最后说一个和问题没关系的, 本人是100%义体化及机器人平等的支持者, 甚至人类只需要是文化概念

品葱用户 **Nemrac

wget** 评论于 2020-11-17

>>首先不是所有事物都可以理性评价的, 你要是纯理性机器的话只会按照成功率去分配资源, 这放在科学/创造…

1.纯理性机器。这里仅考虑行政和政治的机器统治，之前也写了，科研等领域暂时假设是人类进行的。
2.主要是我也不知道怎么解决这个问题，但我们主要讨论的是纯理性独裁者是否能被接受，所以就笼统略过了。
3.同

品葱用户 **黑暗秦始皇

范松忠** 评论于 2020-11-16

>>机器好啊，我不反抗天网了，我接受终结者了，但我不会接受习小丑，就这么简单！

这个称呼侮辱了"小丑"这个词,是习猪头才对

品葱用户 **wget

Nemrac** 评论于 2020-11-17

>>1.纯理性机器。这里仅考虑行政和政治的机器统治，之前也写了，科研等领域暂时假设是人类进行的。2.主要…

行政不就涉及到各方各面吗, 我就是说人类想要抛开机器统治者的进行其他领域的发展是不是有点想当然了, 万一人类想建造超大型强子对撞机或是探测地外行星之类的大型科研项目是否有可能被纯理性机器根据成功概率或是否有必要判断为不需要的. 总结来说就是科研或是其他创新项目并不只是坐在办公室/实验室里面的, 和政治挂钩的概率真不小, 发生冲突时以谁为准都是要考虑的.

这个问题其实我也考虑过哈哈, 后来想想实现没那么容易.

品葱用户 若名用户 评论于 2020-11-17

机器的算法也是人写的。技术只是手段，目的还是为了控制机器的人。
根据谁上也比习近平强的原则，要是把习近平的位置让给机器人，那绝对是好事，天大的好事。但是，什么时候习近平会把这个权力让出去呢

品葱用户 dogg0五入拖拉曼 评论于 2020-11-17

银河漫游指南里面的超级计算机

品葱用户 Tamamizu 评论于 2020-11-17

不可接受。

只有上帝有权主宰人类；
只有上帝有权决定命运；
只有上帝有权判断对错。

重要的事情说三遍，
一切打着理性旗号僭越神的权柄来圈养人类的做法，本质上和红色高棉没任何区别。

品葱用户 影正 评论于 2020-11-17

机器统治论终究无法成立，因为机器本质是依靠计算执行任务，但人有很多事物是无法量化的，和共产主义一样，试图在人类文明中寻找一个绝对的规律来制定一套完美的系统作为人造上帝，最后会走向地狱。

品葱用户 **wget

Tamamizu** 评论于 2020-11-16

>>不可接受。只有上帝有权主宰人类；只有上帝有权决定命运；只有上帝有权判断对错。重要的事情说三遍，一切打…

对不起, “上帝"才是最没权力的, 人类的命运只有人类能做主(你家上帝算哪根葱)

品葱用户 **Tamamizu

wget** 评论于 2020-11-16

随便你咯，你以为神会在意你的这点小小的傲慢不成。
最终走向共产主义极权的时候别跟着哭爹喊娘就行，毕竟，这是你自己“做主”走出来的道路（笑）

品葱用户 **wget

Tamamizu** 评论于 2020-11-16

>>随便你咯，你以为神会在意你的这点小小的傲慢不成。最终走向共产主义极权的时候别跟着哭爹喊娘就行，毕竟，…

总比你这类已经跪下的要好些, 接着拜神去吧, 玩什么电脑, 用什么电子产品呵呵

品葱用户 **dogg0五入拖拉曼

Tamamizu** 评论于 2020-11-16

>>不可接受。只有上帝有权主宰人类；只有上帝有权决定命运；只有上帝有权判断对错。重要的事情说三遍，一切打…

机器管理人是践踏人的尊严

品葱用户 **巧克力袿姬

Tamamizu** 评论于 2020-11-17

>>随便你咯，你以为神会在意你的这点小小的傲慢不成。最终走向共产主义极权的时候别跟着哭爹喊娘就行，毕竟，…

无所不能的隐形人万岁！什么时候要制裁共产主义者啊，仁慈的神

品葱用户 **Tamamizu

wget** 评论于 2020-11-16

都沦落到向机器下跪的魔怔人，就别在这装自由人了。
波尔布特叫你去建设共产主义呢

品葱用户 **Tamamizu

巧克力袿姬** 评论于 2020-11-17

无神论者妄图建立地上天国结果把自己玩成了地狱，
自己搞出来的索多玛还妄想神来救自己，照照镜子回头继续被割韭菜吧。
因为人类要自己决定自己的命运是不是啊？

品葱用户 巧克力袿姬 评论于 2020-11-16

来了要来了！（指争议对线现象）
@Nemrac 折叠谢谢

品葱用户 **巧克力袿姬

Tamamizu** 评论于 2020-11-17

>>无神论者妄图建立地上天国结果把自己玩成了地狱，自己搞出来的索多玛还妄想神来救自己，照照镜子回头继续被…

嗷呜呜呜好怕好怕，滚回去宗教分区拜你的神啦，别出来丢脸。不如先叫你的神出来惩罚中共吧笑死人

品葱用户 **Tamamizu

dogg0五入拖拉曼** 评论于 2020-11-17

人类自带的傲慢总觉得自己能控制一切，
而事实总是不断证明人类的那点小聪明有多可笑。
连共产主义都不能清算的人类，都开始想象出把自己最后的那点自由献给机器了。

我是想不出来会有什么比这个更可笑了。

品葱用户 **范松忠

黑暗秦始皇** 评论于 2020-11-17

>>这个称呼侮辱了"小丑"这个词,是习猪头才对

我支持任志强，所以……

叫猪头小丑吧！

品葱用户 NZRdlClr5 评论于 2020-11-17

前提是這台機器必須是絕對完美的，它不能壞、不能有BUG，且必須永遠不壞、永遠不BUG
因為如果他在運行期間出現BUG的話，沒有人能矯正他，沒有人會發現BUG的存在也沒有人有能力矯正他，馬上就整個玩脫了
一個永遠的獨裁者腦子秀逗了，想想看這後果有多嚴重
而這個完美機器的前提就是不可能達成的（至少如果讓人類來設計製造這台機器是不可能達成的）所以討論這個純理性機器獨裁者就和討論永動機或共產主義一樣毫無意義

機器人沒有人性的溫暖？
說得好像人類獨裁者，或者人類特權階層，會有人性的溫暖一樣
天龍人對下民本來就是不會有人性的溫暖的，所以對下民而言天龍人還是機器天龍人都沒差，或許機器天龍人真的會更好因為機器天龍人不會以欺辱奴隸為樂，如果他們沒有樂的話

品葱用户 **Nemrac

Tamamizu** 评论于 2020-11-16

>>不可接受。只有上帝有权主宰人类；只有上帝有权决定命运；只有上帝有权判断对错。重要的事情说三遍，一切打…

如果耶主席能亲自管理人类那我当然资瓷啦，多生几个儿子，几个天父天兄下凡也行啊，但是没有啊。你的那三个“只有”的理论依据是人性本恶，大共同体剧烈地放大这种恶，小共同体也只是缓和这种恶罢了，红色高棉正是波尔布特这个人的冲动和愚蠢的结果，是人的恶的极端表现。

现在我们换一种思路，把“人”替换掉试试看，说不定更加符合神学原理。说到底“圈养”这个词本身就是人的傲慢的体现，无人系统没有那么多戏，也不需要下跪这种麻烦的过场。

当然如果你是在cos战锤里面的某些角色那就当我啥都没说。

品葱用户 **Nemrac

影正** 评论于 2020-11-17

>>机器统治论终究无法成立，因为机器本质是依靠计算执行任务，但人有很多事物是无法量化的，和共产主义一样，…

50年前人们认为人的情绪表达是无法被量化的，现在sentiment analysis表明这些人还是naive

品葱用户 **Nemrac

NZRdlClr5** 评论于 2020-11-16

>>前提是這台機器必須是絕對完美的，它不能壞、不能有BUG，且必須永遠不壞、永遠不BUG因為如果他在運行…

关于“完美机器”的讨论几千年前希腊人就得出过结论：不存在没有bug的系统，但是这不妨碍现在人们搞自动化。因为让bug的几率收敛于0的方法理论上还是存在的，随着自动化的发展这个收敛过程一定会继续下去。

另外我觉得从理论上讨论共产主义很有意义，能量使用级别只有0.7，连一型文明都还没达到的生物直接断言讨论共产主义没有意义也太武断了。

品葱用户 **NZRdlClr5

Nemrac** 评论于 2020-11-16

>>关于“完美机器”的讨论几千年前希腊人就得出过结论：不存在没有bug的系统，但是这不妨碍现在人们搞自动…

現在人類搞自動化的原因有兩個
一個是『數學家和工程師的區別』：『數學家』追求完美，而『工程師』認為我不用達到完美，只要足夠接近完美就足夠了。現代自動化大多是『工程師』心態，雖然知道會有BUG會有失誤但只要它的概率足夠小就可以認為是安全的
而且現代的所謂自動化，就算有BUG造成的傷害也是人能承受的範圍內。就算是工廠流水線暴走，大不了就死幾個工人而已。要是掌控全國甚至世界的獨裁者機器暴走了，那就不只是幾千個人的問題了
還有一個是現代自動化不是真正的完全自動化。比方說飛機可以自動駕駛，但是飛機的系統可能有大量的重複系統（學名redundancy，不清楚翻譯的對不對）來確保安全，同時還有人類機師坐在駕駛艙裡以防萬一。在實在是有電腦無法應對的BUG的情況下人類還可以操作
類似的，幾乎所有的自動化都可以通過人力介入強制停止並由人類取回控制權，人類是在自己握有絕對控制權的前提下才會允許自動化的
如果人類無權干政，所有政治交由同一台獨裁者機器處理，那一旦它出問題人類將沒有權限將它關機或重啟
這就好比說一架飛機，你把全人類都塞進去，而且只有自動駕駛，還只有一個自動駕駛系統負責其運轉一樣。有多少人會願意坐進這架飛機，哪怕你知道自動駕駛的飛機失事率很低（理論上坐飛機比走在路上還安全）？

然後我說討論共產主義沒有意義，當然是基於『工程師』心態，打算把它用於人類社會前提下的討論。既然這套理論不可能被應用於人類身上，那對人類而言就沒必要討論之
如果放寬視野，看整個動物界，共產主義在局部物種裡已經實現了。螞蟻就是典型的共產主義社會：螞蟻們各有各的崗位和工作，收集的食物供全蟻群享用，幼蟲由全蟻群共同保護和照顧
但討論螞蟻的生態再多也用不到人類身上，如果你想討論生物學和螞蟻的生態那的確很有意思，但人類不是螞蟻，人類的基因和身體構造決定了人類不可能適應螞蟻的生存方式

品葱用户 正确的随机组合 评论于 2020-11-16

这不算魔怔吧，在一个正常的情况下这种话题是当然应该讨论的。

只是在当前语境下，好吧可能就算魔怔吧！

品葱用户 **Tamamizu

巧克力袿姬** 评论于 2020-11-16

是不是除了阴阳怪气和举报就什么都不会啊？
然而很抱歉，你现在的嘴脸正好证明了自己的水平，
一边阴阳怪气的排除异己，一边还意淫自己能设计天堂决定一切。

而事实上，索多玛在等着你哦，哦不对，你们支那已经是索多玛了（笑）

品葱用户 **巧克力袿姬

Tamamizu** 评论于 2020-11-17

>>是不是除了阴阳怪气和举报就什么都不会啊？然而很抱歉，你现在的嘴脸正好证明了自己的水平，一边阴阳怪气的…

好哦你也在扣帽子啊，你说的“连共产主义都不能清算的人类”直接打脸你自己，无所不能的神什么时候要惩罚共产主义者，还你要说神在下一盘很大的棋哈哈哈。
你说的“阴阳怪气的排除异己，一边还意淫自己能设计天堂决定一切”我看不懂呢，我只是看不惯不好好待在自己的分区取暖反而跑出来丢脸的宗教信徒呢。

品葱用户 **巧克力袿姬

Tamamizu** 评论于 2020-11-17

>>是不是除了阴阳怪气和举报就什么都不会啊？然而很抱歉，你现在的嘴脸正好证明了自己的水平，一边阴阳怪气的…

笑甚麼，畜生，你也是中國人.jpg，我可不是支那人，请你说“我们支那”。不要自作聪明说什么“索多玛”以为自己很厉害，你看起来比较像中二病患者

品葱用户 **Tamamizu

巧克力袿姬** 评论于 2020-11-17

然而很抱歉，在下只要不认同自己是支那人就不是。
你愿意当你的支那人在天网下苟延残喘是你自己的选择。
毕竟，“人的命运要自己主宰”对不对啊？

还有一点，看谁都是中二病，觉得别人说几个自己不懂的名词就是装逼，倒是很符合你们后现代主义解构一切不相信任何东西的标准风格。
不过既然神不存在，你为什么对着一个不存在的东西这么气急败坏呢（笑）

点击品葱原文参与讨论

最简单好用的 VPS,没有之一，注册立得 100 美金