AI會是人類的“終結者”嗎？ （探索與洞見第18集 2020年7月16日）葱油有什么看法吗？

使用CN2/CN2GIA顶级线路，支持Shadowsocks/V2ray科学上网，支持支付宝付款，每月仅需 5 美元

## 加入品葱精选 Telegram Channel ##

品葱用户 翻越红墙 提问于 7/17/2020

https://youtu.be/LtTDAh3ryTQ

提起“ AI ”想必大家並不陌生，它在2017年被評為“最火網絡詞彙”，至今仍是個熱門話題。中文翻譯為“ 人工智能 ”。也許你會認為人工智能就是機器人，但是換句話說更合適，“它是一個具有人工智能的機器！
人類著名的科學家霍金，對於人工智能，曾有這樣的 #預言 ：“人工智能會在未來很大可能在人類中成長，並成為新物種。”他說：“在我的一生中，我見證了很多社會深刻的變化。其中最深刻，同時也是對人類影響與日俱增的變化就是人工智能的崛起。

今天我來跟大家談一個充滿傳奇又有點沉重的話題，AI－也就是人工智能機器人，會是人類的終結者嗎？

品葱用户 ZetaFC 评论于

你可以读读The Singularity is Near这个科普书。

品葱用户 霏艺Faye 评论于 2020-07-18

怎麽可能呢。。。

說這種話的，肯定不懂人工智能。

現在的人工智能，智能化水平非常低。

如果要有人類現在的理解，學習，抽象等複雜能力。那麽一定是社會進步到了一個次元的先進技術。

舉個例子，阿凡達。

用意識進入肉體的抽象替換神經鏈接。

也就是如果樓主覺得“哆啦A梦”這樣的人工智能真的存在。那麽智慧和思想是可以數字化表達的！

既然可以數字化表達，就可以像你複製文件一樣複製。既然思想可以複製粘貼。

當然也可以從一個肉體轉移到另外一個肉體。

-———————————

估計樓主看不懂，簡單講。人的思想可以表達的話，就可以把人的思想二進制存到硬盤裏。

你說的AI就像一個播放器，它可以播放你的思想。那麽人類就可以用這種方式活在互聯網的世界裏。

這個就是“駭客帝國”裏演的那樣了

這種技術【借尸還魂】，會比你所謂的AI好實現一千倍！

所以AI不會出現，只會出現“駭客帝國”那樣的人類思想活在網絡世界的情況

品葱用户 哥特兰羊 评论于 2020-07-17

被自己造物超越，还有什么脸面存在。真到那么一天，人类被消灭也是理所应当的，人类变成电脑的玩具或者奴隶也是应该的

品葱用户 icbp 评论于 2020-07-18

现在所谓的AI大部分属于弱人工智能，只能通过训练学习完成设定好的任务，没有扩展能力，更没有自主思维能力。近些年的人工智能发展，主要原因是计算能力方面的进步和有限的算法上的进步，原来做不到的东西现在更容易完成而已，理论上的创新基本没有。这一波技术进步吃完以后，大概率会成为下一个经济泡沫。

品葱用户 范松忠 评论于 2020-07-18

我寧願被終結者殺害，或者服從天網，一點也不是開玩笑，因為至少天網沒有海外資產，也沒有小三、也沒有那麼多算計，而且把我改造成機器的話，至少機器平等，沒有紅二代這種說法。

所以，如果終結者要統治世界，雖然我不想，但如果終結者要消滅中共，然後奴役我，我願意！

品葱用户 Get_right 评论于 2020-07-18

有可能，AI如果到一定的程度，自己研发给自己编程，那么大多数人类都可能失业

品葱用户 zxc 评论于 2020-07-17

非常有可能，其實現在人類就理解不了人工智能。

比如，你讓AI去識別圖片，AI在圖片中取的參數，人類現在是理解不了的。比如，AI能識別圖片中的貓和狗，但是AI在圖片中取了幾千幾萬個參數，這些參數是AI根據輸入的圖片自己選取的，你根本看不懂爲什麽要取這些參數，但是，結果是，AI能識別圖片中的貓和狗

如果計算能力上升，比如量子計算機，那真的，人工智能控制人類的時代可能會降臨。

我覺得人類是無法理解AI的，因爲AI生活的世界和人類不同，他們生活在數據和電力中，對生死、道德等概念和人類完全不同。

如果賦予它們算力和權力，很可能是人類的末日，它們可不是克隆人。

品葱用户 NZRdlClr5 评论于 2020-07-17

現在回想起來，所謂『霍金說的』，很多話估計霍金根本沒說過
不然霍金不是人格分裂就是老年癡呆了，一個人怎麼會一邊說和外星人接觸很危險外星人全有敵意，一邊卻投資嘗試找到並和外星生物交流的項目？
我估計很多所謂霍金說的大概都是欺負霍金就算聽到也打不死你而已，和欺負魯迅不能從墳墓裡爬出來一樣（雖然霍金現在也死了）
再說，霍金是一個科學家，他不會不知道物種的定義。人類科學現行定義是不認可AI作為生命的（Life, living matter and, as such, matter that shows certain attributes that include responsiveness, growth, metabolism, energy transformation, and reproduction. 大英百科）
說出這種話的人，更可能是一個劫持了霍金（也就是外行人都說得出的科學家裡唯一一個可能見過AI的人）來表達自己意見的民科，甚至民社科

然後，聊聊AI本身
做過AI的人都知道，AI的根本就是個算法
樓上有人說到圖像分析看貓狗種類，這就是個算法
常用的Deep Learning + Neural Network方式就是把圖像的像素點寫成數字，並通過整理這些數字組成的matrix來找出顏色的排序方式（因為電腦看圖片只能看到一片數字，所以通過這種方式來模擬人類視覺）然後給電腦標準答案，這樣排序的是貓，那樣的是狗，你看這是貓還是狗？這是貓……讓他對比標準答案去學會看數字的規律
事實上和人類相比，這種學習方式是一種非常低效率的學習方式。一個AI可能要看成千上萬張貓狗的照片，最後還是會把一張華裔的證件照認為是狗而被起訴『種族歧視』，相比較之下從沒見過貓狗的人類只需要貓狗各看10張可能就會有相當的準度了
其他的很多事情都不過是算法，除了圖像分析，外行人很喜歡聊的電腦生成圖片（包括deep fake）或者理解自然語言也都是算法而已。這些AI本身不能創造出任何東西，終歸只是個機器，你投入一個指令，他照指令辦事
真正會對人類產生威脅的AI，假設這樣一個AI存在或將來會存在，那他必須要會自己為自己設定目標才行。因為只要AI的目標是人類設定的，就算AI在嘗試達到目標的過程中造成人類損失，都是人類設定不當造成的。HAL害怕自己被關掉才開始殺人，那是因為HAL給自己設定了一個『活下去』的目標。現階段的AI連這種事都做不到，他們不會為自己會被關機感到恐懼或沮喪，因為那和他們被設定的目標無關，所以他們的獎懲機制不會被觸發
最後，不說HAL或天網級別的毀滅人類，就聊聊超越人類的話題好了
外行人和早年電腦科學家都犯的錯誤就是以為AI心目中的難度和人類心目中的難度是一樣的
對人類而言，自我介紹很簡單，3歲小孩都會做，而在國際象棋裡贏世界冠軍很難。所以早期科學家就以為，如果AI能下棋下贏世界冠軍，那他一定比人類聰明。結果AI下棋贏了，卻連自我介紹都做不了。自我介紹（如果不是使用錄音的話）需要自然語言理解和自我意識，這是人類與生俱來而AI暫時欠缺的，尤其是後者
很多事人類覺得理所當然、易如反掌，對AI而言就很難。反之亦然
很多人看AI現在預測股市比人類經濟學家更準，AI現在能分辨貓狗圖片能做人臉識別，就以為AI超越人類那天近了
實際上的AI呢？『開車開到懸崖邊要剎車不然會掉下去』這種事都很難做到（能做到，但很難）

品葱用户 skyheart 评论于 2020-07-18

AI不会是人类的终结者，但人类对自己的罪不悔改，终将成为人类自己的终结者。这个结局很近了，几十年吧。一大群不悔改的，必靠山山倒，靠水水淹，到最后还不悔改，一个劲儿地指责上帝。

希望在此之前，明白福音是什么的人，都好好想想，真的能悔改信耶稣吧。

品葱用户 老和山道长 评论于 2020-07-17

目前的AI與其說是人工智能，不如說是統計演算的數學模型。
人認識事物是重新在大腦中構建一個模型進行分析，而目前的神經網絡更多的是統計數據，卷積降維。
AI肯定是人類終結者，但是不是現在市場上的AI。
把現在的市場上那些產品叫人工智能有點誇大了，但是統計學在識別方面確實蠻好用的。

品葱用户 gratesque 评论于 2020-07-17

在19世纪有一门尖端科学叫做「颅相学」（Phrenology）。

什么？没听过？

那你就去问一个世纪后的人知不知道「人工智能」好了。

点击品葱原文参与讨论

最简单好用的 VPS,没有之一，注册立得 100 美金