如何看待 Facebook 首席 AI 科学家 Yann Lecun 被群骂?

使用CN2/CN2GIA顶级线路,支持Shadowsocks/V2ray科学上网,支持支付宝付款,每月仅需 5 美元
## 加入品葱精选 Telegram Channel ##

赵俊博 Jake 知乎July 01, 2020

赵俊博 Jake 知乎

首先,我自报家门和态度,我是Yann的学生,去年从NYU毕业,一起工作了五年。Yann是一个什么样的人我很清楚:性情中人 / 敢说敢言 / Very Liberal / 科学家,绝对不会有种族歧视或者性别歧视这类言论出自他这里。

这件事的起因很简单,杜克大学发表了一篇文章叫PULSE,做图像的超像素,其中的模型把奥巴马的低像素照片还原成了一个白人的脸。随后Yann在推特上指出,这是来自使用的数据集的原因,因为其中以白人为主。随后一系列的争斗就在网上开始了。

我的态度如下:

  1. 我支持Yann的第一个言论。他是就事论事。PULSE模型没有使用任务anti-bias的方法在里面,并且使用的数据集是bias的,那么输出的模型一定是bias的。有朋友在我的朋友圈里面说,ML的模型确实会增大数据本身的bias。我不确定这个观点是否正确,但是我这里想说的是定性的,并非定量。我们也没办法讨论是本身数据集的bias大,还是最后输出的模型bias大,我们没有指标做这件事。如果有人说Yann作为一个领域的领导者,做出这样的言论,即使他言论里没有表达种族歧视,也是不正确的。这个或许没错,但是Yann后面补充的几个post足以说明问题了吧?我们谁可都不敢说ML ethics和bias和fairness不重要的。
  2. 如果你最近关注了美国的新闻,Floyd的死彻底掀开了黑人们心中积压的全部不满。从上街游行,到打砸抢烧,到今天的事情。知友们看到这里的时候,你们可以对比下中西方媒体报道的点,其实还是各有侧重点。所以当你们觉得我说的不全面的时候,可以对比两边新闻来看,这件事我是做了的。可以说,最近这一系列事件导致了推特这件事儿的爆发,很多本身应该是科学家的探讨变成了“是不是黑人就不受重视”、”是不是数据集本身的bias反映出了种族歧视“等等。我不喜欢,非常不喜欢这个本该关于研究本身的讨论变得非常政治化。
  3. 咱们来说说,这事儿要不要紧?以下内容反映了我早上和我好兄弟 @五千转先生
  4. 的讨论。
  5. 3.1 我认为,不要紧。我的观点很明确:如果这是一个可以触达到亿万美国用户的产品(app, web, 品牌, 线下店或者任何形式的产出),那么这件事才有严重性可言。
  6. 3.2 任何一个产品都有算法和工程两个部分,当然还有其它的。
  7. 3.3 这件事一定要用算法去解决它吗?一万个不。工程方向来解决的方式更加简单:我直接去检测输入人脸的人种,然后之后走不同的微服务模型,这件事就稳定多了(当然做过工程的同学都知道,这也就是一百米的20米不能再多了)。
  8. 3.4 研究是什么?研究算是算法的最最最雏形。这样一个模型,你们谁敢直接拿到线上用?
  9. 3.5 **研究的作用是铺路 + 概念的证明。所以任何证明都是不完美的,**这里面的不完美可能是对抗样本的问题,可能是ethics的问题,可能是其它的。我们还不能要求每一个研究者提交的论文成果都不带有bias,更不能要求其他人关于这篇研究成果的讨论处处小心,不要踩到bias的雷。
  10. 3.6 我在我一篇知识星球写到过,工程的目标在于降低系统的不确定性。AI这东西,任何系统,都是带有不确定性的。只不过,这次的不确定正好打到了美国最敏感的地带,产生了剧动。
  11. 3.7 当然,如果ethics的问题,fairness真的可以在研究模型的层面就解决,我双手双脚举起来称赞。但是,我对此没有那么乐观,毕竟AI源于数据。当然,我没有研究过这个领域,我没办法表达观点。
  12. 3.8 以及如果有骂我没有同情心的人,你们的黑人朋友可不一定有我多。顺便,你们也可以了解了解你们身边使用的东西。比如说,人见人爱的钻戒,可有不少都是我们的非洲黑人朋友们赚着极其低廉的薪水挖出来的。商业、资本的世界,哪儿有公平(fairness)?这就叫capitalism。
  13. 再多聊聊政治的话,我认为,美国可能有点走向了太政治正确的极端,这个东西没有谁对谁错,这是我认为的现行趋势。以及,美国版本的“言论自由”,朋友们你们品品吧。
  14. 我国跟非洲的合作越来越紧密,我跟纽约不下10个来自非洲的黑人Uber司机聊过天,问过他们关于西方资本主义世界和我国的认知。我可以说10个里面有9个挺我们,剩下的一个不表达态度。这一点上,我们应该骄傲。

请不要让研究者们每天活得如履薄冰。

想对骂人的人问一句,要是你们以后提交的每一篇论文都要先过一个unbias的测试才能提交,你们怎么说?

最简单好用的 VPS,没有之一,注册立得 100 美金
comments powered by Disqus

See Also

川普政府能不能利用大肆宣传中国人种族歧视来攻击中共?

品葱用户 UAV 提问于 6/29/2020 现在美国政府宣传的中国政府镇压学生,不讲诚信,偷窃科技成果,甚至带来病毒,这些普通美国人其实都不怎么感兴趣或者像病毒起源一样证据不足。以这些为武器攻击中共,收效甚微,民主党也不会买账。 但是,中 …

非讽刺,川普才真的是黑人群体的救星吧?

品葱用户 李剑秋 提问于 6/2/2020 黑人犯罪率高,学历低,生的孩子没有爹等一切现象的根本原因就是穷,就是没工作才会闲得慌不务正业的贩毒吸毒乱搞,放弃自己的孩子家庭还有非法途径去赚钱混帮派,然后恶性循环下去。 而川普在疫情前做到了把黑 …

反对黑人平权,是在担心什么?

点击蓝字关注 斜杠青年王爱玛 法学院最会健身的厨子 一本正经地“不务正业” 之前两篇推送之后,后台收到了很多消息。看到这么多人对此感同身受、有所共鸣,对我个人来说,实在是很大的心理慰藉。 不过,也收到了一些不一样的看法。 今天的推送,整理了 …