如何看待上海某小学通过 AI 图像识别学生上课开小差并对学生进行评分?

使用CN2/CN2GIA顶级线路,支持Shadowsocks/V2ray科学上网,支持支付宝付款,每月仅需 5 美元
## 加入品葱精选 Telegram Channel ##

知乎用户 发表

这样真的可行吗,孩子们会不会活的越来越不真实,不敢表述自我?

知乎用户 鲁森林林​ 发表

建议先赶紧在各个政府服务部门和咨询机构安装,通过 AI 图像识别工作人员是否保持微笑、是否态度良好、服务是否专业、上班有没有淘宝等等,建立起政府部门工作人员全面服务水平评估系统,把不合格的、民众不满意的赶紧换掉。全面提升为人民服务水平。

看原文:

探索对课堂教学过程的定量分析。孩子在校园生活中是否有微笑、向老师问好、主动捡垃圾、列队整齐等良好行为,或者快速奔跑、摔跤、打架、拥挤等危险动作,都可能被人工智能捕捉识别到。

后面的这些行为我赞成,可以避免学生出现危险情况,同时也可以减少校园霸凌现象的发生。但是前面那些是否有微笑、向老师问好、主动捡垃圾(学校没有清洁人员?)、列队整齐(是在军训?)这些都是认真的吗?这个要捕捉来做什么?有什么意义吗?不微笑的学生就不是好学生?学生主动捡垃圾值得提倡但绝不应监控。捡垃圾和校园清洁应该让专业保洁人员来做。向老师问好、列队整齐是一种良好的习惯,需要引导和教育,但不能做为硬性标准进行监控。每个学生的性格不一样,生活习惯也不一样,他们在校园时期尚处于自我构建和身体发育阶段,怎么可能做到完全的整齐划一?他们是一个个鲜活的个体,不是一堆数据和符号。

如果这个新闻把学校和学生抹掉,光看描述,还以为是监狱在监控犯罪人员活动的场景呢。技术的发展没有边界,但技术的使用必须有边界。

几千年前的古人都知道要因材施教。孩子是有灵动性有个性差异有自己情绪的人,不是统一制造的机器人。不是养鸡场里面被困在架子上催肥待杀的幼鸡。这样的技术应用只会用统一的行为标准将所有的学生框架住,让学生绝不敢越界。当下在高考这根指挥棒下,学生们承受着身体和精神的双重压力,已经够辛苦了,再来一套 “反人性” 的所谓高科技监控、评价和分析系统,只会极端压抑学生的个性和主观能动性。

放过孩子吧。

知乎用户 吮指原味鸡 发表

电屏幕安排上了!

很多人都不喜欢《1984》,觉得一些人看了《1984》就以为自己很厉害然后开始指点江山,满口都是什么极权。这观点我也基本认同。但这简直就是在向小说致敬,硬是把小说套用在别人身上。看到了现在中国在这方面 ai 技术如此先进,把几十年前英国人的幻想向现实推进了一大步,只能感叹今天中国科学技术的发达,在一些领域都已经弯道超车。


教室里,一个字正腔圆的声音正在播报一连串与今年学校中考成绩相关的数字。声音来自教室墙上一块形似毛玻璃镜面的长方形金属板。小明调了一下开关,声音略小,还是清晰可见。这个仪器(也叫智能课堂行为分析系统)可以调低亮度,但没办法完全关掉。

在小明的背后,从智能课堂行为分析系统那里传来的声音依旧喋喋不休地播报着关于今年中考成绩再创新高和多位毕业生被上海中学录取的消息。智能课堂行为分析系统可以同步进行信息的接收和发送,还能进行自动分析。小明发出的任何声音都会被捕捉到。不仅如此,只要待在教室里,小明不仅能被听到,还能被看到。他的每一句话、每一个动作被会被 AI 审查,任何被认为对学习和学校不满的举动和言论都会被统一上报给思想老师以进行进一步地审查。

小明不由自主地长叹了一口气,即使这么靠近智能课堂行为分析系统,也无法阻止他每天在开始上数学课时叹这口气。

小明想起几个星期前在教学楼走廊遇到的一个男生,团员,初二,背着书报。在两人距离只有几米远的地方,那个男生的左脸突然抽搐了一下。当他们擦肩而过的时候,他的脸又抽搐了一次。只是抽一下,轻微地颤动,像照相机快门咔嚓那样快,但很明显这是习惯性动作。小明还记得自己当时想:这个可怜的家伙完了。这会被智能课堂行为分析系统认为是下意识里对学校和任课老师的不满。最恐怖的是,这很可能是下意识的反应。

学习委员小胖经过智能课堂行为分析系统时,想起了什么,于是停下脚步,按了墙上一个按钮。只听啪的一下,智能课堂行为分析系统被关掉了。小红忍不住发出低低的惊呼声,小明本来就尴尬恐惧,现在也惊恐万分,不得脱口而出。“你居然可以关掉这个?”“没错” 小胖说,“我们班干部拥有这种特权。”

节选自乔威尔青春校园小说《2091》

知乎用户 「已注销」 发表

突然想了想,这个系统还 tm 有可能是程序猿们 996 做出来的。

知乎用户 天眼查​ 发表

噗…… 越长大越心疼现在的小学生。

不过有了 AI 系统,同学们看数据就可以知道我们到底是不是班主任带过最差的一届了~

学校花了 400 多万搞这个,天眼妹有点好奇是哪家公司把这个项目拿下了~

你说以后他们会不会开发出来个 “AI 图像识别员工上班摸鱼水平” 的系统啊?

天眼妹瑟瑟发抖……

知乎用户 sen2020 发表

下一步可以在海康、大华等公司员工的电脑前装一个摄像头,自动分析程序员有没有集中精力工作。仅仅 996 是不够的,必须要高效率 996。

话说想要对付这种 AI 还是有办法的,不然为啥那么多人研究 adversarial machine learning。

知乎用户 匿名用户 发表

在一个法治不成熟,公权力无法得到有效约束的社会里,科技的发展往往并不意味着幸福感的提升。

在封建社会,皇权至高无上,但因为军队的武器和民间武装没有代差,失去民心的君主很容易输掉平叛战争,而古代信息技术落后,中央缺乏对基层的控制力,农民起义很难被扼杀于萌芽之中。这种科技的落后反而成为了一种对权力的约束与制衡。古代所有的皇帝都知道,如果自己专横暴戾或荒淫无度,不管是从宫廷内部还是民间,都将爆发出极大的反抗力量,很可能会剥夺自己所拥有的一切。

但是随着近现代科技的发展,以及各种军用技术向民间的渗透,这套维持了几千年的制衡系统逐渐失灵了。

美国建国之初允许人民持枪,不仅是为了自卫,也是为了维持这套制衡体系,让权力的拥有者不敢肆意妄为。而现在虽然美国民间的枪支早已不可能打得过政府的正规军队,但是至少美国两百多年来形成并不断完善的三权分立和法治体系,提供了合法的渠道通过非暴力手段解决社会矛盾。尤其是 20 世纪以来,我们看到了无数美国普通民众因为自己的权利受到侵犯而起诉政府或其他权威并胜诉的案例。这套制度这取代了持枪,成为了美国民众社会安全感的来源。

所以哪怕是爆出了棱镜门这种事情,美国的普通民众对于政府还是保持了相当程度的信任,因为他们知道政府部门、学校医院等公共机构的底线在哪里,并且所有的技术要想应用在民众身上都必须经过立法程序,并且民众有知情权和拒绝权。比如欧美的软件在安装的时候,会询问是否愿意发送使用数据给开发者,而中国的软件完全不会问你就擅自采集用户数据,法律更没有这方面的规定。

**改革开放几十年来,中国的经济科技发展速度远远超过了社会道德伦理的进步速度,在目前还没有探索出合法有效的制衡机制能够兼顾科技便捷和隐私安全。**在这种局面下,贸然将某些本该军用的科技民用化,是非常可怕的一件事情。在学校应用 AI 监管学生的技术并不是不可以,但学生家长和学生自己必须要有选择权,可以选择加入这种监管,也必须有权利拒绝它。学校和老师也不能因为某个学生和家长选择拒绝接受 AI 监管而在其他方面歧视这位学生(比如不给予应有的表扬等等)。

科技发展使生活更方便美好的临界点已经过去,接下来要面对的是无数的 “新科技” 对社会伦理道德底线的一次次挑战。如果民众一直报以绥靖的态度不当回事,我们终将失去所有的自由和隐私。

听说最近不光是搞出了 AI 检测学生开小差,还开始推广小区人脸识别门禁系统。有的人可能觉得这样更方便更安全,反正我只觉得细思极恐。请问这套系统通过了小区业委会的投票同意吗?如果没有,是谁给了居委会街道权力收集每个居民的面部信息,并强制要求小区采用人脸识别门禁系统?别的答主有提到公租房要求普及这套系统,公租房作为政府提供的住房自然有权这么做,而商品房小区是全体业主的共有财产,政府是没有权力管小区内部的事务的。

学校里 AI 识别学生开小差只能由学生家长联名抵制而停止,小区人脸门禁只能以业主的集体反对而撤销。**而李彦宏说过一句名言:中国人愿意用隐私换安全。**如果真是这样,那最终的结果一定是公权力不断得寸进尺,最后隐私和安全通通没有。

别忘了去年年底,世界上首例基因编辑婴儿在中国出生。我们的官方媒体起初抱着自豪的语气报道这件事,后来发现全球科技界与政界大规模谴责才赶紧撤回,这说明了什么?

知乎用户 不才不争​ 发表

甲:今儿大家都是来听相声的。

乙:诶

甲:相声讲究 “说学逗唱” 四门基本功,

这 “学” 啊,衍生到现在,就需要去了解世间各行各业了。今儿我给大家讲讲人工智能。

乙:好嘛,您对这还有了解

甲:人工智能啊,就是讲训练机器人,让它们能模拟人的反应

乙:对嘛,训练机器人为我们所用

甲:其实也不尽然,这也不完全是好事

乙:您给说说,这怎么个道理

甲:这机器人学东西可比我们人快多了。就比如我们相声吧,咱打小就开始学,我六岁开始学说相声,跟着师傅开始练贯口

乙:对嘛,从小就开始学《报菜名》 《八扇屏 》《白事会》

甲:您也是练的童子功,十七八岁跟我们一起练的《报菜名》…..

乙:这像话嘛!十七八岁能叫童子功

甲:说笑归说笑,咱还是回到这人工智能上来,咱刚说到了,人工智能有利有弊

乙:终于讲回来了

甲:这利嘛,大家都清楚,就是能解放咱的劳动力

乙:那您给讲讲这弊端在哪呢

甲:弊端在于它可能对人有过分的监控、可能会带来危险

乙:这怎么说呢

甲:这不,我前两天看到个新闻,说什么一小学用人工智能监控小孩开小差

乙:开小差用人工智能监管?

甲:你不懂这了吧

乙:是不懂哇,您给分析分析

甲:小孩儿啊,上课要是不听课,人工智能直接一个电磁炮打过去,把小孩给打精神了,小孩不就听课了?

乙:这像话嘛,小孩偶尔走神也是正常的

甲:刚说笑了,这人工智能啊,是监控小孩上课认不认真,上课举手啊,这打哈气这种数据,可以因材施教嘛

乙:这还有点道理,都是为孩子成长嘛

甲:然后人工智能把这数据一整合,直接打包发到校长办公室去,校长就找机会把这些孩子处理了

乙:您说处理了?怎么处理

甲:叫家长呗,您小时候可没少被叫家长啊

乙:嗬,又扯到我头上来了,这哪跟哪啊

甲:您小时候…..

乙:嘿,那这人工智能不是压迫小孩儿嘛

甲:您是捧哏,接我茬就行了,别说太多

乙:这我还真得好好跟您掰扯掰扯

甲:您说说看,有道理我们也虚心采纳

乙:这小孩儿,刚上小学,这正是喜欢玩的时候啊

甲:对嘛,咱小时候没得玩,爬树、玩泥巴,也不亦乐乎

乙:这什么人工智能一监控,不是把孩子当机器弄了,这群小孩儿心理怕是要出问题。

我还是觉得没安排所有,贸然搞这个高科技,还是不妥当

甲:这您说得也有理,孩子嘛,都是有灵性的,如果就用点数字去代表他们确实不合适

乙:您给听进去了,也是一好事儿

甲:确实,这小孩儿啊,每个都不一样,有脾气爆的,也有好说话的,那些喜欢打闹的孩子啊也不是真打架,咱俩小时候可没少打架啊。

乙:是嘛,这小孩儿打架啊,都是开玩笑

甲:对啊,咱这算是越打感情越好了,也不会下重手,心里有个度

乙:是嘛,我这右手被您打地三十年就没抬起来过

甲:咱不说这,小孩儿嘛,喜欢玩儿,闹腾,总要让他们发泄嘛,不然总憋着

乙:是嘛,得给点时间玩

甲:那这一监控不就没法玩了

乙:也是

甲:那这群调皮小孩得回家把电视机砸了去

乙:这像话嘛,发泄也不是这样的

甲:那以后不得把家里也安上监控了,这样才管的住这群小孩儿

乙:这不是把孩子当机器人了嘛

甲:我也觉得不合适啊,这法规还是得完善啊

乙:确实

甲:我得去找找这些老师去

乙:行嘛,那咱走着

(鞠躬

第一次写,肯定不完善,发出来接受批评。

知乎用户 若羽 发表

因为 AI 公司的技术发展进入了瓶近期,看看这两年计算机视觉的发展,大部分无外乎是暴力美学,靠 AutoML 搜一个精度高几个点的模型。投资人也不是傻子,对继续押宝弱人工智能技术持观望立场。既然市场有限,大小公司要来钱快,就只能不断放低底线,迎合一些在伦理上争议巨大的应用,比如所谓的 “智慧课堂”。

知乎用户 Bbfacen​ 发表

作为一个资深教师,坚决反对这种做法。

身为教育工作者,我们从进入师范学习那一天开始,就被提醒工作中要反复思考一个根本问题:我们究竟想培养什么样的人?

那请问,以上这种做法,是想培养什么样的人?从小习惯被监视的人吗?

知乎用户 邪月 TR 发表

可想到未来的某一天,孩子回了家,受到家长的一顿辱骂:“李小明你怎么回事?今天早上第三节课下课,在五楼厕所四号坑咋笑的?编号为 wx-003 的微笑都不会,嘴角微微上扬 45°,上唇微起,露出大门牙的三分之一,嘴不要咧开。真是没见过笑一下,这么作难,我小时候一笑就特别好看。今天笑不对,就不要吃完饭了。”

这样的孩子还有自由吗?还有隐私吗?连笑都是刻板的样子(甚至在暗处偷偷笑的狂妄都被警告),我甚至能联想到在这样的教育下,未来产生死板且只会服从的人。这是非常可怕的!

有答主说《1984》,但事实是如果这样的技术被推广,可能比《1984》里面描述的更可怕。最后毫无隐私和自由,一旦这样的人被具有某种精神狂热的人引导,是不是会出现比二战时期德国更严重的精神崇拜?

哦,请原谅我想远了,可我也不敢再想了。光是想想,都脊背感到阵阵凉意。

放纵自己的欲望是最大的祸害;谈论别人的隐私是最大的罪恶;不知自己过失是最大的病痛。—— 亚里士多德

自由向来是一切财富中最昂贵的财富。

——罗曼 · 罗兰

最后,我希望技术能真正关进道德、制度与法律的笼子,合理使用!

知乎用户 rayer 发表

可千万别被外媒知道………

又要让我被各国同事们嘲笑了 ¯\_(ツ)_/¯

知乎用户 彼得大帝 发表

想象一下在这样的环境下成长的孩子,不敢打闹,不敢胡来,不敢开小差。一切的行动都在监控之下,连做个广播体操都被监控,告诉你,这个动作你做错了,要扣你的分了哦。

这样的孩子,会是一个心智健全的孩子吗?一个成人都可能会被这样的全方位监控逼疯,你总不可能随时都对这个世界表现出你最完美的一面吧。

孩子的天性爱自由,可能偶有不守规矩的时候,这时教育者需要引导他们,而不是把一个名为评分机制的软枷锁套在他们头上,告诉他们————你不能做这个,不能做那个。更不是把他们的一举一动毫无保留地暴露出来,供人评价。

科技能给人自由,也能夺走人的自由。

你通过摄像头可以让整个世界看到你,但有的时候你需要贴上它防止整个世界看到你。

细思恐极,我认为我们应该抵制这样的系统,如果不能做到,起码也应该将其置于最严格的监管下(虽然我并不觉得这有什么用)。倘若这样的系统未来广泛运用在世界上,最可怕的独裁将降临人间。

知乎用户 Senn 发表

有的人在拼命地研究让机器智能化,

有的人却在拼命地想让人类机器化。

知乎用户 常有晴​ 发表

刽子手注意力会集中在提高工作效率而忽视了自己成为了帮凶。

学校首先是教育机构,但看来一些 “教育者” 把自己等同于监狱长了。

但这种事情的出发点,很可能在于政绩。

国家部门机关企业性质的领导,为了彰显自己的政绩,特别喜欢拿一些当前社会热门的领域成果展示蹭热度。

至于这事情是什么性质,有什么影响,花多少钱,无所谓

知乎用户 FlumenStellarum​ 发表

某些公司想钱想疯了吧。

一个浮躁的社会、浮躁的领域,必然会有这种现象。

跟创业、投资圈的人如果接触过,他们的价值观(或者说没有价值观)做出这种事情一点不奇怪。

知乎用户 二五八集团 发表

技术无罪,初衷也是好的,就怕开了这个口子,实际到后期的执行并非只局限于教学评估,毕竟人的控制欲和窥视欲是可怕的。

科技打开欲望的大门之后有多恐怖?或许我们可以参考黑镜第四季《方舟天使》这集的内容。

女主萨姆布瑞尔是个单亲妈妈,她有个可爱的女儿叫萨拉。萨拉三岁的时候意外走失,幸好后面孩子在大家的帮助下找了回来。

经历过崩溃,经历过失而复得,为了防止再次出现意外,萨姆布瑞尔决定用一种高科技手段 “方舟天使” 将一种高科技芯片植入女儿大脑中。

芯片植入之后,妈妈可以通过平板电脑随时看到萨拉的位置。

可以实时监控萨拉的身体情况。

可以看到萨拉眼前看到的景象。

更令人毛骨悚然的是,这个芯片还有滤镜的功能,当某些画面使孩子皮质醇水平上升时(比如压力、比如令人害怕的情景),可以自动开启对这些画面的打码功能!

所以萨拉再也看不到曾经害怕的恶狗,看不到打架流血的场面,甚至看不到外公中风摔倒的场景,看不到外公去世时妈妈脸上的悲伤。

芯片带来保护的同时,也隔绝了萨拉接触一切外界危险的可能性。

后果就是,萨拉对人类情感以及危险判断的能力变得十分有限,而越是看不到的东西就越好奇。

长大以后,萨拉在没有任何安全措施的情况下和男孩发生关系,还染上了毒品。

这一切都被妈妈萨姆布瑞尔通过监视器看在眼里。

当你习惯了监视器这种简便、快捷的操作时,很快就会上瘾,变得无法自拔。

最后的结果可想而知,母女之间的矛盾终于引爆,萨拉用平板电脑疯狂砸向萨姆布瑞尔。

而导致这一切的初衷都是 “为了你好”。

知乎用户 John 发表

这个姿态识别用的是交大的 alphapose 吧。

我之前做过课堂专注度识别的课题,结论就是根据监控识别根本不可行。因为不管根据姿态还是人脸提取特征来识别专注度,准确率都是非常低的。通过这种低画质的监控的画面质量提取人脸和行为特征本来就不是一个靠谱的方式,更别说识别专注情况了。

说白了这种东西只是做出来迎合某些领导的特殊喜好,然后趁机捞一笔钱的。因为这个东西可以捆绑服务器监控一起卖,而且做出来就能批量卖给一大堆学校,赚的一笔。其实实际应用根本没有任何可靠性,但那些不懂技术的领导还玩的不亦乐乎。

最后从伦理道德的角度来说,这样的东西完全是毁灭人性、培养机器人的工具,开发者做个人吧,这玩意儿准确率你们自己心里没 b 树吗?

知乎用户 萝魏紫​​ 发表

科技第一定律:当群众知道一个科技被用来作恶的时候,已经晚了,再也阻止不了了。

这事其实早就铺开了。

一年多前就有了,百度杭州空格海视康,有惊喜。

这个技术其实很多年前已经成熟了。想想 xbox 的 kinect 为什么出电脑版?

相当多的大型工厂都是这个技术的用户或者潜在用户。

在技术层面当然有反制的技巧,但是在管理层面可以简单地一刀切,所以根本无法对抗。

welcome to the Matrix

知乎用户 Enzo Jiang​ 发表

不分析老师吗?

知乎用户 难得糊涂​​ 发表

本质上就是 “监狱式管理”,类似于下面两则新闻。


针对这个,我贴一篇 2014 年的旧闻:

据腾讯网 11 月 1 日报道,近日,河北省邯郸市广泰中学实行 “教师全程随班办公” 模式,打破了传统的师生学习和办公的空间藩篱。通过 “一拖二” 的办公室与教室的特殊改造,学校每个教室的后部设有班主任办公室。按照校方是说法,这样,班主任就能随时通过办公室窗户 “零距离” 观察每位学生,在办公室里随时掌握班级的动态,全面了解学生学习兴趣、听课状态、自学习惯等,第一时间发现学生存在的问题或规律,及时有针对性地介入解决问题。

  可是,这种模式真有这么美好吗?直言不讳地说,广泰中学的这种模式非常、非常、非常 “奇葩”。我们甚至完全可以它把称之为 “监狱教室” 模式。也就是说,通过这种所谓的 “创新” 的模式,广泰中学事实上**把自己的学生当成了一个个必须要随时收到严密监控的对象,亦即犯人,从而事实上让教室成为一个个虽然名义上不是监室但本质上却的确是监室的监室,进而让学校变成一座布满监室和无所不在的监控的监狱。**于是乎,班主任自然就成为随时监控教室里的学生的狱警,而校长则成为监狱长。

  我们完全可以想象得到,在这样的模式下学习的学生将承受怎样的心理和精神重压!要知道,“每分每秒,都要非常小心,因为班主任随时都很有可能在看着你呢!” 学生由此神经紧绷,不得走神,不能打瞌睡,不能来点小动作,甚至不能在甲课上看乙课的书,也不能做丙课的作业。如此,学生带着巨大的恐惧上课、自习。在这样的情形之下,我们很难想象每一个学生都能正常地听讲、学习,除非少数心理素质确实非常过硬者。而且,在这样的情况下,上课的老师也是受害者,因为一旦上得不好或者出现了问题,被班主任看到了,就会被报告给校长。

  进一步来说,广泰中学的这种 “监狱教室” 模式是法国 **20 世纪著名思想家米歇尔 · 福柯(Michel Foucault)思想的一个生动体现。在代表作《规训与惩罚》(Discipline and Punish)**一书中,福柯考察了监狱诞生的历史及其实质和惩罚方式的转变,并且探讨了监狱与社会之间的关系,得出了许多令人感到意外的结论,比如 “学校即监狱”。福柯指出,学校里的监视既存在于学生和老师之间、学生和管理人员之间,也存在于管理人员和老师之间,甚至存在于学生和学生之间、老师和老师之间、管理人员和管理人员之间。通过监视,学校成功地把学生按照学校制定的时间表组织、管理起来,成功地在学校提供的可能性中束缚住了学生。

  客观来说,一方面,学生是需要老师的监控,才能最大可能地保证全部都好好学习,实现作为教育机构的育人目的;但另一方面,**学校和老师对学生过于全面和严密的监控会对学生造成许多严重伤害,比如惊恐不安导致精神错乱、丧失自信心和对他人的信任感,以及学业成就的退步。**好处与劣处相比起来,好处显然无法胜过劣处。道理其实很简单,一个成天生活在别人严密监控之下的人,自主都不能,还能注意力集中地安心读书、听讲、思考和学习吗?退一步来讲,谁能保证在教室里上课时间一点走神与小动作都没有?恐怕连 “学霸” 也不能保证。而一旦如果有这些问题,就很有可能被随时监控的班主任记录在案、批评教育。

  总而言之,作为重要的教育机构,教室万万不能变成监室,学校万万不能变成监狱,班主任万万不能变成狱警,校长万万不能变成监狱长。像广泰中学这样打着为学生好和模式创新的旗子而把对学生的监控极端化的做法,无论冠以什么样 “高大上” 的帽子,都是必须应该被当地教育局立即叫停的。我们的教育工作者须谨记,英国 20 世纪著名文学家乔治 · 奥威尔(George Orwell)著名小说《1984》(Nineteen Eighty-Four)中的名言 “Big brother is watching you!“决不能出现在教育学生成人而非严密控制学生的学校里。

来源:“监狱教室” 模式须立即叫停_评论频道__中国青年网


分享我以前读福柯《规训与惩罚:现代监狱的诞生》的几点感受:

1. 福柯提出了著名的 “全景敞视主义”,这是一种环形监狱。具体而言,把监狱建成一个环形,中间是一个高高的瞭望塔,塔身上有一圈大窗户,从各个方向上对着环形建筑。环形建筑由许多小囚室构成,每个小囚室相互隔离。这样囚犯与囚犯之间互不可见,也就不可能有阴谋串通的危险,取而代之的是一种彼此隔离的群居生活。每一个囚室就像是一只笼子、一个舞台,囚犯在里面的一举一动从瞭望塔里都看得一清二楚;

但是囚犯却只能看到瞭望塔的轮廓,无法确切得知监视者是不是正在注视着自己。这种监狱制造出了一种被称为 “不对等的注视” 的效果。

即便狱警不在,犯人也不敢轻举妄动,因为他们不知道狱警是否在监视自己。这种全景敞视建筑是一个神奇的机器,控制了被监视者的行为,最大限度地发挥了权力的影响力。

2. 正是通过这种现代监狱,惩罚和规训不再只是为了消除危险,震慑罪犯,而是获得了新的、更积极的作用,它被用来纠正、操控和改造身体和灵魂,强化权力对每一个人的控制和利用。

3. 在此基础上福柯指出学校本质上就是模仿现代监狱的逻辑,用以对个体进行现代文明的 “规训与惩罚”。而现代科技,如 AI 技术的应用更为这种无时无刻的监控提供了可能性。技术本身就像一把刀,无所谓好坏,关键在于你如何使用。如果现代技术的应用没有伦理和边界,那很可能带来恶果。

4. 实际上,真正恐怖的,可能并不是行刑者最后射出的子弹,而是你时时刻刻不确定自己是否被人用枪瞄准。

知乎用户 「已注销」 发表

我比较反对用这样的系统对小孩进行监控评分?

他们是小孩不是机器也不是程序,他们不用去设定变量算法去规范他们的学习!

还有我觉得这套系统用在孩子身上不如把他放到学校安保上去,保护学校里孩子的安全比这个更有用!

这套系统,会使孩子的天性丧失,他们不在单纯,他们会为了数据好看而戴上面具!

他们会掩饰自己,上课认真听下课不打闹,连和同学之间的游戏都不敢玩!因为他们知道,有个眼睛在盯着他们!

长期这样,个人情感无法发泄,会抑郁!可以看看小欢喜里面的英子,母亲对孩子的控制多度的后果!

知乎用户 梁先生 发表

补充:

1、这样的项目我们做过一个方案,对某部队小学的学生的校服、相貌进行资料收集,大数据训练,结合入口闸机,食堂、操场、机房等关键区域的监控,目标是学生安全,避免陌生人进入。

也曾在酒桌上谈到过面部表情和动作的收集和训练。费用 100 万,全套,包日。……LD 比较理智,毙了。理由有三:一、学校是育人的,主要靠老师引导,靠工具的是监狱。二、这样会给孩子的家长造成恐慌。三:费用太高,财政不会批。

2、我担忧的:科技是在发展的。算法今天可以捕捉判定的是每个人的喜怒哀乐和小动作。未来就开始预判喜怒哀乐后人的行为,预防犯罪的基础就此展开。但是,你想过没有,如果你的一举一动都被分析和记录,那么,你还有自由和隐私吗?你还会有反对或者不赞成的权利吗?放眼在学校,被行为监控的孩子们,他们还有可能保证性格和思想独立、健康的发展吗?

==== 下面是原答案

业内人士说几句。

普天之下,莫非王土。

说侵犯隐私的,你们根本不知道现在主要城市街道上监控摄像头的密度,以及未来功能发展的趋势…….. 人脸识别已经太小儿科…… 最近某地 “雪亮” 工程的负责人和我聊的内容,已经接近电影“少数派报告”…….

大家的愿望都很善良….. 然鹅地狱之路什么时候离得开善良?……. 从减少犯罪到预防犯罪……. 从人脸识别到情绪分析…….BIG BRO,渐行渐近。

对了,还有那个号称不抄后路的华为,已经正式发布了安防监控子品牌…… 说明,这盆腐肉香啊,量也越来越大啊…… 不能海康大华这群秃鹫吃,鳄鱼也要上岸了………

说点与主题有关的……AI 图像识别不太复杂,无非就是先抓图片,积累素材,然后进行大数据训练,技术层面,还是有一定误差,其实不算很成熟。对监控设备和服务器的要求也很高,经济性比较差………

赌一毛钱吧,学校的其他口径,比如安全监控已经安的不能再安了,某位主管校长又实在缺 money……. 不定酒桌上哪位撺掇的…… 谁要是能晒晒中标价格就好了….. 一辆宝马 5 系?…… 终归现在八府巡按满天飞。

我说的都是错的。

知乎用户 El Facil 发表

这 UI…Openpose 吗,Github 上的开源码改的

知乎用户 百丈游丝 发表

很多答案都从监控与权力,隐私与自由的角度讲问题,很是同意。作为老师,我想从补充一下教育的角度。

对有关部门要求的微笑服务,真有必要成为对小学生的品格要求吗?

真有必要纳入考核标准么?

作为老师,比起装作不认识你,赶紧小碎步擦身而过的学生,的确喜欢走廊上对我微笑打招呼的学生

下次,这个学生拜托我某事,ta 家长来学校时,我也更可能给出正向的反馈,更容易有善意的考量

这些反馈,在日后或许会让 ta 理解,微笑的力量。这可能比记住几个英语单词,背一首古诗更有用。

虽然微笑问好,很好。可惜,真正去做的孩子不那么普遍。老师虽然提倡,但也不至于拿小本本记录不肯这么做的学生。

这么看来,AI 小学是个了不起的突破,将一些原本难以量化考量的内容,比如微笑待人,向老师问好,通过技术,重新纳入考核领域,进行有效考核。

孩子在校园生活中是否有微笑、向老师问好、主动捡垃圾、列队整齐等良好行为,或者快速奔跑、摔跤、打架、拥挤等危险动作,都可能被人工智能捕捉识别到。

技术进步,似乎帮人类解决了一个难题 — 批量生产会英语的孩子一样,批量生产拥有好习惯的孩子。

然而,事情的复杂就在于,手段将影响结果,形式将影响内容。

当老师和孩子都知道微笑算成绩,微笑且是时时会被 ai 记录时,这份认知改变我们对微笑的看法

ai 小学,老师看到一个走廊上对他微笑的学生,在感到愉悦的同时,难道不会想到,这学生不过是为了增加一次微笑记录?

ta 到底是在对我这老师微笑,还是在对 Ai 镜头微笑?

或许,ai 学校的老师就不会在后续互动中,给孩子正向的反馈了。孩子也将从老师的反馈里,习得一个认知。在有 ai 的情况下,微笑能加分。可除此之外,微笑也没啥 p 用。

而想拿高分的孩子,为了达成微笑的最大功效,还会拿出刷题的劲头,研究在哪个角度,哪些地点,微笑会更容易被捕捉。

微笑意义改变的过程,也揭示了人类学习的一种常用,却常常被学校教育忽略的方式 —“社会性参照”。

“社会性参照”,在遇到陌生,不确定的环境时,人类婴儿天生就会观察大人的表情,从而找到采取相应的行为 or 反应

孩子不仅仅在课堂里学习,也在跟大人,跟同学的互动中学习。

尽管 ai 学校,在课堂上,在广播里,宣扬微笑,向老师问好的种种好处。

可是,只要有老师无法克制自己怀疑的表情,无法抑制自己不舒服的情绪,这些细节都将会传递到孩子身上,影响孩子对微笑,对问好的认知。

微笑是如此,其实,开小差也不适合 ai 介入。

现代教育学,心理学研究里,都有证据表明,身体的运动,具身认知(Embodied cognition)对学习有很大的促进作用。

孩子在课堂上,一动不动端坐,听老师一个人演讲,并不是人类学习的最佳模式,只是最有规模,最有效率的一种模式。孩子天性是好动的,孩子本来就是跟大人,跟其他孩子互动中学习知识的。

实际上,孩子在课堂上跟同学的互动,如果是跟学习相关内容,其实会加深 ta 对学习的认知。比一味听讲效果好。

尽管有这份认知,但很难在课堂实践。要是碰上公开课,也只好拜托同学们乖一点,别整幺蛾子。平常课堂上,开点小差,只要别太过分,打个哈欠,跟同桌小声说话,都可以容忍的。

AI 对开小差的全面记录,0 容忍,在我看来,是会进一步让孩子失去学习的动力,演变为学习的容器。

AI 小学的最后,最可能像西方严格的天主教学校,修道院一样,培养出表面特别会装的孩子。

我们这么多年非议应试教育,难道是为了让应试教育迭代,进化出新的分支——应试品行么?

别忘了,应试教育培养出的考生,等考试一过,很多人就会撕书。

那么,应试品行结束后,是不是人就不会笑了?

版权所有,谢绝任何形式转载,谢谢理解。

知乎用户 檬檬檬 发表

一定是因为小学生年龄小好欺负,否则为什么不识别政府办公人员是否认真上班,不开小差,为什么不识别家长有没有认真对待孩子,有没有精神暴力和身体暴力对待孩子,为什么不识别乱穿马路的行人电动车,在这这样对待孩子们!!

开小差多正常啊,一个孩子连开小差都不被允许,他是多难受,岂不是跟木偶一样,大人的控制欲该有多强才想出这样的办法整治孩子。

不用别的,每个单位先弄一个,开会的时候识别一下开小差的,为啥不让成年人尝试,非去整治孩子????????

为什么???????

知乎用户 黄佶 发表

瞎搞。学生是人,不是优盘,知识是无法拷贝的。而且培养学生的自学能力、思考能力和质疑精神,比学习知识更重要。

知乎用户 仙缘 发表

就知道捏软柿子,黄台之柿,何堪再捏啊。

知乎用户 gmqq 发表

光看这篇报道,从上往下的功能,真的是越来越不靠谱。

报道第一个提到的功能是监测课堂表现,分为两部分,学生和教师。其实不光是对学生的表现,对老师的表现监控也很过分。我完全可以找一台人形扫地机器人来设定符合你所有指标的课堂动作程序,但就是不教书。教书这种事情它本就监控不了。你要求每个老师去遵循这个谁谁谁甚至那个什么斯基的教育法,还要精确到步,这本身就是反教育的。

单对学生来说,监控系统如果撤不了了,经费已经拨了,花完了,最好的做法是脱敏。我看它的描述里似乎没有把课堂上的学生精确到人,最后需要老师看视频确认是谁打的哈欠。精确到人显然是可以做到的,不过我觉得这个系统似乎没有到这么高配。首先钱就不可能给够。那么脱敏是什么意思呢?不让老师看到视频,有本事凭记忆把打哈欠的孩子抓出来训。

这样的后果是老师要开始设新的班规了,我觉得这个不难想到,大家都有这个经验。管老师的政策最后都变成管学生的政策,转嫁谁不会啊。所以打一开始就不要有这种监控的想法,那就是给大家找不自在。

好了,接下来是校园监控功能。校园监控其实有一定的作用,主要的作用是:代替安检。一个尖尖的、明晃晃的东西出现在镜头上,我觉得还是要引起监控人员重视。

不过其他的事情上,监控就不大靠谱了。有的答主或者评论提到校园霸凌,霸凌这种事吧,明显的围殴可以监控,那我要是冷暴力呢,我在对话中实施霸凌,咋监控?你总不能说 “这是乙方该考虑的问题” 吧?你又说主要作用是威慑,我求你不要把威慑成年人的手段加到未成年人身上。人生本就有许多艰难。

报道里提到积极行为与危险行为的监控。实际上,问题的核心不是监控,而是**如何定义一个行为是积极还是消极,以及如何对这些行为做出反应。**监控的注意力放在捡垃圾而不是扔垃圾上,这本身就很奇怪。还有列队整齐,它到底是什么积极行为?让领导视察时感到身心愉悦的积极行为吗?

实际操作过程中,很少见到对这些 “积极行为” 进行正向反馈,更多的是“如果你做不到,就要接受惩罚”。本来是 bonus,非要当成 essential 来考量,难怪人活得越来越累。

这些问题在监控之前就已经有了,监控一来,它们立刻变得无法忍受。这件事把人对于 “积极行为”“危险行为” 的质疑暴露出来,某种意义上来讲也是好事。

最后的广播操动作捕捉,可以说是过分赛博了。人工智能和人,对体操动作的理解能一样吗?你按照它的标准来,只能凭空生出一群 “死活教不会” 的“笨孩子”。

你这么想看整齐划一的体操,去买机器人啊?折腾孩子做什么啊!


AI 图像识别,就是做成使用方想做但做不成的事。今天 AI 方案撤下去,明天军事化管理请上来。该不该把监控 “关在笼子里”?**该,永远都该。**因为弱势的公民是拿不到监控的武器,甚至对等的东西的。要是没有赛博,谁还朋克啊?但是与此同时,我们需要警惕这些监控行为背后的 “指导思想”。对于这个特定场合,就说得具体一点:

学校的宗旨是育人,而不是驭人。

知乎用户 泥鳅钻豆腐 发表

可以啊。为了提高教学质量,也要用 AI 图像识别对老师的师德进行评分,识别老师讲课有没有投入热情,有没有面带微笑露八颗牙齿,是对学生一视同仁还是目光看到好学生时就露出发自心底的喜欢、看到落后学生就暴露内心的厌烦和鄙视。

知乎用户 鱼头好吃鱼尾好吃 发表

教育局应该用来对学校评分。学生不爱听课的学校,处罚校长。

知乎用户 曹小灵​​ 发表

没有什么问题,是一节《管理思想史》不能解决的

西方管理学的开端,是【现代科学管理学】之父泰勒同志,当然现在看来,他的思想既不现代,也不科学

泰勒是在 1911 年的著作《科学管理之原则》里面,第一次完成了人的工具化。他详细记录每个工作的步骤及所需时间,设计出最有效的工作方法,并对每个工作制定一定的工作标准量,归划为一个标准的工作流程。

现在能看到的富士康流水线,就是按这个思想来的,卓别林的摩登时代,描述的就是行为被『最优化』以后的工人

工作定额(规定必须完成什么),标准化(设计出最优的工作行为),计件工资制(高频次正负反馈),这些都是泰勒同志的发明,沿用至今

举个栗子:

泰勒同志找来身体最好的工人,让他工作一天,得出结论,一个搬运工在正常情况下,一天至少可搬 47.5 吨铁块,然后把这个设定为工作定额的标准。然后观察工作的细节,在观察工人铲原料的时候,他得出铁锹每次铲物在重 21 磅时,劳动效率最高的结论,然后把这个数量标准化。

泰勒的科学管理理论,最大的好处就是见效快,福特汽车作为第一批使用科学管理的企业,创造了世界第一条汽车装配流水线,大幅度提高了劳动生产率,出现了高效率、低成本、高工资和高利润的局面

缺点,那也是很明显的

  1. 只关心效率,不关心工人的福祉
  2. 将人看做机器的一部分,抹杀人性
  3. 对员工实行全方位的监控,包括具体的行为
  4. 加强了资本家对员工的剥削程度

直接导致的就是超长劳动时间、工人心理健康状态迅速恶化、抹杀工作中的创意和创新

所以泰勒带来的【科学管理时代】,很快的就被【社会人时代】取代,【社会人理论】认为生产效率的提高和降低主要取决于职工的 “士气”,而士气取决于家庭和社会生活,以及企业中人与人之间的关系。所以现在企业,讲究打卡的,还是科学管理时代;讲究工作环境要开心、同事关系要融洽、工作家庭要和谐的,是社会人时代。

《管理思想史》讲完了,咱们回过头来看看 AI 图像识别学生上课开小差并对学生进行评分

这就是用 21 世纪的技术,试图完成 20 世纪初的管理思想,而且是一个只适合单纯体力劳动,已经被大范围淘汰,被证明破坏心理健康的管理思想

工作定额(规定必须完成什么)—— 对课程过程进行定量分析

标准化(设计出最优的工作行为)—— 分析学生的坐姿、举手、站立等课堂行为;分析老师的走动轨迹、音量、语速。我猜这家公司,肯定请了模范老师和模范学生,用他们的行为来定量最优行为。希望这个模范学生不爱抖脚,这个模范老师不爱挖鼻孔。

计件工资制(高频次正负反馈)—— 及时生产报告,对学生进行评分

个人建议,既然要完成复古,那高频次的正负反馈也要用 21 世纪的技术

用报告和评分这种模式太老旧了

不如用便携式电击仪吧,全网互通,及时反馈,和校服一起发放,一旦上课打哈欠,立马电击一波;老师走位一旦飘忽,也电击一下

让杨永信教授插上高科技的翅膀

知乎用户 MR. 王 发表

温斯顿突然转过身来。这时他已经使自己的脸部呈现出一种安详乐观的表情,在面对摄像头的时候,最好是用这种表情。

一开始看到那句话,我还以为是守望里的温斯顿,有一段被人类抓住的屈辱历史。实际上并非如此,想要了解更多的话可以关注 乔治奥威尔 和他的作品。

好久前看到这个答案,没想到类似的事情又发生了。

虽说是搬运的,但我还是不要脸的求赞。只为让更多的人能看见。

知乎用户 么西么西 发表

钉钉可以扩展新业务,实时监督员工干活时有没有开小差、上了几次厕所、对领导的微笑是不是发自内心。

最好再绑定运动手环,监控员工晚上和老婆的行房频率,方便领导准确把握去员工家里帮其照顾家属的时机。

如果找不到机会,那也很简单,通过监测其心率和动作,可以精确预测其夜间的巅峰时刻,然后领导只需要拿起电话,找到员工号码,拨号。在他喘着气接通电话后,通知他去改材料,不出三次,员工保证就得去男科门诊挂号。

我相信这些业务已经有人在做了。

知乎用户 竹径通幽 发表

太可怕了吧,这让人感觉就是批量生产人工智能机器人,然后通过 24h 监控收集数据进行矫正行为。六年下来,孩子们都是一样的行为模式,甚至可能因为为了应付如此智能的系统而将两面三刀的技能发展的炉火纯青 。

现在的小学生真是太难了Ծ‸Ծ

知乎用户 Again​ 发表

看下来我觉得这技术还不错…… 关键是教师、家长的思维要跟上。比如监测到孩子上课打哈欠,师长的第一反应是 “好你小子上课打哈欠,我去告家长”、“出息了?上课打哈欠,回去打屁股,看下次还敢不敢”,还是 “是否作业太多导致小孩休息不到位”、“这课这一段的讲法是不是能改进一下吸引学生的注意力”。怕就怕学校考核任课老师班上的哈欠率,然后任课老师再用纪律去约束学生的课堂行为…… 换句话说,就是发现问题后你究竟是去找原因,还是靠压制去回避问题,前者才是教育者应有的担当。至于是否微笑…… 应该没人会把这个指标当回事吧。想象一下老师跟家长说 “您小孩见我没微笑”,家长会是什么反应…… 况且要以此为依据给孩子穿小鞋根本就不需要人工智能,这孩子对我态度如何我自己不清楚么。反过来,如果能够通过跟踪一些长期不快乐的孩子的情绪,学校可能可以尽早发现诸如家庭变故、家教粗暴、校外霸凌等原因,及时干涉,倒是一件好事。人工智能进学校,尤其是财力充沛的学校是无可避免的,它能帮我们及早发现问题,之后的态度、决策完全是人类自己的事了。

另外,上海取消小升初考试以后小学教育早就妖风四起。孩子们早就越来越不真实了,以前考了双百随便皮,现在还要搞创造发明,从四代堆到医用造影技术要无所不知,小小年纪就开始学术造假了。我相信当年取消小升初考试的初衷在于:小学阶段除了认字其实没多大知识量,并不是真正训练思维的阶段,所以应该重教而不重考。但问题在于你初中还是有优劣之分,而且差距还不小,所以考核的客观需求还在。你有本事把各个初中的资源平均掉,这样才能真正实现小学阶段重教不重考。

知乎用户 luvian​ 发表

有人总是说资本是最大的恶,

不,技术和资本结合才是。

资本只能把一个年轻教师变成 996 是福报的资本家,

资本加技术,才能让全社会都变成一个表情,一个思想,一个动作,一种机器。

这才是最大的恶。

知乎用户 提托 发表

老大哥在看着你,还不好好学习?

知乎用户 猪鼻蛇 发表

谁叫大家觉得升学是教育的唯一目的呢?

始作俑者,其无后乎

知乎用户 一灯 发表

小盆友们有救啦!

你知道吗,在脑门上贴张符,AI 就看不出你是个人了。

比如,这里有一个妹子,被人脸识别系统 ArcFace 发现了:于是,她在脑门上贴了一张符。

人脸识别就不把她当人了,框框上的 “Person” 标签没有了

脑门贴张纸,骗过最强人脸识别系统!

知乎用户 张莞尔​ 发表

最终还是走到了这一步

流水线管理,人人都成了流水线出来的商品,完美有礼貌不会犯错,点头哈腰,没有情绪,到了夜晚再崩溃,太阳出来了,也要笑眯眯。

可怕

知乎用户 祥子 发表

话说这种技术也不是很新鲜,技术虽然无罪,但是也要用在对的地方,我之前做过一个对健身房的个人外包,也是差不多的意思,但却是用来检测健身动作规范的。

忽略我的丑脸

我用的这个项目,现在作者好像给删了,不过 GitHub 上这种项目很多

[edvardHua/PoseEstimationForMobile​github.com/edvardHua/PoseEstimationForMobile

](https://github.com/edvardHua/PoseEstimationForMobile)

大家可以用这个 + 随便找个人脸识别的项目自己搭建一个放在家里做监控用防贼,都是开源的东西,调参就可以了。

而某些公司这种使用方式,应该就是 996 管理员工习惯了,要培养合格的接班人,建议这种项目先装在自己的办公室里提高生产效率比较好

知乎用户 傅钆​ 发表

去年 9 月,我所在的教育集团收到了相关竞标,也就是这套体系至少 2018 年 9 月已成熟并推广。

令我恶寒的是,推广人不是公司,而是有大量行业内部专家站台。

例如南京师范大学某博导。

例如国家课改组某负责人。

这些国家智囊团的高级顾问,国家政策制定者们,并不觉得有啥问题,挺好的,省时省力。(专家原话)

知乎用户 胡小一 发表

介绍下类似的项目吧,我们公司去年接了这么一个项目,《南京市浦口 zhengwu 大厅工作人员管理系统》,就是基于 AI 图像识别技术做的,可以识别人员在岗离岗、迟到早退、玩手机、吃零食等行为。

这种东西怎么说呢,确实有点反人性的,但有利有弊吧,工作人员肯定不喜欢的,但是上了这套系统后,办事效率确实有了质的变化,当地老百姓很喜欢。

这东西如果用在公务系统里,好好督促员工为人民服务,确实比较好,但是如果用在企业里,对员工太压榨了,太反人性了。不过我深深的焦虑,《雪国列车》在不远将来一定会成为现实。

知乎用户 爱新掘罗 - 宾汉 发表

旷视科技不仅可以监控少年儿童,也可以监控成年人。你想想,你希望你在大街上走路,汽车里开车,被无数摄像头监控么?

至少在加拿大,公共场所很少有摄像头,zf 无权监控普通公民。

知乎用户 Kneron 耐能 发表

蟹妖。

此前,在教室等校园内各场景装摄像机等安防设备,是出于政府、家长等防范校园暴力的需求,校方则意在理清责任,大规模的平安校园建设由此启动。考虑到校园应用的特殊性,不少教室还特地安装了拾音器,以实现音、视频同步监控。

但安防系统的使用有着严格限制。例如,只有极少数人有权查看监控内容,通常也不得针对特定人员进行监控,更不得将监控内容用于侵犯隐私、校园暴力等法律明文允许之外的途径。

作为传统安防设备的升级版,基于 AI 图像识别技术的智能安防设备可提升校园安保水平,进而加强校园管理、保障教、学各方的权益。但对监控内容等大数据的利用必须有严格限制,不能侵犯学生隐私,也不得用于歧视、打击特定人员。

同时,AI 技术可起到辅助作用,但教学和校园管理都不能依赖 AI,更不能因为有了 AI 而不作为。否则,一旦发生意外事故,后果将不堪设想,校方也难辞其咎。

此外,易筋经、练功十八法之类的真伪、作用均有待检验,即便套上 AI 的马甲,也应谨慎对待。

知乎用户 木人吉​ 发表

技术无罪。甚至是个好技术。

但使用技术的人才是关键。

一个学校的招标需求,最后弄成这个样子,估计是这个甲方里没有人做过互联网产品经理吧。(狗头. jpg

知乎用户 算子 发表

学习应该用结果衡量,而不是过程。

某甲天天早到晚退,但考试成绩不行。

某乙频繁旷课,但考试高分。

选拔人才一般应该选某乙。

知乎用户 春艙 发表

何同学这个视频告诉了我们,如果这样搞人类将会失去一笔巨大的宝贵的财富。

其实深挖下去看,人类这么几千年的进步哪一次不是靠意外和运气呢?这套系统将意外和运气排除在外,也就彻底断绝了中国未来进步的可能性。

知乎用户 Gavin Huang​ 发表

上海的小同学们不用怕,面对邪恶的学校,俄罗斯华为的科学家们已经为你们研发出了护身符,相信不远的将来,淘宝上也会有销售。

你这么牛逼知道我是个人?

你牛逼,怎么我额头上贴个东西

你就不知道我是人了

彩色打印机就能在 A4 纸上打印的玩意

更进一步,我肚子上放张图

你牛逼你连这有东西都不知道了

更别说我是不是人了

这里攻破的是业界最牛逼的 FaceID

学校用的那些小 AI 颤抖吧

怎么盯着看了一天全校一个人都没有

知乎用户 周刊华小妹 发表

没有人希望在 “囚牢” 里学习和工作。

世界华人周刊专栏作者:鹿溪

责任编辑:华妹


在今天的文章开始前,我们先来看幅图。

你一定会觉得奇怪,孩子们怎么出现在大屏幕上,似乎还有镜头专门对准他们的脸?

没错,这正是新一代的课堂监测系统。

在这一系统中,摄像头会通过计算机视觉算法,根据孩子的面部表情和动作,统计出孩子每堂课的表现。

甚至连情绪都能统计出来。

在很多人看来,这样以来,孩子上课注意力是否集中,有没有好好听讲,就能一目了然了。

它有一个听起来还不错的名字:智慧课堂行为管理系统。

1

实际上,早在 2018 年,类似系统就已经陆续进入中小学课堂了。

在杭州试运行的学校里,这套系统每隔 30 秒就会扫描一次,还将学生的行为划分出了 6 个板块:阅读、举手、书写、起立、听讲、趴桌子。

划分得明明白白。

每节课结束后,大屏幕上会现实孩子们的信息统计。

几分几秒什么状态,这节课举了几次手,打了几次哈欠,一目了然。

也不光是在中小学,在新京报的采访中,这套系统目前已经陆陆续续进入大学校园,主要用于日常考勤和课堂纪律管理。

在接受采访中,中国药科大学图书与信息中心主任坦言:你低头多长时间,是否在玩手机,是否在发呆,是否在看别的书,都能感应到。

听起来够让人毛骨悚然吧!

有人质疑说,这样的操作岂不是侵犯了学生的隐私?

其实早在这套系统投入使用之前,相关人员已经向公安部门打探过了,得到的说法是:由于教室属于公开场所,因此不存在 “侵犯隐私” 的说法。

不得不说,为了让孩子们好好学习,家长和学校真是无所不用其极。

有的学校领导甚至力主这套系统尽快全面覆盖图书馆和教学楼。

在学生们反感甚至抱怨时,他们中的一些人,还会以一句 “为了(敦促)你学习,你还抱怨,请问你还是学生吗?”,堵住学生的口。

2

这种 “监控” 还会升级。

除了课堂上的人脸识别外,在贵州和广西等地,孩子们还处于一种被 “智能校服” 监控的恐惧中。

这种智能校服有多厉害呢?

根据《环球时报》的报道,它的衣服中镶嵌了专门研发出的智能芯片,能全方位立体化的捕捉孩子每一个动作。

除了记录考勤,随时定位外,它还有个强大的报警系统:

打瞌睡,会报警。

做小动作,会报警。

在校期间脱校服,也会报警。

这些监控的信息和报警信息会实时发送到家长手机上,便于家长随时获取孩子动态。

只有你想不到,没有它检测不到。

有数据统计,截至目前为止,已经有超过 6 万多名学生,在经过家长同意的前提下穿上了这套智能校服。

很多人也因此给它取了个新名字:智能囚服。

我们为什么要说它是 “囚服” 呢?因为这样的设计实在太反人类!

想必不少人都曾看过美剧《黑镜》,其中有一个故事《大天使》,讲述的是小女孩莎拉被 “操控” 的故事。

因为三岁那年走失,母亲特别着急,找到孩子后,不由分说地在莎拉大脑里植入了一枚芯片。

这样,她就可以随时随地感知孩子的情绪,看到孩子眼中的世界了。

为了保护莎拉,她将所有暴力、血腥的画面都设置了马赛克。

与其说是她看到孩子眼中的世界,倒不如说,是孩子看到了她操控中的世界。

久而久之,在温室中长大的莎拉失去了对外界一切事物的感知力,莎拉只知道什么是真善美,却不知该如何防范负面信息。

因为这些负面信息,早已经被母亲屏蔽掉了。

同样被屏蔽掉的,还有莎拉的好奇心。

好奇心和叛逆心一天一天在莎拉的身体中长大,最终她决定冲破这种桎梏:

莎拉开始尝试自残、甚至吸毒。

在母亲一次次干预无效后,莎拉最终将控制器砸向母亲,顿时,母亲鲜血直流,控制器也坏掉了……

母亲也许不会理解,一向在自己监控下,乖巧的女儿怎么会变成这个样子。

她一边哭诉着 “我做的一切都是为了你”,一边看着女儿坐上出租车,头也不回地走了。

那个一直处于她控制中的孩子,就这样彻底失去了控制。

3

再次回忆影片中的场景,我们不由思考,被妈妈控制住的莎拉,和如今被监控的孩子有什么区别?

在孩子成长的过程中,很多家长最爱说的,就是 “我这是为你好”。

这似乎已经成了一种普遍现象,广泛存在于每个家庭中。

但我们也不禁去思考,当 “为你好” 变成这么一套随时随地监控的设备后,对于孩子们来说,到底是惊喜还是惊吓?

也许很多人会说,影片中的人物设置,对立性太强了,不足以说明现实中的问题。

那么,其实我们也可以换位思考一下:

如果安装人脸识别的摄像头出现在研发它的人员办公室,每隔 30 秒钟扫描一遍,监控他们八小时工作的状态,在每次下班时,用一串串冰冷的数据形成考勤表。

如果智能校服穿在老师家长们身上,随时监控他们的地理位置,工作情况,一有反常立马报警,并将数据实时更新给上司呢?

换作你,你会愿意吗?

前段时间,有这么一则新闻冲上了热搜:某城管部门给环卫工人配发智能手表,一旦停留 20 分钟,手环就会自动报警喊 “加油!”。

美其名曰:督促环卫工人积极工作。

当时的评论区骂声一片,很多人都说,这是没有温度的非人制度。

因为没有人希望在 “囚牢” 里工作。

那么同样的,也没有孩子愿意在 “囚牢” 里学习。

儿童病房的医生曾说,被智能系统监控的学生,正好处于青春期,自我意识很强,对隐私的要求也很强,一旦感觉不到信任,很容易出现逆反心理。

因此,这样的做法虽然方便了家长和老师,但对孩子来说却宛若 “囚牢”。

也很容易将孩子与监护人置于对立面,成了 “犯人” 与“狱警”的关系。让一群本该活蹦乱跳的孩子,变得沉默寡言,变成大数据下一个个戴着面具,不敢随意表露自己情绪的小可怜们。

当这样的场景变得越来越普遍时,我们不由深思:

科技的发展本该帮助人类更自由和更有尊严,可为何却一次次沦为禁锢人性的工具?


PS:非常感谢大家能够读完此文。新闻背后有你不知道的世界,本文首发于公众号:世界华人周刊(ID:wcweekly)。发现中华之美,为华人发声,提供有广度的知识,有温度的立场和有深度的思想。关注我了解更多海内外优质内容、文章,等你来哦!

知乎用户 惘然 发表

教学一线的老教师与老班主任来说几句。

其实之前我就关注到该技术,并向学校打报告引入该系统进行部分应用。

我的设想是用作学生考试行为分析系统,当然部分功能是防作弊。

学生考试数据越真实越能起到反馈作用,如实的反馈数据传导到教学端,教学端可以及时调整。

其实我也很清楚,该技术引入到课堂会有很大的争议。

一直以来,学生的课堂行为由教师察觉,虽然效率不高。正是因为效率不高,使得学生不至于产生被窥视的感觉。

一旦贸然引入 Al 技术,人的尊严感会被冒犯。孰轻孰重,一目了然。口口声声说以生为本将成为笑话。

由于学校考虑到被媒体报导的风险,所以项目一直没有落地。

总结一下:

基础教育改革不断,理念频出。但更多地是理论界在集体自嗨。传统填鸦式教学,集中营式管理愈演愈烈。

一线教学人员与班主任己经不堪重负,此其一;

领导层需要更有效率的工具来提升成绩,出政绩,此其二;

传统教学中,教师的专业知识与课堂管理并重才可以上好一节课。专业知识好解决,而课堂管理更加有艺术性,不好掌握。所以两者兼备的老师不够多,此其三;

这三条就构成 AI 分析系统的刚需。

刚需不除,AI 进校园只是时间问题,关键看吃螃蟹的人拉肚子没有。

知乎用户 江先生 发表

提前适应未来工作啊,毕竟现在钉钉各种定位打卡

知乎用户 熙翼​ 发表

传小纸条,吃包子,打游戏王,半个班联机手机游戏,下象棋,看小说,揪女生头发,补下节课的作业。

我学生时代课堂的种种,历历在目。

不是说上课做违反纪律的事情是对的,只是这些画面都变成摄像头……

当成年以后,筋疲力尽的时候,不能回想起来一些少年时代的事情聊以慰藉,那还有哪里能栖息一丝出格的梦?

太辛苦了。

揪女生头发太 low 了,我没做过(笑)。

人生总得打个哈欠。


童年是梦中的真,是真中的梦,是回忆时含泪的摄像头。

???

知乎用户 高考数学试卷共享 发表

从此多了一批机器人:

上课不会犯困,不会打哈欠,不管会不会先举手

下课同学间的玩闹不见了,有的是匀速前行

知乎用户 大瓶子 - Suppy​ 发表

我们是需要的是养出一批机器人吗?

知乎用户 狂云 发表

科技确实被滥用了,这样的话,社会管制会越来越严厉,个人空间会越来越小。

想想确实可怕!表面上是为了学生能专注听课作业,实际上是强烈控制欲的一种表现。人与人之间,如果放任这种打着为人好的旗号,肆意侵犯个人空间,乃至头脑空间都不放过,这个社会会越来越变态。

知乎用户 彩虹小西瓜 发表

小时候,你们写想象作文,写了什么多功能衣服,多功能黑板,自动笔,用不完的墨水等等,其中肯定就有个,发现哪位同学开小差了,就自动亮灯 “报警” 之类的功能,

长大了,现在如你们所愿了!!!真实吗??

知乎用户 斯普 发表

以前我还觉得欧盟 GDPR 是吃撑了阻碍科技发展,现在看来这帮现代法西斯都应该绞死挂在教堂塔尖上喂乌鸦。

知乎用户 烹饪爱好者 发表

知乎用户 深具世界眼光 发表

我觉得可以

——那些运动员不都是通过分析自己的视频,提炼出各种数据,看自己哪方面要加强吗?

我们的技术如果用来分析中小学生的坐姿、站姿…… 看他们有哪些需要改进的,提炼出一些结论和建议,加以改进,会帮助中国学生的成长。

如果只变成一个监控器其实没有意义。

知乎用户 青衫 发表

不请自来的,答主目前是准大三学生,电子信息相关专业

曾经和导师和同学在一起研究过一个项目课题,大概就是一个高校课堂识别系统,除了自动人脸识别考勤之外,另外一个试图实现的功能就是学生上课状态识别(主要嘛还是用来对付当代大学生的几个 “优良传统” 的,你们都懂得),首先就考虑的是发呆这个问题,直接就给杠上了,各种提出方案各种推翻。

第一大类思路:面部识别

第一种:表情识别

简言之就是识别一些比较花痴、憨憨、呆滞的表情是不是出现在某些同学的脸上,如果是就可以基本断定该君在神游了

反对意见立马就有了:

你怎么知道不是老师让学生表现出这种表情呢!或者人家天生丽质就是憨憨…… 不是… 憨厚呢?

后来考虑了下确实总会有几个同学表情管理不是很到位,另外老师为了活跃课堂气氛,调动大家的积极性,也会有一些特别的操作(这里或许可以考虑判断一下表情是不是大多数,但是也并不是每个老师调动的效果都会很好,适当的阈值并不好找)OK,PASS

第二种:眼睛识别

这个方案首先就已经要求了一个超高分辨率的相机作为前提…… 检测眼球是不是长时间盯着某个地方,是则判定为走神。

反对:那认真的听讲的不也是目不转睛的盯着嘛?**你像那数学课眨一下眼睛都 TM 听不懂了还能不盯着看?**再说了跟着老师思考的时候总不能眼睛也乱转吧?

考虑到本来也就有个相机的成本问题,可行性也确实不高,PASS

第三种:嘴巴识别

大概就这个意思…… 就当没有这个方案吧……

(真的是太睿智了…)

阶段总结:试图通过面部特征识别找出一个人在发呆的证据,又要考虑不误伤到正在认真听课的人,实在是不容易实现

第二大类思路:肢体识别

第一种:面朝方向

基本想法和眼球识别是一个道理,缺点也和眼球识别差不多实,此外就是面朝角度的改变实在是微乎其微,实现难度比较大,但个人认为比较而言是最可行的一种方案。

第二种:坐姿

和中学时候一些老师的思路类似,不许趴着、躺着,否则就叫你起来回答问题,确认你刚刚真的在发呆。但是问题在于系统不能把学生叫起来确认,带来的依然是误伤的问题(你回忆回忆中学班上的学神都是怎么个听课的样子,还有… 半躺在椅子上听课是真爽 )这种方案最后也没有深入的讨论下去,诸公有想法可以在评论区提出来探讨一下。

通过上面对答主参与课题中所遇到的 ETC 的历程的叙述,答主想表达的是:在目前的弱人工智能阶段,要想真正实现准确通过图像识别判断人是否在发呆,提出并实现一个可以同时控制准确率和召回率在一个相对令人满意的水平的方案,确实难上加难,至少在本人的学识水平(有导师指导)的情况下是如此,因而窃以为这套系统的实施部署是欠妥的,毕竟这是一个连人都没办法一眼看出来的问题(没错说的就是抵赖的你)。不过 AI 在这一领域的实践应用确实是有利于整个行业的发展的,相关经验或许也是可以应用到无人驾驶技术的研发中去,就当这是一次图像识别的实践性的尝试吧!

本回答中的内容欢迎大家指教。

知乎用户 无法被压​ 发表

老大哥正在看着你。

合理的使用我觉着非常有利学校学生老师乃至社会的发展,但是也怕错误的使用。

知乎用户 夜带小你包包 发表

有趣的是,同一天刷新到了这篇文章:

[量子位:脑门贴张纸,骗过最强人脸识别系统!华为莫斯科研究院出品,Face ID 已阵亡 1480 赞同 · 175 评论文章

](https://zhuanlan.zhihu.com/p/79960287)

是骡子是马拿出来遛遛,也许反而能促进我国人脸人像识别技术的长足进步呢?

知乎用户 伊芸​ 发表

我一直认为最理想的留在上海的办法就是,在一个县城读书,考上上海的研究生,享受自己碾压上海本科那些书呆子的成就感,然后申请一个出国留学赞助,离开中国深藏功与名。

我真的觉得在上海读书太恐怖了。你一个学西方经济学的,必须要马列主义经济学,毛泽东思想,倒背如流,才可能不挂科,才有可能继续读研,我接触的上海本科毕业出来的,真的就是被这种非常繁琐的规范所训练出来的,只讲究对错,从不讲价值观。

知乎用户 shou John 发表

举两个例子:

1. 一个老师体罚孩子,说敢告诉家长就再罚,孩子很痛苦,但 AI 侦测到了体罚情况并记录下来。

2. 上课时几个孩子在偷偷做小动作,老师上课激情万分,自己唱独角戏,没发现孩子早就失去了兴趣点,转移了注意力,一节课上完,效率低下,但 AI 评估了情况,并及时反馈给老师。

目前的教育现状:

1. 班级多,有些光一个年级就有 10 多个班,相当于 90 年代一个学校的班级量。

2. 人数多,一个班里早就超了教育局规定的人数,有些甚至到了 60 多人。

3. 每年无数年轻老师走向岗位,他们热爱工作,也架不住一个班那么多人,再教好多个班。

4. 要脱离以上 3 点,比如找一个班级少,班级 20 多人或 10 多人,教孩子的是海归或 985 等名牌大学毕业的老教师,要付出代价,学费每年 8-10 万起步,只会越来越贵。

再举一个现实的例子:

1 个老师长期体罚或变相体罚学生,长达多年,教室有 3 个视频监控,其中之一还能录下声音,每个月学校会派人查看视频,但那人怕得罪人(也来不及全看),随便看看敷衍过去。

知乎用户 长缨在手 发表

一节四十分钟的课,前十几分钟能集中注意力,中间十几分钟容易注意力涣散,下课前又能集中注意力。并非孩子不认真听讲,而是生理上的正常反应。

我以为这是大部分的教育工作者的常识。

知乎用户 每天都想杠一杠 发表

技术保守派的错误观点就是:只要我不接受新技术,我的利益就不会受到任何侵害。

然而事实上真的是这样吗?

很多人说技术无罪,菜刀无罪,是使用的人有罪。

这种说法的确很对,但只是对了一半。既然我们明知菜刀可以杀人、技术可以犯罪,那么我们为何要把菜刀、技术,交给别人来掌握,从而让他们有威胁我们生命的能力呢?为什么我们不自己掌握菜刀、技术呢?在保证自身安全的前提下,还可以避免别人用来犯罪,岂不是更好?

而技术保守派拒绝接受新技术的心态,恰恰就是明知菜刀可以杀人,却不但自己不去掌握菜刀,还要把菜刀亲手送到别人手中,然后祈祷对方是个好人。但是万一,对方是坏人呢?

即使是亲如家人、亲朋好友,谁敢保证能够一辈子都不会发生矛盾呢?更何况是素不相识,有着利益冲突的陌生人?面对拿着菜刀的敌人,你真的敢相信对方不敢伤害自己吗?敢让自己的生命掌握在别人的手里吗?我相信,在知乎上,心甘情愿让自己的生命掌握在一个陌生人手里的人绝对是少数。

AI 的技术发展脚步不会停下来,与其拒绝,不如把它掌握在自己的手中。

在我们讨论 AI 技术将会如何危害我们、侵犯我们的隐私的时候,很多人恐怕并没有意识到 AI 技术的进步正在以远超我们想像的速度在进步着。例如阿尔法狗,从项目开始到吊打人类,成为围棋上帝,中间不过用了三四年的时间而已,远远少于人类几千年的时间。再如题目里所提到的图像识别,在 2012 年的时候,还仅仅只能够识别猫,但是仅仅过了 7 年时间,不但已经能够识别更多、更复杂的情景,还能够投入使用了。

因此,与其在此争吵不休,还不如尽量争取时间去研究如何把 AI 掌握在自己的手中。

而领先所有国家应用 AI 技术才是把 AI 掌握在手中的最好的办法。理由如下:

①只有比所有国家领先应用,才能够保证我们的 AI 技术是最先进的,能够比所有对手更了解 AI 在现实中将会产生什么样的问题,并有更多的时间去解决问题。只有比对手更了解 AI,我们才能够更多地掌握 AI

②领先应用 AI 技术才能够更大地收获 AI 技术红利,如此才能够有更多的资金去研究、去解决 AI 所带来的问题。例如失业,有钱的话就可以设置失业补偿金,而没钱的话则想救助失业工人都做不到

另外人类现在之所以如此拒绝 AI 技术(甚至凡是跟 人工智能 沾边的技术)跟无数的科幻作品,数以十年计,长期不断地靠恐吓读者来获得利益的友善度,大有关系。诚然,人类想要预测未来十年就已经是千难万难的事情了,而科幻作品动辄描述数十年、数百年,甚至数千年后的未来,可以肯定地说,这些作品所描述的未来肯定是漏洞百出,跟真正的未来是千差万别的,所以想要在基础其烂无比,漏洞百出的设定上写出精彩的故事,无异于让作者发明出一个时光机。因此恐吓读者便成为了他们最廉价、效率最高的收割读者的工具,因为恐惧,读者根本不能冷静下来细心思考,从而忽视了作品的各种漏洞;因为恐惧,读者会更迫切地想要看下去,寻找解决问题的方法——最终他们得到了自己想要的答案——依靠某某方法,人类战胜了人工智能(然而想想阿尔法狗从业余水平进化成围棋上帝,也只不过花了几年时间而已)。最终作者和读者都获得了他们各自想要的东西——作者获得了读者手中的钱,读者缓解了 AI 技术所带来的焦虑感。然而他们却都忽视了真正的问题——我们该怎么掌握 AI ?

哪些恐惧新技术的,请问十年前智能手机刚诞生的时候,以及跟十年后智能手机普及的时候相比,我们是失去的更多还是获得的更多了?从智能手机全球销量数以亿计的销量中,恐怕我们已经得到了答案——理所当然是后者。

试想一下,数十年前的人类想象数十年后的我们生活在一个悲惨无比的世界里,而数十年后的我们是赞同他们的说法,还是面带微笑,嘲笑他们的自大呢?以区区人类之力,竟敢预测数十年后的未来,真是不知自己几斤几两。

知乎用户 胖达​ 发表

过去做乙方的时候,某生产企业曾经提到过类似的需求,主要是希望通过更精确的行为监督观察,实现对产线作业员绩效的管理,当时刚听到甲方爸爸需求时也是惊呆的,后来讨论难点是非接触识别准确度问题(作业员流动性强,会带来识别困难),现在看来可以实现了。

我们在全面发扬泰勒制的优势,实现…

现在为了生活,一心琢磨怎么样能更好的用机器替代作业员,避免自己提前被垃圾分类 [捂脸]

知乎用户 幻影 发表

就在你们抨击这套系统的时候,数不尽的家长正在砸锅卖铁、高高兴兴地把自己的孩子送进这学校呢,没选上的可能还会黯然伤神。而这些家长曾经也在被窝里打着蜡烛看金庸琼瑶的小说呢,十年后,如果真出了心理测量师里那种玩意儿,你们,就是此时此刻在大放厥词的你们,也会用自己的孩子塞满这种学校,当然,也可能包括我。这才是最毛骨悚然的吧。

知乎用户 湘西老土匪一名 发表

看了很多回答,我得说,不少人不懂法律,也不懂教育,更不懂技术。学校在技术上的应用还晚一些,实际在很多人的工作中,生活中,这类技术已应用了不少年头了。

打个比方,大多数上班,电脑都是可以上网的,但是不少公司网络出口上会安装一个叫上网行为管理的设备。当然也有相关软件,这类东西已经卖了不下二十年了,如果各位较真和喜欢讨论责权利,并且和公司分个清清楚楚,很可惜,就我从厂家和集成商那里,没有听到过员工因为这个向劳动部门和司法部门提起过诉讼。因为原则上,上班时间,其电脑的数据和数字资产都是归公司所有,并且你的工作不包括淘宝、聊天、查个人假期旅游线路。前几年不还有个销售人员定位系统的,不也闹出好大争议,后面不就是,你有意见可以不上这班呗,双向选择完事了。

另外,我们都知道的,现在走大街上,实际一个人走路和开车,全程在摄像头录像下,一般在三个月内,是可以在有关部门申请文件的情况下调阅的。实际不是没有人反对,但是支持的人更多。之前也有人利用交通探头照到我行人来说事,之后这几个部门合并了,治安、交通、消防的道路录像全归在指挥中心了,这实际也是顺理法律关系,重新整理管理权限的行为。

换而言之,在特定场所,人个隐私是有限的,学校的大多数地方也是公共区域,只有少数如 WC 和宿舍才是保留隐私的地方。同时,学校的那么多摄像头,并不是因为智慧校园才进入的,是先期很多年就进入了,比如安防需要,中高考需要,公安对学校门口管理需要,网络教学需要,只是智慧校园这技术,利用了摄像头图像数据,进行了分析。那么在之前,这些摄像头全被算在了教学设备的升级和教学服务上。但是录像是一样的,这怎么就没人说了呢?其实大家以前读书时,都有一些学生是老师重点关注对像,盯的非常紧,但不代表另一些学生有了某种不准老师盯我的权益,只是老师没精力罢了,现在换了一个全方位、不知累的老师(摄像头)盯人。

实际上和我以前读书时的校园执勤队 + 操行分管理,完全一样的,只不过一个是纯人工,一个是纯 IT 技术罢了。

再告诉大家一个消息,现在最热的叫人脸识别,但是马上就要有行为识别了,也就是你蒙脸是没用的,你得大力度改变行为模式,比如在地上爬,而不是正常行走,这估计 AI 分析不出你是谁,可能会以大型爬行类动物进入校园来报警。这技术早应用,不是对香港的事解决起来有好处么。

实际上大家的担心不是没有道理,但是犯了一个成本错误,也就是说用纯人工方式非法监控一个人,成本反而比用技术方式要低,而不是更高。正因为是科技产品,他可以层层加码,最终达到非法获取成本远远比行为犯罪要高的地步,不需要有什么成本增加。有些视频流出,或用在不法行为上,实际上都是职务犯罪或者职务违规,这比以前人眼盯要好查太多了。就好比银行金库什么都没破坏,少了几箱钱一样。是更容易查,而不是像涨大水过河,掉了一箱钱,鬼特么知道漂那里去了(当然河道治理也开始装摄像头了,但涨大水漂浮太多了,分不清的)。

大家预设了,在公共场合你也不能看我的权利,和录像的全程性和可记录性,会让我失去自由。实际上,如果在大街上,不管你穿没穿,别人是可以看的,你选择了曝露在别人目光下,而不能以这是自已隐私要求别人都挡住眼。第二录像资料的获取,只存在部分公权力单位,而且需要相关文件,并不是想访问就访问,想看就看的,一般都专网或是独立网络,并不是与互联网连接的。反而是大家的手机、笔记本、家装摄像头,安全系数还真不高。回到智慧校园,你想让老师一一的对应去看,全班每堂课的录像?那不可能的,你上一天,他不也得看一天啊?他是看的分析统计表。而且没有大家想的那么吓人,什么低头就怎么样,你还能扬着头写笔记不成,练神功呢。但你想扭过头 JJYY,那估计好不了。

谈不上有多支持这技术,但也不反对,我也是一名家长。只不过和地区实力有关,只有少数大学应用的略为高端全面一点,其它嘛,应用层次就完全看学校所处地区和投入程度了。不要想着怕,学校不行,还真没钱搞这个。你都是进入精英学校的人了,精英教育是痛苦的,我还不想选快乐教育呢,后悔送公立学校了,现在公立重不重点都开始放牛了。。。。。我所知的第一第二套智慧校园,我们十八线城市本地的,都是股份投资式的上万人规模的中学。估计那些抱怨二年级才 1500 单词量的学校早装了。

知乎用户 疾风之科基​ 发表

自古北京护犊子,由来上深多作妖。

为啥这么说呢…… 因为即使历年毕业生优秀率和考生录取率对比的统计结果白纸黑字放那儿了,北京娃也能信誓旦旦地说北京的高考难度和录取率是相称的。

而南方人 (非地域歧视,其实这个南方人多指江浙人) 从前清开始就作妖,好的坏的都有,算是我国的少壮派吧…… 要做一个评价不就是不稳健,啥都敢拿来试——甚至已经论证和实验了有问题的东西。这也是资本主义最适合在东南五省发展的原因——并不是道德水平低,而是太善于吃螃蟹。但也有坏处,这是资本主义的通病,就是管杀不管埋

那么问题来了,教育专家什么时候才能意识到,上课睡觉是两边的问题?老师在上面用力,学生没反应是一个可能,也有可能是学生很配合了,奈何老师技术不行,所以草草结束了就算了?这只对着学生瞎搞,唯恐天下不乱啊这是。

知乎用户 有木桑 发表

这就和宗教、裸照威胁等等博弈一样,有没有用就看你在不在乎。

你要是不在乎它,它就啥用都没有。


可以理解为,这是一个人工的进化论过滤器。

可以筛选出一些从小就会自己思考,有抗压能力,有自我意识,有反抗意识的人,说不定也是好事

知乎用户 wong 萌 发表

这完全是用钉钉模式管理学生嘛,

看似高科技,背后全是控制欲。

所有标准全是站在控制欲强的父母和学校领导的角度去设计的,边界感在哪里啊!

曾经的查校服,剪统一的发型,以后又有了新应用——

学生需要机械化露出八颗牙说:老师好!

上课必须坐端正,否则就是没听讲。

这还不是严重侵犯了孩子的人权?

为啥不用 AI 技术做点儿人事儿,比如智能马路违法交通评分系统,那些加塞的,别车的,不打灯的,即便没出事都应该扣司机分的那种。

到了年底,生成个人驾驶习惯考核表,没上 60 的重新去学习科目一。

这么好的技术,就这么死板地使用在一个充满生机的地方。

知乎用户 高安路老实人 发表

泻药

这都是假的

赚钱是真的

只要你不反对

就会竭尽全力的想办法扣硬币出来

今天搞个安检

明天弄个辅警

后天查个垃圾分类

现在搞个 ai 辅助教学

nbcs

知乎用户 FDrag0n 发表

搞得我都在想淘宝上经营一家对抗人脸识别的 T 恤店了

技术参考链接

https://zhuanlan.zhihu.com/p/63619859

知乎用户 明心灵竹 发表

看来那个喜欢说鬼扯的人是对的。因为卑鄙所以赢定了

知乎用户 柳 HF 发表

这个和大刘的小说镜子很相似了,现在是小学生,那么以后是什么?有趣有趣

“这是一张三口之家的合影,但照片上的三人外貌和衣着几乎完全一样,仅能从头发的长短看出男女,从身材的高低看出年龄。他们都穿着样式完全一样的类似于中山装的衣服,整齐而呆板,扣子都是一直扣到领口。宋诚仔细看看,发现他们的容貌还是有差别的,之所以产生一样的感觉,是因为他们的那完全一致的表情,一种麻木的平静,一种呆滞的庄严。”

“查过了,我们以后的历史大略是这样的:镜像时代在 5 年后就开始了,在前 20 年,镜像模拟只应用于司法部门,但已经对社会产生了实质性的影响,人类社会的形态发生了重大变化。以后,镜像渗透到社会生活的各个角落,历史上称为镜像纪元。在新纪元的头 5 个世纪,人类社会还是在缓慢发展之中。完全停滞的迹象最初出现在镜像 6 世纪中叶,首先停滞的是文化,由于人性已经像一汪清水般纯洁,没有什么可描写和表现的,文学首先消失了,接着是整个人类艺术都停滞和消失。接下来,科学和技术也陷入了彻底的停滞。这种进步停滞的状态持续了 30000 年,这段漫长的岁月,史称‘光明的中世纪’。”

知乎用户 古拉格大酒店 HR 发表

很失败,但是也很成功

失败是

1. 孩子很可能被约束到心理扭曲

2. 教师的压力会更大

3. 这份恶基本也是来自于家长的懒惰和学校的懒惰

成功在什么地方

1. 家长对于把孩子如同牵线木偶一般牢牢抓住的目的更进一步

我们也可能只是抨击一下然后它就可能取消这个招标

或者继续如同监狱般的生活

说不定囚犯们更轻松呢?

知乎用户 怡记​ 发表

如果 AI 最后形成的结果不是每个学生的数据,而是整体的经过运算的整体数据,并且形成自动的分析报告,我觉得未必不能尝试。数据的安全是非常重要的,必须不涉及个人隐私。

它的最后目的,还是为了看老师教学质量如何。

所以要讲清楚,到底怎么使用,形成什么成果。不然没有家长会同意的。

知乎用户 舟飏 发表

这真的只是教育问题吗?玩知乎的受教育程度平均来说算比较高的,这到底意味着什么你们不懂?今年我去办贷款,个人征信记录清清楚楚,比我自己还清楚,玩个游戏也必须实名,买个 btc 居然也能查到记录 (银行的),感觉这么下去我都要得被迫害妄想症了。历史大势所趋,谁也无法避免,沧浪之水之浊可以灌吾足。最好的做法是闭口不言,可能我现在的言谈也是上达天听的,可是啊,真的很想吐槽啊,算是垂死挣扎吧。他们追杀犹太人, 我不是犹太人, 我不说话;此后他们追杀工会成员, 我不是工会成员, 我继续不说话;再后来他们追杀天主教徒, 我不是天主教徒, 我还是不说话。

知乎用户 学写作的丧失​ 发表

视频链接:

这两天一则关于 AI 教育的新闻,在微博炸响了。
大 V 们纷纷声讨将 AI 运用于教育之中,这到底是怎么回事儿呢?

其实就是在课堂上挂几个高清摄像头,摄像头可以通过图像识别。
检测到课堂上学生是不是坐的歪瓜裂枣,是不是上一个课表情丰富,有没有认真听讲,诸如此类的。
让学生听起来,这个新技术的应用像是一个,喜欢打小报告的人工智能,这也是无可厚非的。

但对于 KOL 就不一样了。
我其实一直很讨厌有些大 V,看到新技术的应用,就开始博眼球搞滑坡谬论。
用恐吓的语气说,这样一来学生在课堂上,时刻面对镜头的监控,就必须时刻集中注意力,认为这是不人道的。

有这样想法的人,肯定没有自己在讲台上上过课。
老师在讲台上往下面一看,学生有什么动作表情本来就看的一清二楚。
那些觉得自己上课,搞小动作很机灵没被发现的同学,其实都太天真了。
老师不揭发你是因为成本太高,揭发一次就要浪费全班同学的时间,如果老师觉得你已经没希望了,绝大部分的老师都会直接无视你。

所以大 V 们担心这个技术,会造成学校里的 1984,那真的是太幼稚了。
在教育体系里面,时间成本是很重要的成本,学生一天能够集中注意力学习的时间屈指可数。
如果把这些时间浪费在,利用人工智能技术对学生进行惩戒,那教学工作就完全无法开展了。
而且你们以为没有摄像头,老师在讲台上看到你们搞小动作,老师就不会把你们记在小本本上?
naive!

那么这个系统的意义是什么呢?
其实很简单,就是辅助教学。
学生很容易把老师想象成超人,可以在课堂上下事无巨细地把握学生情绪。
然而这除非是十年经验的老教师,不然是不可能做到这一点的。

其实道理很简单,一个师范生从大学毕业,还没进过社会。
察言观色教学情商,一样都没懂,满肚子都是书本上的知识,根本就没有实践过。
要让她一夜之间学会这些,这也太难了。

所以说这套系统最大的意义,就是可以让没有这些能力的老师,可以有一个技术性的参考。
迅速缩短教学经验上的差距,弥补新教师社会经验欠缺的问题。

我举个栗子,对于学生来说。
看到表情检测系统,觉得是老师监控学生用的。
其实更现实的意义是,用来检测老师的教学成果。
如果老师上课的时候,学生的听课率不足,注意力和情感反馈不够正面的话,这个老师就会被要求去检讨学习,精进自己的上课技术。

我认为现在学生的压力已经够大了,再利用人工智能给学生加压,只会导致恶性事件的发生,这套系统九成是给学校管理用的。

比如姿态检测,除了课堂上看学生有没有坐好,还可以用来检测走廊上有没有学生危险行为,有没有陌生人进入校园,有没有打架斗殴,校园霸凌的问题。
这些都是可以为校园生活保驾护航的东西。
只要你在学校里,做一个学生该做的事情,这套系统就完全是为你服务的。

当然也有人说这样,不就只能做规定的事情了吗?
你如果想要犯错误,那完全可以在学校外面犯嘛。
干嘛在学校里,打扰其他想学习的同学呢?

大家不要看到一个新的什么技术,就觉得是别人要迫害自己了。
人工智能在教育方面是大有前途的,这套系统看下来,整个场景的数据采集做得非常不错,是一个很有诚意的技术。

也希望各位大 V,不要看到人工智能四个字就高潮。

技术可以用来作恶是不错,但它可以带来的收益是更大的。

我们要看到技术,可以给我们带来的价值。

真正需要我们警惕的是人性之恶,而不是技术之恶。

对于人性之恶,我们需要建立制度去防范它。

而不是因噎废食,看到新技术就开始造谣恐慌。

要做一个理智的现代人,对未来保持乐观。

知乎用户 匿名用户 发表

人工智能这项技术还不够成熟,尤其是在我国,至少远远不应该拿来运作指挥重要的现实项目。

真这么信任 ai,那麻烦明天领导用百度自动驾驶来开车,你敢用百度自动驾驶我就承认 AI 技术已经够硬了好吧。

学校领导也不傻,学生评分这种对孩子意义重大的事情却交给 AI,那只能说明学校领导其实压根不关心孩子们的成绩公平性,只是想以 ai 为噱头赚个创新技术先锋的好名声。哗众取宠而已。

知乎用户 苏兰卡 发表

新时代的剥削工具。

知乎用户 李怒轲 发表

刘慈欣赡养人类难道要一语成谶?

知乎用户 中本韭 发表

前有环卫工人智能脚环,现有 AI 识别学生开小差。

这都不算啥,只是初级阶段,啥时候能识别人的思想就好了,开心还是难过,喜欢还是厌恶,赞成还是反对,那就牛哔啦!

知乎用户 zephon 发表

不要讲到 1984 那么远,我目测就光这个捡垃圾会诞生一门生意

“小李,这个月我要评班干部了,给我走在前扔一个月垃圾,我来捡,这是 100 块,作为扣分的报酬,你收好”

知乎用户 子健字天行 发表

该小学某天中午食堂用红薯替代主食米饭

上课期间全校学生不间断放屁

AI 智能识别到有学生在打哈欠不认真听讲

但人脸检测小学生上课神态认真的一

系统发出警告,课堂学生大面积走神疲倦

台上老师以为自己的讲课效率极低

这时候有学生放了个响屁

老师尴尬的笑一笑~

AI 立刻识别在校扬声器播报:

6 年纪一班李老师上课放屁!

谁让 AI 放屁谁在放屁!

知乎用户 言佐 发表

首先这是不尊重学生和老师的隐私的,即使百度说过 balabala。

其次,课堂的有效性在于学生的思维是否跟上老师的引导而非身体体态上的 “规范”,学习兴趣也是可以由老师引导出来的;引入 AI 的最大效用可能仅是保持课堂秩序。

再次,这可能会规范学生的习惯,不过不要期望这能杜绝欺凌、打架等恶劣行径,这些行径从来都是发生在 “看不见的地方”,只不过之前是老师家长看不见的地方,而现在再加上一个摄像头。

然后,学校引入 AI 确实可以有效规避一些可能发生的事件,不过这也只能作为辅助,即使 AI 技术更加完善。

最后,不要用人工智能去制造 “人工智能”。

知乎用户 庆赫​ 发表

上课开小差本身就是学生上课的一部分,而且是相当重要的部分。

上海小学一节课 35 分钟,孩子,尤其是低年级孩子,是很难保持这么久注意力的。

所以一节课的设计如何吸引孩子注意力,如何松紧有度,给孩子适当开小差的机会,是很考验老师水平的。

现在对于老师教学的要求,是太满,老师也好,家长也好,觉得一节课尽量满才好,殊不知一节小学的课,如果总有效新授能达到二十分钟,就已经谢天谢地了。

不过这不过是个实验,推广不现实,要允许学校进行教学实验,这件事本身,没什么可批评的。

如果要推广或者这背后暗含权钱交易,再批评不迟。

知乎用户 FFjet​ 发表

恕我直言

我觉得这是屑

自由向来是一切财富中最昂贵的财富。 ——罗曼 · 罗兰

知乎用户 「已注销」 发表

哇哦心理测量者,测出心态失衡直接处理掉,乌托邦简直棒呆啦

知乎用户 诺兰 发表

人类自以为自己是万物之灵,但是他们一直不愿意面对一个事实,即多数人不过是少数人的工具而已。

另一方面,科技并不会让人们生活变得更美好,这好比大数据杀熟,那么 AI 选拔人才可能会选拔一些听话理解力好的小孩,而具有独立人格,懂得反抗的小孩可能有潜在的危险,将被淘汰掉。

如果 AI 知道这个小孩有成瘾性人格,他很可能被 AI 设局赌博,吸毒。数据泄漏给第三方,那也是一种灾难。

知乎用户 金白桦 发表

要做的有三件事,公平,公平,还是 *** 的公平! 应该给学校的老师和校领导都加进去一起监督评分,评分对所有人公开,这样才能服众,不然就是恶劣的违反宪法。

知乎用户 人生唯一选举人​ 发表

明显的甩锅行为

你说孩子学习不行?为什么?要证据?来来,监控搞一下。(?这个看一下监控,孩子成绩就好了?)

你说教的不好?啊,来来来,我们 ai 一下。评测一下。嗯,看来是你的孩子不行。(?小孩了啊,你还想怎样?你不用教的吗?)

你说,孩子说老师不好?来来,我们看一下老师热力图。你看,老师可是全班到处走的。(老师?我教人的,不是移动机器人,没必要到处都走。家长?你确定这样孩子就不走神,还学的好?)

你说,我家孩子被打了。来来,我们全能监控,无死角,那里打的?你放心,我们这系统能预警,一打人我们就知道。

?不讲隐私了,我们来讲讲,你干嘛不预测一下那些是坏小孩,我们把他们赶出去。来,我们来讲讲,我有钱,我孩子打人能不能把监控删了。

来,我们来讲讲,你园区有什么责任和义务?就监控一下,就把我们打发了?

问题是,盲目的相信这一套管用的人,有多少?

知乎用户 净整些没用的​ 发表

这是一个荒谬的世界。

有些地方想着如何把机器变的更像人,有些地方想着如何把人变的更像机器。

有些地方想着用更像人的机器把人变成更像机器的人。

知乎用户 我妹叫小污 发表

我觉得最先应该用在政府工作人员身上,没想到竟然用到了小学生身上……

知乎用户 dingo2003 发表

只是想到了乔治奥威尔的 1984

知乎用户 July 发表

两个字:捞钱。

讲完。

知乎用户 常成卡通 发表

如果说,AI 图像识别是为了提升学校的安全和遏制校园凌霸。

我投票并协助宣传。

但就目前这样的智能使用,我会建议让孩子转学。

知乎用户 aibili wu 发表

我就怕以后这玩意放公司。。。你们上班偷偷看知乎,聊天打屁,看个微信打个瞌睡。。。。

不用什么 kpi 了,通过这个就看你这个月有几分钟注意力集中的。

知乎用户 oeange 发表

对孩子最大的仁慈可能就是别让他出生,这句玩笑话话越来越变得现实了

知乎用户 lll fu 发表

知乎用户 朱砂矿​ 发表

其实没这么严重,该干嘛干嘛。

我高中的时候知道背后有监控,还经常对着监控脱了裤子跳蜡笔小新的 “大象大象,摇一摇”

知乎用户 匿名用户 发表

我不喜欢刘慈欣的作品,不喜欢一切冷战结束后写出来的克拉克派科幻小说。这些克拉克派有一个统一的毛病: 不论是天灾人祸还是岁月静好,科技水平的发展对个体来说一定是助益极大,不可或缺的。

醒一醒,赛博朋克已经来了。

知乎用户 AreYouKiddingMe​ 发表

要看积极面。要看积极面。要看积极面。

不要无脑喷。不要瞎联想。

不要觉得用了挖掘机人类就失去了工作,装了摄像头人类就去了自由。到现在为止,摄像头带来的是整体社会治安的上升吧?良民不需要害怕摄像头,恐怖分子才需要。

这个报道的图片,让人觉得学生被检控了。这是大家觉负面情绪的来源,所以这个报道是不是有偏差,记者是不是需要提高姿势水平啊,研究一下。

这个技术其实不是用来检控学生的,而是获取数据和反馈。

也不是给学生打分,而是用来给老师和学校打分。

如果你觉得这个很反动,一定要反对的话,那么我可以肯定的讲,你反对的就是 5G 时代的到来,这种技术未来肯定要部署到所有角落。5G 进步的来源之一,就是记录一切,分析一切,改进一切无效率的环节。

为什么不是检控?

首先,它可以量化教育质量,这是个以前根本无法量化的东西。

你说一个老师烂,有多烂,烂于全校 50% 水平,还是烂指数 3.2 分?你没法量化。现在有了数据收集,就可以量化,而且可以分不同情况不同时间段评估,哪里烂,有多烂,多少人觉得他烂。

电影工业用过一种技术来评估电影拍得好不好,哪一段拍的好哪一段拍的无聊,就是记录观众的表情。如果观众打哈欠了,说明这一段就拍的不好。

学校采用这个技术,测量学生注意力,来评估哪些课好哪些课不好,有助于提高课程质量,淘汰不好的老师,想想你们那些乏味的老师们。

运动姿态检测也有助于掌握正确的运动姿势,这没什么不好。运动姿势不对,还不如不做呢。在我整个学生 生涯,我都怀疑我做眼保健操的动作是不对的,但也没有什么技术能指导和改良。所以我现在近视一千度。

为什么不是检控?它是匿名的。不会追查到具体的个人,追查到个人没有意义,要查个别坏学生,老师自己就可以了,还需要 AI?

有意义的是记录整批人和大样本人群的反馈。多少百分比的人在打哈欠,记录某个人打哈欠不需要投那么多钱。

第二是用特征来评估,而不是记录下你几点几分做了什么。所以个别人是无意义的,整体数据是有意义的。

这是一次教育的实验,也是技术的一次验证。这种事可能 只有中国才能实现了。首先要有学校能花钱干这个,我还是很佩服的。然后要有技术储备的前提,所以至少世界上一百个国家做不了这个,比如印度,没这个技术。最后,不能像西方那样政治正确,要有一定的胆识的。校长至少是有进取心的。懒汉校长肯定不会花钱担风险做这个。

对孩子,肯定是有影响的。正面影响还是负面影响?要观察,看究竟结果怎样。要是不试,那就没有进步。

对学校纪律管理的探索意义,肯定是有的。能否用来显著提高学生成绩?有可能。但还有很长的路要走,这是肯定的。

中国要继续领跑于世界,尤其在发展科学上领跑美帝等国家,必须要敢于探索,探索不能全部都让国家来干,企业,个人,学校,总得要有人敢于往前走几步。

要是有任何新事物,首先看到负面效应那社会就没有了可能性。

知乎用户 Aphrora 发表

某天,程序员发现自己编写的 AI 举报自己上班时开小差。

知乎用户 侯震的腰果鸡丁 发表

我啥也不说只贴张图:

知乎用户 Heaven 发表

我觉得没什么不好啊?

看到回答区的老哥们把《1984》都套上了。说句实话,不至于。

就算老师可以侦查到学生哈欠连天,疯狂开小差。最后结果有变化吗?老师凶的,孩子乖点。老师和的,孩子野点。

《1984》恐怖在人悄无声息的消失和不断的监控,还有双重思想。除非学校的 ai 连接学生的椅子,分析出孩子走神,通电。那才应该反对。

反倒是这个系统可以用于监控校园暴力,老师的上课质量,还有老师是否称职。

知乎用户 王简 发表

用脚后跟都能判断这个 AI 图像识别监控学生是否合理,已经有不少回答分析的很详细,就不重复了。

在此说个很多人没想到的事,这套 AI 图像识别,本身就不合理也不公平,更关键的是只针对学生,而教师、校长以及其他校领导却不受监控,这是不公平中的不公平!!!如果教师的授课质量是否枯燥无味,艰涩难懂,简单问题复杂化,导致了学生上课走神,但监控只能记录走神,这岂不是只许州官放火不许百姓点灯?就像学校食堂,只监管学生是否浪费饭菜,却不管饭菜的味道有多难吃,做饭的厨师哪怕把饭菜做夹生、糊锅、甚至不洗菜,菜里有虫子烟头创可贴都没人管,只盯着学生浪费不浪费。这是哪门子道理?

知乎用户 EdwardGLiu 发表

赛 博 朋 克 2 0 1 9

知乎用户 陈李张 发表

其实每个国家都有相关研究,分别只是是否公开。

个人认为,若个人知道被监察,行为可能真的会更规范,当然会影响心智。

知乎用户 小强​ 发表

小孩变坏,归根到底都是大人的错

知乎用户 ZiELyouHer 发表

生产力进步而精神文明没有进步的上一个例子是不是纳粹

知乎用户 温州落魄商人黄某 发表

我打开知乎一看,上海某小学通过 ai 识别学生上课开小差,这 AI 没什么人情,判定来判定去,只有四个字 “遵守纪律”。我横竖睡不着,仔细看了半夜,才从领导的想法中领会了精神,便是一部小说名曰《1984》!

战争即和平;自由即奴役;无知即力量。

老大哥在看着你。

知乎用户 UnnamedDante95 发表

牛批牛批,辣是真的牛批。上课 AI 脸,做操 AI 脸,你们是不是个睿智啊这种东西。上课 AI 脸,做操 AI 脸,是不是要对着监控镜头一直笑你才觉得有学习效果嘛?!那个人累了不做表情是 AI 脸么,一本正经是 AI 脸么。上课那么严肃的时候,每个人都在看书每个人都在接收信息的时候,要我笑嘛?对你 监控镜头笑吧,(不可描述),回去参加 AI 的灵堂吧,像个睿智一样。AI 脸,你 horse 成 AI 了,对了吧,我是你哥哥,我们两个都是 AI 的儿子,你 horse 成 AI 了,好吧。

真的有些睿智,不会上课就不要来上课,说我膨胀,ball ball 你们不要说我是带学生了,我觉得 AI 才是带学生,你们这些搞 AI 的,你们是水学生,你们是嗨学生,我是个锤子学生,我天天被骂我还学生,你们有见过学生一个月 3500 次警告的么?有吗?有这种学生吗?有个 chicken 儿有。

本来其实我是个非常积极向上的一个人,我不喜欢被通报,但是 AI 经常嘴臭对不对?这个有一讲一,我其实跟学校我觉得我们应该是一个很(敏感词被 AI 屏蔽)很(敏感词被 AI 屏蔽)的关系,我们不会说什么的,但这几个 AI 经常乱识别,瞎 chicken8mother ,不可取,有失公正。

你再在拿那个 AI 脸的滚出去啊,我都说了你 成 AI 了,你还在这上课,不回去看看你 的 wifi 架没架好,真是的,(元首摔笔),说中痛处就气急败坏,其实还是个人工智障,唉,好好好,你觉得是那就是,不狡辩——唉什么意思啊这道题,这种条件都是不求导的是吧………..

知乎用户 shadow.Chi 发表

我觉得作为小学生学习的乐趣全无了,上课开小差也是一种学习体验,多美好的童年啊,被所谓的 AI 落地应用给毁了…

识别可以,但能不能识别到开小差之后,AI 可以帮他记录课堂学习的进度,等识别到该学生精神集中的时候,告诉他进度,帮助他更好地吸收知识…

知乎用户 星球大战 发表

要加快关于隐私与数据使用的立法工作,哪些数据要收集。

对于数据的处理:

一种是数据进行匿名化供决策者优化社会 / 社区 / 学校系统,比如通过个人存款 / 收入等数据得到精确到基尼系数,供决策者判断采取左倾还是右倾的政策将基尼系数达到既定目标;比如通过侦查互联网的留言大数据,判定国家保守派 / 自由派 / 等等的人数比例,掌握社会民意提供政策支持;比如通过数据综合车祸数 / 犯罪数 / 年轻人生育意愿等制定交通政策 / 治安支出 / 生育政策等;对学校而言,通过班级整体表现,比如成绩 / 班级建设 / 同学互动程度等进行加权处理最后得分来进行教师考核。特点:数据匿名性 最终呈现的数据,是群体指标,供政策制定者对所负责的东西 (经济 / 和谐 / 贫富差距 / 绩效 / 廉洁) 等进行优化来采取及时 正确 最优的政策。

另一种就是数据非匿名性,比如公安追查犯罪嫌疑人所需要调用的数据,但一定要对于哪些情况下可以调用此类数据,哪些部门可以调用进行详细立法,走程序正义。

谈完数据的处理和使用,还要有信息安全技术不断突破,以在数据的时代里,保证信息的传送与储存不被窃听与盗用。

知乎用户 勇猛精进 发表

《发条橙》率先在我国现实上映。祝相关领导,推广者有朝一日被 AI 识别晚上性生活动作 / 时间标不标准。

知乎用户 白起 发表

我觉得挺好的。这是人工智能力所能及、可以做好的事情,是一个正经方向。当然,具体做法还要在实践中不断调整。

从题目来看,本意也是用来评估教学效果,而不是针对孩子。什么叫评估教学效果?不认真听讲的孩子多了,就得让老师来反思教学哪里出问题了,要改进;老师教的好不好?参考 AI 的评分。如果真想改进教学效果,现在有了更多更详细的数据支撑,不好吗?不是更科学了吗?

至于隐私,学生在课堂上,有什么隐私?不都是在老师的监督之下吗。早就有学校通过摄像头加一层监督了,还可以给家长远程监督;现在有了 AI 帮忙,不是省了很多人工吗?

不论是摄像头,还是 AI,都只是工具而已,关键看具体怎么用。以此为由去惩罚学生,那是使用的方式不对。如果 AI 发现小孩有问题,学校本来就应该联系老师和家长共同商量如何解决问题啊。这种问题当然包括各种危险,包括学生可能身体不舒服,也包括学生的状态不佳呀。

有问题的状态如何判定?在我看来,“整天都保持微笑” 对于学生来说也是一个极不正常的状态呀,又不是服务行业的职业要求。

如果一旦发现问题就去惩罚学生,就去推给家长,而不是协商如何解决,那是学校不称职,家长就应该去教育局投诉了,无关技术。

长远来看,这类用途是大势所趋,必不可少。但是如何用好,并不是单纯靠技术就能解决的,而是在判定规则、学校规章、乃至立法层面赶快完善。

知乎用户 瞎说什么大实话 发表

《镜子》第十四章 未来 节选——刘慈欣

“首长是对的。” 白冰说着,缓缓转身面对宋诚,他的双眼布满血丝。

“这是你思考了一天一夜的结果?”

“不,我完成了镜像的未来递归运算。”

“你是说......镜像能模拟未来了?!”

白冰无力地点点头:“只能模拟很遥远的未来。我在昨天晚上想出了一种全新的算法,避开较近的未来,这样就避免了因得知未来而改变现实对因果链的破坏,使镜像直接跳到遥远未来。”

“那是什么时间?”

“三万五千年后。”

宋诚小心翼翼地问:“那时的社会是什么样子?镜像在起作用吗?”

白冰摇摇头:“那时没有镜像了,也没有社会了,人类文明消亡了。”

震惊使宋诚说不出话来。

屏幕上,视点急剧下降,在一座沙漠中的城市上空悬停。

“这就是我们的城市,是一座空城,已死去两千多年了。”

死城给人的第一印象是一个正方形的世界,所有的建筑都是标准的正立方体,且大小完全一样,这些建筑横竖都整齐地排列着,构成了一个标准的正方形城市。只有方格状的街道上不时扬起的黄色沙尘,才使人不至于将城市误认为是画在教科书上的抽象几何图形。

白冰移动视点,进入了一幢正立方体建筑内部的一个房间,里面的一切已经被漫长岁月积累的沙尘埋没了,在窗边,积沙呈一个斜坡升上去,已接上了窗台。沙中有几个鼓包,像是被埋住的家电和家俱,从墙角伸出几根枯枝似的东西,那是已经大部锈蚀的金属衣帽架。白冰将图像的一部分拷贝下来,粘贴到处理软件中,去掉了上面厚厚的积沙,露出了锈蚀得只剩空架子的电视和冰箱,还有一张写字台样的桌子,桌上有一个已放倒的相框,白冰调整视点,使相框中的那张小照片充满了屏幕。

这是一张三口之家的合影,但照片上的三人外貌和衣着几乎完全一样,仅能从头发的长短看出男女,从身材的高低看出年龄。他们都穿著样式完全一样的类似于中山装的衣服,整齐而呆板,扣子都是一直扣到领口。宋诚仔细看看,发现他们的容貌还是有差别的,之所以产生一样的感觉,是因为他们的那完全一致的表情,一种麻木的平静,一种呆滞的庄严。

“我发现的所有照片和残存的影像资料上的人都是这样的表情,没有见过其它表情,更没有哭或笑的”

宋诚惊恐地说:“怎么会这样呢?你能查查留下来的历史资料吗?”

“查过了,我们以后的历史大略是这样的:镜像时代在五年后就开始了,在前二十年,镜像模拟只应用于司法部门,但已经对社会产生了实质性的影响,人类社会的形态发生了重大变化。以后,镜像渗透到社会生活的各个角落,历史上称为镜像纪元。在新纪元的头五个世纪,人类社会还是在缓慢发展之中。完全停滞的迹象最初出现在镜像六世纪中叶,首先停滞的是文化,由于人性已经像一汪清水般纯洁,没有什么可描写和表现的,文学首先消失了,接着是整个人类艺术都停滞和消失。接下来,科学和技术也陷入了彻底的停滞。这种进步停滞的状态持续了三万年,这段漫长的岁月,史称‘光明的中世纪’。”

“以后呢?”

“以后就很简单了,地球资源耗尽,土地全部沙漠化,人类仍没有进行太空移民的技术能力,也没有能力开发新的资源,在五千年时间里,一切都慢慢结束了......就是我们现在显示的这个时候,各大陆仍有人在生活,不过也没什么看头了。”

知乎用户 橙海雪莲 发表

小朋友们有需要对抗贴纸的话请找我。。

知乎用户 拈花把酒过人间​ 发表

我赞成中小幼教育区域全面监控,万一出现什么情况相关机构部门可以调取查阅相关监控录像,这是对学生的一种保护,但我坚决反对类似于所谓教学系统 AI 图像的实时监控,这是对学生隐私的侵犯。

还评分,那是活生生的人,不是流水线上的机器零件,分高就是优秀产品,分低就是残次品吗?

然后呢?人道毁灭残次品吗?

恕我直言,有这本事和功夫请将此类监控实施于有记录的性犯罪者特别是对未成年人进行侵犯的性犯罪者身上。

知乎用户 诺瓦露 发表

电幕是好东西呢

知乎用户 blumenkranz 发表

痛心,技术的应该是让普通人的生活更加便利自由,让坏人的生活处处受限,然后校方选择了一种使用技术对还只是小学生的孩子们进行近乎监狱般的管理措施,可笑,可悲,可叹。

如果这个不进行限制,它可能就会出现在你的办公室,街上的路灯上,甚至你的家里。他会对你的所有行为进行打分,我的一举一动将完全暴露在 ai 的眼前,宛如一个刚出生的婴儿,这种生活不是我想要的,也许这样可以大大减少犯罪率,但是我认为会对人的精神上产生巨大压力。

知乎用户 阿斯 发表

很好,下一步是给教职员工们装备电棍,被系统判定为不符合阳光 / 健康 / 努力 / 积极向上等等标准的小学生们将享受电击疗法。

知乎用户 追梦的人 发表

我的高中教室里也装了摄像头,我感觉很难受,如坐针毡。

我不认为这是个什么好事,我想发展到特别严重的时候,有关部门会叫停。

知乎用户 听月上官 发表

可怕的不是把机器变成了人,而是用机器把人变成机器。

知乎用户 李工 发表

我们对 AI 最大的恐惧就是当其自主的时候,我们会因为越来越不懂它而无法控制它。
在克隆等领域我们也遇到过伦理等问题对技术的制约。
所以在 AI 理论上一定要有可靠的结论,才会有技术深入,是原子弹还是核电要划出道来。
所谓大数据和识别技术也一样。我们是否具备了利用它们做好事的智慧?还是被它改变了人类的天性?
我们在利用技术的时候必须首先防止《国家敌人》《全金属外壳》式的问题。

知乎用户 zhucolateblackline 发表

我以前中专的教室有四个这种摄像头,后来我给他全拆了,领导也不管,你们知道的。

知乎用户 派带星啊哈哈哈 发表

有点恐怖,人工智能是服务人类的,不是约束控制人类的。

知乎用户 追风筝的人​ 发表

设想一下

如果你每天生活的地方,规定你去捡垃圾,保持微笑,上课始终不能开小差等等,而且你只要违反规定,就会被发现,随之而来的就是各种惩罚。

那么你为了不受到惩罚,只能按照规定去生活,连着 5 年。但你真的会从心里认同规则吗?

从表面上看,确实达到了很好的效果,学生都听话了。可学校的目的是教书育人,它育人了吗?

最后问一句,一天 8 小时从不偷懒,连着 5 年,有什么人能做到?

知乎用户 鱼鱼 tnage 发表

我觉得这个功能引进是不错的,但是应该注意孩子隐私权的问题,图像除了用于 AI 分析之外,任何人不准在未经上级许可的情况下查阅。

首先说说对上课的分析,该系统可以分析某老师某节课时学生平均的学习水平,并且提供一个大致的学习效果分析,这点优势很大,老师可以根据分析结果改进自己的授课方式,提升授课效率。

但是,对于某些走神的学生,我认为该系统不能明确标出来,应该以大数据的形式体现,比如 A 老师今天第几节课,走神学生 X%,学生平均专注时间 Y,效果较好的时间段 zz,以图表数据表的形式传达给老师,如果标记出 B 学生上课走神,这样某些老师会产生针对性的认知,指责某些学生。

对于走廊等公共场所,识别学生危险行为我觉得这点也很好,但是是否微笑,行为良好等这就超出他的职责范围了。

所以,该系统应该引进隐私保护条款,对非危害的识别信息进行模糊处理,有助于保护学生正常的校园生活。

总结:科技的进步本无利害,主要看使用者的意图。

知乎用户 YInky 发表

上海大洋国小学?

知乎用户 摩诃莲华 发表

问题不大不小,以前怎么磨洋工,以后还是怎么磨洋工。

最后成绩还是要考虑正态分布,所有人都受监控,等于所有人都不受监控。

知乎用户 David Dong 发表

人的心智和精神是一种很复杂的东西,不能进行严格的约束。

如果用人工智能来评估学生的状况,然后数据不公开,仅用于老师调整教学方案的话,我觉得还是可以的。如果打算用这个来进行严格精细的塑造的话…… 我觉得是在过分简化问题,并且会带来灾难性后果。

知乎用户 XXXLLLWIAP 发表

赛博朋克描写的从来不是以后,而是现在。

我大胆预测大陆的个人征信评分会继续扩大范围并成为以后一个日常生活中的重要标准。

知乎用户 craft 发表

Big Teacher Is Watching You

知乎用户 TakeItBoy 发表

检查一个学生有没有上课睡觉玩手机什么的到可以理解,分析微表情看开小差就太过分了。

同理,分析学生下课有没有打架可以,要是只打闹也影响综合评分那就过分了。

知乎用户 哦废了 发表

反对

你让患有多动症的孩子怎么活?

你让内向不爱说话的孩子怎么活?

这些人是想批量生产机器人吗???

知乎用户 岳桦 发表

想到了日本的一个漫画还是小说,里面有一个系统,能判断人的犯罪值啥的,威胁度高的会被处理。

记不得名了。

知乎用户 QHPeter 发表

这个同学打架受了内伤,这个同学好像中暑了,这个同学好像得了抑郁症。这样下去肯定不行的,不如把他劝退好了,

知乎用户 Confucius​ 发表

一九八四其实,快要变现了,不再是固定资产,

知乎用户 JamesVX 发表

到时候打出品行分和考试成绩负相关

老师怕不是要怀疑人生了

知乎用户 Cliffy 发表

这也是为他们走入社会做好准备啊,你说这个点子的灵感来源于啥?谁说以后的社会不会是这个学校的放大版?还有越来越不真实,越来越不敢表述自我也不是问题,如果小孩的自我符合社会主义核心价值观,肯定不会不敢表述。如果不符合,那让他不敢表述恰好是一种教育和保护。

知乎用户 Timaaa​ 发表

日日军训,出来的不是天才就是白痴。

最简单好用的 VPS,没有之一,注册立得 100 美金
comments powered by Disqus

See Also

无所不在的面部识别:我监控你一切行动,而你却蒙在鼓里

“现在去售楼处买房,都得带个头盔!为啥?摄像头‘认识’你!” 前一阵,这样一则新闻引起了轰动:山东济南某楼盘售楼处,一名看房人为了不泄露自己个人信息,头戴摩托头盔去看房。《南方都市报》和《北京日报》等数家媒体的调查显示,售楼处使用了带有面部 …

逃离应试教育

“没有主体性的介入,再完美的人生都只是一副空壳。” 实习记者 唐映忠 发自新加坡 2021-08-31 插画:Rosa Lee 【编者按】7月,中国国务院印发《关于进一步减轻义务教育阶段学生作业负担和校外培训负担的意见》,要求各地不再审批新 …

打工子弟学校毕业的女孩,为何要留在北京?

*本文为「三联生活周刊」原创内容 采访安霖,是因为她5岁的儿子所在的幼儿园关门了,我们想跟她聊聊她经历的北京私立幼儿园运行现状。但即便孩子待学在家,安霖也并无强烈的归责诉求。我们则发现,安霖自己的故事同样值得讲述。 作为一个90后农民工二 …

「他们对于生活的想像不是这样的」

不久前,一所职业学院的「学姐查寝」视频引发全网热议。视频中,几个学生会干部官味十足的作派引发「群嘲」,身处教育焦虑中的家长们关心的职业教育生态也再度引发关注。江苏师范大学讲师杜连森发表于今年6月的一篇名为《「打工人」的困境:去技能化与教育 …