摄像头|AI作业灯：我要看看，谁敢把“鸟”写成“乌” 高薪|写成|作业|人工智能|伦理

文章插图
最近，一款神奇的作业灯登场了。
它有两个摄像头，一个紧盯着孩子的作业本，另一个可以盯着孩子的面部表情。这样在做作业的时候，如果孩子敢把“鸟”写成“乌”，家长哪怕在千里之外，仍能大喝一声。孩子若想愣神儿，没门儿；想揉揉眼睛玩玩笔，一句“集中注意力”保准会扔过来。
可以理解，这款产品能给一些因为工作和生活远离孩子的家长提供慧眼，实现远程陪伴。不过，它也给那些“直升机”家长增添了利器，不仅盯着人，也能盯着所有的小动作，包括指尖、眼神。
凭我们的才智，这样的产品肯定会被超越：可以再加一个摄像头盯着孩子的腿脚，写作业时双脚必须并齐放在地面上，不许跷二郎腿；头上可以悬个锤子，发现走神，锤子立马落下来。
人工智能应用越来越多，在信息安全的前提下，交通导航、医学诊断、移动支付、药物筛选等等，给我们带来了太多福祉。疫情防控，人工智能也功不可没。
从一个摄像头变成两个摄像头，是不是创新暂且不论，关键是与人工智能嫁接，号称人工智能助力教育的新产品，这就值得讨论一下了，人工智能到底该如何助力教育？
浙江某地一所小学的学生，去年被戴上了脑机接口环。这个脑箍可以检测脑电波，评判学生上课、写作业时是否集中注意力，系统可以给注意力打分，分数能实时传输到老师的电脑里，据说也会像考试成绩排名一样被发到家长群里。
还有一款可以对学生课堂听讲情况全程监控的产品，举手3次、低头8次、打瞌睡1次、趴桌子1次……一举一动、面部表情都能被记录在案。
好在经媒体报道后，浙江当地教育部门禁用了上述头箍；上述第二个产品的开发公司也随后发声明说只是技术场景概念演示，否认应用。真要谢谢他们，不然，孩子上学戴上头箍，放学回家用上作业灯，全天候、无死角，尽在大人掌握和干预之中。这不就是电影《楚门的世界》中，活生生的现实“小楚门”吗，24小时都被监控、直播。
如何培养出更多有创造力、想象力、敢于突破的杰出人才一直是我们的追问，也是目标。一个人的成长需要适度的空间，心理的成熟、心灵的丰富，都需要自我不断探索尝试。很多从试错、反思中得到的经验更可贵。一直被作业、分数捆绑，没有一丝一毫的空间，也许会有一个好看的分数，但难说会有阳光的心态。
有人生动比喻，一匹从小只会拉磨的小马，永远不会成为骏马。
前两年人脸识别技术刚刚开始应用的时候，就有公园里的厕所安装人脸识别设备，一刷脸给你一截手纸，你要想再多要一截，对不起，面子只能刷一次。若有特别需求，还真得找别人“借脸用一下”。人脸识别应用场景很多，在新冠肺炎疫情期间，即使戴着口罩，有些摄像头也能识别。
现在厕所厕纸也升级了，有的把二维码印在地上，扫码关注公号才能滑出一截手纸。这种推广和营销，用在厕所里总是让人觉得违和。
奇葩年年有，人工智能来了就特别多。
一些批量生产“优雅骂人”语句的软件横空出世。这类软件可以从文学名著中快速检索、生成特定的骂人句子，语句虽不带脏字却恶意满满。这些软件为网络“喷子”提供了“装满大粪的炸弹”，中伤他人，污染网络环境。
不断迭代的科技，双刃剑从来都是锋利无比。有学者在科技与伦理的论述中，这样形容“科学技术像一匹不断飞驰的骏马，那么伦理就像制约骏马的缰绳。如果没有伦理的规范、约束和引导，科技一味疯狂发展很可能会把人类带上不归路。”
贺建奎对基因编辑技术滥用，被追究刑事责任，这就是缰绳起了作用。前些年瘦肉精、三聚氰胺、苏丹红同样如此。
伦理具有一定的稳定性，面向不确定性增多的未来，科技要给人类提供什么帮助？科技的限度和禁区在哪里？从以往来看，如果预先设置一些高于现行要求的伦理规范，有机会消除一些技术带来的不确定性危害。
去年，几家研究机构共同推出了《人工智能北京共识》，提出人工智能的研发、使用、治理，应该遵循有益于人类命运共同体构建和社会发展的15条原则。例如“善用与慎用原则”，要对人工智能应用可能带来的潜在影响具备充分认识，避免误用、滥用，以最大化人工智能带来的益处、最小化其风险。
之后科技部也对外公布了《新一代人工智能治理原则——发展负责任的人工智能》，提出了和谐友好、公平公正、包容共享、尊重隐私、安全可控、敏捷治理等八项原则。