|
破2的第五集就我自己浅薄的见识，我也看见了歪导所想展露给我们的一部分隐患：人对机器的过度依赖、个人隐私的侵犯、就业问题、新的不平等关系、伦理关系以及人类的生存......
霍金先生曾说过，他的一生见证了社会深刻的变化，其中最深刻的，同时也是对人类影响与日俱增的，就是人工智能的崛起。霍金认为，人工智能的崛起，要么是人类历史上最好的事，要么是人类文明的终结。 人工智能的好是我们普通人都见识到的，可以代替人类完成一些简单、重复性、繁琐的劳动，且在这些工作中拥有比人类更高的工作效率和准确性，解放出人类去从事更多创造性的劳动。 人工智能的一些便利在剧中大家也可以看到，但是本集更想展现的应该是人工智能的弊。 没有手部模块的小白、没有语音模块的阿杰和配备多种方言模块的若愚在给自己本职工作便利的同时，因为过度依赖机器人的他们已经变成一座400多斤的肉山、一堆器官分割的盒子和一个只知道购物的行尸走肉，老胡和乐乐更是成了只有脑子接受给养的全职“劳模”，唐海狸就是个春卷，只有莫菲还有相比自由的本我。 还有侵犯个人隐私这块，老胡的权限可以直接强制开启对莫菲等人盯盯乐的视频连线，也可以查到他们的生活轨迹，机器人唐海星也是通过老胡的活动第一时间就知晓了他的异常。 人工智能对就业的冲击在剧中以人类幕后操纵机器人上班来解决，这也只能算是个理想状态，我们都知道机器与人类不同，即使它必须连续工作十几二十小时也不会累，持续工作效率也不会变，而人类需要时间休息来提高效率。 AI加剧关系的不平等在剧中也有体现，董事长实现了大脑永生，“你爸爸永远是你爸爸”，而胡强莫菲小白若愚阿杰还是那个破事部，甚至连他们最后的肉体也会被剥夺丢弃焚烧，人工智能所提供的利益保留给了处于权力地位顶端的少数人。 如果此刻你的身边都是人工智能机器人，你会受得了吗？胡强的处境就是这样，身处那时的环境，到处都是冷冰冰的。大胆设想一下，他身边的同事真的就是本人在操纵吗，还是被上级机械性的接管，还是AI已经产生了自我意识？当抓住拥有体温的莫菲时，胡强仿佛拥抱了世界。 本集中自我感觉对AI失控的提及很少或者是歪导没有直接说出来，关于人工智能拥有独立意识问题，在作为人工智能管理部的高级主管唐海星要对胡强进行重置的有所提及，说明在剧中的世界里对这方面还有所防范，但是这里也并不能排除是已经产生自我意识的唐海星机器人通过所处的职位在处理中集结同类吧？人工智能具备了独立的意识是我们普遍认知中最常见的一种担忧，比起一些人利用人工智能做坏事，这种人工智能系统失控的潜在风险更难被察觉到，而人工智能一旦脱离束缚，以不断加速的状态重新设计自身，以人类这受到漫长的生物进化的限制，无法与之竞争，将被取代。到那时，人工智能可能是人类文明史的终结。 早在1950年出版的美国着名科幻小说家艾萨克·阿西莫夫撰写的《我，机器人》小说中，就提出了着名的“机器人三大定律”：第一定律，机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手旁观；第二定律，机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；第三定律，机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。更在此之后加入了加入了一条新定律：第零定律，机器人不得伤害人类整体，或因不作为使人类整体受到伤害。这些定律早已越出科幻小说的边界，成了机器人、人工智能研发的道德准则和行动指南，成了未来机器人必须植入的道德基因。但是！但是我们不能保证这四大定律可以一直保障，霍金先生曾有警告：“他们本身也是生根于达尔文的进化论之中，因此人类需要利用逻辑和理性去控制未来可能发生的威胁。”从长远来看，人类只能竭尽全力，来确保人工智能的发展对于人类和环境有利，我们别无选择。 “我们站在一个美丽新世界的入口。这是一个令人兴奋的、同时充满了不确定性的世界，而你们是先行者。我祝福你们。” 人工智能是成就人类，还是毁灭人类，等待着人类自己书写。 |
