人工智能在伦理面前该怎样选择？

芒小果 · 发表于 2017-5-11 19:14

　　导读：在众多媒体眼中，2016年是人工智能再度崛起的元年。自Alpha Go击败李世石之后，众多互联网巨头纷纷开始曝光或布局人工智能领域，随着政策导向、资本涌入、社会关注，人工智能正在走向人类世界的大门。

人工智能在伦理面前该怎样选择？

　　人类渴望着科技的进步，但又恐惧科技的进步。

　　从古至今，科技一直是人类进步的支柱。人类历经三次工业革命，从手工劳动社会走进工业社会，再进入到信息技术时代，而现在正在经历第四次革命。现在，指数级增长的易得数据，更快更优质的硬件和更好更有效的算法已经帮我们看到未来科技时代门缝中透出的光辉。

　　人工智能在伦理面前该怎样选择？

　　透过光辉，我们用无尽的想象力构造未来的美妙生活，不会造成拥堵的无人驾驶汽车，在家可享受的未来医疗，与人类实时互动的智能家居，沉浸式体验的历史事件甚至是与人工智能的爱情。

　　正是人类所希翼的人工智能，模糊了现实世界、数字世界以及个体之间的界限，对目前社会的许多方面都可能造成颠覆性的改变或破坏，同时其引发的复杂的法律、安全、道德甚至伦理问题也会对人类的精神世界产生巨大冲击。

　　可能目前并不是考虑人工智能将如何改善我们生活的时候，而是当面对伦理道德问题时，人工智能该如何选择?根据人工智能目前的发展现状，较早实现和关注度较高的便是无人驾驶汽车，那么我们不妨便讨论关于无人驾驶汽车的几个场景。

　　人工智能在伦理面前该怎样选择？

　　场景一：一辆正在行驶的无人驾驶汽车，因为某些原因导致无法刹车，行驶前方是五名无辜路人，假如行驶方向不变，五名路人将产生生命危险。同时，路边有一片空地，有一名路人正在散步，如果汽车改道那么只有这一名路人会面临生命危险，这时，无人驾驶汽车的人工智能系统该做出如何选择?

　　场景二：还是那辆正在行驶的无人驾驶汽车，面临相同的选择，此时它多了一个选项，它可以选择极端方式离开道路，但会对车内乘客带来生命危险，此时，人工智能系统又该做出如何选择，保全数量更多的路人还是自己的使用者或者主人?

　　场景三：还是那辆正在行驶的无人驾驶汽车面临选择，由于数据信息高度互通，它通过人工智能系统得知两个方向的六名路人的身份(比如：罪犯、教师、医生、工程师等)或者他们之间被记录的冲突，此时，人工智能系统该做出如何选择，是否会根据人工智能通过互联网获取的各类资料来对他们之间的联系做出“道德”的评判?

　　场景四：那辆正在行驶的无人驾驶汽车做出了选择，一些人类生命被终结，谁来为这起事故负责?是人工智能系统的设计者?是无人驾驶汽车的设计者?是正在使用无人驾驶汽车的使用者还是导致无人驾驶汽车选择极端方式处置的路人?还是负责整体运行的政府部门或者运营机构?

　　上述场景可能是偶然中的偶然，但在生活场景中，人工智能涉及到的问题也不在少数。联想的Lenovo Smart和Facebook Jarvis都用概念片为我们构建了一个人和智能实时互动的家居场景，人工智能会主动唤醒人类，然后根据人类的习惯完成制作早餐、播放新闻、阅读邮件等一系列活动，而这些活动所依赖的基础便是大数据的收集、筛选、处理和应用。

　　那么人类是否会信任人工智能系统24小时不停歇的收集自身数据以提供更好更细致的服务?而这些所收集的私密性极强的用户数据属于谁，是属于用户的虚拟财产还是人工智能系统开发者的数据资产?而在未来的万物互联中，数据的共享让人类在不同场景中都可以得到更加完善的服务，而这种服务为人类带来的是更好的体验还是被监控的感觉?

　　当未来机器人“觉醒”具备了类人类的情感和意识，人类和“觉醒”的机器人是否可以成为法律和道德认可的亲密伴侣?人类是否应该赋予“觉醒”的机器人以类人类的权利?而人类与这些机器人的关系，是处于支配地位还是平等地位，假如是支配，那么如何面对机器人中拥有的反抗与平等意识，假如是平等，那么如何解决机器人寿命所潜藏的风险?如果类人类机器人伤害了人类，应该负有法律责任，反之，如果人类伤害了“觉醒”的机器人，是否也应该承担对应的法律责任?

　　这些问题很残酷也很有趣很残酷，因为电车困境的问题我们人类都争论不休尚未解决，很有趣是因为我们现在仍对人工智能的未来一无所知。

　　在众多媒体眼中，2016年是人工智能再度崛起的元年。自Alpha Go击败李世石之后，众多互联网巨头纷纷开始曝光或布局人工智能领域，随着政策导向、资本涌入、社会关注，人工智能正在走向人类世界的大门。

　　而Alpha Go击败李世石的那天，是否会成为人工智能取代人类的“解放日”我们不得而知，我们目前只知道人工智能已经敲开了我们的家门，而我们需要解决的人工智能开发的问题不仅仅是技术和时间。

› 综合交流 / 资源分享区 › 综合交流大区

人工智能在伦理面前该怎样选择？

人工智能在伦理面前该怎样选择？