人工智能机器人究竟有多强大？机器人真的会“反噬”人类吗？.doc

《人工智能机器人究竟有多强大？机器人真的会“反噬”人类吗？.doc》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、人工智能机器人究竟有多强大？机器人真的会“反噬”人类吗？　　如今人工智能发展火热，机器学习预见成熟，智能化未来似乎指日可待。表面上似乎一切都在按部就班的进行，但背后也不乏暴露出很多问题。就像近期人工智能威胁论就引发了不少的言论激战，揪其根源还是人工智能是否能够有意识违背人类意愿操控事务的问题。　　　　强弱AI　　首先我们应该区分两个概念：强AI和弱AI。强AI人工智能机器人究竟有多强大？机器人真的会“反噬”人类吗？　　如今人工智能发展火热，机器学习预见成熟，智能化未来似乎指日可待。表面上似乎一切都在按部就班的进行，但背后也不乏暴露出很多问题。就像近期人

2、工智能威胁论就引发了不少的言论激战，揪其根源还是人工智能是否能够有意识违背人类意愿操控事务的问题。　　　　强弱AI　　首先我们应该区分两个概念：强AI和弱AI。强AI是指一种能够思考并可以感知自身存在的假想机器。它不仅可以解决人类为其定制的任务，还可以学习新事物。　　弱AI目前很常见，它是一种用于解决特定问题的应用程序，例如图像识别、汽车驾驶、playingGo(围棋)等，也就是我们常说的“机器学习”。　　目前，我们还无法预测强AI什么时候能够真正被研发出来。专家们经过调研推断的结果也是“有朝一日”。　　相比强AI，弱AI目前已经存在，很多领域都可以看

3、到弱AI的身影，并且应用范围每年都在增长。通过实例学习，机器学习几乎可以让我们在无需编程的情况下处理实际任务。　　人工智能威胁论真的存在吗?　　我们通过建立数学模型(“学习”算法)，教会机器人解决具体问题。机器人会按照我们规划好的模型法去执行任务，也就是说机器学习的一切行为都是基于我们的操控，我们似乎不用担心电影《终结者》天网的发生。但如果我们抱有这样天真的想法，我们就错了，因为机器学习仍然可能违背人类的意愿去执行错误的任务。　　1.不良企图　　如果我们教一个无人机军队使用机器学习去杀人，那么结果是否符合道德行为标准?　　基于这个话题还发生过一场闹闻。

4、2017年，谷歌正在开发一款用于军事项目的软件，名为Maven。该项目涉及到无人机，以及未来完全自主武器系统的制造。因此，谷歌的12名员工辞职以示抗议，另外有4000名员工签署了一份请愿书，要求公司放弃与军方的合同。与此同时，人工智能、伦理学领域的1000多名知名科学家一起写了一封致谷歌的公开信，要求该公司放弃该项目并支持禁止自主武器的国际协议。　　2.开发者偏见　　即使机器学习算法开发人员没有恶意，但他们中的很多人还是金钱价值观，他们的最终目的还是为了赚钱。也就是说，他们的算法是为了使自己受益而创建的，并非是为了社会利益。例如，一些医疗算法会推荐昂贵

5、的治疗方法，却很少推荐最佳患者治疗方案。　　实际生活中算法的道德规范问题似乎也没有很大体现。例如，交通速度和车祸死亡率之间是可以存在折中方案的。我们可以将自动驾驶汽车的最高行驶速度限制在15英里小时以下，这样几乎可以将车祸死亡率降到零，但这样却损失了汽车的其他优势。　　3.违背逻辑规范　　电脑系统在默认的情况下，对逻辑规范一无所知。一种算法可以将国家预算与“最大化GDP/劳动生产率/预期寿命”的目标结合起来，但如果没有在模型中编制限制，它可能会取消学校、收容所和环境的预算，因为它们不会直接增加GDP。　　为了一个目标，我们可以让机器学习执行任何一个复

6、杂任务，但前提是要融入相关的逻辑规范。　　4.改变人类偏好　　机器学习给我们的生活带来了很多便利，但无形之中也在改变我们的生活常态甚至个人行为偏好。例如智能电影推荐，机器学习会根据您对电影的评分，将您的偏好与其他用户进行对比，然后向您推荐电影。长期下来，您的偏好将因为电影推荐系统而被改变，兴趣范围也会被缩小。　　但可怕的是，我们并没有意识到这种改变的发生，没有意识到计算机对我们的操控。　　5.错误的相关性　　当完全彼此独立的事物表现出非常相似的行为时，就会产生一种虚假的关联，这就会造成一种错觉，认为它们之间存在某种联系。例如，你会认为美国的人造黄油消费

7、与缅甸州的离婚率密切相关吗?　　我想任何一个有点学识的人都不会认为二者是相关的。但数学模型不具备这样的经验学识，它只是用来学习和数据概括的工具，在它的逻辑系统里，这样相似性的曲线变化表明二者之间一定有着某种联系。　　6.反馈循环　　相比错误相关性，反馈循环影响更大。反馈循环是指算法决策影响现实的情况，反过来又使算法确信其结论是正确的。　　例如，加利福尼亚的一项预防犯罪计划表明，警察应该根据当地的案件数量断定犯罪率，然后根据犯罪率派遣相应的警官。但最终会陷入到这样一个循环里：一个街区的警察增加，当地居民的报警次数就会增多，从而增高犯罪率，按照预防犯罪计划

8、就要派遣更多的警察，警察数量增多，人们的报案数量就又增多，报案率上升，便又增加警察数量····