中职《走近人工智能》（商务印书馆·2022） 12.3人工智能伦理法则 课件(共19张PPT)

(课件网) 第十二章 人工智能伦理规范 目录 二、危机所在：人工智能的危险 三、伦理规范：人工智能伦理法则 四、立法问题：人工智能伦理研究与立法 一、角色变化：人工智能的三种角色 人工智能 伦理规范 本章知识思维导图 “人工智能可能代表着某种文明的危险，这不仅仅是在个人层次，所以的确需要大量的安全性研究。” －－埃隆·马斯克（ElonMusk，特斯拉和SpaceX负责人） 一、角色变化： 人工智能的三种角色 三、伦理规范： 人工智能伦理法则 四、立法问题： 人工智能伦理研究与立法 二、危机所在： 人工智能的危险 三、伦理规范： 人工智能伦理法则 （一）阿西莫夫“机器人三定律” 人工智能越往高级方向发展，机器与人的关系会越密切，由此产生的机器伦理问题也会增多。以人工智能为核心的机器，其技术伦理不同于以往任何机器，原因就在于人工智能时代的机器拥有高度自主性能，它对人类的潜在威胁难以预料和控制。因此，为机器人制定伦理规范显得无比重要。 “人工智能的短期影响取决于由谁来控制它，而长期影响则取决于它是否能够被控制。” －－霍金 在谈到机器伦理的时候，首先要提到的当属艾萨克-阿西莫夫（IsaacAsimov），他提出的“机器人三定律”成为后来机器人学研究者不可避开的经典原则。阿西莫夫是美籍犹太人，《基地》《机器人》等系列作品是阿西莫夫最脍炙人口的代表作。 （一）阿西莫夫“机器人三定律” 阿西莫夫是伟大的科幻作家，他特意在全银河的背景下架构他独有的科幻世界，借由银河帝国的兴亡史来讨论人类社会和文明。他学术渊博，成就丰硕，一生著述颇丰。在他刚开始写机器人小说时，人工智能并未发展得那么充分，如今，阿西莫夫笔下的机器人逐渐从书本走到电影，再从电影走入了人类生活。他最有影响力的观点就是“机器人学三大法则”，通俗地被称作“机器人三定律”。 “机器人三定律”首次出现在阿西莫夫的短篇集《我，机器人》中，内容如下: 1.机器人不得伤害人类，或因不作为（袖手旁观）使人类受到伤害；2.机器人应服从人的一切命令，但不得违反第一法则；3.在不违背第一及第二法则下，机器人必须保护自己。 （一）阿西莫夫“机器人三定律” 1985年，阿西莫夫出版最后一本机器人系列科幻小说《机器人与帝国》（RobotsandEmpire），在这一部书中，他给机器人法则加上了一条新定律，将机器人三定律扩张为四定律。“生命的长河比一滴水重要得多。这也就是说，人类作为一个整体、比人类作为一个个人要重要得多！有一条守则比第一守则更重要。这就是：'机器人不得伤害人类这族群，或因不作为（袖手旁观）使人类这族群受到伤害。'我们可称它为零位守则。 （一）阿西莫夫“机器人三定律” 这样，第一条守则就应作如下修改：'机器人不能伤害作为个体的人，也不能任凭作为个体的人面临危险而袖手旁观，除非那样做会违反零位守则。'” 因此，阿西莫夫完整的机器人法则应表述为：“第零法则：机器人不得伤害人类这族群，或因不作为（袖手旁观）使人类这族群受到伤害；第一法则：机器人不得伤害人，也不得见人受到伤害而袖手旁观，但不得违反第零定律；第二法则：机器人应服从人的一切命令，但不得违反第零、第一定律；第三法则：机器人应保护自身的安全，但不得违反第零、第一、第二定律。” （二）机器人新定律 阿西莫夫的机器人三大定律为人们提供了机器伦理的基本框架，即使他后来加上了零位定律，它也并不是无懈可击的。从逻辑看来，即使遵循机器人四大定律，但智能机器人在多种情况下依然可能给人类带来伤害，比如当它们遇到“道德两难”问题的时候，无论如何选择，都会不可避免地对人类产生危险。 遵循阿西莫夫的思维模式，后续研究者纷纷 ... ...