(
课件网) 第 十五 课 人工智能伦理 浙教版 八年级下 新知导入 人工智能的发展深刻影响了世界经济、政治、社会和军事的变革，极大地推动人类的发展和进步。与此同时，人工智能给人类社会带来的伦理问题和安全问题也引起了广泛的关注。 新知导入 建立在大数据和深度学习基础上的人工智能技术，需要海量数据来学习训练算法，带来了数据盗用、信息泄露和个人侵害的风险。 新知导入 人工智能算法可以帮助甚至替代人们进行决策，如在自动驾驶汽车、诊断病情、检验产品等领域。但是，这可能会引发有关社会公平和伦理道德的问题。 新知讲解 一、人工智能伦理 人工智能伦理的主体是机器，这是为了让越来越具有自主能力的机器遵守人类道德伦理规范。人工智能自身没有道德、伦理的品质，而是人工智能技术的研发人员在设计模型和算法时赋予数据意义，决定人工智能的行为规范，从而影响机器的伦理品质。 新知讲解 人工智能给人类社会带来的伦理问题和安全问题也引起了世界范围的关注。 人类需要敬畏人工智能的崛起，人工智能是人类生存的最大威胁甚至可能导致人类灭亡，所以保持高度警惕、未雨绸缪是完全必要的。 新知讲解 人与人工智能之间的“新伦理” 新知讲解 伦理 伦理最早出现在《周易》《尚书》中，“伦”是指人们的关系，“三纲五伦”“伦理纲常”中的“伦”即人伦;而“理”则是条理和道理。 知识链接 新知讲解 二、人工智能的伦理挑战 人工智能技术是解决“能还是不能”的问题，人工智能伦理则是探讨“应该还是不应该”的问题。人工智能技术在为人类社会带来便利的同时，也可能带来风险和挑战。 新知讲解 1.可靠性和安全性 人工智能的发展应当始终以造福人类为宗旨，人工智能算法必须具备可靠性和安全性。基于大数据，人工智能有潜力做出比人类更优的预测和决策，但这些决策必须保证人自身的安全。 新知讲解 例如，人工智能辅助诊疗系统可以帮助医生提高医疗诊断的效率和准确性，但是如果系统中引用了有缺陷的算法，那么这个人工智能医学应用就可能对人的身体健康或生命安全带来威胁。 新知讲解 除了人工智能系统本身可能存在缺陷外，它还面临着被外部攻击的风险。例如，黑客入侵人工智能系统，在图像识别中加人对抗样本，通常会诱导系统产生攻击者想要的错误信息，如黑客在图像中加入一-些难以察觉的噪声，系统就会将该图像转换为乱码或者错误的结论，如图15- 1所示。 新知讲解 大数据与人工智能时代的可靠性下，高端装备稳定而安全地运营是可靠性工程的研究。（如高铁动车的安全） 新知讲解 人工智能辅助诊疗系统可以帮助医生提高医疗诊断的效率和准确性 新知讲解 无人驾驶的智能汽车系统,可靠性更高，让出行更安全。 新知讲解 智能配电系统，实现无人化，配电更安全。 新知讲解 人工智能无人机的图像采集，可靠性更高。 新知讲解 在人工智能控制下，消防机器人，精准灭火，使消防灭火更安全。 新知讲解 知识链接 对抗样本如果在正常样本中人为故意地掺入噪声干扰以误导智能算法，使智能算法产生错误结果，那么这种噪声干扰的样本称为“对抗样本”。 再如，自动驾驶汽车和智能家居等系统中与网络相连接的物理设备存在被网络远程干扰或操控的风险 ; 一旦用于安防或金融的人工智能系统遭到攻击，那么其学习算法会被破坏或者决策结果遭到篡改，造成的后果可能是毁灭性的。 新知讲解 新知讲解 导航雷达受干扰，发送错误指令，导致飞机坠毁。 新知讲解 “特斯拉”事件，智能电子刹车失灵 新知讲解 车牌识别系统识别错误，不能过份依赖人工智能。 新知讲解 2.隐私权 人工智能算法需要大量数据的支撑，数据的共享可能带来不容忽视的隐私安全问题。在智能设备上安装APP时，往往 ... ...
