5.1.2《人工智能应用系统的安全风险》-课后作业 粤教版（2019）-信息技术-人工智能初步选修4

《人工智能应用系统的安全风险》的作业： 一、填空题 1. 人工智能应用系统中的数据泄露风险主要源于_____不当和外部攻击。 答案：数据保护措施 解析：数据泄露通常是由于数据保护措施不足或外部攻击者利用系统漏洞导致的。这包括不安全的数据传输、存储和处理实践。 2. 对抗样本攻击是指通过在输入数据中添加微小的、精心设计的扰动来欺骗神经网络，使其产生错误的_____。 答案：输出（或预测） 解析：对抗样本攻击通过微小的扰动改变输入数据，使模型产生错误的输出，这种攻击对安全敏感的应用构成了严重威胁。 3. 模型窃取攻击涉及获取并复制受保护的神经网络模型，以便在未经授权的情况下使用它进行_____。 答案：推理（或预测） 解析：模型窃取攻击允许攻击者获取并复制受保护的神经网络模型，从而在未经授权的情况下使用该模型进行推理或预测。 4. 成员推断攻击是指攻击者试图确定某个特定个体是否属于训练数据集的一部分，这违反了个体的_____权。 答案：隐私（或匿名性） 解析：成员推断攻击威胁到个体的隐私权，因为它允许攻击者确定某个特定个体是否包含在训练数据集中。 5. 数据中毒攻击涉及向训练数据集中注入恶意样本，以影响模型的训练过程，导致模型在实际应用中表现出_____行为。 答案：恶意（或有害） 解析：数据中毒攻击通过向训练数据集中注入恶意样本来操纵模型的学习过程，使其在实际应用中表现出恶意或有害的行为。 6. 拒绝服务（DoS）攻击旨在通过大量请求淹没系统，使其无法响应合法的用户请求，这种攻击破坏了系统的_____性。 答案：可用（或可靠性） 解析：DoS攻击通过使系统过载来破坏其可用性，阻止合法用户访问服务或资源。 7. 在深度学习模型中，过度拟合可能导致模型对未见数据表现不佳，这是因为它未能学习到数据的_____特征。 答案：泛化（或一般化） 解析：过度拟合是指模型在训练数据上表现很好，但在未见数据上表现不佳，这是因为它没有学习到数据的泛化特征。 8. 为了提高模型的鲁棒性，可以采用正则化技术来减少模型的复杂性并防止_____问题。 答案：过拟合（或过度拟合） 解析：正则化是一种常用的技术，用于减少模型的复杂性和防止过拟合问题，从而提高模型在新数据上的泛化能力。 9. 差分隐私技术通过在查询结果中添加随机噪声来保护用户的_____信息不被泄露。 答案：个人（或敏感） 解析：差分隐私技术通过在查询结果中添加随机噪声来保护用户的个人信息不被泄露，从而平衡隐私保护和数据分析的需求。 二、选择题 10. 以下哪种攻击不是针对人工智能应用系统的？ A. 数据泄露攻击 B. 缓冲区溢出攻击 C. 对抗样本攻击 D. 模型窃取攻击 答案：B. 缓冲区溢出攻击 解析：缓冲区溢出攻击是针对软件编程中的错误，而不是专门针对人工智能应用系统的攻击。其他选项（A、C、D）都是针对AI应用系统的常见攻击类型。 11. 对抗样本攻击的主要目标是？ A. 窃取数据 B. 篡改输入数据以欺骗模型 C. 破坏系统可用性 D. 推断成员身份 答案：B. 篡改输入数据以欺骗模型 解析：对抗样本攻击的主要目标是通过篡改输入数据来欺骗神经网络模型，使其产生错误的输出。 122. 数据中毒攻击通常发生在哪个阶段？ A. 数据收集阶段 B. 模型训练阶段 C. 模型部署阶段 D. 数据预处理阶段 答案：B. 模型训练阶段 解析：数据中毒攻击通常发生在模型训练阶段，通过向训练数据集中注入恶意样本来影响模型的学习过程。 13. 以下哪项技术可以帮助提高模型对未见数据的泛化能力？ A. 增加模型复杂度 B. 使用更多的训练数据 C. 减少训练轮次 D. 增加正则化项 答案：D. 增加正则化项 解析：增加正则化项是一种有效的方法来提高模型对未见数据的泛化能力，因为它可以减少模型的复杂性并防止过拟合问题。 14. 差分隐私技术主要 ... ...