《人工智能伦理与安全》课程大纲(高年级本科生用)

《人工智能伦理与安全》

(浙大高年级本科生用)

面向对象:高年级本科生(通识课)

预修要求:计算机导论或人工智能导论、程序语言(C或Java或Matlab)、常微分方程、马克思主义哲学原理

一、课程介绍

(一)中文简介:

人工智能技术对人类社会带来革命性的发展的机会,同时也可能对人类带来安全与伦理方面的颠覆性的挑战;国际社会目前已经开始将其转为一个交叉学科的专业问题加以应对。

本课程介绍应对人工智能技术带来的安全与伦理的挑战的知识结构和理论框架。通过分类案例分析和前沿研究进展的介绍,使得同学能够了解人工智能安全与伦理问题的科学基本原理、了解安全与伦理现象中的共性,进而了解并掌握共性的分析方法、共性的解决方法。通过学习,同学们可以了解人类社会应对安全与伦理挑战中的现状、方法和困难所在,也了解该领域的国际科学和技术前沿、以及监管的方法。

掌握这个课程知识,有助于学生结构性地认知安全与伦理的挑战的方法,提高应对安全与伦理的挑战的观察、分析、解决乃至预见和预防的能力。掌握这样能力的人才的培养,对减缓人类在安全与伦理方面的威胁、保护人类社会福祉是有利的。

  

 

(二)英文简介

 

……

 

二、教学目标

(一)学习目标

 

 


学习目标

学习前

学习后

1

掌握用于表达AI伦理与安全的(数学)语言、了解伦理与安全观的本质是社会收益

对于“AI伦理与安全”,不了解其共同的语言、容易以个人的习惯、见闻或专业词汇表达。多方难以对话,形成共识

了解“AI伦理与安全”多维度的、可量化的表达;可采用辩证和唯物的方法论

2

对AI伦理与安全的科学原理认识一致,对问题分析能有一致的方法,对维度有一致性的认识;

对现象常以个人教育和个人对传统的理解,“天降伦理”的,容易导致自我矛盾,而难以实际地解决问题

可以掌握“AI伦理与安全”的博弈论表示方法、

3

对现象有解构能力,能分析出内在的数据和算法逻辑;能分析现象的内在的机制、估算各方的得失,各阶段的结果具有一致性

不理解人工智能技术在现实中应用后出现的新现象的必然性、内在逻辑,容易陷入“文化青年”和“哲学家”的讨论

可以通过计算机科学与技术专业表达方式、列表计算、可定位的

可以定量分析各方利弊得失、可以以维度与权重的方式来协商取舍

 

4

对未出现的AI伦理与安全现象具有预言能力

基于科幻的

基于已有的科学依据(实验发现、理论分析、社会计算)的,能知道什么样的条件下,发生某种现象的可能性的大小

5

了解AI伦理与安全的治理结构(标准、法规和法律)

非结构化、碎片的、局部的

结构化的、整体的、全局的



【研究生+】了解AI伦理与安全研究方法;了解国际国内主要相关研究机构的专长

随意性

【研究生+】了解同行主要研究方法,

了解研究前沿的问题、难点

 


 

(二)可测量结果

(0)问题概念清晰

--- 能说明人工智能安全与伦理概念、说明其被严重关注的原因

--- 说明如何立足于历史唯物论与自然辩证法加以应对

(1)能应用演化博弈理论,计算分析伦理与安全观的变换规律

--- 能应用博弈轮概念表达伦理规范形成的基础

--- 能计算博弈演化轨迹和均衡的概念

--- 能理性分析不同经济和社会条件的伦理观的不同

--- 能理解伦理是自然演化的结果

--- 能理解伦理和安全演化的驱动因素,

--- 能分析说明安全与伦理是相对的、不是绝对的

--- 能预言安全与伦理问题随客观条件变化而出现和演化的规律

(2)掌握对已存在有的各类现象的分析能力

--- 画出产生安全或伦理威胁的算法逻辑图

--- 描述产生安全或伦理威胁的算法数据基础

--- 能说明该安全或伦理威胁现象产生的动机的经济学原理

--- 能说明该现象治理的政府监管部门及其所依据的法律法规基础

(3)能说明目前我国和全球的治理进展

--- 关于人工智能安全与伦理中的主要研究方法

--- 能说明人工智能伦理与安全问题的标准和规范的框架

--- 了解人工智能伦理与安全问题的治理的目前进展

--- 能理解推断不同经济体之间,在安全和伦理方面的观念和行动的差别的缘由

(4)能说明目前研究与治理共同演进的逻辑【研究生】

--- 能了解理解现实治理方法中,案例分析应对(事后驱动)的方法

--- 能了解多学科交叉研究方法中,理论分析应对(事前驱动)的必要性

--- 能分析二者的连接点

 

注:以上结果可以通过课堂讨论、课程作业以及笔试等环节测量。

 

 

 

三、课程要求

(一)授课方式与要求:

a.教师讲授(讲授核心内容、总结、按顺序提示今后内容、答疑、公布讨论主题等);

b.课后阅读和团队合作(按照讨论题内容进行和课堂推荐参考文献,分小组进行阅读和讨论发言起草工作);

c. 团队合作大程序作业(伦理形成机制的计算仿真实验与测量并报告、采用微分方程求解和强制学习方法编程,要求给出演化过程的统计检验结果);

d.期末开卷考试

 

(二)课程考核与评分

期末开卷考试开始占45%,讨论课测试占20%,课程作业(编程、案例分析或者政策分析论文)占35%。

 

 

四、教学安排

附:时间表

周次

授课主题

备注

1

人工智能安全与伦理概念及其被高度关注的原因

2课时

2

伦理的数学表达(理性选择、博弈论、演化博弈方程)

4课时

3

伦理与安全的科学研究方法(实验、社会计算与自然语言处理)

5课时

4

演化博弈论应用于计算分析伦理与安全观的变换

2课时

5

现象背后动机的共性;共性的分析方法、解决方法;

4课时

6

安全类实例(现象、数据、算法逻辑、危害估算、责任评估)

3课时

7

伦理类实例(现象、数据、算法逻辑、危害估算、责任评估)

3课时

8

治理方法的框架(工业标准、国家法律、国际公约)与实践

3课时

9

国际科学研究前沿、规制建设情况、哲学难点所在

4课时

10

复习与总结

2课时


参考读物: 

 理论基础

达尔文《物种演化》

恩格斯《自然辩证法》

谢林《博弈论与伦理系统》

道金斯《自私的基因》

宾莫尔《博弈论导论》

弗里德曼《市场与道德》

弗里德曼《演化博弈论:自然与社会》

博弈的数学基础(历史、理性选择、契约理论、演化博弈论)

https://plato.stanford.edu/entries/game-ethics/

 

计算科学与技术基础

流程图表示方法

算法表示方法

国家标准

《人工智能导论》

行为科学

人因工程

人机交互

行为博弈论

经济学基本模型

垄断与竞争

古诺模型

伯川德模型

一级价格歧视


五、研究方法概论

演化博弈理论(博弈动力学方程)

计算机仿真计算(社会计算)

实验方法(行为实验)

---行为博弈论(实验经济学)

---社会行为选择(互动场景实验)

共收到 0 | 阅读次数 253
发表评论
请先登录再发表评论