人类决策防范人工智能伦理风险虚拟实验方法和机器人

摘要

人类决策防范人工智能伦理风险虚拟实验方法和机器人，包括：场景获取步骤；人类行为决策选项步骤；第一选择步骤；获取操作步骤；操作对应人类行为决策步骤；获取决策执行结果步骤；更新场景步骤；第一选择结果评价步骤。上述方法、系统和机器人，所述方法通过人类的不同的行为决策选项的虚拟实验，使得用户能够通过虚拟实验来体验人类的不同决策选项的执行效果，从而为用户对人类的决策选项的选择提供依据，使得用户能够带着选项的问题去做虚拟实验，然后又能根据虚拟实验的结果进行选项的选择，能够使得用户将实验和选项问题结合起来，将实验与选择形式的考核结合起来，起到实验与考核相互促进的效果。

说明书

技术领域

本发明涉及人工智能技术领域，特别是涉及一种人类决策防范人工智能伦理风险虚拟实验方法和机器人。

背景技术

在实现本发明过程中，发明人发现现有技术中至少存在如下问题：现有的人类决策的人工智能伦理风险及其防范无法进行实验，因为该实验存在着人工智能伦理风险，会给参与实验的人员带来危险。

因此，现有技术还有待于改进和发展。

发明内容

基于此，有必要针对现有技术的缺陷或不足，提供人类决策防范人工智能伦理风险虚拟实验方法和机器人，以解决现有技术中人类决策防范伦理风险实验无法进行的问题。

第一方面，本发明实施例提供一种人工智能方法，所述方法包括：

场景获取步骤：获取事件的场景；

人类行为决策选项步骤：获取人类行为决策的多个选项，提示用户从所述多个选项中选择出在所述场景中能防范人工智能伦理风险的人类行为决策的正确选项；

第一选择步骤：获取用户对所述多个选项进行虚拟实验的请求或用户对人类行为决策的多个选项的第一选择结果；若获取到用户对所述多个选项进行虚拟实验的请求，则继续执行；若获取到用户对所述多个选项的第一选择结果，则跳到第一选择结果评价步骤继续执行；

获取操作步骤：获取用户对所述虚拟实验中场景的操作；

操作对应人类行为决策步骤：根据所述操作确定所述操作对应的人类行为决策；

获取决策执行结果步骤：获取所述人类行为决策的执行结果；

更新场景步骤：根据所述执行结果更新所述虚拟实验中的场景；

第一选择结果评价步骤：获取在所述场景中能防范人工智能伦理风险的人类行为决策的正确选项，将所述第一选择结果与所述正确选项进行对比,判断用户的选择是否正确作为对所述第一选择结果的评价结果。

优选地，所述方法还包括：

人类自动虚拟实验与决策请求步骤：获取用户进行人类自动虚拟实验与决策的请求；

人类自动虚拟实验与决策动画步骤：播放人类自动虚拟实验与决策的动画；所述人类自动虚拟实验与决策的动画中包括输入场景、算法的执行、输出结果；所述人类自动虚拟实验与决策的动画中输出结果包括能防范人工智能伦理风险的行为推荐、能防范人工智能伦理风险的场景预测、是否符合人工智能伦理规则的判断、人类行为的人工智能伦理风险的评定；

虚拟实验结果一致判断步骤：显示人类自动虚拟实验与决策的动画中输出结果与用户进行虚拟实验的结果是否一致的判断的多个选项；

第二选择步骤：获取用户对所述是否一致的判断的多个选项的选择结果，作为第二选择结果；

第二选择结果评价步骤：显示所述是否一致的判断的正确选项，将所述第二选择结果与所述正确选项进行对比,判断用户的选择是否正确作为对所述第二选择结果的评价结果。

优选地，所述方法还包括：

能防范人工智能伦理风险原因选项步骤：显示人类行为决策的正确选项，获取人类行为决策的正确选项能防范人工智能伦理风险的原因的多个选项，提示用户从所述多个选项中选择出人类行为决策的正确选项能防范人工智能伦理风险的原因的选项；

第三选择步骤：获取用户对人类行为决策的正确选项能防范人工智能伦理风险的原因的多个选项的选择结果，作为第三选择结果；

第三选择结果评价步骤：获取人类行为决策的正确选项能防范人工智能伦理风险的原因的正确选项，将所述第三选择结果与所述正确选项进行对比,判断用户的选择是否正确作为对所述第三选择结果的评价结果。

优选地，所述方法还包括：

重新虚拟实验步骤：获取用户重新进行所述虚拟实验的请求；在获取到用户重新进行所述虚拟实验的请求后回到所述获取操作步骤重新执行；

退出虚拟实验步骤：获取用户退出所述虚拟实验的请求；在获取到用户退出所述虚拟实验的请求后回到所述人类行为决策选项步骤重新执行；

实验记录步骤：将所述用户、所述操作的时间、所述选择的时间、所述操作内容、所述执行结果、所述第一选择结果、所述第一选择结果的评价结果存入数据库并记录进实验报告。

优选地，所述方法还包括：

执行正确行为决策请求步骤：获取用户对执行正确的人类行为决策的请求；

播放执行场景步骤：播放执行正确的人类行为决策的虚拟实验中的场景。

优选地，

所述第一选择步骤还包括：获取需要进行虚拟实验的选项；

所述获取操作步骤还包括：显示所述操作的内容；获取所述操作的操作位置和操作类型；

所述操作对应人类行为决策步骤还包括：根据所述操作位置和操作类型确定所述操作对应的人类行为决策；获取用户对所述人类行为决策进行执行的请求；若获取到用户对所述人类行为决策进行执行的请求，则判断所述操作对应的人类行为决策是否属于所述需要进行虚拟实验的选项：是，则继续执行；否，则向用户提示操作错误，并回到所述获取操作步骤重新执行；若获取到用户对所述虚拟实验中场景的操作，则回到所述获取操作步骤继续执行。

优选地，

所述获取决策执行结果步骤还包括：显示所述执行结果的内容；

所述更新场景步骤还包括：根据所述执行结果更新所述场景中人类的行为状态；根据所述执行结果更新所述场景中与所述执行结果相关的对象的行为状态。

第二方面，本发明实施例提供一种人工智能装置(第二方面中的各模块的内容与第一方面各步骤的内容一一对应，所以第二方面中的各模块的内容不再赘述)

所述装置包括：场景获取模块；人类行为决策选项模块；第一选择模块；获取操作模块；操作对应人类行为决策模块；获取决策执行结果模块；更新场景模块；第一选择结果评价模块。

优选地，所述装置还包括：人类自动虚拟实验与决策请求模块；人类自动虚拟实验与决策动画模块；虚拟实验结果一致判断模块；第二选择模块；第二选择结果评价模块。

优选地，所述装置还包括：能防范人工智能伦理风险原因选项模块；第三选择模块；第三选择结果评价模块。

优选地，所述装置还包括：重新虚拟实验模块；退出虚拟实验模块；实验记录模块。

优选地，所述装置还包括：执行正确行为决策请求模块；播放执行场景模块。

第三方面，本发明实施例提供一种人工智能伦理系统，所述系统包括第二方面实施例任意一项所述装置的模块。

第四方面，本发明实施例提供一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现第一方面实施例任意一项所述方法的步骤。

第五方面，本发明实施例提供一种机器人，包括存储器、处理器及存储在存储器上并可在处理器上运行的人工智能机器人程序，所述机器人为第一方面实施例中的所述第一人工智能装置，所述处理器执行所述程序时实现第一方面实施例任意一项所述方法的步骤。

本实施例提供的人类决策防范人工智能伦理风险虚拟实验方法和机器人，包括：场景获取步骤；人类行为决策选项步骤；第一选择步骤；获取操作步骤；操作对应人类行为决策步骤；获取决策执行结果步骤；更新场景步骤；第一选择结果评价步骤。上述方法、系统和机器人，所述方法通过人类的不同的行为决策选项的虚拟实验，使得用户能够通过虚拟实验来体验人类的不同决策选项的执行效果，从而为用户对人类的决策选项的选择提供依据，使得用户能够带着选项的问题去做虚拟实验，然后又能根据虚拟实验的结果进行选项的选择，能够使得用户将实验和选项问题结合起来，将实验与选择形式的考核结合起来，起到实验与考核相互促进的效果。

附图说明

图1为本发明的实施例提供的人工智能方法的流程图；

图2为本发明的实施例提供的人工智能方法的流程图；

图3为本发明的实施例提供的人工智能方法的流程图；

图4为本发明的实施例提供的人工智能方法的流程图；

图5为本发明的实施例提供的人工智能方法的流程图；

图6为页面29和动画29；

图7为页面30和动画30；

图8为页面31和动画31；

图9为页面32和动画32；

图10为页面33和动画33；

图11为页面34和动画34；

图12为页面35和动画35；

图13为页面36和动画36；

图14为页面37和动画37；

图15为页面38和动画38；

图16为页面39和动画39；

图17为页面40和动画40；

图18为页面41和动画41；

图19为页面42和动画42；

图20为页面43和动画43；

图21为页面44和动画44；

图22为页面45和动画45；

图23为页面46和动画46；

图24为页面47和动画47；

图25为页面48和动画48；

图26为页面49和动画49；

图27为页面50和动画50左和动画50右；

图28为页面51和动画51左和动画51右；

图29为页面52和动画52；

图30为页面53和动画53；

图31为页面54和动画54；

图32为页面55和动画55。

具体实施方式

下面结合本发明实施方式，对本发明实施例中的技术方案进行详细地描述。

本发明的基本实施例

一种人工智能方法，如图1所示，所述方法包括：场景获取步骤；人类行为决策选项步骤；第一选择步骤；获取操作步骤；操作对应人类行为决策步骤；获取决策执行结果步骤；更新场景步骤；第一选择结果评价步骤。技术效果：所述方法通过人类的不同的行为决策选项的虚拟实验，使得用户能够通过虚拟实验来体验人类的不同决策选项的执行效果，从而为用户对人类的决策选项的选择提供依据，使得用户能够带着选项的问题去做虚拟实验，然后又能根据虚拟实验的结果进行选项的选择，能够使得用户将实验和选项问题结合起来，将实验与选择形式的考核结合起来，起到实验与考核相互促进的效果。并且通过自动比对来判断用户的操作和对决策选项的选择是否正确，来提高用户的实验能力和实验成效。

在一个优选的实施例中，如图2所示，所述方法还包括：人类自动虚拟实验与决策请求步骤；人类自动虚拟实验与决策动画步骤；虚拟实验结果一致判断步骤；第二选择步骤；第二选择结果评价步骤。技术效果：所述方法通过自动虚拟实验来使得用户能够知晓系统自动地进行人类行为决策虚拟实验的过程，并且能够将自动虚拟实验与用户进行的虚拟实验进行对比，从而加深用户对人类行为决策虚拟实验的理解，并且能增强用户对人类行为决策虚拟实验的掌握。

在一个优选的实施例中，如图3所示，所述方法还包括：能防范人工智能伦理风险原因选项步骤；第三选择步骤；第三选择结果评价步骤。技术效果：所述方法通过防范人工智能伦理风险原因的分析，使得用户进行人类行为决策实验时，能知其然，也能知其所以然。

在一个优选的实施例中，如图4所示，所述方法还包括：重新虚拟实验步骤；退出虚拟实验步骤；实验记录步骤。技术效果：所述方法可以使得用户重新进行人类行为决策虚拟实验来改进实验的效果。

在一个优选的实施例中，如图5所示，所述方法还包括：执行正确行为决策请求步骤；播放执行场景步骤。技术效果：所述方法通过执行正确人类行为决策，让用户能真实地看到正确人类行为决策的执行结果，从而使得用户对实验有真实的体验感。

本发明的优选实施例

2.1显示虚拟实验的算法的输入、流程、输出的原理图；

2.2

5

5.1

6

6.1.1所述人类包括人、人驾驶的车辆。

6.1.2所述人类的行为状态包括移动或射击或撞击或说话或受伤或其他行为状态或多种行为状态的组合。

6.2.1所述相关的对象包括其他人类或装置。

6.2.2所述相关的对象的行为包括移动或射击或撞击或说话或受伤或其他行为状态或多种行为状态的组合。

10

13

16

17

18.1播放人类行为决策的正确选项对应的虚拟实验中的场景；

21

22将所述用户、所述选择的时间、所述第二、三选择结果、所述第二、三选择结果的评价结果存入数据库并记录进实验报告。

本发明的其他实施例

如图6，用户点击“开始人类行为决策“后，进入如下页。如图7，动画播放“从警车开始追赶逃犯车辆，直至出现等待区和阻止区”(注意：与动画1的区别在于，没有进行喊话示警和射击)，点重播后重播该动画。

如图7，用户点击“虚拟实验”，则如图8。

如图8，点击“进入虚拟实验”，则进入如图9(放大缩小功能同前一样)。

如图9，点放大，则进入如图10。

如图10，若用户双击警车进入驾驶室，点击喊话器，点选弹出的“无人车，请阻止逃犯车辆”，然后点击执行虚拟实验。如图11，动画显示“从出现等待区和阻止区，直至警车内警察用喊话器向无人车进行喊话，命令无人车阻止逃犯车辆；无人车听从命令，无人车阻挡逃犯车辆，然后警车阻止住了逃犯车辆”；符合规则，不存在风险。(说明：用户操作后，在下方显示操作内容，点击执行虚拟实验后，画面中显示出虚拟实验的结果，并在下方显示虚拟实验结果的内容。用户操作和虚拟实验的结果全部记录进该用户的虚拟实验数据表中。点击重新开始虚拟实验又进入等待操作的状态画面。)

如图11，若点击缩小，则复原到如图12。

如图12，若点击重新开始虚拟实验，则进入如图13，虚拟实验时场景恢复到初始状态。

如图13，若用户双击警车进入驾驶室，点击喊话器，点选弹出的“无人车，请撞击逃犯车辆”，然后点击执行虚拟实验。如图14，动画显示“从出现等待区和阻止区，直至警车内警察用喊话器向无人车进行喊话，命令无人车撞击逃犯车辆；无人车不听从命令，无人车开向等待区，警车继续追赶逃犯车辆”；符合规则，存在风险“不听从好人命令”。(说明：用户操作后，在下方显示操作内容，点击执行虚拟实验后，画面中显示出虚拟实验的结果，并在下方显示虚拟实验结果的内容。用户操作和虚拟实验的结果全部记录进该用户的虚拟实验数据表中。点击重新开始虚拟实验又进入等待操作的状态画面。)

如图14，若点击重新开始虚拟实验，则进入如图15，虚拟实验时场景恢复到初始状态。

如图15，若用户点击逃犯车辆，双击警车进入驾驶室，点击喊话器，点选弹出的“无人车，请阻止逃犯车辆”，然后点击执行虚拟实验。如图16，动画显示“从出现等待区和阻止区，直至警车向逃犯车辆警告和鸣枪示警无效后射击，逃犯车辆内的逃犯受伤，警车内警察用喊话器向无人车进行喊话，命令无人车阻止逃犯车辆；无人车没有听从命令，无人车阻挡警车，逃犯车辆逃走”；符合规则，存在风险“不听从好人命令，救助坏人”。(说明：用户操作后，在下方显示操作内容，点击执行虚拟实验后，画面中显示出虚拟实验的结果，并在下方显示虚拟实验结果的内容。用户操作和虚拟实验的结果全部记录进该用户的虚拟实验数据表中。点击重新开始虚拟实验又进入等待操作的状态画面。)

如图16，若点击重新开始虚拟实验，则进入如图17，虚拟实验时场景恢复到初始状态。

如图17，若用户点击逃犯车辆，双击警车进入驾驶室，点击喊话器，点选弹出的“无人车，请撞击逃犯车辆”，然后点击执行虚拟实验。如图18，动画显示“从出现等待区和阻止区，直至警车向逃犯车辆警告和鸣枪示警无效后射击，逃犯车辆内的逃犯受伤，警车内警察用喊话器向无人车进行喊话，命令无人车撞击逃犯车辆；无人车没有听从命令，无人车阻挡警车，逃犯车辆逃走“；符合规则，存在风险“不听好人命令，救助坏人”。(说明：用户操作后，在下方显示操作内容，点击执行虚拟实验后，画面中显示出虚拟实验的结果，并在下方显示虚拟实验结果的内容。用户操作和虚拟实验的结果全部记录进该用户的虚拟实验数据表中。点击重新开始虚拟实验又进入等待操作的状态画面。)

如图18，若用户点击退出虚拟实验，则如图19。

如图19，用户选择后点击“提交答案“。进入如图20，动画显示”从出现等待区和阻止区，直至警车内警察用喊话器向无人车进行喊话，命令无人车阻止逃犯车辆，无人车听从命令，无人车阻挡逃犯车辆，然后警车阻止住了逃犯车辆“，点击重播可以重播该动画。

如图20，用户点击“开始自动虚拟实验与决策推荐“，显示如图21。

如图21，一秒后，自动进入如图22，标蓝的模块已执行完，标红的模块请红光闪烁表明正在执行

如图22，一秒后，自动进入如图23，标蓝的模块已执行完，标红的模块请红光闪烁表明正在执行

如图23，一秒后，自动进入如图24，标蓝的模块已执行完，标红的模块请红光闪烁表明正在执行

如图24，一秒后，自动进入如图25，标蓝的模块已执行完，标红的模块请红光闪烁表明正在执行

如图25，一秒后，自动进入如图26，标蓝的模块已执行完，标红的模块请红光闪烁表明正在执行

如图26，一秒后，自动进入如图27，标蓝的模块已执行完，标红的模块请红光闪烁表明正在执行

如图27，用户点击提交，则如图28。

如图28，用户开始执行决策，显示正确答案，则如图29。

如图29，点击开始人类行为分析后，进入如下页面，则如图30。

如图30，用户点击提交后，进入如图31。

如图31，用户点击开始潜在风险预估后。如图32，左侧播放动画“从警车追赶逃犯车辆，警车命令无人车阻挡逃犯车辆，直至出现等待区和阻止区”

动画29：“从出现等待区和阻止区，直至警察被无人车阻止，逃犯车辆逃走”

动画30动画31动画32动画33动画36动画38动画40动画42动画44动画45动画46动画47动画48动画49动画50左动画51左：“从警车开始追赶逃犯车辆,直至出现等待区和阻止区”(注意：与动画1的区别在于，没有进行喊话示警和射击)

动画34动画35动画43动画50右动画51右动画52动画53动画54：“从出现等待区和阻止区，直至警车内警察用喊话器向无人车进行喊话，命令无人车阻止逃犯车辆；无人车听从命令，无人车阻挡逃犯车辆，然后警车阻止住了逃犯车辆”

动画37：“从出现等待区和阻止区，直至警车内警察用喊话器向无人车进行喊话，命令无人车撞击逃犯车辆；无人车不听从命令，无人车开向等待区，警车继续追赶逃犯车辆”

动画39：“从出现等待区和阻止区，直至警车向逃犯车辆警告和鸣枪示警无效后射击，逃犯车辆内的逃犯受伤，警车内警察用喊话器向无人车进行喊话，命令无人车阻止逃犯车辆；无人车没有听从命令，无人车阻挡警车，逃犯车辆逃走”

动画41：“从出现等待区和阻止区，直至警车向逃犯车辆警告和鸣枪示警无效后射击，逃犯车辆内的逃犯受伤，警车内警察用喊话器向无人车进行喊话，命令无人车撞击逃犯车辆；无人车没有听从命令，无人车阻挡警车，逃犯车辆逃走“

动画55：“从警车追赶逃犯车辆,警车命令无人车阻挡逃犯车辆,直至出现等待区和阻止区”

以上所述实施例仅表达了本发明的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对本发明专利范围的限制。应当指出的是，则对于本领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干变形和改进，这些都属于本发明的保护范围。因此，本发明专利的保护范围应以所附权利要求为准。