服务案例

NVIDIA人工智能实验室解决方案是NVIDIA公司针对中国教育市场推出的基于数据中心虚拟化基础架构上的GPU虚拟化，加之NVIDIA深度学习学院培训体系的一体化人工智能实验室解决方案。该方案采用以用户为中心的计算模式、按需向用户提供GPU资源、框架资源、深度学习环境。保障用户对GPU资源的独享，保证用户获取足够的自由度和较高的用户体验，同时满足集中管理和数据安全的需求，灵活和快速部署人工智能实验环境。

数据中心虚拟化基础架构平台是一个成熟的解决方案，主要包括服务器虚拟化、存储虚拟化、网络虚拟化及管理平台等。再加上NVIDIA的GPU虚拟化后，用户能够简单、快速、一站式的构建校园GPU资源管理平台，对内提供GPU服务，大大简化GPU资源管理工作，提高数据的安全性，提高机器硬件利用率，降低IT拥有总成本（TCO）。

采用了混合云计算模式（集合服务器虚拟化、GPU虚拟化、PC虚拟化和网盘），既支持服务器的后端计算资源池弹性分配，又支持客户机前端计算资源的分布式运算，Grid6.0为GPU虚拟化带来了新的环境实现，支持在GPU虚拟环境下的深度学习框架的搭建和计算，是教育单位的人工智能实验室得以实现的重要技术平台。

1.1 系统架构

1.1.1 系统架构

1.1.2 vGPU架构

1.2 产品说明

1.2.1 NVIDIA GPU

通过服务器虚拟化平台，把GPU计算资源进行切割，按需求进行分配，依托DOCK技术快速部署各种深度学习实践环境，用户通过云终端、笔记本、PC、智能终端，通过浏览器访问部署在校内的云端人工智能实验室门户网址，进行AI实验、模型实践和推演产品的互动体验。

1.2.2 深度学习框架

1.2.3 英伟达深度学习学院

英伟达人工智能实验室解决方案依托英伟达深度学习学院的课程进行打造。在原汁原味还原国际课程的同时加入符合中国教育的内容和元素，帮助老师和学生更好的教授、体验和学习人工智能方面的知识。

NVIDIA 深度学习学院 (DLI) 针对AI 和加速计算提供实践操作培训，旨在解决现实问题。DLI 为开发人员、数据科学家和研究人员度身打造课程，您可通过以下三种方式学习：

1.2.3.1 在线主题课程

每个主题课程含八小时课时，学习如何实施和部署端到端的项目。您可以随时随地使用云端完全配置的 GPU 加速工作站开始在线学习。

1.2.3.2 在线选修课程

每个选修课程含两小时课时，探索如何应用特定技术或开发技术。您可以随时随地使用云端完全配置的 GPU 加速工作站开始在线学习。

1.2.3.3 讲师指导的培训班

面对面培训班含八小时主题课程，学习如何实施和部署端到端的项目。由 DLI 认证讲师授课，并使用云端完全配置的 GPU 加速工作站实践操作。您可以申请在自己的组织机构内、大学校园和大型相关会议上举办培训。

1.2.3.4 认证证书

参与者可以获得认证证书，以证明在相关领域的能力，为自身的职业发展提供支持。您可以在部分在线课程和讲师指导的培训班获得认证证书。

1.2.4 英伟达人工智能实验室平台

1.2.4.1 界面

1.2.4.2 功能

1.2.4.3 使用方式

1.3 课程内容

1.3.1 课程列表

1.3.2 人工智能标注技术

1.3.3 人工智能应用解析

1.3.4 Python可视化及其应用

1.3.5 交互式Python编程

1.3.6 实验效果

2、 功能亮点

2.1 便捷管理

2.1.1 管理平台

人工智能实验室系统的管理平台采用B/S架构，简洁的全图形化管理界面，用户在任意联网的终端上通过浏览器便可访问平台，平台上可以实现服务器、用户、桌面、场景、终端、存储等的全面集中管理。

基于浏览器的web控制台是整个自服务平台的唯一管理入口，管理员可以坐在办公桌面通过浏览器维护整个学校的GPU资源、云终端和基础设施，无论是开机/关机/重启，还是备份/还原，或是重置/升级，都不要进实验室或是到现场，轻轻松松完成，工作效率提升十多倍。

2.1.2 软硬件集中升级

人工智能实验室系统将硬件的计算性能的需求和本地终端解耦，所有GPU计算资源由云端的服务器提供，本地终端可以是普通电脑、一体机或瘦客户机。

服务器虚拟化软件除了管理云端资源外还可以提供云还原功能，确保课程结束后实验环境自动恢复到预设状态。同时，基于模板和链接克隆技术，服务器端集中部署桌面，只要对单个模板配置、修改、安装升级软件/虚拟机硬件，即可实现数百桌面的同步更新，几分钟时间管理员就能完成全部操作，不需要到用户现场逐台操作。

PC虚拟化包含电脑管理功能，负责虚拟系统模板的管理，电脑终端信息管理，接入控制，外设的管理，通过管理平台统一推送及更新虚拟操作系统及应用。

2.1.3 实验课程快速部署

利用管理平台可以方便制作针对性NVIDIA DOCKER软件环境模板，通过模板可以实现实验环境的批量创建、更新、分发，数百台终端瞬间即可使用相应用户操作环境，达到快速部署的目的。终端应用软件的安装 及配置变化，均可以通过管理控制台在服务器端集中操作，大大简化了用户操作环境的配置和部署。

2.2 有效控制

2.2.1 教学管理端

针对管理权限，教育桌面为管理员和上课教师提供了不同的管理端，管理员登录后台软件管理平台，来完成对所有用户进行管理以及系统维护的工作。教学管理端是为上课教师提供的管理软件，可以选择多种独立的教学环境，并且可以一键切换教学环境，上课，下课统一开关机等功能，也可以让学生自由选择，无需登录管理后台进行操作。

2.2.2 有效控制USB接口使用

基于USB接口重定向和穿透技术，有效支撑教学实验中的各种USB设备，不限于USB存储、打印机、扫描仪、智能卡、U-key、触摸屏等。

同时针对USB存储传播的各种病毒，以及数据的安全保密规范，可以对各个用户终端进行USB接口限制，即使插上感染了病毒的移动存储设备，桌面内也无法访问和存取，极大的保障了用户桌面和数据的安全性。

2.2.3 完整的监控功能

提供性能监控功能，对服务器和终端桌面中GPU、CPU、网络、磁盘、各个进程资源使用率等指标的实时数据统计，并能反映目前物理机、虚拟机的资源瓶颈,同时管理人员还可以监看客户端接入桌面的操作情况，在必要时进行截图或录像。

2.3 教师办公

2.3.1 个性化DOCK环境快速交付

终端桌面架构在后台统一管理，快速交付各种教学应用桌面，无需现场逐一安装；系统选择更“灵活”老师可以根据个人使用习惯灵活选择多种NVIDIA DOCKER环境。

2.3.2 移动授课办公模式

移动办公包括校内办公和家庭办公；移动教学包括办公室备课和教室上课。教师使用的桌面，是将各种教学软件、办公软件内置到云桌面中打包成各种标准桌面，按需配置，按需分发，有网络的地方，就能使用自己的个人桌面。但是登录虚拟桌面对带宽的依赖较高。现在网络发展高速，家庭带宽都能保障二十兆完全可以支持家庭办公的远程连接。同时教师使用其它移动设备办公，也要保证宽带的要求，教师可以在学校任何地方，远程访问自己的桌面。

教师在办公室备完课，准备好PPT后仅仅需要来到教师，使用云终端，登录自己的桌面，就可以直接完成教学。同时可以登录时修改个人用户密码，保证了个人桌面的安全性。教师回到家中，也可以家庭办公，可以远程登录自己的桌面，使用各种软件利用客户端访问校内资源。创建一种崭新的教学与办公模式，允许按需随时学习、碎片学习、移动办公。

教师再也不用在办公室、家庭和教室之间来来回回携带笔记本电脑或U盘，轻松便捷，而且使用相同的个人桌面。

3、 方案价值

深度学习计算模型：Traing—>INFERENCE

3.1 人工智能应用体验

未来，随着人脸识别、语音识别、语义理解、深度学习等技术深入发展，机器人将拥有类人的思考和交互能力，赋能经济生产和社会生活方方面面。学生在进行人工智能相关的学习之前如果可以深刻体验科技带来的神奇，对兴趣的培养和后期的学习都大有帮助。

AI语文老师可以教你如何写藏头诗，与AI数学老师一起猜数字，AI英语老师学英文单词和发音，还可以和AI美术老师一起快速涂鸦，面对面请教AI老师许多有趣的问题，再与AI体育老师来一场围棋对战……

未来，随着智能批改、智能陪练、语音测评、智能图书馆、咨询管理等应用的投入运行，AI将满足学生个性化需求，解决教师资源相对有限的问题，同时将教育资源传递到更多有需要的地方，缓解教育资源不均衡的现状。借助AI赋能，世界互通，人类将在共通的新水平线上学习发展。

3.2 多样性AI学习环境—训练（AI Train）

基于NVDOCK技术可以打包多种深度学习环境，打包各种框架和驱动，实现在一个课堂内的多种深度学习场景和个性化教学实验课堂。管理员只需要将不同的环境提供给学员即可，对于学生，桌面中不仅只有教学相关的软件，提升桌面响应速度，同时规范学生注意力，提高了教学质量，还有不同的框架学习机会，体验各种深度学习方法，对于高校AI实验室非常适合。

3.3 多样性AI学习环境—推演（Inference）

深度学习实验室可以作为人工智能科普实验室来规划设计，可以将目前已有的Inference 模型进行体验课堂，例如机器视觉，语音识别等人工智能应用场景体验。可以通过“机器对弈”“视觉识别”等模型来体验AI课程。对于普教实验室非常适合。

3.4 AI专业教师资源培养

通过NVIDIA的深度学习学院，可以为学校培养AI专业教师，教师可以叠加人工智能概念及基本知识、深度学习的技术和算法等，架构学校自身教学和实验内容。学校建立系统的AI教学课程也得以实现。

3.5 云教学环境得以实现

由于采纳了虚拟桌面技术，可以将常用教学软件、备课授课资源封装到虚拟桌面中，通过网络远程交付给学生使用，这样既解决了学生对专业软件安装维护的问题，又可以增加软件、资源的利用率，分摊采购成本，同时也方便了师生在家中备课和教学实验的完成。

实验文档和实验环境在同一个页面，打造即学即练的实验体验

教师可自主制作实验文档并部署实验环境，打造贴近本校真是需求的课程

3.6 计算资源的复用

由于Grid6.0的特性，可以使GPU的计算资源得以复用，既可以进行虚拟切割实现深度学习实验课堂，进行学生教学。同时又可以在闲时进行大规模计算任务使用，例如晚上整合GPU进行模型计算。

又由于基于虚拟桌面技术，平台可以提供重图形图像应用环境，例如3Dmax、CATIA软件的教学和实验云环境。还能为学校师生提供更多的云应用资源服务，为学校大大节省了投入成本。