5月15日晚,南京鹏云网络科技有限公司创始人陈靓应邀走进南京千亿体育登录鼓楼校区课堂,以“AI大模型的云服务与异构计算”为题,为同学们带来专题授课。陈靓教授结合自身在云计算架构、分布式存储与企业技术创新方面的实践经验,围绕大模型训练与推理的算力需求、云计算基础设施、异构计算资源协同以及统一存力调度平台等内容展开讲解。

授课过程中,陈靓教授从同学们日常使用大模型的真实体验切入,以“GPU军队”“万卡集群”“全国物流调度中心”等生动比喻,深入浅出地介绍了大模型训练和推理过程中面临的显存瓶颈、多GPU协同、数据与算力地理分离、跨中心同步延迟等核心挑战。随后,陈靓教授进一步讲解了云计算与大模型之间的关系,阐释了公有云、私有云、混合云等部署模式在大模型全生命周期中的作用,并结合“数据在东、算力在西”的现实场景,分析了数据本地性、动态数据复制、成本时效权衡、模型切分并行等关键技术路径。

在课堂互动环节,同学们围绕大模型为何需要多张GPU、统一调度如何提升用户体验、数据算力分离如何平衡资源灵活性与传输延迟、AI辅助编程背景下学生应提升何种能力等问题积极提问。陈靓教授结合产业实践与技术发展趋势进行了耐心解答,并建议同学们打好操作系统、分布式系统等计算机基础,关注Kubernetes、Ceph、Fluid等云原生开源项目,进一步了解高性能集群调度、数据预取和存算分离架构等前沿方向。现场交流气氛热烈。
《智创无穹:云端AI之道与地学创新实践》课程是本科生院推进人工智能通识凤凰模拟器下载、探索AI赋能跨学科创新实践的重要课程之一。课程立足人工智能技术快速发展的时代背景,面向学生系统介绍大模型、云计算、智能工具与学科应用等内容,注重培养学生对AI技术底层逻辑、云端基础设施和工程化应用能力的理解。本次专题授课进一步拓展了学生对大模型背后算力体系和云计算平台的认识,有助于引导学生在AI+X背景下提升计算思维、数据思维和系统思维,为后续开展人工智能赋能学习研究与创新实践奠定基础。
