10月22日至23日，健康科學(xué)與工程學(xué)院醫(yī)學(xué)人工智能系主任何宏教授帶領(lǐng)40余名醫(yī)學(xué)信息工程本科生和生物醫(yī)學(xué)工程研究生前往華為上海昇思生態(tài)創(chuàng)新中心，簽署人工智能本科生研究生實習(xí)實踐基地合作協(xié)議，并開展了為期2天的華為“昇騰生態(tài)開發(fā)者訓(xùn)練營”的集中實習(xí)實踐活動。上海昇思生態(tài)創(chuàng)新中心副總經(jīng)理蔡昉、上海昇騰人工智能生態(tài)創(chuàng)新中心市場總監(jiān)何婉憶、上海昇騰人工智能生態(tài)創(chuàng)新中心生態(tài)經(jīng)理劉昌昊及相關(guān)人員參加活動。

本次實習(xí)實踐以大模型工程化能力為主線，圍繞昇騰（Ascend）與昇思MindSpore框架生態(tài)，開展系統(tǒng)授課與上機實踐，重點覆蓋訓(xùn)練—推理—算子三大環(huán)節(jié)，旨在通過集中式技術(shù)培訓(xùn)提升學(xué)生對主流開源生態(tài)的理解與應(yīng)用水平，加強學(xué)生實踐能力的鍛煉，并促進AI創(chuàng)新人才培養(yǎng)方面的校企合作。

實踐開始前，何婉憶首先在展示廳詳細介紹了華為晟思生態(tài)的發(fā)展現(xiàn)狀，并講解了昇思和書生通用大模型等行業(yè)典型適配應(yīng)用，使同學(xué)們了解了昇思MindSpore AI框架概況。隨后，蔡昉和何宏共同進行了健康科學(xué)與工程學(xué)院與上海昇思生態(tài)創(chuàng)新中心的人工智能本科生研究生實踐基地揭牌。

參觀展示廳

實習(xí)實踐基地揭牌

培訓(xùn)首日聚焦大模型部署全流程知識。劉昌昊介紹了中心成立一年以來在行業(yè)應(yīng)用、科研創(chuàng)新等打造了具有示范意義的昇騰AI應(yīng)用成果，并希望通過昇騰AI金種子培訓(xùn)幫助廣大伙伴開發(fā)者深入掌握昇騰AI技術(shù)開發(fā)能力。昇騰AI框架布道師徐帥系統(tǒng)地講解了大模型全流程MindSpore AI框架，包括數(shù)據(jù)處理、模型訓(xùn)練、推理到多平臺部署的全流程開發(fā)，在多個行業(yè)實踐中形成的昇騰AI訓(xùn)推解決方案，以及MindSpore微調(diào)和MindSpore與vLLM、SGLang主流推理框架的適配進展。上海昇騰人工智能生態(tài)創(chuàng)新中心FAE團隊Leader謝國敏則基于實際案例系統(tǒng)介紹了昇騰遷移和優(yōu)化的全流程，為開發(fā)者解決實際工作場景中的問題提供了切實有效的思路，并鼓勵同學(xué)們積極參與生態(tài)和開源實習(xí)活動。

講座現(xiàn)場

華為專家分享

第二天的主題是昇騰CANN生態(tài)和算子編程開發(fā)實踐。上海昇騰人工智能生態(tài)創(chuàng)新中心FAE黃猛帶領(lǐng)同學(xué)們進行了端側(cè)大模型推理的實踐演練，深入體驗了MindIE推理框架的適配與優(yōu)化操作，提升了同學(xué)們的用MindIE進行模型適配到部署優(yōu)化的全流程實踐能力；創(chuàng)新中心FAE李文捷則指導(dǎo)同學(xué)們通過動手操作開發(fā)板學(xué)習(xí)如何調(diào)用和開發(fā)矢量算子，進行CPU模式和NPU模式下的算子調(diào)試。

現(xiàn)場實踐中，工程師們耐心指導(dǎo)現(xiàn)場的每位學(xué)生進行算法部署操作，并認真解答同學(xué)們的疑問。同學(xué)們也積極與工程師們交流，認真操作，非常投入，并在短周期內(nèi)形成了對大模型訓(xùn)練遷移、算子適配與高效推理部署的整體性認知，順利完成全部課程并獲得了認證?；顒咏Y(jié)束后，同學(xué)們都表示此次實踐得到華為工程師們親自指導(dǎo)是難得的機會，通過實踐對AI大模型算法部署有了深入的了解、收獲頗豐，部分同學(xué)還表示雖然第一次接觸Ascend C，有些操作很陌生，但是老師講的很清楚，通過此次實踐自己對華為昇騰社區(qū)產(chǎn)生了極大興趣，未來將會繼續(xù)學(xué)習(xí)社區(qū)網(wǎng)站的教學(xué)視頻，增強AI算法部署能力。

華為工程師現(xiàn)場指導(dǎo)AI算法推理部署實操

集中實訓(xùn)結(jié)束合影

上海昇思生態(tài)創(chuàng)新中心—萬物昇長由上海市閔行區(qū)人民政府、臨港集團、華為、上海人工智能研究院/上海交大四方共建，總部位于上海市漕河涇開發(fā)區(qū)。昇思中心致力于打造中國人工智能原生操作系統(tǒng)，聚焦“AI底層關(guān)鍵技術(shù)賦能、聯(lián)創(chuàng)解決方案、人才培養(yǎng)與生態(tài)發(fā)展”四大功能，建設(shè)自主可控的開源AI訓(xùn)練框架和產(chǎn)業(yè)生態(tài)。此次在上海昇思生態(tài)創(chuàng)新中心訓(xùn)練營以集中培訓(xùn)的形式系統(tǒng)覆蓋了昇騰生態(tài)AI模型部署的關(guān)鍵技術(shù)點，并進行了實戰(zhàn)訓(xùn)練，激發(fā)了學(xué)生學(xué)習(xí)如何基于國產(chǎn)算力將AI算法應(yīng)用落地的興趣，進一步增強了同學(xué)們AI創(chuàng)新實踐能力，不僅是在前期雙方交流的基礎(chǔ)上進行的校企聯(lián)合人才培養(yǎng)的深度合作，也為健康科學(xué)與工程學(xué)院醫(yī)學(xué)人工智能創(chuàng)新班建設(shè)奠定了堅實的基礎(chǔ)。