• <strike id="aymay"></strike>
    <strike id="aymay"></strike>
    <ul id="aymay"><dfn id="aymay"></dfn></ul>
    <ul id="aymay"><sup id="aymay"></sup></ul>
  • <del id="aymay"></del>

    《開放加速規范AI服務器設計指南》發布,應對生成式AI算力挑戰

    2023-08-14 13:51 來源:美通社 作者:電源網

    北京2023年8月11日 /美通社/ -- 8月10日,在2023年開放計算社區中國峰會(OCP China Day 2023)上,《開放加速規范AI服務器設計指南》(以下簡稱《指南》)發布。《指南》面向生成式AI應用場景,進一步發展和完善了開放加速規范AI服務器的設計理論和設計方法,將助力社區成員高效開發符合開放加速規范的AI加速卡,并大幅縮短與AI服務器的適配周期,為用戶提供最佳匹配應用場景的AI算力產品方案,把握生成式AI爆發帶來的算力產業巨大機遇。


    當前,生成式AI技術飛速發展,引領了新一輪AI創新浪潮。AI大模型是生成式AI的關鍵底座,對生產效率提升、傳統產業轉型升級具有重大的價值潛力,而大模型的高效訓練通常需要具備千卡以上高算力AI芯片構成的AI服務器集群支撐。隨著生成式AI加速落地,業界對配置高算力AI芯片的AI服務器需求也不斷高漲。在此背景下,全球已有上百家公司投入新型AI加速芯片的開發,AI計算芯片多元化趨勢凸顯。由于缺乏統一的業界規范,不同廠商的AI加速芯片存在顯著差異,導致不同芯片需要定制化的系統硬件平臺承載,帶來更高的開發成本和更長的開發周期。

    OCP是全球基礎硬件技術領域覆蓋面最廣、最有影響力的開源組織。2019年OCP成立OAI(Open Accelerator Infrastructure)小組,對更適合超大規模深度學習訓練的AI加速卡形態進行了定義,以解決多元AI加速卡形態和接口不統一的問題。2019年底,OCP正式發布了OAI-UBB(Universal Baseboard)1.0設計規范,并隨后推出了基于OAI-UBB1.0規范的開放加速硬件平臺,無需硬件修改即可支持不同廠商的OAM產品。近年來,以浪潮信息為代表的系統廠商研制了多款符合開放加速規范的AI服務器,實現了開放加速AI服務器的產業化實踐。

    基于在開放加速計算領域的產品研發和工程實踐經驗,《指南》進一步發展和完善了開放加速規范AI服務器的設計理論和設計方法,提出四大設計原則、全棧設計方法,包括硬件設計參考、管理接口規范和性能測試標準,旨在幫助社區成員更快更好地開發AI加速卡并適配開放加速AI服務器,應對生成式AI的算力挑戰。

    《指南》指出,開放加速規范AI服務器設計應遵循四大設計原則,即應用導向、多元開放、綠色高效、統籌設計。在此基礎上,應采用多維協同設計、全面系統測試和性能測評調優的設計方法,以提高適配部署效率、系統穩定性、系統可用性。

    多維協同設計是指系統廠商和芯片廠商在規劃初期要做好全方位、多維度的協同,最大化減少定制開發內容。大模型計算系統通常是一體化高集成度算力集群,包含計算、存儲、網絡設備,軟件、框架、模型組件,機柜、制冷、供電、液冷基礎設施等。只有通過多維協同,才能實現全局最優的性能、能效或TCO指標,提高系統適配和集群部署效率。《指南》給出了從節點到集群的軟硬全棧參考設計。

    全面系統測試是指異構加速計算節點通常故障率高,需要更加全面、嚴苛的測試,才能最大程度降低系統生產、部署、運行過程中的故障風險,提高系統穩定性,減少斷點對訓練持續性的影響。《指南》對結構、散熱、壓力、穩定性、軟件兼容性等方面的測試要點進行了全面梳理。

    性能測評調優是指需要對大模型加速計算系統開展多層次的性能評測和軟硬件深度調優。《指南》給出了基礎性能、互連性能、模型性能測試的要點和指標,并指出了針對大模型訓練和推理性能調優的要點,以確保開放加速規范AI服務器能夠有效完成當前主流大模型的創新應用支撐。

    AI服務器 設計指南 AI算力

    一周熱門

    主站蜘蛛池模板: 精品国产午夜福利在线观看| 国产精品V亚洲精品V日韩精品| 久久精品无码专区免费青青| 911亚洲精品国内自产| 中文字幕精品久久久久人妻| 成人国产一区二区三区精品| 久久精品人人做人人爽电影蜜月| 精品国产毛片一区二区无码 | 久久亚洲私人国产精品| 98精品国产自产在线XXXX| 久久国产精品99精品国产| 精品99又大又爽又硬少妇毛片| 2018国产精华国产精品| 综合国产精品第一页| 九九精品在线视频| 免费精品一区二区三区第35| 国自产偷精品不卡在线| 亚洲国产精品无码久久久久久曰 | 久久精品国产一区| 日韩精品无码久久久久久| 欧美成人精品第一区二区| 国产精品人成在线观看| 久久精品国产99国产精偷| 国产精品熟女一区二区| 无码精品一区二区三区在线| 欧美日韩国产中文精品字幕自在自线| 国产精品无码久久四虎| 亚洲国产精品久久久久婷婷老年 | 亚洲精品午夜无码专区| 精品亚洲成α人无码成α在线观看 | 久久国产精品视频| 国产精品ⅴ无码大片在线看| 亚洲AV无码成人精品区天堂| 亚洲国产精品日韩| 欧美久久亚洲精品| 国产麻豆精品入口在线观看 | 国产精品日韩欧美久久综合| 亚洲国产成人久久精品动漫 | 欧美成人精品高清视频在线观看 | 亚洲欧美日韩国产精品| 欧美精品亚洲精品日韩精品|