臺智雲推AI 2.0一站式服務

臺智雲推AI 2.0一站式服務
蠻荒武帝 浮誇的靈魂

因「ChatGPT」受到矚目的大型語言模型(Large Language Model,LLM),與被視爲是AI領域創新趨勢之一的生成式AI(Generative AI)近期快速發展,開啓新世代AI新範疇。

以AI聊天機器ChatGPT來說,其依據的基礎LLM是具有逾千億個參數的自然語言處理系統,可運用於內容生成、文字摘要、聊天機器人、編寫程式碼,和應用於蛋白質結構與生物分子屬性之預測等客製化的AI應用程式。

而臺智雲以超級電腦AIHPC的高速運算平臺結合技術資源團隊,建置了全臺第一個高達1,760億個參數的BLOOM(BigScience Large Open-science Open-access Multilingual Language Model)大模型,能提供巨量的模型訓練與推論在TWCC(臺灣AI雲)上快速運行,臺智雲並以全新的服務模式,提供企業客戶完整的AI外部支援。

以臺智雲完成的BLOOM大模型成果爲例,資料集包含46種人類語言、13種程式語言,參數量高1,760億個、整體資料量高達1.5TB以上,運用了840個GPU做跨節點訓練,除了效能逼近線性理論值外,也可收斂訓練結果,若欲增加效能,亦能用線性的方式擴容,增加GPU來提升平行運算能力。

對企業來說,若要自行推動LLM專案,需熟悉分佈式訓練架構、建置AIHPC高速運算系統、理解微調技術(fine-tune)、大模型推論(inference),布建門檻極高。臺智雲提供的「AI 2.0大算力顧問服務」一站式整合解方,將可推助企業快速降低投入時間、技術成本、開發風險、硬體設備和人力投資等數百萬美元的成本,打造自有生成式AI應用。

深圳推新政 资助半导体业发展

谢盈萱睽违11年唱跳「曝接金马主持关键」认了有点遗憾

离奇!三芝工寮突崩塌 2男屋内喝酒遭钢架刺伤1死1重伤