台智雲福爾摩沙大模型結合HPE AI伺服器 推動生成式AI最佳搭配

2024-06-26

看準全球企業對生成式 AI 的強烈興趣,近兩年市場出現不少開源大語言模型,只是多數 AI 基礎模型都欠缺足夠繁體中文語料,難以符合台灣環境使用需求。台智雲(Taiwan AI Cloud)運用大量繁體中文與訓練,推出全台灣第一個繁中優化的 FFM-BLOOMZ-176B 和 FFM-Llama3-70B 大語言模型系列,並提供 FFM-Mixtral-8x7B、FFM-Mistral-7B、 Code Llama、TAIDE 等多元大語言模型,正是為台灣量身打造的產品。搭配專為 AI 應用設計的 HPE ProLiant DL320 Gen11 / DL380a Gen11 伺服器,藉由 Intel Xeon Scalable 系列處理器與 NVIDIA GPU 晶片之間搭配,能於公司內部快速落地。Intel Xeon Scalable 系列處理器內建加速器,可實現更優異的核心效能和無與倫比的 AI 效能,以及最優異的應用程式可攜性。

專為AI 應用而生的 HPE ProLiant Gen11 伺服器

HPE 在人工智慧領域也投入大量資源,推動多項創新和應用。其中,HPE ProLiant DL320 Gen11 / DL380a Gen11伺服器是專門為應對生成式AI應用的需求而設計的,主打可以消除開發和部署生成式人工智慧(GenAI)基礎架構帶來的複雜性,助企業加速完成對話式搜尋、業務流程自動化和內容創作等生成式AI模型的部署時間。HPE ProLiant DL320 Gen11伺服器是專為邊緣AI應用設計,最多可安裝四張NVIDIA L4 GPU卡,同時內建NVIDIA Metropolis 工具。至於HPE ProLiant DL380a Gen11伺服器是為生成式視覺AI、自然語言AI模型等應用設計,最多可安裝四張NVIDIA H100 GPU卡,同時提供NVIDIA AI Enterprise軟體套件。

獨家AFS雲端服務搭配FFM地端模型授權 推動企業生成式AI應用

台智雲的福爾摩沙大語言模型(FFM)系列保留原生開源模型的優異能力,並加入台灣特有文化和繁體中文語料的訓練,經過 TMMLU+實測,FFM-Llama3-70B 繁中表現超越GPT 4.0,目前是台灣最好的繁中模型。至於 FFM 模型家族中的 FFM-Mixtral-8x7B、FFM-Mistral-7B、FFM-Llama2-v2 和 FFM-Llama3-8B 等,整體評分亦超越 GPT 3.5,也凸顯出台智雲在繁中 LLM 模型的領先地位。在此優異基礎下,企業透過FFM模型的支援函式呼叫(Function Calling)功能,還能快速串接外部應用,如Google map、搜尋引擎、交通訂票、即時金融股價查詢等,讓開發者輕鬆串接第三方API,加速拓展AI和多元商業應用。

在提供可信賴、繁中訓練的 FFM 大型語言模型系列之外,台智雲亦推出獨步市場的一站式AFS (AI Foundry Service)解決方案,協助企業隨時訓練、調整和建立自有大模型,輕鬆打造高效率且符合企業文化與真實需求、實用性的專用模型,並兼顧企業資安、合規與隱私的高安全需求,讓企業放心與內部系統串接。

具備低成本和低門檻優勢的台智雲 FFM 大型語言模型系列,提供地端授權方案,可讓企業在地端推動內部 AI 專案,確保資料安全性和不外流。結合擁有強大 AI 算力的 HPE ProLiant DL320 Gen11 / DL380a Gen11 伺服器,使生成式 AI 扮演企業作業、服務、開發的智慧 AI 助理,奠定在市場中的領導地位。

 

本文章內容由「台智雲 & HPE & Intel」提供。

文章出處:關鍵評論網