企業自主 AI 解決方案領導品牌 APMIC(Accelerate Private Machine Intelligence Company)今日(19)宣布,旗下「PrivModel」企業級微調與蒸餾方案已全面支援 OpenAI gpt-oss 系列模型,在特定應用場景中可將準確率提升約 40%,並降低 90% 推論成本。此外,APMIC 今日亦宣布任命具二十餘年產業經驗的資深 GPU 與 AI 晶片專家陳尹鈞(Ian Chen)出任美國總經理,負責北美市場與策略夥伴拓展,結合技術升級與在地化團隊,加速全球企業私有 AI 的安全落地與商業價值轉化。 gpt-oss 搭配「PrivModel 服務方案」如虎添翼 精準度再躍升、成本大幅優化 APMIC 針對 OpenAI 近期推出的 gpt-oss 系列模型,含 gpt-oss-120b 與 gpt-oss-20b,採用自研、原名為「S1 Distillation」正式升級為「PrivModel」將企業級提升到多模態模型微調方案。根據 APMIC 內部測試,在特定企業應用場景中,蒸餾後的模型可在維持 FP4 精度的情況下,將 gpt-oss 準確率提升約 40%,同時降低約 90% 推論成本。同時,蒸餾後的模型可在 RTX Pro 6000 平台高效推論,並支援繁體中文思維鏈(CoT)推理,協助企業在符合法規與合規要求下實現推理式 AI(Reasoning AI)私有化部署。 APMIC 內部測試進一步顯示,OpenAI 的模型有很強的模型保護機制,採用傳統的 QLoRA 的量化微調方法在學習專業知識上有所侷限,必須同時採用 CPT、SFT、RL 等方式,才能將模型微調完成,在 TMMLU+(繁體中文台灣在地知識驗證集)測試中,gpt-oss 全數取得 80 分以上(2023 年 gpt-3 不足 60 分);健康醫療領域比 o4 mini 高出約 13 分;數學邏輯運算則僅差約 2 分。在此基礎上,「PrivModel」解決方案更是加強了 gpt-oss 原先沒有的視覺能力,可協助企業高效、安全地打造專屬、輕量、並具商業價值的私有 AI 模型。 APMIC 創辦人暨執行長吳柏翰(Jerry Wu)表示:「OpenAI 的 gpt-oss 為企業導入 AI 帶來全新的動能。在研究團隊的協助下,經『PrivModel』微調與蒸餾後的模型搭載『PrivStation』架構可支援媲美 o4-mini 等級的模型,同時也具備視覺能力,讓臺灣企業在鎖住自身知識資產的同時,以節省九成成本的方式達成高效能推論。這不只是性能提升,更是從資料保護到實際應用的全方位落地。APMIC 與推論算力租賃廠商 CKmates、GMI Cloud、Glows AI、Ubilink 等訓練算力夥伴,以及硬體廠商 Dell、HPE、NVIDIA 等夥伴密切合作,並透過 CyCraft 的安全防護,確保蒸餾後模型能在 Blackwell 架構全系列設備上安全運行,真正實現『從模型到決策』的企業級 AI 導入路徑。」
資深 GPU 專家領軍北美市場 加速全球佈局 APMIC 今日亦宣布任命陳尹鈞(Ian Chen)為美國辦公室總經理,憑藉其在 GPU 加速運算及 AI 晶片的專業,陳尹鈞將專注推動北美市場與策略夥伴發展,推進「PrivModel」企業級微調與蒸餾方案及「PrivStation」一站式落地應用,與 GPU 雲服務商、OEM、設計製造相關軟體公司進行策略合作,並拓展 AI 在金融、製造等需要合規 AI 產業的場景實施。 陳尹鈞積累了超過二十年的產業實務與管理經驗,2002 年於美國矽谷加入 NVIDIA 擔任繪圖晶片應用工程師,之後先後在 NVIDIA 香港與台灣分公司擔任工程與業務管理職務,長年負責高階繪圖卡與資料中心 GPU 相關業務。陳尹鈞擁有史丹佛大學電機碩士以及聖塔克拉拉大學商業分析碩士學位。 - 新聞稿有效日期,至2025/09/19為止
聯絡人 :蔡秉諺 聯絡電話:02 7713 6779 電子郵件:ttsai@hoffman.com
上一篇:Copilot+ PC熱銷搶市 體驗華碩AI筆電呷冰度盛夏!
下一篇:富衛集團慶祝成立12週年 推出12項社區關愛撥款計劃
|
■ 我在中國工作的日子(十四)阿里巴巴敢給股票 - 2023/07/02 ■ 我在中國工作的日子(十三)上億會員怎麼管理 - 2023/06/25 ■ 我在中國工作的日子(十二)最好的公司支付寶 - 2023/06/18 ■ 我在中國工作的日子(十一)兩個女人一個男人 - 2023/06/11 ■ 我在中國工作的日子(十)千團大戰影音帶貨 - 2023/06/04 ■ 我在中國工作的日子(九)電視購物轉型電商 - 2023/05/28 ■ 我在中國工作的日子(八)那些從台灣來的人 - 2023/05/21 ■ 我在中國工作的日子(七)嘉丰資本擦身而過 - 2023/05/14 ■ 我在中國工作的日子(六)跟阿福有關的人們 - 2023/05/07
|