C114通信網(wǎng)  |  通信人家園

人工智能
2024/12/11 14:22

UL Solutions推出AI文本生成基準測試,支持英偉達、AMD、英特爾三家顯卡

IT之家  溯波(實習(xí))

3DMark 開發(fā)方 UL Solution 當?shù)貢r間 9 日宣布推出 Procyon AI 文本生成基準測試,通過使用多種不同參數(shù)規(guī)模的大語言 AI 模型綜合判斷 AI 加速器硬件的文本生成能力。

Procyon AI 文本生成基準測試目前支持通過 DirectML 通用 API 調(diào)用本地的英偉達、AMD、英特爾 GPU,也可通過英特爾的 OpenVINO 調(diào)用其自家 GPU(IT之家注:獨立和集成顯卡均支持,但對顯存 / 內(nèi)存容量要求存在差異)。

該基準測試現(xiàn)包括 4 種參數(shù)規(guī)模不一的模型(Phi-3.5-mini、Mistral-7B、Llama-3.1-8B 和 Llama-2-13B),可對 AI GPU 在多樣化大語言模型文本生成用例中的表現(xiàn)進行相對公允的比較。

  ▲ 成績頁面

UL Solution 表示 Procyon AI 文本生成基準測試在操作上更為簡易輕松,與直接使用完整 AI 模型測試相比又減小了安裝體積,能詳細展示運行文本生成負載時系統(tǒng)資源的使用情況。

給作者點贊
0 VS 0
寫得不太好

免責聲明:本文僅代表作者個人觀點,與C114通信網(wǎng)無關(guān)。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實,對本文以及其中全部或者部分內(nèi)容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關(guān)內(nèi)容。

熱門文章
    最新視頻
    為您推薦

      C114簡介 | 聯(lián)系我們 | 網(wǎng)站地圖 | 手機版

      Copyright©1999-2024 c114 All Rights Reserved | 滬ICP備12002291號

      C114 通信網(wǎng) 版權(quán)所有 舉報電話:021-54451141