由 Aitomatic 公司及其“AI 聯(lián)盟”合作伙伴共同開發(fā)的 SemiKong 已正式發(fā)布,這款大型語言模型(LLM)是全球首個專為滿足半導體行業(yè)需求而打造的 AI 工具。SemiKong 旨在融入半導體設計公司的工作流程,充當該領域的“數字專家”,從而顯著加快新芯片的上市速度。
圖源:臺積電
據 Aitomatic 公司介紹,半導體行業(yè)正面臨著專業(yè)知識嚴重流失的困境。隨著越來越多的資深專家退休,他們豐富的經驗和知識也隨之流失,導致許多公司面臨嚴重的人才缺口。針對這一問題,專門為半導體行業(yè)需求訓練的 LLM 被認為是幫助新工程師快速獲取必要信息、保持競爭力的有效途徑。
SemiKong 基于 Meta 的 Llama 3.1 LLM 平臺構建,近期發(fā)布了其 700 億參數的版本。Aitomatic 與包括 Meta、AMD 和 IBM 在內的新成立的 AI 聯(lián)盟的其他合作伙伴共同開發(fā)了這款 LLM,并由 Aitomatic 的 DXA 系統(tǒng)作為 SemiKong 部署的基石。
DXA,即 Domain-Expert Agents(領域專家代理),是 Aitomatic 將較小的 LLM 代理與 SemiKong 70B 中央“蜂巢”連接的方式。通過對客戶公司的技術庫或專家工程師的經驗進行訓練,DXA 可以根據該公司的特定需求進行定制。經過訓練的 DXA 隨后由核心 SemiKong 部署使用,以自動化開發(fā)任務或提供與工程師和工人進行類似聊天機器人的通信。
憑借其目前的 700 億參數版本以及基于 SemiKong 的較小 DXA 代理,該 LLM 在半導體領域的實用性已遠遠超過了通用 AI 模型。IT之家注意到,SemiKong 宣稱可將新芯片設計的上市時間縮短 20-30%,并將首次投產成功率提高 20%。此外,其還聲稱可以將新工程師的學習曲線縮短高達 50%。
SemiKong 是新興的 AI 聯(lián)盟內部合作的首批成果之一,該聯(lián)盟于 2023 年 12 月宣布成立。作為眾多旨在對抗英偉達在科技行業(yè)的主導地位的企業(yè)聯(lián)盟之一,AI 聯(lián)盟成員包括 IBM 和 AMD 等大型企業(yè),以及耶魯大學和東京大學等研究機構。