|
近日,由Aitomatic公司及其“AI聯(lián)盟”合作伙伴共同開發(fā)的SemiKong正式發(fā)布。這一大型語言模型(LLM)是全球首個(gè)專為滿足半導(dǎo)體行業(yè)需求而精心打造的AI工具。 SemiKong基于Meta的Llama 3.1 LLM平臺(tái)構(gòu)建,擁有700億參數(shù)。它的開發(fā)過程凝聚了多方力量,Aitomatic公司負(fù)責(zé)主導(dǎo)開發(fā),而“AI聯(lián)盟”中的眾多合作伙伴也積極參與其中。“AI聯(lián)盟”于2023年成立,成員涵蓋了Meta、AMD、IBM等科技企業(yè),還包括耶魯大學(xué)、東京大學(xué)等研究機(jī)構(gòu)。該聯(lián)盟旨在構(gòu)建、支持和倡導(dǎo)整個(gè)AI技術(shù)領(lǐng)域的開放式創(chuàng)新,以此抗衡英偉達(dá)在科技行業(yè)的主導(dǎo)地位。 SemiKong的核心目標(biāo)在于融入半導(dǎo)體設(shè)計(jì)公司的工作流程,充當(dāng)“數(shù)字專家”角色。它在半導(dǎo)體行業(yè)有著諸多重要意義。一方面,它能夠?qū)⑿滦酒O(shè)計(jì)的上市時(shí)間縮短20 - 30%,這無疑將極大地提高半導(dǎo)體行業(yè)的研發(fā)效率。另一方面,SemiKong可使首次投產(chǎn)成功率提高20%,同時(shí)把新工程師的學(xué)習(xí)曲線縮短高達(dá)50%,這對(duì)于半導(dǎo)體行業(yè)的人才培養(yǎng)和生產(chǎn)力提升有著積極的推動(dòng)作用。 從技術(shù)角度來看,SemiKong的訓(xùn)練過程主要分為預(yù)訓(xùn)練領(lǐng)域知識(shí)、自我微調(diào)(指令數(shù)據(jù)集)、合并和量化這三個(gè)主要階段。盡管它有8B和70B兩個(gè)版本,但最近發(fā)布的700億參數(shù)版本已經(jīng)展現(xiàn)出卓越的性能。它在準(zhǔn)確性、相關(guān)性和對(duì)半導(dǎo)體工藝的理解方面都取得了顯著的進(jìn)步。即使是其較小版本,在特定領(lǐng)域的應(yīng)用中也常常超越較大的通用模型,這為那些想要打造適合自身的專有模型的芯片公司提供了一個(gè)極具價(jià)值的基座。 此外,SemiKong作為首個(gè)半導(dǎo)體專用的開源大模型,于2024年7月9日起在HuggingFace和GitHub上提供下載。它的問世不僅是Aitomatic公司及其“AI聯(lián)盟”合作伙伴的重要成果,也將為半導(dǎo)體行業(yè)的發(fā)展格局帶來新的變革機(jī)遇,有望重塑半導(dǎo)體制造業(yè)的未來。 |