聚緣于校·開源共行 | 太初元碁Tecorigin受邀出席開放原子校源行（江南大學(xué)站）
“開放原子校源行”是由開放原子開源基金會發(fā)起的公益項(xiàng)目，旨在傳播開源文化、培育開源人才，得到了政府部門的大力支持。工業(yè)和信息化部指導(dǎo)開放原子開源基金會積極開展“校源行”系列活動(dòng)，希望探索開源實(shí)踐教學(xué)模式，厚培開源人才底座，助力提升軟件科技源頭創(chuàng)新和軟件技術(shù)供給能力，打造人才培養(yǎng)“樣板間”，建立開源評價(jià)“試驗(yàn)田”，培植產(chǎn)業(yè)實(shí)踐“先鋒隊(duì)”。
作為嘉賓，邵柏潭發(fā)表了題為“AI芯片驅(qū)動(dòng)的RAG算法與大模型創(chuàng)新”的精彩演講，分享了太初在大模型領(lǐng)域的最新研究成果與應(yīng)用創(chuàng)新。
Teco-RAG：重塑知識問答系統(tǒng)的未來
演講中，邵柏潭重點(diǎn)介紹了Teco-RAG開發(fā)框架。這一框架是太初圍繞開源大模型生態(tài)精心構(gòu)建的，旨在幫助各行業(yè)的用戶快速搭建本地化、私有化的知識問答系統(tǒng)。通過利用Teco-RAG，用戶能夠輕松整合自己的知識庫，實(shí)現(xiàn)高效、精準(zhǔn)的知識管理與對話交互，為產(chǎn)品智能化升級提供強(qiáng)大支持。
項(xiàng)目地址：https://gitee.com/tecorigin/teco-generative-ai（請復(fù)制鏈接到瀏覽器中打開）
Chuxin系列
此外，邵柏潭還詳細(xì)闡述了Chuxin系列的創(chuàng)新成果。
其中，Chuxin-Embedding通過迭代式精煉數(shù)據(jù)質(zhì)量與優(yōu)化向量模型分布，在C_MTEB和AIR-Bench QA兩個(gè)權(quán)威榜單上取得Top1的優(yōu)異成績。
項(xiàng)目地址：https://github.com/chuxin-llm/Chuxin-Embedding（請復(fù)制鏈接到瀏覽器中打開）
而Chuxin-1.6B模型則憑借上采樣長序列數(shù)據(jù)及合成的長序列數(shù)據(jù)，實(shí)現(xiàn)了外推上下文窗口的漸進(jìn)式微調(diào)訓(xùn)練，在OpenLLM平均評測指標(biāo)上較Qwen1.5模型提升了0.46%，展現(xiàn)了卓越的性能提升。
項(xiàng)目地址：https://github.com/chuxin-llm/Chuxin-1.6B（請復(fù)制鏈接到瀏覽器中打開）
大模型訓(xùn)推創(chuàng)新
邵柏潭還分享了太初在大模型訓(xùn)練與推理方面的創(chuàng)新探索。
● Teco-LLM訓(xùn)練庫支持10+個(gè)主流模型及多種微調(diào)范式，具備70B級預(yù)訓(xùn)練能力，并集成CommonCheckpoint無損斷點(diǎn)續(xù)訓(xùn)、模型切分、zeros優(yōu)化器等高級功能。該訓(xùn)練庫不僅簡化了數(shù)據(jù)處理、權(quán)重切分、訓(xùn)練測評等復(fù)雜流程，還通過Docker容器化環(huán)境搭建，極大提升了易用性和部署效率。
● Teco-Deepspeed訓(xùn)練框架以其并行策略線性擴(kuò)展、融合算子加速優(yōu)化、BF16混合精度支持等特性，實(shí)現(xiàn)了百卡級穩(wěn)定訓(xùn)練與芯片無感知的卓越性能。
● Teco-Inference-Engine推理框架支持30+主流LLMs及7+多模態(tài)模型，提供Teco-VLLM/Teco-TGI/Teco-Triton等多種服務(wù)化后端選擇，并支持長序列極限吞吐優(yōu)化，為AI應(yīng)用的落地提供了強(qiáng)有力的支持。
第二屆開放原子開源大賽-Tecorigin挑戰(zhàn)賽
活動(dòng)現(xiàn)場，邵柏潭介紹了第二屆開放原子開源大賽-Tecorigin挑戰(zhàn)賽。本次挑戰(zhàn)賽共設(shè)兩項(xiàng)賽事，總獎(jiǎng)金高達(dá)60萬元，旨在鼓勵(lì)更多開發(fā)者參與到AI技術(shù)的創(chuàng)新與應(yīng)用中來。
● Tecorigin算子開發(fā)挑戰(zhàn)賽：參賽者在C/C++基礎(chǔ)上學(xué)習(xí)SDAA C編程語言，通過優(yōu)化算子性能來提升計(jì)算任務(wù)的執(zhí)行效率。這不僅考驗(yàn)了參賽者的編程能力，也對其在AI算法優(yōu)化方面的理解提出了高要求。
● Teco-RAG挑戰(zhàn)賽：參賽者需在Teco-RAG原型框架基礎(chǔ)上，通過知識文檔預(yù)處理、知識庫構(gòu)建、檢索召回優(yōu)化及Prompt工程優(yōu)化等方法，搭建出基于大模型的檢索增強(qiáng)問答系統(tǒng)。
賽事已正式啟動(dòng)，誠邀各界英才參與，所有對AI技術(shù)充滿熱情、渴望挑戰(zhàn)自我的開發(fā)者均可掃描下方二維碼參與報(bào)名，并加入賽事交流群與同行共同探討技術(shù)難題、分享創(chuàng)新思路。
通過本次演講，不僅展示了太初元碁在國產(chǎn)硬件系統(tǒng)驅(qū)動(dòng)的RAG算法與大模型創(chuàng)新方面的最新成果，還向與會者傳遞了太初致力于推動(dòng)AI技術(shù)普及與應(yīng)用創(chuàng)新的堅(jiān)定信念。未來，太初將繼續(xù)深耕AI領(lǐng)域，攜手各界伙伴共同探索AI技術(shù)的無限可能，為構(gòu)建更加智能、便捷的未來世界貢獻(xiàn)力量。
