PANews 8月18日消息,ASIC芯片設計公司嘉楠科技(Canaan)近日正式發布參數量70億的通用大語言模型Toucan-7B及INT4量化版本的Toucan-7B-4bit。其中,Toucan-7B基於LLaMA預訓練權重進行指令微調,能夠實現文案寫作、代碼解析、信息抽取等各種通用自然語言處理任務。 Toucan-7B-4bit基於當前最新量化技術對Toucan-7B實現極低損失的INT4量化。此外,Toucan-7B是基於GTX-3090單卡GPU實現所有的實驗流程,是真正方便每位開發者所使用的通用LLM模型。 Toucan-7B的效果略微優於ChatGLM-6B,ChatGLM(清華開源LLM模型)是國內首批開源的通用大語言模型,也是最優秀的中文大語言模型之一。