為 AI 保駕護航，國芯科技基于參股公司江原科技國產自主AI算力芯片成功推出可信AI推理卡

作者：愛集微 09-16 15:32

來源：國芯科技 #國芯科技# #AI#

9007

長期以來，國芯科技在信息安全以及可信計算領域具有深厚的技術積累和豐富的產品積累。面對人工智能（AI）帶來的安全挑戰(zhàn)，國芯科技積極投入研發(fā)力量，經過研發(fā)人員的不懈努力，于近日基于參股公司江原科技第一代國產自主AI算力芯片成功推出可信AI推理卡CCAT200T。

可信是AI發(fā)展共識

人工智能是新一輪科技革命和產業(yè)變革的重要驅動力量。然而，隨著 AI 應用的不斷拓展，一些風險和挑戰(zhàn)也暴露了出來，主要體現(xiàn)在以下幾個方面：

算法不魯棒導致的應用風險，例如自動駕駛汽車未能及時識別行人導致的交通事故。
黑箱模型導致算法難以解釋，對用戶不透明，例如難以推廣至醫(yī)療、金融等需要解釋爭議性決策的領域。
數(shù)據、模型和評估的偏見導致的決策不公平現(xiàn)象，例如保險定價、犯罪預測等場景可能對部分人群存在偏見。
數(shù)據濫用導致的隱私泄露風險，例如個人隱私數(shù)據的廣泛收集和使用導致泄露的可能性增大，一旦丟失會對個人和企業(yè)等造成極大的負面影響。面對 AI 引發(fā)的信任風險，發(fā)展 AI 可信已經成為了全球共識。

2019年，二十國集團（G20）提出“G20 人工智能原則”，建議“促進公共和私人對人工智能研發(fā)的投資力度，以促進可信賴的人工智能（Trustworthy Artificial Intelligence）的創(chuàng)新”。

2020年，國際標準化組織 ISO 聯(lián)合國際電工委員會 IEC 發(fā)布了《人工智能的可信度概述》，同時正在推進《評估神經網絡的魯棒性》系列研究工作。國內的信息技術標準化技術委員會也在同步推進相關研究。

2020-2021年，中國人工智能產業(yè)發(fā)展聯(lián)盟（AIIA）也相繼發(fā)布了《人工智能行業(yè)自律公約》和《可信AI操作指引》，并持續(xù)開展可信 AI 測試工具征集和可信 AI 試評估等落地實踐。

可信AI推理卡CCAT200T的特點

可信AI推理卡CCAT200T集成了可信計算模塊，支持國密SM2/3/4算法，可以實現(xiàn)靜態(tài)可信度量功能。推理卡的核心江原第一代芯片包含16MB大容量高帶寬二級緩存，用于芯片內多個處理器之間共享數(shù)據，從而減少內存訪問需求，提升應用性能；芯片包含8個LPDDR5內存訪問控制器，可提供204.8GB/s內存帶寬。CCAT200T可信AI推理卡支持PCIe5.0以及CXL.io/CXL.mem接口協(xié)議，提供雙向128GB/s通信傳輸帶寬，支持SRIOV硬件虛擬化，支持最多四個VF設備。

可信AI推理卡CCAT200T主要有以下特點:

支持國密SM2/3/4算法，采用國密算法為AI應用保駕護航。
卡上主要元器件均實現(xiàn)了技術及供應鏈的自主可控；可信AI推理卡的核心江原第一代芯片為國內首顆全流程國產自主AI算力芯片，率先實現(xiàn)先進自主設計、工藝制造、封裝的本土化全流程，填補了我國在人工智能芯片全國產供應鏈安全的戰(zhàn)略空白。
生態(tài)兼容，提供完整工具鏈：涵蓋部署工具鏈、系統(tǒng)檢測分析、通用計算編譯器、驅動等SDK。開源框架后端支持：vLLM、pytorch、onnruntime等后端定制化支持。
支持數(shù)據類型多樣：支持UINT8/SINT8/BF16/FP16/FP32數(shù)據類型的張量計算；支持FP32/BF16/FP16/(U)INT32/(U)INT16/(U)INT8數(shù)據類型的向量計算
算力強大，內置8個采用自主指令集的通用AI計算處理器，支持多種精度的高性能AI計算，整體算力160TOPS@INT8。
集成64GB LPDDR5大內存，單卡支持DeepSeek-R1系列1.5B至32B 五種蒸餾模型，4卡可支持DeepSeek-R1 70B參數(shù)規(guī)模蒸餾模型，8/16卡可實現(xiàn)滿血量化版/非量化版運行。

▲ 可信AI推理卡CCAT200T的核心特性

尤其是可信AI推理卡CCAT200T集成CCT02 TCM可信單元，可以滿足《GM/T 0012-2020可信計算》標準，TCM的加入可以為CCAT200T提供安全可靠的應用計算環(huán)境，支持靜態(tài)啟動度量功能，防止客戶在使用軟件的過程中可能會遭遇破壞或者黑客的惡意攻擊，保護敏感信息不被竊取或不被惡意代碼使用。