# G9v3-39A5B

官方模型卡：[ai9stars/G9v3-39A5B](https://huggingface.co/ai9stars/G9v3-39A5B)

這一頁只整理該 repo 的 README、`config.json`，以及同一 repo 檔案列表上的位元組。沒有寫出來的數字記「卡上未列」。表內分數都是販商自報，不跟 README 排行用的 Artificial Analysis Intelligence Index v4.3.2 放在同一欄。

## 授權

license 欄：apache-2.0。

## 發佈日期

卡上未列。

## 參數與卡上句子

- 卡上文字：Total Parameters ~39B；Activated Parameters ~5B per token；Context Length 131,072。
- 卡上沒有可轉寫的基準數字。
- safetensors 索引的參數總數 38967481920（F32 11840、BF16 38967470080）。這是檔案索引，不是模型卡正文的句子。

## 架構

架構數字取自 `config.json 頂層`。
- model_type：g9v3
- 層數 num_hidden_layers：38
- hidden size：2048
- attention heads：32
- KV heads：2
- head dim：128
- intermediate size：8192
- MoE intermediate：512
- 路由專家 n_routed_experts：320
- 共享專家 n_shared_experts：1
- 每 token 專家數：32
- max_position_embeddings：131072
- vocab size：130560

## 權重檔

GiB 一律是檔案列表的 bytes ÷ 1024³，不是卡上另寫的一句話。不同量化、不同目錄的重複打包不加在一起。

- 根目錄 safetensors：16 個檔，77939452912 bytes，換算 72.59 GiB（bytes ÷ 1024³）。只有一種包裝。

## 基準（販商自報）

卡上沒有可轉寫的數字分數。