🤖 AI Summary
Moonshot AIが開発した3兆パラメータ級のAIモデル「Kimi K3」のオープンウェイト版が7月28日に公開されました。ファイルサイズはMXFP4形式で1.56TBです。Kimi K3はコーディングのProgram Benchなど一部ベンチマークでClaude Fable 5やGPT-5.6 Solを上回る性能を持っています。
主な特徴と構造:
- 入力ごとに専門ネットワークを選択的に動かすMoE型アーキテクチャ
- 新しい機構「Kimi Delta Attention(KDA)」とAttention Residualsの採用
- 総パラメータ数2.8兆で、実際には1,040億に抑えられています
ライセンス:
- 事後学習段階から量子化を施したMXFP4形式で配布
- 基本的にはMITライセンスに近い許可条件を持つ「Kimi K3 License」が適用されるが、商用利用には特別な契約が必要となる
これらの特徴により、高度なコーディング能力やマルチモーダル処理能を備えた強力なAIモデルが手に入る可能性が高まっています。
フロンティア級AIを手元にダウンロードできる時代が本当に来た。Moonshot AIが7月17日(日本時間)に発表した3兆パラメータ級のAIモデル「Kimi K3」のオープンウェイト版が、7月28日にHugging Faceで公開された。MXFP4形式でファイルサイズは1.56TB。同モデルは、コーディングのProgram Benchなど一部ベンチマークでAnthropicの「Claude Fable 5」やOpenAIの「GPT-5.6 Sol」を上回った。