なんと397BのAIモデルをiPhoneで動かすことに成功
2026年3月24日 22:00
🤖 AI Summary
Appleのハードウェアと外部ストレージからAIの「重み」をストリーミングする手法により、パラメータ数が3970億の大型モデルをiPhoneで動作させることに成功しました。この実験はAI研究者ダン・ウッズ氏によって始動され、「LLM in a Flash」という手法を用いてMacBook Pro M3 Maxで実行されました。ウッズ氏によると、iPhone 17 Proでも毎秒0.7トークンの処理速度を達成しました。
この成功はClaude Opus 4.6の優れた性能が功を奏したとされ、このAIツールが専門知識を持っていなかった研究者でも高度な実験を行うことが可能にしました。
この成功はClaude Opus 4.6の優れた性能が功を奏したとされ、このAIツールが専門知識を持っていなかった研究者でも高度な実験を行うことが可能にしました。