iPhoneでローカル動作する画像生成AI「Bonsai Image 4B」が登場したので使ってみた、FLUX.2 Klein 4Bを1bit版に魔改造してメモリ使用量を8.3分の1に削減
🤖 AI Summary
以下は記事の要約です:
AI開発企業PrismMLが、スマートフォンでローカル実行できる画像生成AI「Bonsai Image 4B」を公開しました。このモデルはFLUX.2 Klein 4BにPrismMLの省メモリ化技術を適用し、iPhone 17 Proでもパラメーター数80億のAIを実行することができました。
具体的には:
- 「1-bit Bonsai Image 4B」はFLUX.2 Klein 4Bと比較して、生成画像の品質が88%で、メモリ使用量が8.3分の1に削減されました。
- 「Ternary Bonsai Image 4B」は95%の品質で、メモリ使用量がFLUX.2 Klein 4Bの約1.6倍です。
実際の試用では、Bonsai Studioアプリを使って異なるプロンプトに基づいて画像生成を行いました。生成結果は指示通りに反映されており、iPhoneでも高速に処理が可能です。
これらの技術により、今後スマートフォンや他のデバイスでのAI利用がより容易になることが期待されています。
AI開発企業PrismMLが、スマートフォンでローカル実行できる画像生成AI「Bonsai Image 4B」を公開しました。このモデルはFLUX.2 Klein 4BにPrismMLの省メモリ化技術を適用し、iPhone 17 Proでもパラメーター数80億のAIを実行することができました。
具体的には:
- 「1-bit Bonsai Image 4B」はFLUX.2 Klein 4Bと比較して、生成画像の品質が88%で、メモリ使用量が8.3分の1に削減されました。
- 「Ternary Bonsai Image 4B」は95%の品質で、メモリ使用量がFLUX.2 Klein 4Bの約1.6倍です。
実際の試用では、Bonsai Studioアプリを使って異なるプロンプトに基づいて画像生成を行いました。生成結果は指示通りに反映されており、iPhoneでも高速に処理が可能です。
これらの技術により、今後スマートフォンや他のデバイスでのAI利用がより容易になることが期待されています。