ViT向けの脆弱性ガイド混合精度量子化手法

• ポストトレーニング量子化はリソース制約デバイスでのViT展開に有効です。
• 本研究では、脆弱性に基づく混合精度量子化フレームワークMixFragを提案します。
• MixFragは、従来手法を上回る性能を示し、効率的なビット割り当てを実現します。

ポストトレーニング量子化（PTQ）は、リソースが限られたデバイスでのVision Transformers（ViTs）の展開において重要な技術です。本論文では、各コンポーネントの脆弱性を考慮した新しい混合精度量子化手法MixFragを提案します。MixFragは、実験により従来の手法よりも優れた分類性能を達成し、特にCOCOデータセットにおいても最先端の結果を示しています。この研究は、量子化に関心のある研究者や実務者にとって興味深い内容です。

量子化技術やViTに興味がある研究者やエンジニアに向いています。