SR-ViT Family
| model | params (m) | pretrain | finetune | GFLOPs | Top-1 |
|---|---|---|---|---|---|
| SR-ViT-T (T=2) | 15.4 | IN-1k : Sup. : 300 | — : — : — | 5.4 | 79.89 |
| SR-ViT-T (T=2) | 15.4 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 18.3 | 82.21 |
| SR-ViT-T (T=3) | 15.8 | IN-1k : Sup. : 300 | — : — : — | 7.8 | 80.93 |
| SR-ViT-T (T=3) | 15.8 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 26.2 | 83.22 |
| SR-ViT-S (T=2) | 22.7 | IN-1k : Sup. : 300 | — : — : — | 8.5 | 82.02 |
| SR-ViT-S (T=2) | 22.7 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 28.6 | 84.07 |
| SR-ViT-S (T=3) | 23.2 | IN-1k : Sup. : 300 | — : — : — | 12.4 | 82.45 |
| SR-ViT-S (T=3) | 23.2 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 41.7 | 84.19 |
| SR-ViT-S (T=4) | 23.8 | IN-1k : Sup. : 300 | — : — : — | 16.3 | 82.48 |
| SR-ViT-S (T=4) | 23.8 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 54.8 | 84.24 |
| SR-ViT-B (T=2) | 39.9 | IN-1k : Sup. : 300 | — : — : — | 14.8 | 82.76 |
| SR-ViT-B (T=2) | 39.9 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 48.3 | 84.39 |
| SR-ViT-B (T=3) | 41.0 | IN-1k : Sup. : 300 | — : — : — | 21.6 | 82.19 |
| SR-ViT-B (T=3) | 41.0 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 70.4 | 83.53 |
| SR-ViT-T (T=2) | 15.4 | IN-1k : Sup. : 300 | — : — : — | 5.4 | 81.03 |
| SR-ViT-T (T=2) | 15.4 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 18.3 | 83.12 |
| SR-ViT-T (T=3) | 15.8 | IN-1k : Sup. : 300 | — : — : — | 7.8 | 81.89 |
| SR-ViT-T (T=3) | 15.8 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 26.2 | 83.73 |
| SR-ViT-S (T=2) | 22.7 | IN-1k : Sup. : 300 | — : — : — | 8.5 | 82.67 |
| SR-ViT-S (T=2) | 22.7 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 28.6 | 84.27 |
| SR-ViT-S (T=3) | 23.2 | IN-1k : Sup. : 300 | — : — : — | 12.4 | 83.36 |
| SR-ViT-S (T=3) | 23.2 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 41.7 | 84.87 |
| SR-ViT-S (T=4) | 23.8 | IN-1k : Sup. : 300 | — : — : — | 16.3 | 83.57 |
| SR-ViT-S (T=4) | 23.8 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 54.8 | 85.08 |
| SR-ViT-B (T=2) | 39.9 | IN-1k : Sup. : 300 | — : — : — | 14.8 | 83.75 |
| SR-ViT-B (T=2) | 39.9 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 48.3 | 85.07 |
| SR-ViT-B (T=3) | 41.0 | IN-1k : Sup. : 300 | — : — : — | 21.6 | 84.02 |
| SR-ViT-B (T=3) | 41.0 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 70.4 | 85.25 |
| model | params (m) | pretrain | finetune | gflops | IN-1k |
|---|---|---|---|---|---|
| SR-ViT-T (T=2) | 15.4 | IN-1k : Sup. : 300 | — : — : — | 5.4 | 79.89/— |
| SR-ViT-T (T=2) | 15.4 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 18.3 | 82.21/— |
| SR-ViT-T (T=3) | 15.8 | IN-1k : Sup. : 300 | — : — : — | 7.8 | 80.93/— |
| SR-ViT-T (T=3) | 15.8 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 26.2 | 83.22/— |
| SR-ViT-S (T=2) | 22.7 | IN-1k : Sup. : 300 | — : — : — | 8.5 | 82.02/— |
| SR-ViT-S (T=2) | 22.7 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 28.6 | 84.07/— |
| SR-ViT-S (T=3) | 23.2 | IN-1k : Sup. : 300 | — : — : — | 12.4 | 82.45/— |
| SR-ViT-S (T=3) | 23.2 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 41.7 | 84.19/— |
| SR-ViT-S (T=4) | 23.8 | IN-1k : Sup. : 300 | — : — : — | 16.3 | 82.48/— |
| SR-ViT-S (T=4) | 23.8 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 54.8 | 84.24/— |
| SR-ViT-B (T=2) | 39.9 | IN-1k : Sup. : 300 | — : — : — | 14.8 | 82.76/— |
| SR-ViT-B (T=2) | 39.9 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 48.3 | 84.39/— |
| SR-ViT-B (T=3) | 41.0 | IN-1k : Sup. : 300 | — : — : — | 21.6 | 82.19/— |
| SR-ViT-B (T=3) | 41.0 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 70.4 | 83.53/— |
| SR-ViT-T (T=2) | 15.4 | IN-1k : Sup. : 300 | — : — : — | 5.4 | 81.03/— |
| SR-ViT-T (T=2) | 15.4 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 18.3 | 83.12/— |
| SR-ViT-T (T=3) | 15.8 | IN-1k : Sup. : 300 | — : — : — | 7.8 | 81.89/— |
| SR-ViT-T (T=3) | 15.8 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 26.2 | 83.73/— |
| SR-ViT-S (T=2) | 22.7 | IN-1k : Sup. : 300 | — : — : — | 8.5 | 82.67/— |
| SR-ViT-S (T=2) | 22.7 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 28.6 | 84.27/— |
| SR-ViT-S (T=3) | 23.2 | IN-1k : Sup. : 300 | — : — : — | 12.4 | 83.36/— |
| SR-ViT-S (T=3) | 23.2 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 41.7 | 84.87/— |
| SR-ViT-S (T=4) | 23.8 | IN-1k : Sup. : 300 | — : — : — | 16.3 | 83.57/— |
| SR-ViT-S (T=4) | 23.8 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 54.8 | 85.08/— |
| SR-ViT-B (T=2) | 39.9 | IN-1k : Sup. : 300 | — : — : — | 14.8 | 83.75/— |
| SR-ViT-B (T=2) | 39.9 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 48.3 | 85.07/— |
| SR-ViT-B (T=3) | 41.0 | IN-1k : Sup. : 300 | — : — : — | 21.6 | 84.02/— |
| SR-ViT-B (T=3) | 41.0 | IN-1k : Sup. : 300 | IN-1k : 30 : 384 | 70.4 | 85.25/— |
COCO (val)
| model | pretrain | head | train | gflops | mAPb | APb50 | APb75 | mAPbs | mAPbm | mAPbl |
|---|---|---|---|---|---|---|---|---|---|---|
| SR-ViT-S (T=2) | IN-1k : Sup. : 300 | Mask R-CNN | COCO (train) : 36 | 453.6 | 44.63 | 66.75 | 48.04 | — | — | — |
| SR-ViT-S (T=3) | IN-1k : Sup. : 300 | Mask R-CNN | COCO (train) : 36 | 528.8 | 45.54 | 67.68 | 49.45 | — | — | — |
| SR-ViT-S (T=4) | IN-1k : Sup. : 300 | Mask R-CNN | COCO (train) : 36 | 603.9 | 46.25 | 68.29 | 50.68 | — | — | — |
| SR-ViT-B (T=2) | IN-1k : Sup. : 300 | Mask R-CNN | COCO (train) : 36 | 583.9 | 45.87 | 67.94 | 49.77 | — | — | — |
| SR-ViT-B (T=3) | IN-1k : Sup. : 300 | Mask R-CNN | COCO (train) : 36 | 717.4 | 47.15 | 69.38 | 51.65 | — | — | — |
COCO (val)
| model | pretrain | head | train | gflops | mAPm | APm50 | APm75 | mAPms | mAPmm | mAPml |
|---|---|---|---|---|---|---|---|---|---|---|
| SR-ViT-S (T=2) | IN-1k : Sup. : 300 | Mask R-CNN | COCO (train) : 36 | 453.6 | 40.05 | 63.21 | 42.63 | — | — | — |
| SR-ViT-S (T=3) | IN-1k : Sup. : 300 | Mask R-CNN | COCO (train) : 36 | 528.8 | 40.78 | 64.29 | 43.72 | — | — | — |
| SR-ViT-S (T=4) | IN-1k : Sup. : 300 | Mask R-CNN | COCO (train) : 36 | 603.9 | 41.32 | 64.94 | 44.3 | — | — | — |
| SR-ViT-B (T=2) | IN-1k : Sup. : 300 | Mask R-CNN | COCO (train) : 36 | 583.9 | 41.12 | 64.55 | 43.92 | — | — | — |
| SR-ViT-B (T=3) | IN-1k : Sup. : 300 | Mask R-CNN | COCO (train) : 36 | 717.4 | 42.17 | 65.98 | 45.36 | — | — | — |
ADE20K (val)
| model | pretrain | head | train | gflops | mIoUms | pAccms | mAccms | mIoUss | pAccss | mAccss |
|---|---|---|---|---|---|---|---|---|---|---|
| SR-ViT-S (T=2) | IN-1k : Sup. : 300 | UPerNet | ADE20K (train) : 128 : 512 | 285.9 | 46.95 | — | — | 45.81 | — | — |
| SR-ViT-S (T=3) | IN-1k : Sup. : 300 | UPerNet | ADE20K (train) : 128 : 512 | 339.6 | 48.79 | — | — | 47.44 | — | — |
| SR-ViT-S (T=4) | IN-1k : Sup. : 300 | UPerNet | ADE20K (train) : 128 : 512 | 393.2 | 49.05 | — | — | 47.96 | — | — |
| SR-ViT-B (T=2) | IN-1k : Sup. : 300 | UPerNet | ADE20K (train) : 128 : 512 | 408.4 | 48.8 | — | — | 47.31 | — | — |
| SR-ViT-B (T=3) | IN-1k : Sup. : 300 | UPerNet | ADE20K (train) : 128 : 512 | 496.6 | 48.35 | — | — | 47.16 | — | — |