Heedless Backbones

ImageNet-A Dataset

Website

axis

Select an option

Results

Parameters (M)

Images / Second

Publication Date

task

Select an option

---------

Classification

metric

Select an option

----------

Top-1

Top-5

GFLOPs

resolution

Select an option

----------

224x224

384x384

512x512

axis

Select an option

Results

Parameters (M)

Images / Second

GFLOPs

Publication Date

Filters

pretrain dataset

Select an option

---------

JFT-3B

ImageNet-1k

ImageNet-22k

JFT-300M

pretrain method

Select an option

----------

Supervised

FCMAE

MAE

CL

Legend

Legend attribute

Select an option

Family

Pretrain Dataset

Pretrain Method

Classification Resolution

Legend attribute (second)

Select an option

----------

Pretrain Dataset

Pretrain Method

Classification Resolution

family	model	params (m)	pretrain	finetune	GFLOPs	Top-1
CAFormer	CAFormer-M36	56.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	13.2	60.9
CAFormer	CAFormer-M36	56.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	42.0	73.9
TransNeXt	TransNeXt-T	28.2	IN-1k : Sup. : 300	— : — : —	5.7	39.9
CAFormer	CAFormer-B36	99.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	23.2	69.4
CAFormer	CAFormer-B36	99.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	72.2	79.5
ConvNeXt	ConvNeXt-T	29.0	IN-1k : Sup. : 300	— : — : —	4.5	24.2
ConvFormer	ConvFormer-M36	57.0	IN-1k : Sup. : 300	— : — : —	12.8	37.6
ConvFormer	ConvFormer-M36	57.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	37.7	53.5
TransNeXt	TransNeXt-Micro	12.8	IN-1k : Sup. : 300	— : — : —	2.7	29.9
CAFormer	CAFormer-S36	39.0	IN-1k : Sup. : 300	— : — : —	8.0	40.9
CAFormer	CAFormer-S36	39.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	26.0	57.1
CAFormer	CAFormer-M36	56.0	IN-1k : Sup. : 300	— : — : —	13.2	45.6
CAFormer	CAFormer-M36	56.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	42.0	60.2
Swin	Swin-T	29.0	IN-1k : Sup. : 300	— : — : —	4.5	21.6
ConvFormer	ConvFormer-B36	100.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	22.6	63.3
ConvFormer	ConvFormer-B36	100.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	66.5	73.5
CAFormer	CAFormer-S36	39.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	8.0	55.5
CAFormer	CAFormer-S36	39.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	26.0	70.6
CAFormer	CAFormer-B36	99.0	IN-1k : Sup. : 300	— : — : —	23.2	48.5
CAFormer	CAFormer-B36	99.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	72.2	61.9
ConvNeXt	ConvNeXt-XL	350.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	179.0	69.3
ConvFormer	ConvFormer-S18	27.0	IN-1k : Sup. : 300	— : — : —	3.9	25.3
ConvFormer	ConvFormer-S18	27.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	11.6	42.0
ConvNeXt	ConvNeXt-B	89.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	45.1	62.3
ConvNeXt	ConvNeXt-L	198.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	101.0	65.5
ConvFormer	ConvFormer-B36	100.0	IN-1k : Sup. : 300	— : — : —	22.6	40.1
ConvFormer	ConvFormer-B36	100.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	66.5	55.3
ConvNeXt	ConvNeXt-B	89.0	IN-1k : Sup. : 300	— : — : —	15.4	36.7
TransNeXt	TransNeXt-B	89.7	IN-1k : Sup. : 300	— : — : —	18.4	50.6
TransNeXt	TransNeXt-B	89.7	IN-1k : Sup. : 300	IN-1k : 5 : 384	56.3	61.6
ConvFormer	ConvFormer-S36	40.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	7.6	47.3
ConvFormer	ConvFormer-S36	40.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	22.4	62.9
ConvFormer	ConvFormer-S36	40.0	IN-1k : Sup. : 300	— : — : —	7.6	33.2
ConvFormer	ConvFormer-S36	40.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	22.4	49.9
ConvFormer	ConvFormer-S18	27.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	3.9	33.4
ConvFormer	ConvFormer-S18	27.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	11.6	50.1
CAFormer	CAFormer-S18	26.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	4.1	43.3
CAFormer	CAFormer-S18	26.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	13.4	58.3
TransNeXt	TransNeXt-S	49.7	IN-1k : Sup. : 300	— : — : —	10.3	47.1
TransNeXt	TransNeXt-S	49.7	IN-1k : Sup. : 300	IN-1k : 5 : 384	32.1	58.3
CAFormer	CAFormer-S18	26.0	IN-1k : Sup. : 300	— : — : —	4.1	33.5
CAFormer	CAFormer-S18	26.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	13.4	48.9
ConvFormer	ConvFormer-M36	57.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	12.8	56.1
ConvFormer	ConvFormer-M36	57.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	37.7	68.5
Swin	Swin-B	88.0	IN-1k : Sup. : 300	— : — : —	15.4	35.8

family	model	params (m)	pretrain	finetune	gflops	top-1	top-5
TransNeXt	TransNeXt-Micro	12.8	IN-1k : Sup. : 300	— : — : —	2.7	29.9	—
TransNeXt	TransNeXt-T	28.2	IN-1k : Sup. : 300	— : — : —	5.7	39.9	—
TransNeXt	TransNeXt-S	49.7	IN-1k : Sup. : 300	— : — : —	10.3	47.1	—
TransNeXt	TransNeXt-S	49.7	IN-1k : Sup. : 300	IN-1k : 5 : 384	32.1	58.3	—
TransNeXt	TransNeXt-B	89.7	IN-1k : Sup. : 300	— : — : —	18.4	50.6	—
TransNeXt	TransNeXt-B	89.7	IN-1k : Sup. : 300	IN-1k : 5 : 384	56.3	61.6	—
ConvNeXt	ConvNeXt-L	198.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	101.0	65.5	—
ConvNeXt	ConvNeXt-B	89.0	IN-1k : Sup. : 300	— : — : —	15.4	36.7	—
ConvNeXt	ConvNeXt-B	89.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	45.1	62.3	—
ConvNeXt	ConvNeXt-T	29.0	IN-1k : Sup. : 300	— : — : —	4.5	24.2	—
ConvNeXt	ConvNeXt-XL	350.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	179.0	69.3	—
Swin	Swin-T	29.0	IN-1k : Sup. : 300	— : — : —	4.5	21.6	—
Swin	Swin-B	88.0	IN-1k : Sup. : 300	— : — : —	15.4	35.8	—
CAFormer	CAFormer-S18	26.0	IN-1k : Sup. : 300	— : — : —	4.1	33.5	—
CAFormer	CAFormer-S18	26.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	13.4	48.9	—
CAFormer	CAFormer-S18	26.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	4.1	43.3	—
CAFormer	CAFormer-S18	26.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	13.4	58.3	—
CAFormer	CAFormer-S36	39.0	IN-1k : Sup. : 300	— : — : —	8.0	40.9	—
CAFormer	CAFormer-S36	39.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	26.0	57.1	—
CAFormer	CAFormer-S36	39.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	8.0	55.5	—
CAFormer	CAFormer-S36	39.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	26.0	70.6	—
CAFormer	CAFormer-M36	56.0	IN-1k : Sup. : 300	— : — : —	13.2	45.6	—
CAFormer	CAFormer-M36	56.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	42.0	60.2	—
CAFormer	CAFormer-M36	56.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	13.2	60.9	—
CAFormer	CAFormer-M36	56.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	42.0	73.9	—
CAFormer	CAFormer-B36	99.0	IN-1k : Sup. : 300	— : — : —	23.2	48.5	—
CAFormer	CAFormer-B36	99.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	72.2	61.9	—
CAFormer	CAFormer-B36	99.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	23.2	69.4	—
CAFormer	CAFormer-B36	99.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	72.2	79.5	—
ConvFormer	ConvFormer-S18	27.0	IN-1k : Sup. : 300	— : — : —	3.9	25.3	—
ConvFormer	ConvFormer-S18	27.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	11.6	42.0	—
ConvFormer	ConvFormer-S18	27.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	3.9	33.4	—
ConvFormer	ConvFormer-S18	27.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	11.6	50.1	—
ConvFormer	ConvFormer-S36	40.0	IN-1k : Sup. : 300	— : — : —	7.6	33.2	—
ConvFormer	ConvFormer-S36	40.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	22.4	49.9	—
ConvFormer	ConvFormer-S36	40.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	7.6	47.3	—
ConvFormer	ConvFormer-S36	40.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	22.4	62.9	—
ConvFormer	ConvFormer-M36	57.0	IN-1k : Sup. : 300	— : — : —	12.8	37.6	—
ConvFormer	ConvFormer-M36	57.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	37.7	53.5	—
ConvFormer	ConvFormer-M36	57.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	12.8	56.1	—
ConvFormer	ConvFormer-M36	57.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	37.7	68.5	—
ConvFormer	ConvFormer-B36	100.0	IN-1k : Sup. : 300	— : — : —	22.6	40.1	—
ConvFormer	ConvFormer-B36	100.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	66.5	55.3	—
ConvFormer	ConvFormer-B36	100.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	22.6	63.3	—
ConvFormer	ConvFormer-B36	100.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	66.5	73.5	—