Heedless Backbones

ImageNet-Sketch Dataset

Website

axis

Select an option

Results

Parameters (M)

Images / Second

Publication Date

task

Select an option

---------

Classification

metric

Select an option

----------

Top-1

Top-5

GFLOPs

resolution

Select an option

----------

224x224

384x384

512x512

axis

Select an option

Results

Parameters (M)

Images / Second

GFLOPs

Publication Date

Filters

pretrain dataset

Select an option

---------

ImageNet-1k

ImageNet-22k

JFT-300M

JFT-3B

MegData73M

pretrain method

Select an option

----------

Supervised

Sup. + TL

FCMAE

MAE

CL

MAP

Legend

Legend attribute

Select an option

Family

Pretrain Dataset

Pretrain Method

Classification Resolution

Legend attribute (second)

Select an option

----------

Pretrain Dataset

Pretrain Method

Classification Resolution

family	model	params (m)	pretrain	finetune	GFLOPs	Top-1
ConvFormer	ConvFormer-B36	100.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	22.6	52.7
ConvFormer	ConvFormer-B36	100.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	66.5	52.9
CoCA ViT	CoCA ViT-21M	20.6	IN-1k : Sup. : 300	— : — : —	4.1	39.6
TransNeXt	TransNeXt-T	28.2	IN-1k : Sup. : 300	— : — : —	5.7	37.6
CAFormer	CAFormer-S18	26.0	IN-1k : Sup. : 300	— : — : —	4.1	36.6
CAFormer	CAFormer-S18	26.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	13.4	37.7
ConvFormer	ConvFormer-S18	27.0	IN-1k : Sup. : 300	— : — : —	3.9	35.2
ConvFormer	ConvFormer-S18	27.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	11.6	36.2
ConvFormer	ConvFormer-S18	27.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	3.9	40.3
ConvFormer	ConvFormer-S18	27.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	11.6	41.6
ConvFormer	ConvFormer-M36	57.0	IN-1k : Sup. : 300	— : — : —	12.8	39.2
ConvFormer	ConvFormer-M36	57.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	37.7	38.5
ConvFormer	ConvFormer-B36	100.0	IN-1k : Sup. : 300	— : — : —	22.6	39.5
ConvFormer	ConvFormer-B36	100.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	66.5	38.9
ConvNeXt	ConvNeXt-T	29.0	IN-1k : Sup. : 300	— : — : —	4.5	33.8
ConvNeXt	ConvNeXt-B	89.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	45.1	51.6
CAFormer	CAFormer-S36	39.0	IN-1k : Sup. : 300	— : — : —	8.0	39.5
CAFormer	CAFormer-S36	39.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	26.0	41.7
CAFormer	CAFormer-B36	99.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	23.2	52.8
CAFormer	CAFormer-B36	99.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	72.2	54.5
CAFormer	CAFormer-S18	26.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	4.1	41.2
CAFormer	CAFormer-S18	26.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	13.4	42.0
CAFormer	CAFormer-M36	56.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	13.2	49.7
CAFormer	CAFormer-M36	56.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	42.0	51.0
TransNeXt	TransNeXt-B	89.7	IN-1k : Sup. : 300	— : — : —	18.4	41.4
TransNeXt	TransNeXt-B	89.7	IN-1k : Sup. : 300	IN-1k : 5 : 384	56.3	44.7
ConvNeXt	ConvNeXt-L	198.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	101.0	52.8
CAFormer	CAFormer-S36	39.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	8.0	48.5
CAFormer	CAFormer-S36	39.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	26.0	48.5
ConvNeXt	ConvNeXt-B	89.0	IN-1k : Sup. : 300	— : — : —	15.4	38.2
TransNeXt	TransNeXt-S	49.7	IN-1k : Sup. : 300	— : — : —	10.3	39.7
TransNeXt	TransNeXt-S	49.7	IN-1k : Sup. : 300	IN-1k : 5 : 384	32.1	43.2
TransNeXt	TransNeXt-Micro	12.8	IN-1k : Sup. : 300	— : — : —	2.7	33.0
ConvNeXt	ConvNeXt-XL	350.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	179.0	55.0
CAFormer	CAFormer-M36	56.0	IN-1k : Sup. : 300	— : — : —	13.2	39.6
CAFormer	CAFormer-M36	56.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	42.0	41.5
CoCA ViT	CoCA ViT-28M	27.8	IN-1k : Sup. : 300	— : — : —	4.9	40.2
ConvFormer	ConvFormer-S36	40.0	IN-1k : Sup. : 300	— : — : —	7.6	38.4
ConvFormer	ConvFormer-S36	40.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	22.4	37.8
ConvFormer	ConvFormer-S36	40.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	7.6	46.9
ConvFormer	ConvFormer-S36	40.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	22.4	47.1
ConvFormer	ConvFormer-M36	57.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	12.8	49.1
ConvFormer	ConvFormer-M36	57.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	37.7	49.1
CoCA ViT	CoCA ViT-11M	11.4	IN-1k : Sup. : 300	— : — : —	2.2	35.5
Swin	Swin-T	29.0	IN-1k : Sup. : 300	— : — : —	4.5	29.1
CAFormer	CAFormer-B36	99.0	IN-1k : Sup. : 300	— : — : —	23.2	42.5
CAFormer	CAFormer-B36	99.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	72.2	42.5
Swin	Swin-B	88.0	IN-1k : Sup. : 300	— : — : —	15.4	32.4

family	model	params (m)	pretrain	finetune	gflops	top-1	top-5
TransNeXt	TransNeXt-Micro	12.8	IN-1k : Sup. : 300	— : — : —	2.7	33.0	—
TransNeXt	TransNeXt-T	28.2	IN-1k : Sup. : 300	— : — : —	5.7	37.6	—
TransNeXt	TransNeXt-S	49.7	IN-1k : Sup. : 300	— : — : —	10.3	39.7	—
TransNeXt	TransNeXt-S	49.7	IN-1k : Sup. : 300	IN-1k : 5 : 384	32.1	43.2	—
TransNeXt	TransNeXt-B	89.7	IN-1k : Sup. : 300	— : — : —	18.4	41.4	—
TransNeXt	TransNeXt-B	89.7	IN-1k : Sup. : 300	IN-1k : 5 : 384	56.3	44.7	—
ConvNeXt	ConvNeXt-L	198.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	101.0	52.8	—
ConvNeXt	ConvNeXt-B	89.0	IN-1k : Sup. : 300	— : — : —	15.4	38.2	—
ConvNeXt	ConvNeXt-B	89.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	45.1	51.6	—
ConvNeXt	ConvNeXt-T	29.0	IN-1k : Sup. : 300	— : — : —	4.5	33.8	—
ConvNeXt	ConvNeXt-XL	350.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	179.0	55.0	—
Swin	Swin-T	29.0	IN-1k : Sup. : 300	— : — : —	4.5	29.1	—
Swin	Swin-B	88.0	IN-1k : Sup. : 300	— : — : —	15.4	32.4	—
CAFormer	CAFormer-S18	26.0	IN-1k : Sup. : 300	— : — : —	4.1	36.6	—
CAFormer	CAFormer-S18	26.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	13.4	37.7	—
CAFormer	CAFormer-S18	26.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	4.1	41.2	—
CAFormer	CAFormer-S18	26.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	13.4	42.0	—
CAFormer	CAFormer-S36	39.0	IN-1k : Sup. : 300	— : — : —	8.0	39.5	—
CAFormer	CAFormer-S36	39.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	26.0	41.7	—
CAFormer	CAFormer-S36	39.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	8.0	48.5	—
CAFormer	CAFormer-S36	39.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	26.0	48.5	—
CAFormer	CAFormer-M36	56.0	IN-1k : Sup. : 300	— : — : —	13.2	39.6	—
CAFormer	CAFormer-M36	56.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	42.0	41.5	—
CAFormer	CAFormer-M36	56.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	13.2	49.7	—
CAFormer	CAFormer-M36	56.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	42.0	51.0	—
CAFormer	CAFormer-B36	99.0	IN-1k : Sup. : 300	— : — : —	23.2	42.5	—
CAFormer	CAFormer-B36	99.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	72.2	42.5	—
CAFormer	CAFormer-B36	99.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	23.2	52.8	—
CAFormer	CAFormer-B36	99.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	72.2	54.5	—
ConvFormer	ConvFormer-S18	27.0	IN-1k : Sup. : 300	— : — : —	3.9	35.2	—
ConvFormer	ConvFormer-S18	27.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	11.6	36.2	—
ConvFormer	ConvFormer-S18	27.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	3.9	40.3	—
ConvFormer	ConvFormer-S18	27.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	11.6	41.6	—
ConvFormer	ConvFormer-S36	40.0	IN-1k : Sup. : 300	— : — : —	7.6	38.4	—
ConvFormer	ConvFormer-S36	40.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	22.4	37.8	—
ConvFormer	ConvFormer-S36	40.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	7.6	46.9	—
ConvFormer	ConvFormer-S36	40.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	22.4	47.1	—
ConvFormer	ConvFormer-M36	57.0	IN-1k : Sup. : 300	— : — : —	12.8	39.2	—
ConvFormer	ConvFormer-M36	57.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	37.7	38.5	—
ConvFormer	ConvFormer-M36	57.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	12.8	49.1	—
ConvFormer	ConvFormer-M36	57.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	37.7	49.1	—
ConvFormer	ConvFormer-B36	100.0	IN-1k : Sup. : 300	— : — : —	22.6	39.5	—
ConvFormer	ConvFormer-B36	100.0	IN-1k : Sup. : 300	IN-1k : 30 : 384	66.5	38.9	—
ConvFormer	ConvFormer-B36	100.0	IN-22k : Sup. : 90	IN-1k : 30 : 224	22.6	52.7	—
ConvFormer	ConvFormer-B36	100.0	IN-22k : Sup. : 90	IN-1k : 30 : 384	66.5	52.9	—
CoCA ViT	CoCA ViT-11M	11.4	IN-1k : Sup. : 300	— : — : —	2.2	35.5	—
CoCA ViT	CoCA ViT-21M	20.6	IN-1k : Sup. : 300	— : — : —	4.1	39.6	—
CoCA ViT	CoCA ViT-28M	27.8	IN-1k : Sup. : 300	— : — : —	4.9	40.2	—