Han er mistenkt for hvitvasking og korrupsjon.
Flere spanske medier har bilder og video av pågripelsen på flyplassen i Madrid. Noen timer senere ble han løslatt.
Det skjedde som en del av etterforskningen om hvitvasking og korrupsjon i forbindelse med det spanske fotballforbundets avtale om å legge den nasjonale supercupen til Saudi-Arabia.
Nylig ble Rubiales' bolig og kontor gjennomsøkt av spansk politi. I alt elleve bygninger var omfattet av razziaen.
Det ble gjort beslag av dokumenter ved siden av sju pågripelser, og ytterligere fem personer ble satt under etterforskning, het det fra statsadvokaten i landet.
Rubiales kom til Madrid på fly fra Den dominikanske republikk onsdag.
Han er fra før tiltalt for seksuelt overgrep i forbindelse med det mye omtalte kysset etter VM-finalen i fjor sommer. Rubiales kysset da stjernespissen Jennifer Hermoso ufrivillig på munnen, og i etterkant åpnet påtalemyndigheten etterforskning mot fotballtoppen.
Påtalemyndigheten mener han bør dømmes til 2,5 års fengsel.