Möjligheten att lagstifta om den inre marknaden tillkommer såväl unionen som dess medlemsstater. Detta kallas för en delad befogenhet. En särskild aspekt av den inre marknaden, närmare bestämt konkurrensbestämmelserna, omfattas dock av unionens exklusiva kompetens. Det innebär att det endast är EU som kan anta regler för konkurrenslagstiftningen, i den utsträckning dessa regler är nödvändiga för den inre marknadens funktion.
Den grundläggande lagstiftningen, vad gäller den inre marknaden, slås fast i Fördraget om Europeiska unionens funktionssätt. Där stadgas det bland annat att det faller inom unionens ansvarsområde att besluta om åtgärder som syftar till att upprätta den inre marknaden eller garantera att den fungerar i enlighet med de mål som har satts upp och i enlighet med de bestämmelser som har antagits i fördragen. Utöver de bestämmelser som finns i ovan nämnda fördrag, så finns det ett antal riktlinjer som rådet har befogenhet att besluta om. Riktlinjerna beslutas på förslag från Europeiska kommissionen och syftar till att utveckla de olika sektorerna inom den inre marknaden.
Som bekant så utgör en stor del av den inre marknadens funktion dess fria rörlighet för varor, tjänster, kapital och personer. Definitionen av den inre marknaden som ges i fördraget är som följer: Den inre marknaden skall omfatta ett område utan inre gränser, där fri rörlighet för varor, personer, tjänster och kapital säkerställs i enlighet med bestämmelserna i fördragen. I dagens läge omfattar den inre marknaden ett ganska stort område, som inte enbart utgörs av de 27 medlemsstaternas territorier utan även Norge, Island och Liechtenstein.
Det finns ett antal bestämmelser som hänför sig till den fria rörligheten för varor, som är värda att belysa i sammanhanget. Varorna som utbjuds till handel inom unionen gör detta inom ramen för en tullunion. Det stadgas att tullunionen skall omfatta all handel med varor och skall innebära att tullar på import och export samt alla avgifter med motsvarande verkan skall vara förbjudna mellan medlemsstaterna och att en gemensam tulltaxa gentemot tredje land skall införas. Syftet med en gemensam tulltaxa är att skapa enhetlighet mot länder utanför Europeiska unionen. Denna tulltaxa, med tillhörande tullsatser, fastställs av rådet på förslag av kommissionen. Samtidigt som man alltså inför gemensam tulltaxa utåt, så upphör tulltaxorna inom unionen. Exempelvis så får franska varor som importeras till Tyskland inte belastas med tullar eller avgifter med motsvarande verkan. Begreppet avgifter med motsvarande verkan är tämligen vagt och EU-domstolen har vid ett flertal tillfällen fått möjlighet att tolka detta.
Vidare gäller att varor som importeras från ett tredje land, det vill säga ett land utanför unionen, och som har belastats med tillämpliga tullar och avgifter med motsvarande verkan i en medlemsstat anses därefter vara i fri omsättning. Om varorna sedan cirkulerar vidare till andra medlemsstater får fler tullavgifter inte tas ut. När de importerade varorna lagligen utbjuds till handel inom unionen, får de samma rättsliga ställning som medlemsstaternas inhemska varor.