Najważniejszym elementem budowy sprężarki tłokowej olejowej jest cylinder. Gdy powietrze zostanie wtłoczone z zewnątrz, sprężarka kompresuje je za pomocą posuwistego ruchu tłoka. Zmniejsza się więc objętość powietrza, a wzrasta jego ciśnienie. Gdy już przekroczy wartość ciśnienia tłocznego w cylindrze, wypychane jest przez zawór tłoczny i cykl się powtarza.
Sprężarki tłokowe olejowe są wyposażone we wtrysk oleju. Olej jest potrzebny do smarowania, chłodzenia i zabezpieczania poszczególnych komponentów sprężarki i sprawia, że urządzenia mogą pracować wydajnie w trybie pracy 50/50! Olej przedostaje się jednak do sprężonego powietrza, dlatego sprężarka musi zostać wyposażona w filtry i inne elementy do jego uzdatniania.