Pompy ciepła działają na zasadzie odwróconej lodówki. Pobierają ciepło z otoczenia (powietrza, wody lub gruntu) i wykorzystują je do ogrzewania. Udział zużywanej energii elektrycznej jest przy tym znacznie mniejszy niż udział wykorzystanego ciepła otoczenia.

1. Wymiennik ciepła łączy pompę ciepła ze źródłem ciepła. Może to być jednostka zewnętrzna z wentylatorem, służąca do pobierania ciepła z powietrza, ale także geotermiczny wymiennik ciepła, studnia z wodą gruntową lub inne źródło. Przez ten wymiennik ciepła przepływa bardzo zimny płyn. Nagrzewa się on, aż osiągnie temperaturę równą temperaturze źródła ciepła, a przy tym ulega odparowaniu. W wyniku parowania z źródła ciepła pobierana jest szczególnie duża ilość energii – w życiu codziennym znamy ten efekt z pocenia się, kiedy to parująca pot chłodzi skórę. 
2. Powstały gaz przepływa do sprężarki, która zwiększa jego ciśnienie. Wraz ze wzrostem ciśnienia wzrasta również temperatura. Gaz jest teraz wystarczająco ciepły, aby można go było wykorzystać w systemie grzewczym. 
3. Gaz nie jest jednak kierowany bezpośrednio do grzejników, lecz w drugim wymienniku ciepła oddaje ciepło wodzie grzewczej. W ten sposób gaz ponownie ulega kondensacji i przechodzi w stan ciekły. 
4. W ostatnim etapie ciecz ulega rozprężeniu w zaworze. W tym trakcie spada ciśnienie i temperatura. Ciecz jest teraz ponownie chłodniejsza niż źródło ciepła. Cykl może rozpocząć się od nowa.

W procesie tym energia elektryczna jest wykorzystywana przede wszystkim w sprężarce, a także w mniejszych pompach. Ciepło pochodzi głównie z otoczenia. W ten sposób z jednego kilowatogodziny energii elektrycznej można wygenerować do czterech kilowatogodzin ciepła. 

• Wykorzystują ciepło z otoczenia, aby dostarczyć nawet czterokrotnie więcej ciepła niż zużywają energii elektrycznej.
• Dzięki ciepłu otoczenia optymalnie wykorzystują zużywaną energię elektryczną. Pozwala to obniżyć koszty i zmniejszyć emisję CO₂.
• Wraz ze wzrostem udziału energii odnawialnej w koszyku energetycznym emisja CO₂ w przyszłości automatycznie spadnie. Dzięki wykorzystaniu ekologicznej energii elektrycznej można ją już dziś jeszcze bardziej obniżyć.
• Pompy ciepła mogą być wykorzystywane zarówno do ogrzewania, jak i chłodzenia budynków.
• Nowoczesne pompy ciepła pracują bardzo cicho. 

Pompy ciepła sprawdzają się szczególnie tam, gdzie jest wystarczająco dużo miejsca na jednostkę zewnętrzną, która pobiera ciepło z otoczenia. Dotyczy to przede wszystkim mniej zagęszczonych dzielnic miejskich. W gminnym planie ciepłowniczym dzielnice te są wyznaczone jako obszary zaopatrzenia zdecentralizowanego. Nowoczesne pompy ciepła mogą być stosowane zarówno w nowych, jak i w starych budynkach. 

Pompa ciepła jest szczególnie wydajna, gdy różnica temperatur między otoczeniem a systemem grzewczym jest niewielka. Warunek ten można spełnić albo poprzez wykorzystanie szczególnie ciepłego źródła ciepła, takiego jak ścieki lub ciepło odpadowe z centrów danych, albo poprzez eksploatację systemu grzewczego w niskich temperaturach. 

Z tego powodu pompy ciepła były często stosowane w nowych budynkach w połączeniu z ogrzewaniem podłogowym, ponieważ w takich przypadkach wymagane temperatury są niskie. Nowoczesne pompy ciepła są jednak w stanie wytwarzać również wyższe temperatury, dzięki czemu ich zastosowanie w starych budynkach z klasycznymi grzejnikami zazwyczaj nie stanowi już problemu. Niemniej jednak warto sprawdzić, czy można przeprowadzić wyważenie hydrauliczne lub czy należy wymienić poszczególne grzejniki. Często dzięki temu zaopatrzenie w ciepło staje się jeszcze bardziej wydajne.