Wärmepumpen arbeiten wie ein umgekehrter Kühlschrank. Sie entziehen der Umgebung (Luft, Wasser oder Erdreich) Wärme und machen sie für Heizzwecke nutzbar. Der Anteil an eingesetzter elektrischer Energie ist dabei deutlich geringer als der Anteil an genutzter Umweltwärme.

1. Ein Wärmetauscher verbindet die Wärmepumpe mit der Wärmequelle. Dies kann ein Außengerät mit Ventilator sein, um Wärme aus der Luft zu entziehen, aber auch ein Geothermie-Wärmetauscher, ein Grundwasserbrunnen oder eine andere Quelle. Durch diesen Wärmetauscher fließt eine sehr kalte Flüssigkeit. Sie erwärmt sich, bis sie genauso warm ist wie die Wärmequelle und verdampft dabei. Durch das Verdampfen wird der Wärmequelle besonders viel Energie entzogen – im Alltag kennt man diesen Effekt vom Schwitzen, bei dem der verdunstende Schweiß die Haut abkühlt. 
2. Das entstehende Gas fließt in einen Verdichter, der den Druck erhöht. Durch den erhöhten Druck steigt auch die Temperatur an. Das Gas ist jetzt warm genug, um in der Heizung verwendet zu werden. 
3. Das Gas wird allerdings nicht direkt durch die Heizungen geleitet, sondern gibt in einem zweiten Wärmetauscher die Wärme an das Heizwasser ab. Dadurch kondensiert das Gas wieder und wird flüssig. 
4. Im letzten Schritt wird die Flüssigkeit in einem Ventil entspannt. Dabei sinken Druck und Temperatur. Die Flüssigkeit ist jetzt wieder kälter als die Wärmequelle. Der Kreislauf kann vor vorn beginnen.

Strom wird in diesem Prozess vor allem im Verdichter gebraucht, sowie für kleinere Pumpen. Die Wärme stammt überwiegend aus der Umgebung. So können aus einer Kilowattstunde Strom bis zu vier Kilowattstunden Wärme erzeugt werden. 

• Sie nutzen Wärme aus der Umgebung um bis zu viermal mehr Wärme zu liefern, als sie Strom verbrauchen.
• Durch die Umgebungswärme nutzen sie den eingesetzten Strom optimal aus. Das spart Kosten und reduziert den CO2-Ausstoß.
• Mit dem steigenden Anteil erneuerbarer Energien im Strommix sinkt der CO₂-Ausstoß künftig automatisch. Durch die Nutzung von Ökostrom kann er heute schon weiter gesenkt werden.
• Wärmepumpen können sowohl zum Heizen als auch zum Kühlen von Gebäuden verwendet werden.
• Moderne Wärmepumpen arbeiten sehr leise. 

Wärmepumpen eignen sich besonders dort, wo ausreichend Platz für das Außengerät vorhanden ist, das der Umgebung die Wärme entzieht. Dies ist vor allem in weniger dicht bebauten Stadtteilen der Fall. In der Kommunalen Wärmeplanung sind diese Stadtteile als Gebiete der dezentralen Versorgung ausgewiesen. Moderne Wärmepumpen können sowohl im Neubau, als auch im Altbau eingesetzt werden. 

Eine Wärmepumpe ist besonders effizient, wenn der Temperaturunterschied zwischen der Umgebung und dem Heizungssystem gering ist. Dies gelingt entweder, wenn eine besonders warme Wärmequelle genutzt wird, etwa Abwasser oder Abwärme aus Rechenzentren, oder wenn das Heizsystem mit niedrigen Temperaturen betrieben wird. 

Aus diesem Grund wurden Wärmepumpen oft in Verbindung mit Neubauten und Fußbodenheizungen eingesetzt, da hier die benötigten Temperaturen gering sind. Moderne Wärmepumpen sind jedoch im Stande auch höhere Temperaturen zu erzeugen, sodass ein Einsatz in Altbauten mit klassischen Radiatoren in der Regel kein Problem mehr darstellt. Dennoch lohnt es sich zu prüfen, ob ein hydraulischer Abgleich durchgeführt werden kann oder ob einzelne Heizkörper getauscht werden sollten. Oft wird die Wärmeversorgung dadurch noch effizienter.