Liverpool kom till mötet på Selhurst Park med ett gott självförtroende efter två raka vinster i ligaspelet där The Reds gjort nio mål utan att släppa in något.
Trots att det var Jürgen Klopps mannar som hade det mesta av spelet i den första halvleken så var det Emmanuel Adebayor som var närmast att öppna målskyttet för hemmalaget.
Palace-anfallaren fick dock se sitt nickavslut gå i nederkanten av ribban och sedan retfullt studsa på fel sida av mållinjen.
Hemmalaget fick sedan en riktigt drömöppning av den andra halvleken och efter ett flipperspel i Liverpools straffområde kunde Joe Ledley med ett behärskat vänsterskott öppna målskyttet för Palace.
Med halvtimmen kvar att spela blev Liverpools uppförsbacke än brantare sedan James Milner fått sin andra varning och därmed visats ut.
En stor bjudning - signerad Alex McCarthy i Palace-målet - skulle dock visa sig bli Liverpools biljett tillbaka in i matchen.
Efter att McCarthy inte rensat bollen bättre än rätt ut till Roberto Firmino kunde brassen enkelt rulla in 1-1-kvitteringen.
Tagna av stunden tappade sedan Palace initiativet till Liverpool och i de absoluta slutsekunderna tilldömdes gästerna en omdiskuterad straff sedan inbytte Christian Benteke fallit.
Den belgiske anfallaren tog själv hand om straffen och såg till att Liverpool lämnar London med tre färska poäng i bagaget.
- Jag tycker att det är straff. Hade han inte rört mig så hade jag inte fallit. Oavsett om jag startar eller inte försöker jag alltid göra mitt bästa och det är underbart att hjälpa laget till tre poäng, säger Benteke till Viasat efter matchen.
I och med segern klättrar Liverpool upp till en sjunde plats i tabellen och har sex poäng upp till tabellfyran Manchester City.
Se målen från matchen i Sportsändningen ovan.
Lagens startelvor:
Crystal Palace: McCarhty - Ward, Dann, Delaney, Souare - Zaha, Jedinak, Cabaye, Ledley, Bolasie - Adebayor.
Liverpool: Mignolet - Flanagan, Lovren, Sakho, Moreno - Henderson, Can, Millner - Lallana, Firmino, Origi.