Στις 2 Γενάρη 1921 στην εργατική πόλη Νίντερκορν του βόρειου Λουξεμβούργου ιδρύθηκε το Κομμουνιστικό Κόμμα Λουξεμβούργου ύστερα από διάσπαση με το Σοσιαλιστικό Κόμμα. Από την αρχή της ίδρυσής του, το ΚΚ Λουξεμβούργου βρέθηκε στο στόχαστρο συκοφαντιών, εχθρότητας και καταστολής, λόγω της θέσης του για την κατάργηση του καπιταλισμού. Οι κομμουνιστές δέχτηκαν επιθέσεις, έχασαν τις δουλιές τους. Ομως, στη δεκαετία του '30, όταν το κόμμα κέρδισε τις πρώτες θέσεις στις δημοτικές εκλογές και για πρώτη φορά εξέλεξε βουλευτή στο Κοινοβούλιο, η καταστολή εντάθηκε και τελικά όλες οι εκλεγμένες θέσεις αφαιρέθηκαν. Κάτω από την επιρροή των εξελίξεων της γειτονικής φασιστικής Γερμανίας και κάτω από την πίεση της Καθολικής Εκκλησίας, η κυβέρνηση του Λουξεμβούργου το 1937 προσπάθησε να απαγορεύσει το Κομμουνιστικό Κόμμα με το λεγόμενο «Νόμο της Τάξης». Ωστόσο αυτή η προσπάθεια απορρίφθηκε από το λαό σε δημοψήφισμα που διεξήχθη στις 6 Ιούνη 1937, όπου το 50,67% ψήφισαν κατά της απαγόρευσης.

Οταν οι Γερμανοί φασίστες κατακτητές απαγόρευσαν όλα τα πολιτικά κόμματα στη χώρα το 1940, το ΚΚ Λουξεμβούργου ήταν η μόνη πολιτική δύναμη που δε διαλύθηκε αλλά συνέχισε την αντίσταση ενάντια στους Γερμανούς κατακτητές. Οι κομμουνιστές πλήρωσαν βαρύ τίμημα για το ρόλο τους στην αντίσταση με πολλά μέλη και στελέχη να συλλαμβάνονται και να δολοφονούνται από τους Γερμανούς Ναζί.

Μετά τη νίκη ενάντια στο φασισμό, το ΚΚ Λουξεμβούργου έγινε ένα μαζικό κόμμα και αντιπροσωπεύθηκε και στην κυβέρνηση της χώρας, όμως στη διάρκεια του Ψυχρού Πολέμου, οι κομμουνιστές απομονώθηκαν αφού αρνήθηκαν να πάρουν το μέρος των ΗΠΑ και της άρχουσας τάξης της χώρας.

Υστερα ακολούθησαν μια σειρά γεγονότων που προκάλεσαν μια μείωση στην επιρροή του κόμματος. Ωστόσο, στη δεκαετία του '80, λόγω της ανάπτυξης του φιλειρηνικού κινήματος, υπήρξε μια ανάκαμψη, η οποία όμως μειώθηκε εξαιτίας των ανατροπών της Σοβιετικής Ενωσης και των σοσιαλιστικών χωρών της Ευρώπης.

Πρόσφατα, στις 11 Δεκέμβρη 2005, πραγματοποιήθηκε το 31ο Συνέδριο του Κόμματος όπου φάνηκε ότι οι κομμουνιστές του Λουξεμβούργου βρίσκονται σε μια διαδικασία ανανέωσης και ενίσχυσης. Συζήτησαν τα τρέχοντα πολιτικά, οικονομικά και κοινωνικά προβλήματα της χώρας, υιοθέτησαν την Πολιτική Απόφαση της ΚΕ, την Απόφαση για τα κοινωνικά προβλήματα και τα καθήκοντα των κομμουνιστών, καθώς και την Απόφαση για τη διεθνή κατάσταση. Εξέλεξαν νέα ΚΕ και επανεξέλεξαν τον Αλί Ρούκερτ, Πρόεδρο του Κόμματος και τον Γκίλμπερ Σιμονέλι, αντιπρόεδρο.

Στους νέους προσεχείς αγώνες, το ΚΚ Λουξεμβούργου δηλώνει έτοιμο να παίξει το ρόλο του, όπως έχει κάνει τα τελευταία 85 χρόνια.