Το τρίτο από τον κατάλογο μαθηματικών προβλημάτων του Χίλμπερτ, που παρουσιάστηκε το 1900, ήταν το πρώτο που επιλύθηκε. Το πρόβλημα σχετίζεται με το εξής ερώτημα: Αν έχουμε δύο πολύεδρα του ίδιου όγκου, μήπως είναι πάντα δυνατό να κόψουμε το πρώτο πολύεδρο σε πεπερασμένο αριθμό κομματιών που μπορούν να συναρμολογηθούν για να σχηματίσουν το δεύτερο; Βασιζόμενος σε προηγούμενα γραπτά του Καρλ Φρίντριχ Γκάους,[1] ο Ντέιβιντ Χίλμπερτ υπέθεσε ότι αυτό δεν είναι πάντα δυνατό. Το αποτέλεσμα αυτό επιβεβαιώθηκε την ίδια χρονιά από τον φοιτητή του Μαξ Ντεν, ο οποίος απέδειξε ότι η απάντηση γενικά είναι «όχι», παρουσιάζοντας ένα αντιπαράδειγμα[2].
Η απάντηση για το ανάλογο ερώτημα σχετικά με τα πολύγωνα στις 2 διαστάσεις είναι «ναι» και ήταν γνωστή εδώ και πολύ καιρό- πρόκειται για το θεώρημα Γουάλας-Μπολιάι-Γκέργουεν [3](Wallace-Bolyai-Gerwien).
Χωρίς να το γνωρίζουν οι Χίλμπερτ και Ντεν, το τρίτο πρόβλημα του Χίλμπερτ είχε επίσης προταθεί ανεξάρτητα από τον Βλάντισλαβ Κρετκόφσκι σε μαθηματικό διαγωνισμό που διοργανώθηκε το 1882 από την Ακαδημία Τεχνών και Επιστημών της Κρακοβίας, και λύθηκε από τον Λούντβικ Αντόνι Μπίρκενμαγιερ με διαφορετική μέθοδο από εκείνη του Ντεν. Ο Μπίρκενμαγιερ δεν δημοσίευσε το αποτέλεσμα και το αρχικό χειρόγραφο που περιείχε τη λύση του ανακαλύφθηκε ξανά χρόνια αργότερα [4].
Ο τύπος για τον όγκο μιας πυραμίδα,
Ήταν ήδη γνωστό από τον Ευκλείδη, αλλά όλες οι αποδείξεις αυτού του τύπου περιλαμβάνουν κάποια μορφή περιοριστικής διαδικασίας ή υπολογισμού, κυρίως τη μέθοδο της εξάντλησης ή, σε μια πιο σύγχρονη μορφή, την αρχή του Καβαλιέρη[5]. Παρόμοιοι τύποι στην επίπεδη γεωμετρία μπορούν να αποδειχθούν με πιο στοιχειώδη μέσα. Ο Γκάους εξέφρασε τη λύπη του για την έλλειψη αυτή σε δύο επιστολές του προς τον Κρίστιαν Λούντβιχ Γκέρλινγκ, ο οποίος απέδειξε ότι δύο συμμετρικά τετράεδρα είναι ισοδύναμα[4].
Οι επιστολές του Γκάους ενέπνευσαν τον Χίλμπερτ: είναι δυνατόν να αποδειχθεί η ισότητα των όγκων με στοιχειώδεις μεθόδους αποκοπής και επικόλλησης; Διότι αν όχι, μια στοιχειώδης απόδειξη του αποτελέσματος του Ευκλείδη είναι επίσης αδύνατη.
Η απόδειξη του Ντεν είναι μια περίπτωση στην οποία η αφηρημένη άλγεβρα χρησιμοποιείται για να αποδειχθεί ένα αποτέλεσμα αδυναμίας στη γεωμετρία. Άλλα παραδείγματα είναι ο διπλασιασμός του κύβου και η τριχοτόμηση της γωνίας[6].
Δύο πολύεδρα λέγεται ότι είναι scissors-congruent[7] αν το πρώτο μπορεί να κοπεί σε πεπερασμένο αριθμό πολυεδρικών κομματιών που μπορούν να συναρμολογηθούν για να σχηματίσουν το δεύτερο. Δύο όμοια πολύεδρα έχουν τον ίδιο όγκο. Ο Χίλμπερτ αναρωτιέται για το αντίστροφο.
Για κάθε πολύεδρο , ο Ντεν ορίζει μια τιμή, τώρα γνωστή ως αναλλοίωτο Ντεν , με την ιδιότητα ότι,
αν κόβεται σε πολυεδρικά κομμάτια , τότε
Ειδικότερα, αν δύο πολύεδρα είναι scissors-congruent[7], τότε έχουν την ίδια αναλλοίωτη του Ντεν. Στη συνέχεια δείχνει ότι κάθε κύβος έχει μηδενική μεταβλητή Ντεν, ενώ κάθε κανονικό τετράεδρο έχει μη μηδενική μεταβλητή Ντεν. Επομένως, αυτά τα δύο σχήματα δεν μπορούν να είναι scissors-congruent[7].
Το αναλλοίωτο ενός πολυέδρου ορίζεται με βάση τα μήκη των ακμών του και τις γωνίες μεταξύ των επιφανειών του. Εάν ένα πολύεδρο κόβεται στα δύο, κάποιες ακμές κόβονται στα δύο, και οι αντίστοιχες συνεισφορές στις αναλλοίωτες Ντεν θα πρέπει επομένως να είναι προσθετικές στα μήκη των ακμών. Ομοίως, αν ένα πολύεδρο κοπεί κατά μήκος μιας ακμής, η αντίστοιχη γωνία κόβεται σε δύο. Η κοπή ενός πολυέδρου συνήθως εισάγει επίσης νέες ακμές και γωνίες- οι συνεισφορές τους πρέπει να ακυρώνονται. Οι γωνίες που εισάγονται όταν μια τομή διέρχεται από μια όψη προσθέτουν , και οι γωνίες που εισάγονται γύρω από μια ακμή στο εσωτερικό του πολυέδρου προσθέτουν . Επομένως, το αναλλοίωτο Ντεν ορίζεται με τέτοιο τρόπο ώστε ακέραια πολλαπλάσια των γωνιών του να δίνουν καθαρή συνεισφορά μηδέν.
Όλες οι παραπάνω απαιτήσεις μπορούν να ικανοποιηθούν με τον ορισμό του ως ένα στοιχείο του τανυστικού γινομένου των πραγματικών αριθμών (που αντιπροσωπεύουν τα μήκη των ακμών) και του πηλίκου (που αντιπροσωπεύει τις γωνίες, με όλα τα λογικά πολλαπλάσια του να αντικαθίστανται από το μηδέν). Για ορισμένους σκοπούς, αυτός ο ορισμός μπορεί να γίνει χρησιμοποιώντας το τανυστικό γινόμενο των ενοτήτων πάνω από το (ή ισοδύναμα των αβελιανών ομάδων), ενώ άλλες πτυχές αυτού του θέματος κάνουν χρήση μιας δομής διανυσματικού χώρου στις αναλλοίωτες, που προκύπτει θεωρώντας τους δύο παράγοντες και ως διανυσματικούς χώρους πάνω από το και λαμβάνοντας το τανυστικό γινόμενο διανυσματικών χώρων πάνω από το . Αυτή η επιλογή της δομής στον ορισμό δεν κάνει διαφορά στο αν δύο αναλλοίωτες Ντεν, που ορίζονται με οποιονδήποτε τρόπο, είναι ίσες ή άνισες.
Για κάθε ακμή ενός πολυέδρου , έστω το μήκος της και έστω η δίεδρη γωνία των δύο όψεων του που συναντώνται στην , οι οποίες μετρώνται σε ακτίνια και θεωρούνται ως modulo ρητά πολλαπλάσια του . Το αναλλοίωτο Ντεν ορίζεται τότε ως εξής
όπου το άθροισμα λαμβάνεται επί όλων των ακμών του πολυέδρου . Πρόκειται για μια εκτίμηση.
Υπό το φως του παραπάνω θεωρήματος του Ντεν, θα μπορούσε κανείς να αναρωτηθεί «ποια πολύεδρα είναι scissors-congruent[7]»; Ο Σίντλερ (1965) έδειξε ότι δύο πολύεδρα είναι scissors-congruent[7] αν και μόνο αν έχουν τον ίδιο όγκο και το ίδιο αναλλοίωτο Ντεν.[8] Ο Μπόργκε Γιέσεν επέκτεινε αργότερα τα αποτελέσματα του Σίντλερ σε τέσσερις διαστάσεις.[9] Το 1990, οι Ντυπόν και Σαχ προσκόμισαν μια απλούστερη απόδειξη του αποτελέσματος του Σίντλερ ερμηνεύοντάς το εκ νέου ως θεώρημα για την ομολογία ορισμένων κλασικών ομάδων.[10]
Ο Ντεμπρούνερ έδειξε το 1980 ότι η αναλλοίωτη Ντεν οποιουδήποτε πολυέδρου με το οποίο όλος ο τρισδιάστατος χώρος μπορεί να καλυφθεί περιοδικά είναι μηδέν.[11]
Ο Γιέσεν έθεσε επίσης το ερώτημα αν το ανάλογο των αποτελεσμάτων του Γιέσεν παραμένει αληθές για τη σφαιρική γεωμετρία και την υπερβολική γεωμετρία. Σε αυτές τις γεωμετρίες, η μέθοδος του Ντεν συνεχίζει να λειτουργεί και δείχνει ότι όταν δύο πολύεδρα είναι scissors-congruent[7], οι αναλλοίωτες του Ντεν είναι ίσες. Ωστόσο, παραμένει ένα ανοιχτό πρόβλημα αν ζεύγη πολυέδρων με τον ίδιο όγκο και την ίδια αναλλοίωτη Ντεν, σε αυτές τις γεωμετρίες, είναι πάντα σύμφωνες με το scissors-congruent[12].
Το αρχικό ερώτημα του Χίλμπερτ ήταν πιο περίπλοκο: δεδομένου ότι δύο τυχόν τετράεδρα T1 και T2 με ίσο εμβαδόν βάσης και ίσο ύψος (και επομένως ίσο όγκο), είναι πάντα δυνατό να βρεθεί ένας πεπερασμένος αριθμός τετραέδρων, έτσι ώστε όταν αυτά τα τετράεδρα κολληθούν με κάποιο τρόπο στο T1 και επίσης κολληθούν στο T2, τα πολυέδρα που προκύπτουν μήπως είναι scissors-congruent[7];
Η αναλλοίωτη του Ντεν μπορεί να χρησιμοποιηθεί για να δώσει αρνητική απάντηση και σε αυτό το ισχυρότερο ερώτημα.