Trong toán học, cho hai nhóm, (G, ∗) và (H, ·), phép đồng cấu nhóm từ (G, ∗) thành (H, ·) là một hàmh: G → H sao cho với mọi u và v trong G nó thoả mãn
trong đó phép toán trong nhóm ở vế trái của phương trình là của G và ở vế phải là của H.
Từ tính chất này, ta có thể suy ra rằng h ánh xạ phần tử trung hòaeG của G lên phần tử trung hòa eH của H,
và nó cũng ánh xạ các nghịch đảo của G thành các nghịch đảo của H theo nghĩa
Do đó ta có thể nói rằng h "tương thích với cấu trúc nhóm".
Trong một số lĩnh vực toán học, khi ta xem xét các nhóm đi kèm thêm cấu trúc phụ, phép đồng cấu đôi khi được hiểu là một ánh xạ không chỉ bảo toàn cấu trúc nhóm (như trên) mà còn cả cấu trúc phụ. Ví dụ, một phép đồng cấu của các nhóm tôpô thường được yêu cầu là phải liên tục.
Mục đích của việc xác định phép đồng cấu nhóm là tạo ra các hàm bảo toàn cấu trúc đại số. Một định nghĩa tương đương của phép đồng cấu nhóm là: Hàm h: G → H là phép đồng cấu nhóm nếu bất cứ khi nào
a ∗ b = cthì ta có h(a) ⋅ h(b) = h(c).
Nói cách khác, theo một nghĩa nào đó, nhóm H có cấu trúc đại số tương tự như G và phép đồng cấu h bảo toàn điều đó.
Đồng cấu nhóm có tính chất song ánh; tức là, có đồng thời tính đơn ánh và tính toàn ánh. Nghịch đảo của nó cũng là một phép đồng cấu nhóm. Trong trường hợp này, các nhóm G và H được gọi là đẳng cấu cùng nhau; chúng chỉ khác nhau về ký hiệu của các phần tử của chúng và giống nhau cho tất cả các mục đích thực tiễn.
Một tự đồng cấu có tính song ánh, do đó đồng thời là đẳng cấu. Tập hợp tất cả tự đẳng cấu của một nhóm G, với phép hợp nhau làm toán tử, tự tạo thành một nhóm, nhóm tự đẳng cấu của G. Nó được ký hiệu là Aut(G). Ví dụ, nhóm tự đẳng cấu của (Z,+) chỉ chứa hai phần tử, phép biến đổi đồng nhất và phép nhân với −1; nó đẳng cấu với Z/2Z.
Hạt nhân và ảnh của một phép đồng cấu có thể được hiểu là cách đo lường độ gần giống với một phép đẳng cấu. Định lý đẳng cấu đầu tiên phát biểu rằng ảnh của một đồng cấu nhóm h (G) đẳng cấu với nhóm thương G/ker h.
Khi và chỉ khi ker(h) = {eG }, thì phép đồng cấu h là một đơn cấu nhóm, tức là, h có tính đơn ánh (một đối một). Đơn ánh trực tiếp cho ta biết chỉ có duy nhất một phần tử trong hạt nhân cung cấp tính đơn ánh:
Xét nhóm cyclicZ/3Z = {0, 1, 2} và nhóm các số nguyên Z với phép cộng. Ánh xạ h: Z → Z/3Z với h(u) = umod 3 là phép đồng cấu nhóm. Nó có tính toàn ánh và hạt nhân của nó bao gồm tất cả các số nguyên chia hết cho 3.
Xét nhóm sau
Với mọi số phức u hàm fu: G → C* định nghĩa bởi:
là một đồng cấu nhóm.
Hàm mũ là một đồng cấu nhóm từ tập số thực R với phép cộng đến tập số thực dương R* với phép nhân. Hạt nhân là {0} và ảnh là các số thực dương.
Nếu h: G → H và k: H → K là hai đồng cấu nhóm, thì k ∘ h: G → K cũng là đồng cấu nhóm. Điều này cho thấy lớp của mọi nhóm, cùng với đồng cầu nhóm làm cấu xạ, tạo thành một phạm trù.
Nếu G và H là hai nhóm abel (giao hoán), thì tập Hom(G, H) chứa tất cả đồng cấu nhóm từ G đến H cũng là một nhóm abel. Tổng h + k được định nghĩa như sau:
(h + k)(u) = h(u) + k(u) với mọi u thuộc G.
Ta cần dùng tính giao hoán của H để chứng tỏ h + k là một đồng cấu nhóm.
Phép cộng đồng cấu tương thích với phép hợp đồng cấu theo nghĩa: Nếu f thuộc Hom(K, G), h, k là các phân tử thuộc Hom(G, H), và g thuộc Hom(H, L), thì:
(h + k) ∘ f = (h ∘ f) + (k ∘ f) và g ∘ (h + k) = (g ∘ h) + (g ∘ k).
Bởi phép hợp có tính kết hợp, Điều này cho thấy tập End(G) của mọi tự đồng cấu của một nhóm abel tạo thành một vành, hay gọi là vành tự đồng cấu của G. Ví dụ chẳng hạn, vành tự đồng cấu của nhóm abel bao gồm tổng trực tiếp của m tập Z/nZ đẳng cấu với vành các ma trận cỡ m x m với phần tử thuộc Z/nZ.