A csoportelmélet létrejötte egy krisztallográfus professzor, Weissenberg kristályszerkezet röntgendiffrakciós vizsgálatainak köszönhető. Ő bízta meg a fiatal Wignert, hogy derítse ki, hogy az atomok miért tartózkodnak szívesebben a kristály szimmetriasíkjában, illetve szimmetriapontjaiban.
Ezzel a feladattal foglalkozva értette meg, hogy a négydimenziós téridő szimmetriái a kvantummechanikában központi szerepet foglalnak el.
Ezzel a lépéssel és Neumann János a téma iránti ösztönzésével indult el a csoportelmélet kibontakozásához vezető rögös úton, amely azóta is nélkülözhetetlen eszköze az elméleti fizikának.
1931-ben írásos formában is megjelentette a csoportelméletről szóló gondolatait a Csoportelméleti módszerek az atomszínképek kvantummechanikájában címmel, amelyet azóta is szakmai körökben alap olvasmányként tartanak számon.

A legenda szerint a csoportelméletet egy esős vasárnap délután tanulta meg iskoláskori barátjától, Neumann Jánostól, aki Göttinga egyetemén volt tanársegéd Hilbert mellett. Egy évig Wigner Jenő is itt dolgozott tanársegédként (1927-1928), fél tucat tanulmányt írtak Neumann-nal közösen csoportelméletről a fizikában.

Mi is a csoportelmélet?

A csoportelmélet a geometriai szimmetriákon túlmutató, a fizikai történéseket (például elemi részecskék közötti átalakulások) leíró törvényszerűségek általános alapjait feltáró matematikai módszer.

Az ókor kiépített egy következetes képet a világról, amely alapján jól tájékozódunk mi, akik a Föld mozdulatlanul szilárd kérgén élünk. Ez az euklideszi geometria, amely szerint a világ háromdimenziós (előre-hátra, jobbra-balra, föl-le), és amelynek alapeleme a kiterjedés nélküli nyugvó euklideszi pont.
Wigner felismerte annak jelentőségét, hogy a végtelen dimenziós állapottérben a történés törvényei 3+1 dimenziós téridőben ábrázolható tíz szimmetriát mutatnak, és ezek egzaktul érvényesek! Rájuk támaszkodunk mindennapi életünkben is, ezért lett célszerű agyunkban - érzékszerveink támogatásával - három térdimenzió és egy idődimenzió képét kiformálni.
Wigner még tovább lépett. A fizikát egy jobbkezes és egy balkezes fizikus egyaránt sikeresen művelheti, mert a természet szimmetrikus a háromdimenziós tér tükrözésével szemben is: egy valóságos fizikai jelenség tükörben látott képe is lejátszódhat a Természetben. Ez a "tükrözési szimmetria". Ebből egy Wigner által bevezetett új fizikai mennyiségnek, a paritásnak a megmaradása adódik. Két tértükrözés egymásutánja már azonosság (mintha nem csináltunk volna semmit), ezért a paritás négyzete egység, a paritás értéke tehát +1 vagy -1 lehet. (-1-nek is +1 a négyzete.) A paritás megmaradása azt jelenti, hogy +1 paritású (tükörszimmetrikus) állapotból nem lesz soha -1 paritású (tükrözéskor jelet váltó antiszimmetrikus) állapot, és megfordítva: antiszimmetrikus (-1 paritású) állapot nem mehet át tükörszimmetrikusba (+1 paritás). Ezzel a kvantummechanikai gondolatmenettel Wignernek az elképzelhető történések (kvantumugrások) felét sikerült kizárnia.
Wigner ezeknél a kiválasztási szabályoknál még továbbment: a végtelendimenziós állapottér 3+1 dimenziós szimmetriáit matematikailag kiaknázta az atomok világában történő kvantitatív tájékozódásra. A matematika az olyan sokaságot, amelyben két elem szorzata is elem, és elem azok megfordítása (inverze) is, csoportnak nevezi. Ugyanígy egy 30 fokos és egy 15 fokos elforgatás egymásutánja is forgatás (45 fokkal). Két szimmetriatranszformáció egymásutánja szintén szimmetriatranszformáció. Egy transzformáció után azt visszafelé végrehajtva (nem az óramutató járása szerint, hanem azzal ellentétesen fordulva, nem jobbra, hanem balra lépve) is egy transzformációt kapunk, amely az első transzformáció hatását visszacsinálja, tehát létezik inverz is. Ezért a természet Wigner által tárgyalt szimmetriái csoportot alkotnak. Wigner a csoportelmélet matematikai módszereit felhasználva elegánsan és pontosan kiszámított a mikrovilágban olyan mennyiségeket, amilyeneket korábban csak vesződségesen, numerikus közelítésben vagy egyáltalán nem tudtak kiszámítani. Így nemcsak az összeeső és szétváló energiaszinteket és a kvantumátmenetek ("kvantumugrások") kiválasztási szabályait kapta meg, hanem a színképvonalak frekvenciáit, intenzitásait, polarizációját is számszerűen és elegánsan ki tudta számítani.
Természetesen azoknak, akik az atomok világát is háromdimenziós euklideszi térben próbálták maguk elé képzelni, ezek a végtelendimenziós állapottérben működő kiválasztási szabályok, állapotfüggvényekre alkalmazott csoportelméleti trükkök érthetetlenül riasztóan hatottak. Még Wolfgang Pauli is, a Svájcban dolgozó osztrák fizikus, aki pedig sokban hozzájárult a kvantummechanika kiegészítéséhez, irtózott attól, amit ő csoportpestisnek nevezett el (1929). Hasonlóan kételkedett Erwin Schrödinger, Max von Laue és Max Born is. Róluk Neumann János ezt mondta Wignernek: "Ó, ezek csak régi előítéletek. Öt éven belül minden fizikushallgató az egyetemen fogja tanulni a csoportelméletet." Így is lett. Arthur Wightman princetoni professzor a következőket mondta: "Az utóbbi évtizedek során a szimmetriacsoportok varázslótudománya nemcsak mindennapos rutinná vált, hanem olyan mélyen gyökeret vert a fizikusok természetről alkotott képében, hogy már el sem csodálkozik rajta senki."
Szilárd Leó bátorította Wignert, hogy mindezt írja meg egy közérthető tankönyvben. Wigner Jenő könyvét nyári vakációja során Duna-parti nyaralójukban, Alsógödön írta, ami 1931-ben Berlinben jelent meg Csoportelméleti módszerek az atomszínképek kvantummechanikájában címmel. Ez az atomfizikusok kedvelt könyve, egyetemi hallgatók kedvelt tankönyve lett, amit ma is forgatnak. Jól meg lehet belőle érteni a csoportelmélet matematikáját, és ennek alapján jól lehet tájékozódni az atomok három- és végtelendimenziós világában. Aki ebbe belelendül, hirtelen otthon érezheti magát az elektronok végtelendimenziós állapotterében is. A 21. század fiataljai már a kvantummechanika Wigner által adott tárgyalását tanulják, abban gondolkoznak, azt érzik majd egyszerűnek.
Az azóta kibontakozó kvantumtérelmélet, a nagyenergiájú fizika már olyan absztrakt matematikai kereteket használ, hogy a 20. század második felében szimmetriacsoportok nélkül elképzelhetetlen lett a tájékozódás. Wigner Jenő 1963-ban kapta meg a fizikai Nobel-díjat "az atommag és az elemi részecskék elméletéhez való hozzájárulásáért, különösképpen a fundamentális szimmetriaelvek fölfedezéséért és alkalmazásáért". Stockholmban a Nobel-díj átvételekor mondott beszédét e szavakkal zárta:
"Ezen ünnepi alkalomból arra szeretném ráirányítani a figyelmet, hogy mennyire tanárainknak köszönhetjük a tudomány iránt mutatott érdeklődésünket, magatartásunkat. Az én történetem Magyarországon kezdődött el a gimnáziumban, ahol matematikatanárom, Rátz László könyveket adott olvasásra, érzéket ébresztett bennem tárgyának szépsége iránt."

Ma az alapvető fizikai elméleteket már nem a konkrét fizikai kísérlet vagy a feltaláló elméleti fizikus nevével jelzik, hanem a megfelelő szimmetriacsoportra utalnak: speciális és általános relativitáselmélet, kovariáns kvantumelektrodinamika, mértékelmélet, SU(2), SU(3), SU(4), szuperszimmetria.