Nagy Imre kormánya elkezdte a diktatúrával való leszámolást. Enyhítette a terrort, feloszlatta az internálótáborokat, megszüntette a kitelepítéseket. Felülvizsgáltatta a koncepciós pereket, így kiszabadult a börtönből Kádár János is. Engedélyezte a magánvállalkozókat, megszüntette a kulákpereket, és engedélyezte a termelő- szövetkezetből való kilépést.

A párton belül két csoport alakult ki: Nagy Imre hívei az egyik oldalon, és Rákosi Mátyás hívei a másik oldalon. 1955-ben Moszkvában megerősödött a "sztalinista csoport", és ennek az lett Magyarországon a következménye, hogy Rákosi és hívei megerősödtek, és még Nagy Imrét is kizárták a pártból.

1955-ben zajlott Moszkvában az SZKP XX. kongresszusa, amelyen Hruscsov leleplezte Sztálin rémtetteit. Ennek következménye Magyarországon a Rákosi-csoport bukása volt. Ezután lett Kádár János a párt második embere.