În1965, Cernenco a devenitDirector de Personal în Partid. Și-a continuat munca fără să aibă o funcție importantă. Era informat despre toate persoanele importante din partid și le monitoriza activitatea prinascultarea convorbirilor telefonice și prin alte dispozitive de supraveghere montate în birouri, dar sarcina sa principală era aceea de a semna sute de documente zilnic. A făcut acest lucru timp de 20 de ani. Chiar și atunci când a devenit Secretar General, a continuat să semneze documente deși, datorităbirocrației sovietice, semnătura lui avea doar puțin mai multă importanță decât mai înainte. În cele din urmă, datorită faptului că se îmbolnăvise, nu mai era capabil din punct de vedere psihic să semneze acte, fiind folosit unfacsimil în loc.
După decesul luiBrejnev din1982, Cernenco a pierdut în lupta pentru putere cu forțele anti-brejneviste, (printre ele aflându-se șiKGB-ul șiArmata Roșie).Iuri Andropov, fostul șef alKGB-ului, a fost ales Secretar General. Când Andropov a murit în februarie1984 după numai 16 luni în funcție, Cernenko a fost ales să-i succeadă, în ciuda stării sănătății sale.
Cernenko a făcut o reîntoarcere la politicile dure din timpul perioadei brejneviste. El a fost sprijinitorul unui rol sporit al sindicatelor, al reformelor în educație și al scăderii rolului birocrației. În politica externă, el a escaladat confruntările dinRăzboiul Rece cuStatele Unite și a negociat un tratat economic cuRepublica Populară Chineză. Starea proastă a sănătății l-a împiedicat pe Cernenco să guverneze în mod efectiv. Absențele dese de la locul de muncă au lăsat puține dubii asupra faptului că regimul său a fost o măsură de compromis în lunga luptă dintre conservatori și reformiști.
Perioada cât a stat Cernenco la putere s-a remarcat prin câteva schimbări politice. Schimbările masive de personal și investigațiile anticorupție din timpul regimului lui Andropov au fost oprite. Cernenco a fost mai atent la opinia publică. El a încurajat investițiile în industria bunurilor de consum, în serviciile publice și în agricultură. El a căutat să diminueze controlul partidului în economia sovietică. Represiunea KGB-ului împotriva disidenților politici s-a înăsprit în această perioadă.
Singura schimbare importantă de personal făcută de Cernenco a fost demiterea Șefului Statului Major,Nikolai Ogarkov, un apărător al unei politici de scădere a cheltuielilor pentru bunurile de larg consum și de creștere a cheltuielilor de cercetare în domeniul militar și de înarmare.
În această perioadă, Cernenco a făcut încercări de a reschimba numele orașuluiVolgograd în acela deStalingrad.
Aproape toată lumea, inclusiv oponenții săi, a fost de acord că a fost un act de cruzime împotriva lui Cernenco, fapta luiVictor Grișin, membru alPolitburoului, de a-l aduce din spital pe Secretarul General bolnav de moarte să voteze în alegerile de la sfârșitul anului1984.
După moartea unui lider sovietic, era obiceiul ca succesorul său să deschidă și să treacă în revistă obiectele din seiful personal al răposatului. Când Gorbaciov a deschis seiful, a fost găsit un dosar cu acte personale și un ghemotoc mare de bani înghesuit înăuntru. Și mai mulți bani au fost găsiți în biroul său. Nimeni nu a descoperit ce a dorit Cernenco să facă cu banii.
Datorită perioadei foarte scurte pe care a petrecut-o la conducerea Uniunii Sovietice, există foarte puține fotografii ale lui. Marea majoritate a fotografiilor sunt alb-negru. O pictură care reprezintă portretul său oficial este considerată cea mai bună imagine care a rămas de la el.
