Marchenko, oorspronkelijk een apolitieke olieborelaar uit een arme achtergrond, draaide zich tot schrijven en politiek als gevolg van verschillende episodes van opsluiting vanaf 1958, waarin hij zich begon te associëren met andere dissidenten. Martsjenko werd internationaal bekend in 1969 door zijn boek "Mijn getuigenis", een autobiografisch verslag geschreven na zijn aankomst in Moskou in 1966 over zijn toenmalige recente straffen in Sovjet werkkampen en gevangenissen. Na een beperkte verspreiding binnen de Sovjet-Unie als "samizdat", veroorzaakte het boek een sensatie in het Westen nadat het onthulde dat het Sovjet-goulag-systeem na de dood van Jozef Stalin was voortgezet. In 1968, in de aanloop naar de Sovjet-invasie van Tsjechoslowakije
Marchenko schreef een open brief waarin hij de invasie voorspelde. Hij werd opnieuw gearresteerd en werd begin jaren zeventig vrijgelaten, maar in 1974 werd hij ondervraagd en intern verbannen naar Irkutsk Oblast. In 1976 werd Martsjenko een van de oprichters van de Moskou Helsinki Groep, voordat hij in 1981 opnieuw werd gearresteerd en gevangen gezet, waar hij gedurende zijn gevangenisstraf bleef schrijven en het lot van Sovjet-politieke gevangenen bekendmaakte. Nathan Shcharansky, die in totaal zo'n 20 jaar in de gevangenis en in interne ballingschap heeft doorgebracht, zei over hem: "Na de vrijlating van Jurij Fjodorovitsj Orlov was hij beslist de nummer één Sovjet gewetensgevangene". Hij werd een van de "eeuwige gevangenen" van de Sovjet-Unie.