Конституция СССР 1977 г. заложила основу для внесения изменений в организацию органов прокуратуры. Функции прокуратуры определились как высший надзор за законностью в деятельности органов государственного управления (кроме Совмина), колхозов, общественных организаций, граждан. Принципу независимости прокуратуры от местных органов соответствовал такой важный конституционный принцип, как строгая централизация управления прокурорской системы, непосредственная подотчетность Генерального прокурора СССР Верховному Совету СССР, в период между сессиями последнего его Президиуму. Конституция закрепила право Генпрокурора СССР на законодательную инициативу в Верховном Совете СССР и установила пятилетний срок полномочий прокуроров всех уровней.
Закон о Прокуратуре СССР, принятый 30 ноября 1979 г., конкретизировал основные направления прокурорского надзора: общий надзор, надзор за расследованием преступлений, уголовное преследование, поддержание государственного обвинения в судах, надзор за исполнением законов при рассмотрении дел в судах, в местах лишения свободы и др. Впервые законодательно закреплялась единая централизованная система органов прокуратуры, возглавляемая Генпрокурором СССР, с подчинением нижестоящих прокуроров вышестоящим. Одной из важнейших задач органов прокуратуры провозглашалась охрана конституционных прав и свобод граждан. Заметным нововведением стало наделение Генпрокурора СССР правом требовать отмены или изменения принятого Пленумом Верховного суда СССР решения в случае обнаружения его несоответствия закону.
По постановлению ПВС СССР от 29 мая 1980 г. в структуру Генеральной прокуратуры СССР входили: коллегия, Главное следственное управление, управления (общего надзора, по надзору за рассмотрением уголовных дел в судах, кадров, финансово-хозяйственное, управление делами), отделы (по надзору: за следствием в органах госбезопасности, рассмотрением гражданских дел в судах, исполнением законов на транспорте и о несовершеннолетних, соблюдением законности в ИТУ; отделы систематизации и пропаганды советского законодательства, статистики, писем, организационно-контрольный), приемная и Главная военная прокуратура.
Прокуратуры союзных и автономных республик, краев и областей возглавлялись соответствующими прокурорами, которых назначал Генеральный прокурор СССР. Прокуроры автономных округов, районов и городов назначались прокурорами союзных республик и утверждались Генеральным прокурором СССР.
В структуру Генпрокуратуры СССР входила военная прокуратура, деятельность которой регламентировалась Положением о военной прокуратуре от 4 августа 1981 г. Главный военный прокурор назначался Президиумом Верховного Совета СССР по представлению Генпрокурора СССР. В Главной военной прокуратуре была образована коллегия, состав которой утверждал Генпрокурор СССР по представлению Главного военного прокурора. Ее структура и штаты устанавливались Генпрокурором СССР совместно с министром обороны СССР. Структура и штаты военных прокуратур первого (на уровне армий, флотилий, гарнизонов) и второго (по видам Вооруженных сил СССР, округов, групп войск и флотов) звена учреждались соответственно Главным военным прокурором и Генеральным штабом Вооруженных сил СССР.
Согласно ст. 12 закона СССР от 30 ноября 1979 г. «О прокуратуре СССР» были организованы транспортная прокуратура, действовавшая на железнодорожном, водном и воздушном транспорте (на уровне областей и районов), и прокуратура за соблюдением законов в ИТУ (в ведении областной или союзной прокуратуры).
Природоохранные прокуратуры, созданные в 1989 г., действовали в различных регионах страны (на правах областных, межрайонных и районных) в целях осуществления надзора за исполнением природоохранного законодательства.
В соответствии с изменениями, внесенными в Конституцию СССР в декабре 1988 г., был образован Комитет конституционного надзора. Его председателем назначен С.С. Алексеев. Целью создания органа конституционной юстиции стало обеспечение соответствия актов государственных органов и общественных организаций Конституции СССР, охрана конституционных прав граждан СССР и демократических основ советского общества. Функции комитета закрепил закон СССР от 23 декабря 1989 г. «О конституционном надзоре в СССР». Ликвидация данного комитета связана с роспуском СССР 26 декабря 1991 г.
Значительно расширил сферу прокурорского надзора, включив в предмет надзора законность деятельности местных Советов народных депутатов, политических партий, массовых движений, закон СССР от 26 декабря 1990 г. «Об изменениях и дополнениях Конституции (Основного Закона) СССР в связи с совершенствованием системы государственного управления».