Bezpośrednio przed agresją na Polskę przystąpiono w Niemczech do formowania specjalnych grup operacyjnych policji i służb bezpieczeństwa, które działając za posuwającymi się oddziałami Wehrmachtu lub w strefie przyfrontowej, zwalczać miały nie tylko przejawy zbrojnego oporu, partyzantki lub szpiegostwa, ale przede wszystkim zająć się „politycznym oczyszczaniem gruntu”, czyli fizyczną likwidacją kierowniczych warstw społeczeństwa polskiego. Chodziło o praktyczną realizację wypowiedzianego przez Hitlera stwierdzenia, że tylko naród, którego warstwy kierownicze zostaną zniszczone, da się zepchnąć do roli niewolników. W dniu 7 października 1939 roku, czyli na dzień przed formalną aneksją części ziem polskich, Hitler mianował Reichsführera SS Heinricha Himmlera szefem nowego Urzędu Komisarza Rzeszy do Spraw Umacniania Niemczyzny. Podstawowym zadaniem tego urzędu miało być osadzenie Niemców na zagarniętych ziemiach polskich, po uprzednim wysiedleniu lub zagładzie mieszkających tam Polaków i Żydów.
Na terenach wcielonych do III Rzeszy już w okresie zarządu wojskowego przystąpiono do akcji represyjnych wobec ludności polskiej. Według wcześniejszych planów w ciągu 10 lat ziemie polskie miały zostać w całości zgermanizowane i skolonizowane przez Niemców z Rzeszy, jak również, niemieckich przesiedleńców z krajów bałtyckich i wschodnich terenów Polski zajętych przez ZSRR. W okresie, gdy przygotowywano dokładniejsze plany wysiedleńcze i kolonizacyjne, specjalne grupy operacyjne policji i służby bezpieczeństwa oraz paramilitarna organizacja miejscowych Niemców, działająca pod nazwą Selbstschutzu, przystąpiły do fizycznej likwidacji polskich warstw kierowniczych. Najszersze rozmiary akcja ta przybrała na ziemiach wcielonych do Rzeszy. Aresztowaniem objęły miedzy innymi działaczy pomorskich, aktyw Związku Zachodniego, byłych powstańców wielkopolskich i śląskich oraz wpływową inteligencję. W kraju wprowadzono barbarzyński system terroru prewencyjnego i odpowiedzialności zbiorowej. Powszechnie praktykowano karanie zakładników, rozstrzeliwanie nauczycieli, duchownych, czy byłych burmistrzów za najmniejszy akt oporu czy nieposłuszeństwa, za czyny dokonane i nie dokonane, a także za pospolite przestępstwa popełnione przez kryminalistów, o ile godziły w przedstawiciela III Rzeszy lub własność niemiecką.
Terror jako metodę niemieckich rządów w Generalnym Gubernatorstwie stosowano od początku okupacji. Istotnym czynnikiem mającym powstrzymać mieszkańców tego obszaru przed najmniejszymi odruchem oporu stało się powszechne stosowane odpowiedzialności zbiorowej. Przykładem takiego działania było aresztowanie i wywiezienie do obozów koncentracyjnych 183 pracowników Uniwersytetu jagiellońskiego w listopadzie 1939 r. W dniu 26 grudnia 1939 roku za zabicie w przypadkowej bójce dwóch Niemców, rozstrzelano w podwarszawskiej miejscowości Wawel 107 zupełnie niewinnych osób. W Generalnym Gubernatorstwie planowy charakter eksterminacji inteligencji polskiej znalazł wyraz w tzw. Akcji A-B, rozpoczętej w maju 1940 r. W czerwcu 1940 r. przystąpiono do realizacji tego planu w Warszawie. Nastąpiły masowe aresztowania, więźniów wywożono do obozów koncentracyjnych lub rozstrzeliwano w podwarszawskiej miejscowości Palmiry. W masowych egzekucjach zgładzono tam ponad 1700 osób. Wśród zamordowanych w Palmirach było wiele wybitnych, powszechnie znanych przed wojną postaci, miedzy innymi były marszałek Sejmu Maciej Rataj, jeden z przywódców PPS Mieczysław Niedziałkowski, czy olimpijczyk Janusz Kusociński.
Na ziemiach wcielonych do Rzeszy zniemczenie obszarów wschodnich polegać miało na usunięciu nie nadającej się do zgermanizowania miejscowej ludności i osadzeniu na jej miejscu kolonistów niemieckich. Za realizację tego zadania odpowiedzialny był Heinrich Himmler jako Komisarz Rzeszy do Umacniania Niemczyzny. Pełniąc równocześnie funkcję szefa niemieckiej policji, Reichsführer SS zarządził najbardziej brutalne akcje eksterminacyjne i wysiedleńcze. Ze względu na wielkość planowanych rozmiarów wysiedleń z Kraju Warty, tam właśnie zlokalizowano Centralę Przesiedleńczą z siedziba w Łodzi.
Bardzo istotnym aspektem hitlerowskiej polityki narodowościowej był tryb przyznawania na terenach włączonych do Rzeszy niemieckiej przynależności państwowej i obywatelstwa miejscowej ludności. Ostatecznie rozporządzenie o niemieckiej liście narodowej wydane zostało 4 marca 1941 r. Zgodnie z pierwszym artykułem tego rozporządzeniem na niemiecką listę narodowościową wpisywać miano ludność niemiecką zamieszkującą wschodnie obszary włączone do Rzeszy. Antypolska polityka władz hitlerowskich znalazła także swoje odbicie w stosowanej na szeroka skalę akcji niszczenia i grabieży polskiego mienia państwowego, prywatnego oraz kultury. Inną formą realizacji polityki narodowościowej okupanta niemieckiego była eksploatacja sił fizycznych narodu polskiego. Przymusowa, niewolnicza praca, doprowadzając do biologicznego wyniszczenia, przynosiła równocześnie poważne korzyści ekonomiczne hitlerowskiej gospodarce wojennej.
W czerwcu 1941 roku ziemie polskie, które od jesieni 1939 roku znajdowały się w rękach radzieckich, przeszły pod okupacje niemiecką. Po krótkim okresie rządów wojskowych zaprowadzono tam nowy zarząd cywilny. Małopolska Wschodnia, czyli województwa stanisławowskie i tarnopolskie i wschodnią część lwowskiego, włączono, jako dystrykt Galicja, do Generalnego Gubernatorstwa. Województwo białostockie wcielono do niemieckiej prowincji Prusy Wschodnie. Województwa wileńskie, nowogródzki i część poleskiego znalazły się w granicach tzw. Komisariatu Rzeszy Wschód, zaś południowa część Polesia i Wołyń, Komisariatu Rzeszy Ukraina. Ziemie te niemieccy okupanci przeznaczyli w przyszłości do kolonizacji przez osadników z Rzeszy. Tymczasem jednak przystąpiono do ich intensywnej eksploatacji gospodarczej dla potrzeb toczącej się wojny. Zagrabiona i upaństwowiona przez okupanta radzieckiego własność polska stała się teraz automatycznie własnością niemiecka. Równocześnie podjęto szereg akcji wymierzonych w ludność polska. Gestapo dokonywało niezliczonych aresztowań i egzekucji, tysiące Polaków wywieziono do obozów koncentracyjnych lub na przymusowe roboty do Rzeszy. Szczególnie tragiczny los spotkał ludność żydowską. Podobnie jak wcześniej okupant radziecki, tak teraz Niemcy wykorzystywali do terroryzowanie ludności polskiej głęboko zakorzenione lokalne antagonizmy. Zwłaszcza Litwini i Ukraińcy stali się dla hitlerowców narzędziem walki z narodową i kulturalną przewagą żywiołu polskiego. Na Wileńszczyźnie Litwini dokonywali samosądów na bezbronnych Polakach i Żydach. Funkcjonariusze litewskiej policji pomocniczej prześcigali się w okrucieństwach z hitlerowskim gestapo. Jeszcze gorzej przedstawiała się sytuacja na Ukrainie, zwłaszcza w województwie lwowskim. Tysiące Ukraińców, wyczuwając niemiecka aprobatę, uczestniczyły w pogromach polskiej ludności. Pomimo że zawiodły rachuby grup ukraińskich Melnyka i Bandery odbudowy niepodległej Ukrainy z pomocą Niemiec, a sam Bandera wraz ze stworzonym przez siebie rządem został aresztowany i osadzony w obozie koncentracyjnym. Zrażeni do Niemców banderowcy, którzy przystąpili do organizowania na Wołyniu, a później także w Małopolsce, oddziałów partyzanckich pod nazwa UPA (Ukraińska Powstańcza Armia), skoncentrowali się przede wszystkim na akcjach antypolskich. Z bezprzykładnym okrucieństwem napadali na polskie osiedla, palili je i mordowali mieszkańców. W tym samym czasie w Polsce centralnej, w Generalnym Gubernatorstwie i na terenach wcielonych do Rzeszy, Niemcy kontynuowali walkę, mająca na celu biologiczne wyniszczenie narodu polskiego. Gdy wojna na Zachodzie, a później atak na ZSRR zaabsorbowała światową opinię publiczną, niemieccy okupanci nasilili akcje terroru, wymierzonego w polską inteligencję i warstwy przywódcze, a później w inne grupy ludności. W Generalnym Gubernatorstwie akcjami kierował ówczesny dowódca policji i bezpieczeństwa SS-Brigadeführer Bruno Streckenbach. Coraz powszechniej stosowano barbarzyńska zasadę odpowiedzialności zbiorowej, rozstrzeliwując bez sądu setki przypadkowych osób za najmniejszy akt oporu lub zabójstwo jakiegoś Niemca. Zorganizowano olbrzymi aparat do walki z polskim podziemiem. Od maja 1943 roku rozpoczęto masowe egzekucje publiczne aresztowanych wcześniej Polaków jako odpowiedź na akcje polskiego ruchu oporu. Tylko w Warszawie od października 1943 roku do lipca 1944 roku rozstrzelano w 46 takich egzekucjach prawie 3 tys. osób. Organizowano też masowe obławy uliczne, tzw. łapanki, kierując zatrzymanych do obozów koncentracyjnych lub na roboty do Rzeszy. O losie, jaki czekał Polaków w wypadku niemieckiego zwycięstwa w wojnie, świadczą metody zastosowane na Zamojszczyźnie, gdzie zamierzano osiedlić Niemców z rumuńskiej Besarabii. Z prawie 300 wsi usunięto przemocą ponad 100 tys. Polaków. W czasie akcji wiele osób zamordowano, młodych wywieziono do obozów koncentracyjnych. Rodzicom odbierano dzieci, z których część skierowano do Rzeszy z zamiarem zgermanizowania.