Bereits in den 1930er Jahren gab es Überlegungen zum Bau einer Autobahn von Göttingen am Südharzrand entlang bis zur Anbindung des Raumes Halle - Magdeburg - Berlin. 1937/38 wurden dafür baureife Pläne entwickelt. Die Reichsautobahn „Strecke 71“ (bitte nicht mit der heutigen A 71 verwechseln) sollte nach ersten Überlegungen mit einer Gesamtlänge von 186 km vom Raum Göttingen annähernd parallel zur Eisenbahnlinie Kassel – Nordhausen über Nordhausen und Sangerhausen verlaufen, nördlich von Halle die Strecke Magdeburg – Leipzig kreuzen und dann südlich von Dessau mit einem Autobahndreieck in Form einer Trompete auf die Strecke Berlin – Leipzig münden. Ab Frühjahr 1939 begann die offizielle Bauvorbereitung. Teilweise wurde die Trasse schon abgesteckt und markiert. 
Zwischen Nordhausen und Werther wurde bereits mit dem Bau einer Autobahnbrücke begonnen, mit der die „Helmetalbahn“ Mackenrode – Nordhausen über die zukünftige Reichsautobahn geführt werden sollte. Mit Beginn des 2. Weltkrieges wurden die Autobahnbauprojekte jedoch unterbrochen und 1941/42 endgültig eingestellt. Die Brückenfragmente dieser Brücke (Mittelpfeiler und beide Brückenwiderlager) stehen heute noch, von Gebüsch umgeben, als Relikte der damaligen Zeit einsam in der Landschaft, ca. 500 Meter östlich der heutigen A 38 und ca. 50 m südlich der Bahnlinie zwischen Werther und Nordhausen.
Zeitzeugen berichteten zudem, dass noch bis ca.1960 in der Nähe der „Einnahme“ (ungefähr jetziger Standort Autobahnanschlussstelle Nordhausen-Sundhausen) ein Betonrohr lag, welches für eine (Bach-?)Unterquerung der geplanten Reichsautobahn dienen sollte.
Nach der Teilung beider deutscher Staaten gab es lange Zeit keine Notwendigkeit mehr für diese Autobahnstrecke.
Erst nach 1990 wurde die Idee einer „Südharzautobahn“ im Rahmen der „Verkehrsprojekte Deutsche Einheit“ wieder aufgegriffen.
Insbesondere zur Entlastung des stark gestiegenen Verkehrs an der B 80 und zur Verbindung der Räume Ruhrgebiet/Kassel mit dem Ballungsraum Halle/Leipzig.
Die Planungen dieser neuen Autobahn, die 1991 zuerst die vorläufige Bezeichnung A 82 erhielt, orientierten sich südlich und westlich von Nordhausen stark an den historischen Plänen. Ab ca. 1993 wurde die Autobahnplanung dann unter dem jetzigen Namen A 38 geführt.
Die alte Reichsautobahn „Strecke 71“ sollte zwischen Urbach und Görsbach die Straße Nordhausen – Halle überqueren und dann nördlich von Sangerhausen und Eisleben entlangführen. Die jetzige A 38 tut das anfangs zwar auch, quert aber bei Wallhausen die Strecke Nordhausen – Halle wieder nach Süden und verläuft im Gegensatz zur damals geplanten Reichsautobahn südlich an Sangerhausen und Eisleben vorbei. Dann macht sie vor Halle einen noch weiteren Bogen in südöstlicher Richtung, überquert am Autobahnkreuz „Rippachtal“ die A 9 München – Berlin und führt südlich an Leipzig vorbei, bis sie letztendlich am Autobahndreieck „Parthenaue“ in die A 14 Leipzig – Dresden mündet.
Baubeginn der A 38 war 1995 mit Bau des Autobahnkreuzes Rippachtal südwestlich von Leipzig. Im März 1996 war erster Spatenstich auf Thüringer Gebiet an der Autobahnbrücke über die B 4 bei Sundhausen. An dieser Stelle war eine frühere Zollstation, die spätere Gaststätte "Zur Wiederkehr“, die in Vorbereitung des Autobahnbaus abgerissen wurde. Im Volksmund wurde das Gasthaus jedoch anlehnend an seine historische Funktion immer als „Die Einnahme“ benannt.
1998 erfolgte die Verkehrsfreigabe des Autobahnteilstückes in Richtung Werther.
Die A 38 hat eine Gesamtlänge von 208 km, davon 76,8 km auf Thüringer Gebiet. Sie ist seit Dezember 2009 nach einer Gesamtbauzeit von 14 Jahren durchgängig befahrbar.
Die Autobahnanschlussstellen „Werther“ (10) und „Heringen“ (12) wurden 2011/12 umbenannt in „Nordhausen-West“ und „Nordhausen-Ost“.
Am 5. Dezember 2012 wurde die Autobahnanschlussstelle (9) „Großwechsungen“ fertig gestellt und freigegeben. Mit dieser erfolgte die Anbindung des Neubaus der B 243 an die A 38.
Ab 2023 wurde der Autohof Werther gebaut, zuerst mit Errichtung einer Tankstelle.