Впервые идея создания TGV возникла в 1960-е годы в ответ на строительство Японией скоростной сети Синкансэн (1959 год). В то время Французское правительство покровительствовало новым технологиям, велись исследования по созданию маглевов и даже поездов на воздушной подушке Aérotrain. Одновременно с этим SNCF начало проектирование скоростного поезда, который можно было бы использовать на обычных железных дорогах.
Первоначально планировалось, что TGV будет турбопоездом (с газотурбинным двигателем), само название расшифровывалось как turbine grande vitesse (скоростная турбина). Газовая турбина была выбрана в качестве двигателя за относительно небольшой размер, а также большу́ю удельную и выходную мощность. Был построен первый прототип TGV 001 с этим типом двигателя, однако резкое увеличение цены на нефть во время энергетического кризиса 1973 года вынудило отказаться от газовых турбин из-за повышенного, по сравнению с дизелем, расхода топлива. Топливного бака TGV 001 объёмом в 8 тыс. литров хватало только на 1100 км пути. Было решено реализовывать проект на основе электропоездов, питающихся от контактной сети. Планировалось, что электричество будет вырабатываться в достаточном количестве на новых французских атомных электростанциях.
Однако труды по созданию прототипа TGV 001 не прошли даром: на его основе была испытана специальная тормозная система, которая должна была рассеивать большой объём кинетической энергии, набираемой поездом во время движения. Также этот прототип был испытательным полигоном для новой аэродинамики и сигнальной системы. Поезд был сделан сочленённым, то есть соседние вагоны имели общую тележку, которая позволяла вагонам двигаться свободно друг от друга. Во время испытаний поезд-прототип развил скорость в 318 км/ч, что до сих пор остаётся мировым рекордом для поездов без электрической тяги. Внешний и внутренний вид прототипа был разработан уроженцем Великобритании Джеком Купером. Созданный им дизайн, включая характерную форму носового обтекателя, был использован во всех последующих поколениях TGV.
Перевод TGV на электрическую тягу потребовал существенных изменений в компоновке поезда. Создание полностью электрического прототипа под кодовым названием Zébulon было закончено в 1974 году, на нём были обкатаны новые тяговые двигатели, пантографы, подвеска тяговых двигателей и тормозная система. Установка новых двигателей позволила уменьшить вес головных вагонов на 3 тонны. В ходе испытаний прототип преодолел почти миллион километров пути.
В 1976 году Французское правительство выделило деньги на крупномасштабную реализацию проекта TGV, и вскоре началось строительство первой скоростной линии LGV Sud-Est (фр. ligne à grande vitesse — скоростная линия Юго-Восток).
После того как два опытных состава подверглись тщательным испытаниям и модификациям, поезд TGV был запущен в производство, и первый серийный экземпляр был передан железной дороге 25 апреля 1980 г. Пассажирское сообщение TGV между Парижем и Лионом было открыто 27 сентября 1981 г. Предполагалось, что поездом станут пользоваться бизнесмены, часто перемещающиеся между этими городами. Как средство транспорта, TGV был значительно быстрее обычных поездов, автомобилей и даже самолётов. Поезда вскоре стали популярны не только среди бизнесменов — общество приветствовало этот быстрый и практичный способ передвижения между городами.
Строительство скоростных трасс во Франции продолжалось: была открыта линия LGV Атлантика до Тура и Ле Мана (строительство началось в 1985, движение открыто в 1989); LGV Северная Европа в сторону Кале и бельгийской границы (строительство началось в 1989, движение открыто в 1993); LGV Рона-Альпы стало продолжением линии LGV Юго-Восток, продлив её до Валанса (строительство началось в1990, движение открыто в 1992). В 2001 году открылось движение по LGV Средиземноморье до Марселя. В 2006 построена линия LGV Восток, которая связала Париж и Страсбург. Скоростные линии, основанные на технологии TGV, были построены в Бельгии, Нидерландах и Великобритании — все они соединены с французской сетью.
Сообщение Eurostar открылось в 1994 году, соединив континентальную Европу с Лондоном через Евротоннель. Эта линия частично использует LGV Северная Европа во Франции. Первый этап строительства скоростной линии в Великобритании (CTRL) был завершён в 2003 году. Второй этап был закончен 14 ноября 2007 года. Теперь самые быстрые поезда проходят маршрут от Лондона до Парижа всего за 2 часа 15 минут, а маршрут Лондон — Брюссель — за 1 час 51 мин.
TGV не является первым коммерческим скоростным поездом: в Японии линия Синкансэн впервые соединила Токио и Осаку 1 октября 1964, то есть за 17 лет до первого рейса TGV. Впрочем, TGV принадлежит мировой рекорд скорости для обычных поездов на электрической тяге: 3 апреля 2007 года во время испытаний укороченный состав типа TGV POS развил скорость 574,8 км/ч на новой линии LGV EST (между Парижем и Страсбургом, линия оборудована рельсовым скреплением PANDROL FASTCLIP). Испытания проводились в рамках научной программы Alstom. Средняя скорость во время обычной поездки на TGV составляет 263,3 км/ч.
28 ноября 2003 года TGV перевёз своего миллиардного пассажира с начала движения в 1981 году. На первом месте по числу перевезённых пассажиров среди скоростных линий находится Синкансэн (5 миллиардов пассажиров в 2000 году).