На виконання постанови Ради Міністрів УРСР № 681 від 11 травня 1960 р. Президія АН УРСР видала Постанову від 13 травня про організацію в м. Харкові Фізико-технічного інституту низьких температур із підпорядкуванням його Відділенню фізико-математичних наук Академії наук УРСР. Цій Постанові передувала напружена підготовча робота ініціативної групи, яку очолив Б.І. Вєркін, на той час - співробітник УФТІ. До цієї групи входили О.О. Галкін, І.М. Дмитренко, Б.І. Єсельсон та В.І. Старцев. Велику підтримку надав П.Л. Капиця, який очолював у ті роки Раду з проблеми фізики низьких температур АН СРСР. В липні 1959 р. ці Рада схвалила наукову тематику майбутнього інституту і прийняла рішення про надання допомоги в його організації. Було прийнято також рішення про розташування Інституту в м. Харкові. Адже саме тут, в УФТІ, у 1931 р. була організована перша в країні кріогенна лабораторія, науковим керівником якої був видатної фізик Лев Васильович Шубников. Роботи Л.В. Шубникова та його учнів заклали основи Харківської школи фізики низьких температур. Наукові традиції цієї школи були продовжені та розвинуті в Інституті, першим директором якого на багато років став Борис Ієремієвич Вєркін. Відразу після створення Інституту було організовано 9 лабораторій, де розпочалися дослідження фізичних властивостей зріджених газів, надпровідників, низькотемпературного магнетизму, пластичності та міцності матеріалів, а також з ряду інших напрямів фізики низьких температур, які сформували наукове майбутнє Інституту. Рішення прикладних завдань було зосереджено в конструкторському бюро. Слід особливо сказати про те, що одночасно було організовано 4 математичних відділи, які очолили найвідоміші математики і, у їхньому числі, О.В. Погорєлов та В.О. Марченко, які багато в чому визначали шлях становлення Інституту та вибір його наукових тематик. У 1987 р. Постановою Президії академії наук України у ФТІНТі було організовано Математичне відділення.
Творчий сплав фізиків, математиків, інженерів, конструкторів, спрямованість на рішення самих актуальних завдань фізики та математики, втілення цих рішень у дослідні зразки новітньої кріогенної техніки — усе це, разом узяте, послужило потужним імпульсом розвитку молодого Інституту, середній вік співробітників якого на початку 60-х років становив 26 років. Вже на рубежі 60–70-х років ФТІНТ здобув загальне наукове визнання як в країні, так і далеко за її межами, завдяки своїм блискучим результатам з експериментальних та теоретичних досліджень надпровідності, нормальних металів, магнетизму, фізики кріокристалів, рідкого та твердого гелію, біофізики, низькотемпературного матеріалознавства, а також в області фундаментальної і прикладної математики. Величезний розмах одержали науково-конструкторські програми з космічного матеріалознавства, користувалися широким попитом прикладні розробки з кріогенного приладобудування. Були розроблені і запущені різноманітні установки для одержання низьких і наднизьких температур.
У 80-і роки Інститут безупинно нарощував темп досліджень, включивши в коло своїх наукових інтересів високотемпературну надпровідність, вуглецеві матеріали, мезоскопічні системи, актуальні проблеми математики. Істотні успіхи були досягнуті в роботах зі створення пристроїв надпровідникової електроніки з рекордними рівнями чутливості та стабільності. Експерименти з дослідження фізичних властивостей гелію були до температур порядку мілікельвіну.
Ішли роки, виникали нові цікаві завдання, розвивалися нові напрямки, прийшло нове покоління фізиків і математиків, але націленість усього дружного колективу на одержання результатів світового рівня зберігалася. У складні та переломні роки ФТІНТ разом з Академією вистояв, зосередившись, насамперед, на фундаментальних проблемах фізики низьких температур і математики.
У 1991 р. Інституту було присвоєно ім'я його засновника та першого директора — академіка Б.І. Вєркіна.
Колектив Фізико-технічного інституту низьких температур ім. Б.І. Вєркіна НАН України має право пишатися досягнутими за 57 років результатами. Його співробітниками опубліковане більше 300 монографій, підручників, навчальних посібників, довідників, понад 14000 статей і оглядів у рейтингових наукових журналах, підготовлене більше 900 висококваліфікованих фахівців - кандидатів та докторів наук. Наукові результати відзначено 3 Ленінськими преміями, 2 Державними преміями СРСР, 26 Державними преміями України, Золотою медаллю імені В.І. Вернадського НАН України, численними преміями НАН України імені видатних учених, а також престижними міжнародними преміями, у числі яких Премія Дж. Філдса, Премія Європейського фізичного товариства, Премія ім. Лізи Мейтнер.
Більш 30 років Інститут видає журнал «Фізика низьких температур», який на сьогодні має один з найвищих імпакт-факторів серед наукових журналів України. Інститут видає також «Журнал математичної фізики, аналізу й геометрії», який теж входить до дуже вузького кола наукових періодичних видань України, які мають імпакт-фактор.
В Інституті плідно працюють, продовжуючи традиції харківської наукової школи, академіки НАН України В.О. Марченко, Л.А. Пастур, М.Ф. Харченко, С.Л. Гнатченко, Є.Я. Хруслов та члени-кореспонденти НАН України О.М. Омельянчук, Е.Я. Рудавский, М.О. Стржемечний, М.В. Щербина.
Багато років у ФТИНТі працювали чудові вчені — академіки НАН України О.В. Погорєлов, І.М. Дмитренко, І.К. Янсон, В.В. Єременко, В.Г. Манжелий, О.О. Галкін та члени-кореспонденти НАН України А.М. Косевич, А.І. Звягін, Й.В. Островський. Членами-кореспондентами нашої академії в стінах Інституту стали І.О. Кулик і В.Г. Дрінфельд. У різний час в Інституті працювали науковці, згодом члени академії: академік НАН України В.П. Семиноженко, члени-кореспонденти НАН України І.В. Матяш, Л.Ф. Суходуб, Л.Т. Цимбал.
Музейна кімната акад. І.М. Дмитренка