Первое упоминание о прусском поселении Tapiow относится к 1255 году. Находившаяся рядом с ним деревянная крепость пруссов *Сугарби или *Сургарби, а также возникшая к 1262 г. на противоположном (южном) берегу истока реки Дейма небольшая крепость Тевтонского ордена в 1265 г. были разрушены местными пруссами (самбами).
В 1280—1301 гг. Тапёу или Тапиау — центр комтурства. В 1280—1290 гг. здесь происходит строительство новой деревянной крепости, с 1351 г. — каменного замка, с 1395 г. — спрямление русла реки Дейма и соединение русла этой реки с руслом Преголи. С 1469 по 1722 г. в замке Тапиау хранился архив Тевтонского ордена.
С 1502 г. в Тапиау строится кирха, в 1520 г. открывается первая начальная школа. 20 марта 1568 г. в замке Тапиау умирает основатель Прусского герцогства Альбрехт Гогенцоллерн.
16 мая 1697 г. в Тапиау, в доме бургомистра останавливается "Великое Посольство" Петра 1. Утром 17 мая посольство покидает Тапиау и направляются во Владау.

 

27 апреля 1711 г. Пётр 1 прибыл с эскадрой в Гданьск, совершив переход по водному маршруту Лабиау (Полесск), р.Дейма, Тапиау, р.Прегель, Кёнигсберг, Фришес-Хафф. Пётр 1, уже ставший Великим, не мог оставить эскадру без присмотра из-за сложности проводки судов по этим узким и извилистым рекам. Он лично вёл эскадру.
6 апреля 1722 г. король Фридрих Вильгельм I присваивает Тапиау статус города и герб. Бывший орденский замок с 1793 г. используется как дом призрения нищих и бедных больных. В 1807 г. город занимают войска Наполеона. В 1902 г. здесь открывается больница для душевнобольных, с 1904 г. издаётся городская газета. В 1914 г. при артобстреле гибнет архив города.
На 1939 г. город Тапиау насчитывал 9272 жителя. 25 января 1945 г. город занимает 17-й Гвардейский стрелковый полк Красной армии. 7 сентября 1946 г. Тапиау переименован в Гвардейск. Изначально имя Гвардейск должен был получить Знаменск, но неподобающее поведение войск в Знаменске привело к перестановке имён. С сентября 1946 г. город зазеляется новосёлами из РСФСР; остаток местных немцев весной 1948 г. переселен в Советскую зону оккупации Германии. 

Рядом с Гвардейском (на левом, южном берегу Прегеля, в то время как сам город расположен на правом берегу) расположена одноимённая станция Калининградской железной дороги. Эта станция относится к железнодорожной линии Калининград — Черняховск — Чернышевское (литовская граница).