Durant lapériode romaine, Nicomédie devient une colonie et la capitale de laprovince romaine deBithynie, située sur lamer Noire. En111, la ville est gravement endommagée par ungrand incendie, qui cause de nombreuses victimes, en raison de l'absence de service de lutte contre les incendies. À la suite de cette catastrophe,Pline le Jeune, gouverneur de la province, soumet un rapport à l'empereurTrajan (98-117) pour réclamer des moyens et la création d'une association de pompiers de150 hommes. Trajan, cependant, rejette cette demande, craignant que de telles associations ne deviennent des foyers d'opposition politique :« N'oublie pas que ta province est la proie d'une société de ce genre. Quel que soit le nom, quelle que soit la destination que nous voulons donner à des hommes réunis en un corps, cela donne lieu, dans tous les cas et rapidement, à des hétairies »[1]. Trajan refuse cette requête en pensant privilégier la stabilité politique malgré le risque d'incendie.
Vers845, legéographe arabeIbn Hurdadbeh décrit une ville en ruines mais continuant de servir de station sur la route impériale vers Constantinople : la citation suggère que l’essentiel de la ville antique, et notamment ses quartiers portuaires, sont à l’abandon, alors que la population s’est retirée sur l’acropole fortifiée, le kastron byzantin. La ville ne survit que commebase militaire, capitale du thème desOptimates, centre administratif civil et métropole ecclésiastique. Un percepteur d'impôts du golfe de Nicomédie est cité dans laVie d’Étienne le Jeune vers750-760, des sceaux decommerciaires sont datés desVIIe et IXe siècles. L’évêque iconophile Théophylacte, entre800 et815 (date à laquelle il est exilé àStrobilos(en) pour ses positions contre l’iconoclasme), y fait construire une église dédiée aux saints Côme et Damien ainsi qu’un hôpital. La ville est aussi dotée d’un xénodocheion, connu par le sceau duspathaire impérial qui le dirige.
Nicomédie demeure toutefois une base militaire essentielle pour Alexis (en1116) et ses successeurs (ManuelIer en1179) dans leurs campagnes renouvelées contre les Turcs. En1204, Nicomédie est au centre des disputes entre les prétendants aux dépouilles de l’Empire,Théodore Lascaris,David Comnène et les Latins, qui en prennent le contrôle en1206.