Начало существования Рыльского княжества относится к 12 веку. В первый раз город Рыльск упоминается в летописи под 1152 годом. В конце этого века в Рыльске княжил Святослав Ольгович, племянник Новгород-Северского Князя Игоря Святославовича. Следующими Рыльскими Князьями были: Олег, отличившийся в битве с татарами при Калке и Мстислав Глебович.
Когда Курское княжество было уже разорено татарами, Рыльск еще существовал, но откупщики податей для татар сильно притесняли население. "Откупи Ахмат, - читаем в Никоновской летописи об одном из таких откупщиков, у татар дани великие в Курском княжении, и теми даньми многу тягость творящее Князем и черным людом в Курском княжении". Последнее приведенное нами выражение свидетельствует о переходе бывших прежде владетельных Князей в члены высшего княжеского сословия. В самом деле, в Курском княжении в 1283 г., о котором идет речь, владетельный Князь несомненно был один - Рыльский Олег, Курского и Путивльского, владетельных Князей вследствие разорения страны, уже не существовало. Между тем в летописи употреблено множественное число: "Князем", а и эти "Князи" противополагаются "черным людом", то есть, простому народу. Очевидно, что в этом случае слово "Князем" заключает в себе понятие о Князьях вообще, - представителях высшего сословия - боярах, дворянах и других лицах благородного происхождения. Упоминаемый же в Никоновской летописи Ахмат опустошал Рыльское княжество, и схваченных им Рыльских бояр повесил на деревьях.
Последним самостоятельным Рыльским Князем в 13 веке, как это видно из "Повести о граде Курске и Знаменской иконе Божией Матери" считается Василий Шемяка, при котором в 1225 году была обретена Чудотворная икона Знамения Пресвятой Богородицы.
В 14 веке Рыльск перешел во власть Литвы и, как говорит Никоновская летопись, при Витовте Рыльские Князья действовали в его войсках. Во время усилившегося гонения на православие в Литве, при польском короле Александре (1492-1506) Василий Иванович Шемяка с Рыльском и Новгород-Северском перешел на сторону Московского Великого Князя Иоанн III. В единении с Москвою Рыльск, до некоторой степени был политически самостоятелен, но незадолго перед своею смертью Иоанн III присоединил Рыльск к своим владениям, а Князя посадил в темницу по обвинению в сношениях с Литвою. У жены его княгини были отняты все боярыни ее свиты. Из этого мы видим, что и после татарского нашествии высшее сословие боярства продолжало свое существование при Князьях Рыльских, а этот факт в числе других важен для установления перехода дружинного сословия в служилой Дворянство.
Находясь в составе Московского государства, Рыльская область имела важное значение вследствие своего окраинного положения, а Рыльск в половине 16 века вошел в число городов первой правильной линии государственной обороны от неприятельских нападений и набегов. В нем находился воевода, имевший под своею властью дворян и детей боярских, входивших в состав лиц военной службы и местного управления.