Использование подобных приёмов сильно усложняло задание криптоаналитиков. Хотя наполеоновский шифр был относительно небольшим, в эпоху «номенклаторов» нередко применялись и криптосистемы, которые содержали сотни соответствий.
Но и эти не очень стойкие шифры использовались с серьёзными ошибками. Ключи не менялись длительное время, в шифротекстах сохранялась разбивка на слова (в соответствии с открытым текстом), использовались стандартные обращения и подписи, значительная часть сообщения не шифровалась (считалась несекретной) и тому подобное. Все это, безусловно, облегчало дешифровку. Кроме того, в экстренных случаях тайные сообщения вообще не шифровались и в открытом виде попадали к противнику.
При Наполеоне также не были изобретены новые специальные шифры. Французская армия пользовалась известными на то время способами шифровки. Поэтому противники Наполеона достигли достаточно серьёзных успехов в дешифровке его переписки. До 1811 года французы для передачи сообщений использовали простые шифры, которые получили популярность как «petits chiffres». Они были рукописными и расшифровывались в спешке на поле боя. Как правило, это были короткие сообщения, инструкции или приказы, зашифрованные кодом на основе 50 величин.
В конце 1811 года новые таблицы кодов были разосланы из Парижа всем ведущим французским военным. Они были основаны на дипломатическом коде середины XVIII века, и в них использовалось 1400 кодовеличин. Такие таблицы отправлялись вместе с инструкциями по их использованию, направленными на устранение некоторых недостатков в использовании шифров.
Например, в конце сообщения рекомендовалось приписывать цифры — «пустышки», лишенные всякого содержания. Это было сделано для того, чтобы затруднить работу дешифровщика, поскольку была высокая вероятность наличия в конце сообщения стандартных фраз, которыми обычно заканчивалась корреспонденция (например, звание и фамилия лица, которое отправило документ). Знание открытого и шифрованного текстов, понятно, облегчало дешифровку.
В конце XIX века криптология начала обретать черты точной науки, а не только искусства, как это было ранее, её начинают изучать в военных академиях. Здесь следует отметить роль французской военной академии Сен-Сир, где к этому времени был разработан свой собственный военно-полевой шифр, получивший название «Линейка Сен-Сира». Линейка представляла собой длинный кусок картона с напечатанными на нём буквами алфавита. Эта последовательность букв называлась «неподвижной шкалой». Снизу, под неподвижной шкалой, в линейке были сделаны вырезы, через которые легко передвигался «движок» — узкая полоска из картона с нанесённым на него (с двойным повторением) тем же алфавитом.
Шифрование осуществлялось так: полоска («движок») перемещалась в положение, при котором буква ключа-лозунга оказывалась под буквой «А» неподвижной шкалы. Получалась простая замена первой буквы открытого текста (буквы «движка» образовывали нижнюю строку подстановки-замены). При шифровании второй буквы открытого текста вторая буква ключа-лозунга путём передвижения «движка» оказывалась под буквой «А» неподвижной шкалы и т. д. Лозунг повторялся периодически по шифруемым буквам открытого текста.
Таким образом, линейка Сен-Сира была простым механическим воплощением шифра Виженера. Она позволила существенно повысить эффективность труда шифровальщика, облегчить алгоритм реализации шифра Виженера. Именно в этой механизации процессов шифрования и дешифровки заключается вклад авторов линейки в практическую криптологию.
Развитием идеи линейки Сен-Сира стало произвольное расположение букв алфавита на «движке». Секретное (ключевое) расположение этих букв существенно усилило криптостойкость шифра. Однако основная слабость — короткопериодическое продолжение ключа-лозунга сохранилось, что и определило последующие успехи криптоаналитиков.
В завершении исторического эпизода с линейкой Сен-Сира отметим, что она была самой простой технологической реализацией диска Альберти. Реализация шифра Виженера на уровне картонных полосок была значительно более «дешёвой», чем создание оригинальных устройств типа дискового шифратора Альберти. Поэтому «линейка» получила достаточно широкое применение.
В конце XIX века премьер-министр Франции Леон Мишель Гамбета (1838-82) предложил вообще отказаться от применения приборов шифрования и заменить их простыми алгебраическими операциями. Буквы текста и лозунга заменялись на числа (в соответствии с порядком их расположения в алфавите), а затем складывались между собой, порождая шифротекст (добавление ведется по модулю, равному мощности алфавита). Именем Гамбеты был назван основной современный элемент шифрования — «гамма» шифра.
В 1888 году офицер французской армии маркиз де Виари стал первым после Бэбиджа, который предложил использовать алгебраические уравнения для описания процессов шифрования, в частности, шифра Виженера. В одной из своих научных статей, посвященных криптологии, он обозначил греческой буквой «X» любую букву шифрованного текста, греческой буквой «Г» любую букву «гаммы» и буквой «С» любую букву открытого текста.
По сути, он доказал, что алгебраическая формула X=(С+Г)mod26 воспроизводит процесс шифрования по системе Виженера при замене букв алфавита числами (см. таблицу).
Тем самым была заложена алгебраическая основа для исследования шифров замены типа шифра Виженера. Используя уравнение шифрования, можно было отказаться от громоздкой таблицы Виженера. Позже «лозунговая гамма» стала произвольной последовательностью, а шифр с уравнением шифрования стал называться шифром «гаммирования».
Кроме того, Виари сконструировал шифровальное устройство вместе с печатающим механизмом, которое достаточно простым способом реализовывало приведенные выше правила шифрования. Сложение и вычитание осуществлялось простым вращением дисков с нанесёнными на них буквами алфавита. Таким простым способом реализовывались операции в результате вычислений по модулю «n». Тем самым было положено начало механическому, а позже и электрическому внедрению процессов шифрования.
Француз Этьен Базери (1846–1931) в отличие от выдающегося теоретика криптоанализа Керкхофса был великим практиком. Шифры буквально «плавились» под воздействием интенсивной работы его мозга. Более сложные криптограммы и правительственные шифры, утончённая тайная переписка заговорщиков — ничто не выдерживало необузданный напор Базери.
Интерес к криптоанализу возник у Базери, когда он пытался прочитать криптограммы, которые размещались в газетных колонках для личной переписки. Пикантными подробностями этой переписки он развлекал своих сослуживцев. Однажды, в 1890 году, когда его эскадрон стоял в Нанти, Базери заявил своим друзьям офицерам в штабе корпуса, что известный ему французский военный шифр можно читать без ключа.
Все рассмеялись, за исключением командира корпуса генерала Шарля Фэя. Он принял брошенный Базери вызов и послал ему несколько телеграмм, зашифрованных с помощью этого шифра. Базери успешно их дешифровал. Все были удивлены, а Военное министерство поспешило создать новый шифр.
Ознакомившись с криптограммами, «закрытыми» новым шифром, Базери раскрыл его ещё до того, как он был введён в действие. Слава Базери достигла Парижа, и в августе 1891 года армейское командование направило его в распоряжение криптобюро французского МИД. Именно в эти годы своей жизни Базери больше всего времени посвящал криптоанализу. Только новые шифры появлялись — он сразу раскрывал их.
Этот факт поставил официальных криптологов Франции в тупик. Начались болезненные поиски методов шифрования, не связанных с короткопериодическим гаммированием по шифру Виженера. Основная проблема заключалась в изготовлении и распределении ключевой информации между абонентами сети засекреченной связи. Базери доказал, что ограниченный объём ключевой информации, приводивший к периодическому повторению гаммы шифра, позволял найти достаточно простые методы криптоанализа.
Способности Базери в области дешифровки были эффективно использованы французскими спецслужбами в начале Первой мировой войны, когда он принимал участие в дешифровке немецких военных шифротелеграмм. Современники Базери считали его «Наполеоном» криптоанализа.
Одним из его изобретений в этом плане было повторение дискового шифратора американца Джефферсона («цилиндр Базери»). Впервые описанное в 1891 году, это устройство состояло из нескольких дисков (у Базери их было 20), закреплённых на общей оси. На каждый диск была нанесена своя (причём перемешанная) алфавитная последовательность. При шифровании текст разбивался на группы, длина которых отвечала числу используемых дисков. Каждая группа открытого текста устанавливалась на цилиндре в ряд (в одну строку), а в качестве шифротекста выбирался любой из других 25 рядов. Дешифровщик делал ту же процедуру, но в обратном порядке: на цилиндре по очереди устанавливалась в ряд каждая группа шифротекста, после чего просматривались другие 25 рядов с целью определения открытого текста.
Этот тип шифра, который в то время считался одной из лучших криптосистем, называется мультиплексной системой. Мультиплексная система широко применялась военными и дипломатическими службами США во время и после Второй мировой войны. Диски часто заменяли на узкие металлические пластинки, на каждую из которых была нанесена перемешанная алфавитная последовательность, причём дважды циклически повторенная на той же пластинке.
Маркиз де Виари, противник идей Базери, довёл принципиальную возможность раскрытия шифра Базери (при наличии у противника этого цилиндра и незнания им только разового ключа — порядка расположения дисков на оси). Дешифровка облегчалась неслучайным характером расположения букв на дисках, в основе которого лежали фразы типа: «Бог хранит Францию», «Честь и Родина» и т. п. Военное министерство отказалось принять на вооружение изобретение Базери, хотя аналогичное устройство в начале 1920-х годов использовала армия США.