После смерти Россиньоля в 1682 году «Великий шифр» уже не всегда применялся в королевской переписке, и эта неосмотрительность дорого обошлась Франции. Так, в 1774 году Людовику XV был доставлен пакет из Вены от секретаря французского посольства аббата Жоржеля. Когда французский король раскрыл его, то нашёл там копии открытых текстов своей шифрованной корреспонденции, которая была «раскрыта» в венском ЧК.
В то время также и Швеция уделяла внимание защите собственной дипломатической и военной переписки. Так, в 1676 году, за несколько дней до битвы между шведской и датской армиями под городом Лунд, шведский король Карл ХІ отправил генералу Фабиану фон Ферсену шифрованное письмо со своими рассуждениями о стратегии и тактике войск в будущей битве. Благодаря этой информации шведы одержали победу в битве, ставшей одной из самых кровавых в истории Скандинавии.
В XVII веке свой вклад в развитие криптоанализа сделал британец Джон Фальконер. В 1685 году он написал книгу «Раскрытие тайных посланий, или Искусство добывать тайные сведения без ключа» (англ. Cryptomensis Patefacta: or the art of secret information disclosed without а key), где изложил некоторые разработанные им методы дешифровки. В частности, он предложил использовать перебор возможных открытых слов по их длине (если в шифротексте слова разделялись).
Вообще, в XVI–XVII веках криптослужбы появились практически в каждом европейском государстве, причём в состав этих служб входила научная элита того времени: Франсуа Виет и Антуан Россиньоль во Франции, Джироламо Кардано в Риме, Джон Валлис и Френсис Бэкон в Англии, Вильгельм Лейбниц в Германии. Европейские правители нередко привлекали уже известных криптологов-иностранцев на службу, хотя это не всегда удавалось. По-видимому, наиболее неуспешным из таких криптологов был Готфрид Вильгельм Лейбниц (1646–1716) — выдающийся немецкий учёный, математик, основатель Берлинской академии наук.
Английский король Георг I хотел пригласить Лейбница, чтобы тот возглавил британскую криптослужбу, но натолкнулся на резкое противодействие в лице Джона Валлиса (1616–1703), который побаивался конкуренции со стороны своего немецкого коллеги и пригрозил королю перейти на сторону Испании, выдав ей все английские секреты, которых Валлис по характеру своей деятельности знал немало.
Активно выступал против подобного назначения и Исаак Ньютон (1642–1727) — председатель Королевского научного общества, отрицавший авторство Лейбница в дифференциальном вычислении. Не повезло Лейбницу и во второй раз, когда его пригласил в Россию Пётр I не только для организации Российской академии наук, но и для создания российской криптослужбы по европейскому образцу. Смерть Лейбница не позволила осуществиться планам Петра, вынужденного воспользоваться услугами менее именитых криптологов.
К тому времени повсеместно применявшиеся ручные методы шифрования были весьма трудоёмкими. Поэтому для ускорения процессов шифрования и дешифровки изобретались вспомогательные криптографические механические устройства типа сдвигающихся дисков, линеек и т. п. Как правило, они позволяли быстрее и надёжнее выполнять привычную для шифровальщиков операцию простой замены (подстановки) букв алфавита.
Только в новейшее время стало известно, что в 1670-х годах Лейбниц изобрёл механическую машину для кодирования и декодирования шифрованных сообщений. Принципы её построения он изложил в 1679 году герцогу Ганновера Джону Фредерику и в 1688 году императору Священной Римской империи Леопольду I, который часто находился в состоянии войны с Францией и Османской империей (впоследствии Турцией). Ни герцог, ни император не проявили заинтересованности к этой полуавтоматической шифромашине, полагая свои ручные шифры достаточно надёжными.
Шаговый барабан, который использовался в вычислительной машине Лейбница, с помощью клавиатуры производил нерегулярные перемещения, делая шифрование гораздо более сложным и стойким. Шифромашина Лейбница на 250 лет предвосхитила изобретения механических роторных шифромашин шведа Арвида Дамма, голландца Гуго Коха, немца Артура Шербиуса и американца Эдварда Хеберна, сделанные в начале ХХ века.
В начале 1700-х годов по политическим мотивам приказом короля Георга I более 200 тысяч личных документов Лейбница были конфискованы. К счастью, эти документы сохранились после смерти Лейбница и постепенно публиковались немецкими учёными в течение нескольких последних десятилетий. Содержание меморандума 1711 года, написанного самим Лейбницем, позволило американскому философу и логику Николасу Решеру и помогавшим ему инженерам за два года реконструировать шифромашину Лейбница.
В Англии лорд-протектор Оливер Кромвель создал «Интеллидженс сёрвис» (англ. Intelligence service — служба разведки), в состав которой входило подразделение дешифровки. Его возглавлял известный математик Джон Валлис (Уоллис), который владел уникальными способностями. Так, бессонными ночами он высчитывал квадратный корень из 50-значных чисел с точностью до 20-30-го знака.
Английский король Карл ІІ ценил искусство Валлиса и называл его «драгоценным камнем для короля…». Расцвет дешифровального искусства Валлиса пришелся на времена правления Вильгельма Оранского и его жены Марии. Он продолжал служить криптоаналитиком и составлял отчёты для графа Нотингемского, командующего морскими и сухопутными вооруженными силами Англии. Напряжение, с которым он работал в те годы, отразилось в одном из его писем: «…боюсь, что вообще обезумею».
В 1689 году Валлису удалось «раскрыть» шифр переписки короля Франции Людовика XIV и французского посла в Польше, тем самым осуществив значительное влияние на внешнюю политику Англии. В частности, он раскрыл намерения Людовика XIV втянуть Польшу в войну против Пруссии. В результате эффективное использование этой информации дипломатией Англии привело к тому, что французские посланцы были с позором изгнаны из Польши.
После смерти Валлиса Англия предприняла важный политический шаг: официально объявила о введении правительственной должности криптолога. В 1703 году первым официально объявленным дешифровщиком Англии стал внук Валлиса — Уильям Бленкоу. Он работал достаточно успешно, но не выдержал рабочего напряжения. В приступе временного безумия Бленкоу совершил самоубийство.
До конца XVII века криптология окончательно сложилась как научная дисциплина. Хотя в данный период господствовали «номенклаторы», которые не были шифрами в «чистом» виде, однако появление многоалфавитной замены, использования трафаретов, биграмм и цифровых обозначений стало огромным шагом вперёд по сравнению с самым древним периодом и означало наступление новой эры в развитии криптологии, вплотную приблизившейся к своему современному виду.
Развитие криптоанализа на Западе напрямую зависело от развития дипломатии. С тех пор, как государства стали поддерживать постоянные дипломатические отношения, их послы, которых иногда иронически называли «почётными шпионами», регулярно отправляли к себе на родину содержательные послания. Существующие между государствами соперничество и подозрительность вынуждали дипломатов зашифровывать свои депеши, поскольку их нередко перехватывали и вскрывали.
Появление постоянных дипломатических представительств и заострение политической борьбы стимулировало послов зашифровывать свои сообщения, побаиваясь, что они будут перехвачены противником. До конца XVI столетия криптоанализ стал играть настолько важную роль, что в большинства европейских государств были введены должности секретарей по шифрам, которые полный рабочий день занимались шифрованием и расшифрованием своих сообщений, а также дешифрованием перехваченных депеш.
5. Эра «чёрных кабинетов»
XVII век вошел в историю криптоанализа как эра «Cabinets noirs», или «чёрных кабинетов» (далее — ЧК). В это время в разных странах начали появляться первые службы негласного вскрытия писем, или перлюстрации (лат. perlustro — осматриваю), и дешифровки перехваченной корреспонденции, которые были засекречены и работали в условиях полной конспирации.
Известно, что в августе 1620 года голландский посол в Англии Жан Баптиста Ван Мале старательно пытался подкупить правительственного шифровальщика Винсентио, который уже отсидел 6 лет в Тауэре за связи с испанской разведкой. Ван Мале хотел побуждать Винсентио отказаться расшифровывать важные письма испанского посла в Вене к голландскому правителю эрцгерцога Альберту, перехваченные английскими разведчиками.
Винсентио предлагались деньги — понятно, с прямо противоположной целью — также и от имени голландского посла. Все договорные стороны торговались при этом, как на рынке. А между тем английские власти спохватились и предложили Винсентио поторопиться с расшифровкой, если он не желает познакомиться с пыточной камерой.
В то же время испанский посол в Англии Гондомар узнал, что англичане читают его письма, которые он направлял в Мадрид. Там копии с них каким-то неизвестным путём снимал английский посол сэр Джон Дигби, расшифровывал закодированные места и пересылал свою добычу в Лондон Якову I.
Напрасно Гондомар менял шифры и курьеров, просил, чтобы в Мадриде его донесения попадали только в руки абсолютно доверенных лиц. Только через многие годы, уже вернувшись из Испании, Дигби, уступая настойчивой просьбе Гондомара, рассказал, что депеши перехватывались и копировались, пока курьер отдыхал на последней почтовой станции неподалеку от испанской столицы.
В XVIII веке ЧК уже стали распространённым явлением по всей Европе, а венский ЧК (Geheime Kabinets-Kanzlei) пользовался репутацией наилучшего среди них. Он функционировал очень эффективно. Мешки с почтой, которые должны были доставляться посольствам в Вене ежедневно в 7 часов утра, появлялись сначала в помещении ЧК. Там письма раскрывали, растапливая печати над свечой, отмечали порядок расположения страниц в конверте и передавали их помощнику директора. Тот читал их и давал указания о снятии копий с важнейших документов.