Фридрих Дюрренматт о своей последней пьесе. — Решая моральные и этические вопросы, наш современный усредненный человек находится примерно в такой же ситуации (параллели, правда, всегда условны), как и первобытный человек в девственном лесу»37.
В повести Макса Фриша описывается, как горы отрезали от «большой земли» селение, лишив его жителей благ цивилизации. И тут начинается попытка господина Гайзера действовать по привычной логике в этом несколько покосившемся мире. Надо убирать дом. Логично и необходимо, но при создавшихся условиях уборка сводится к тому, что господин Гайзер снимает паутину с высокого потолка над лестницей, выломав перила и привязав к ним половую щетку, и т. п.38
Точно так же и с ситуациями разрушения ЭВМ. В морально покосившемся компьютерном мире действия, совершаемые в соответствии с неадекватной логикой, оказываются бессмыслицей. Немудрено, что человек уже как должное воспринимает обращение к нему компьютера, подобное тому, которое прочитал на экране дисплея программист «Ю. С. лизинг компани» в Сан-Франциско (США). После нескольких непристойных советов относительно того, как следовало бы поступить с программным обеспечением, компьютер выдал следующий текст: «Призрак-крэкер, системный взломщик — бьет еще раз… Скоро я сотру все диски памяти и взломаю дублирующую систему. С основной системой я уже покончил!!! Вот потеха наступит, когда будешь пытаться восстановить ее, ты… (грязное ругательство.—Ю.Б.)»39.
В США однажды полицейский, вытащив пистолет, всадил две пули в компьютерный терминал40. Но вряд ли стоит ограничиваться полумерами. Журнал «Тайм» завершил не лишенной иронии фразой одну из своих статей, посвященную компьютерным преступлениям:
1 Упоминаемый случай, известный среди специалистов как «Cookie monster program» («Программа монстра-сладкоежки»), действительно имел место на главном компьютере Массачусетского технологического института в США. См.: Hearings before the Subcommittee on transportation, aviation and materials of the Committee on science and technology US House of representatives. 98th Congress, first session. September 26, October 17, 24, 1983 [N 46]. Wash.: US Government printing office, 1984. P. 48. (Далее: Hearings STAM).
2 Труд. 1985. 30 июня.
3Уэстлейк Д. Победитель // Лалангамена. М., 1985 С. 287
4 Undercurrents (англ.) — подводные течения. Цитируемый заголовок см.: Undercurrents 1974 №7
5 Phreak (сокр. от phonefreak, позднее phone phreak) (англ) — телефонный маньяк.
6 Esquire. 1971. Oct.
7 Captain Crunch. Подробнее его историю см.: Parker D.В.Fighting computer crime. N. Y., 1983. P. 170-181.
8 Ibid. P. 172.
9 Ramparts.
10Norman A.R.D. Computer insecurity. L.; N. Y., 1983. P 133
11 Ibid. P. 139-140.
12 Ibid. P. 72-73, 108-109.
13 New York Times. 1983. Sept. 8.
14 Ibid.
15 Ibid.
16 Hearings STAM. Р. 5.
17 Newsweek. 1983. Sept. 5. P. 39.
18 Hearings STAM. P. 27.
19 Hearings before the Subcommittee on oversight of government management of the Committee on governmental affairs United States Senate. 98th Congress, first session. October 25-26, 1983. Wash.: US. Government printing office, 1983. P. 27.
20 Newsweek. 1983. Sept. 5. P. 39.
21 Los Angeles Times. 1981. Dec. 6.
22 Hearings STAM. P. 10-11.
23 New York Times. 1983. Sept. 8. Эта норма основывается на тезисе о том, что компьютер — всего лишь инструмент, а потому нейтрален. Такой взгляд разделяют не все. X. Озбекхан, американский кибернетик, утверждает: «В действительности компьютер не нейтрален, а статус инструмента не гарантирует нейтральности. Даже в пещерные времена топор был далек от нейтральности. Одно из многих его применений состояло в том, что с его помощью можно было убить другого человека значительно успешнее, нежели до изобретения этого инструмента. Короче говоря, инструмент никогда не бывает этически нейтральным» (Man and computer: Proc. int. conf., Bordeaux, 1970. Basel, 1972. P. 263).
24Turkle S. The second self: Computer and human spirit. N. Y., 1984.
25Norman A.R.D. Ор. cit. P. 221.
26Parker D.В. Ор. cit. P. 134-136.
27Knowles R., Joseph M. How to rob banks without violence. L., 1972.
28Farr R. The electronic criminals. N. Y., 1975. P. 7-8.
29 Panorama. 1986. Feb. 2.
30 Pacific News Service. 1984. Oct.
31 Ibid.
32 Japan Times Weekly. 1981. Dec. 26.
33Norman A.R.D. Ор. cit. P. 76-77, 99, 106.
34 CLODO — Comite Liquidant ou Detournant des Ordinateurs (Комитет по ликвидации или разрушению компьютеров).
35Parker D.В. Ор. cit. P. 256; Norman A.R.D. Ор. cit. P. 229- 231.
36 За рубежом. 1986. №39. С. 24.
37 Известия. 1985. 7 дек.
38Фриш М. Человек появляется в эпоху голоцена // Иностр. лит. 1981. №1. С. 122.
39 Los Angeles Times. 1983. May 25.
40Simons G. Silicon shock. P. 7, 28.
41 Time. 1977. Aug. 8. P. 53.
Грань пятая: КОМПЬЮТЕРНАЯ ВОЙНА
Коль скоро компьютерный «выстрел» запрограммирован, не начнут ли придумывать что-нибудь подобное военные — так сказать, профессиональные любители пострелять? «Что-нибудь подобное» — такое выражение может даже обидеть представителей вооруженных сил. По сравнению с их разработками достижения гражданского сектора бледнеют и выглядят столь же примитивными, как «телефон» из веревки и двух консервных банок рядом с современным видеотерминалом.
С тех пор как в 1946 г. была создана первая ЭВМ — «ЭНИАК», использовавшаяся тогда исключительно в военных целях, влияние компьютерной техники на развитие вооружений и военной стратегии постоянно увеличивалось. Но сегодня компьютеризация всей военной сферы уже достигла такого уровня, что стала серьезным дестабилизирующим фактором: компьютер «сам» или «с посторонней помощью» может вызвать военный конфликт любого масштаба вплоть до случайной ядерной войны.
Судьбу человечества решит компьютер?
Артур Кларк, автор известного романа «2001: космическая одиссея», сказал, что сегодня войны могут начинаться не в умах людей, а в электронных цепях компьютеров. А вот мнение Фридриха Дюрренматта:
«Я много беседовал об этом с американцами. Программа „звездных войн” не нужна, она бесполезна, ибо бессмысленна по своей сути… Трагедия может произойти в минуты, а в XXI веке даже в секунды… Мы вступаем в эру новой технологической революции, где всеобщим богом, которому, подчеркну, поклоняются и военные, становится компьютер. Ошибка компьютера — представьте себе такую гипотетическую ситуацию — и боевое дежурство ракет заканчивается бессмысленной бойней, гибелью человеческой цивилизации. Каковы они, шансы мира, в этом лабиринте новой техники?»1.
Обыденные представления о технической стороне «стратегической оборонной инициативы» (СОИ) сосредоточены на лазерах, пучковом оружии и тому подобных экстравагантных технических средствах. Сравнительно мало обращается внимания на то, что вся система должна будет функционировать полностью автоматически, под контролем сети компьютерных программ. «Создалось бы положение, когда принципиально важные, необратимые по своим возможным последствиям решения принимались по сути дела электронными машинами, без участия человеческого разума, политической воли, без учета критериев морали и нравственности, — отметил М. С. Горбачев. — Такое развитие событий могло бы привести к всеобщей катастрофе — даже если его изначальным импульсом послужат ошибка, просчет, технический сбой крайне сложных компьютерных систем»2.
В самом деле, поскольку система «звездных войн» должна будет прореагировать за считанные секунды, не будет времени даже для того, чтобы «разбудить президента», как выразилось одно должностное лицо Организации по осуществлению СОИ3. Компьютеры, связанные с орбитальными датчиками, должны будут провести различие между тысячами боеголовок и других средств и десятками тысяч приманок. Компьютеры должны будут рассчитать траектории всех предметов в пределах так называемого «облака угрозы» (по некоторым оценкам, информация будет поступать о 300 тыс. объектов)4. Компьютеры должны будут выбрать подходящую стратегию, определив наиболее важные цели. Компьютеры должны будут нацелить оружие, проверить, уничтожены ли ракеты и боеголовки противника. И все это необходимо сделать, по американским расчетам, за 100-300 секунд. За это время компьютеры СОИ должны будут принять решения, которые в условиях обычной войны принимались множеством специалистов по разведке, боевых командиров, генералов, комитетом начальников штабов и главнокомандующим в течение недель и даже месяцев.
«Люди, судя по всему, просто не понимают, что проблемы компьютерных программ отличаются от большинства других технических проблем. Существуют фундаментальные причины, почему программное обеспечение невозможно сделать достаточно надежным, чтобы можно было не сомневаться в том, что система „звездных войн” действительно сработает», — сказал Дэвид Парнас, крупнейший авторитет по крупномасштабному программированию