Клод Элвуд Шеннон
(Проблемы передачи информации, том 37, вып.2, 2001)

Клод Элвуд Шеннон
"В наш век возрастающей дифференциации человеческих знаний Клод Шеннон является исключительным примером соединения глубины отвлеченной математической мысли с широким и в то же время совершенно конкретным пониманием больших проблем техники. Его в равной мере можно считать одним из первых математиков и одним из первых инженеров последних десятилетий... Значение работ Шеннона для чистой математики не сразу было достаточно оценено" - так писал А.Н.Колмогоров в своем предисловии к книге К.Шеннона "Работы по теории информации и кибернетике", вышедшей в 1963 году в СССР. Благодаря авторитету и вкладу самого Колмогорова в развитие необычайного богатства идей, данных в работах Шеннона, нигде в мире его работы не были столь популярны в математической среде в пятидесятые годы прошлого века, как среди советских математиков. С популяризацией идей теории информации А.Н.Колмогоров выступил на Общем собрании АН СССР в 1956 году: "Во всяком крупном открытии имеются элементы неожиданности. Этим крупное открытие и отличается от постепенно накапливаемых результатов текущей научной работы. Подчеркну здесь, в чем я усматриваю то качественно новое и неожиданное, что содержится уже в элементарной части теории информации.

1. По первоначальному замыслу "информация" не есть скалярная величина. Различные виды информации могут быть чрезвычайно разнообразны. Можно было заранее ожидать, что можно предложить те или иные способы измерять "количество" информации, но было неясно, существует ли среди этих способов какой-либо один, имеющий принципиальное преимущество перед другими, а главное было совершенно неясно, можно ли качественно различные информации, для которых та или иная условная количественная мера одинакова, действительно считать эквивалентными в смысле трудности их передачи через каналы связи или их хранения в запоминающих устройствах. Оказалось, что такая "правильная" по преимуществу мера количества информации существует и позволяет до конца решать широкий класс задач, в которых априори независимость решения от более тонких качественных особенностей информации была совершенно неясна.

2. В случае каналов связи (или запоминающих устройств), работающих с ошибками, можно было опасаться, что достижение передачи с достаточно малой вероятностью ошибки связано с очень большим уменьшением скорости передачи. Вопреки этим опасениям оказалось, что при условии "энтропия источника меньше пропускной способности канала" сразу становится возможной передача информации со сколь угодно малой вероятностью ошибки".

Сам К.Шеннон в том же 1956 году публикует небольшую заметку "Бандвагон", в которой он совмещает изложение общих перспектив развития теории информации с авторитетным разъяснением границ ее приложимости. Типичный для Шеннона скромный и деловой подход к достижениям в этой области увлекает читателя и доставляет ему наслаждение, и публикация этой замечательной заметки в журнале "Проблемы передачи информации" явится лучшим свидетельством нашего глубокого уважения и почтения к памяти великого Клода Элвуда Шеннона.

      Редколлегия журнала  

Краткая биографическая справка

Клод Элвуд Шеннон родился в Петоски, штат Мичиган, 30 апреля 1916 года. Первые шестнадцать лет жизни он провел в Гэйлорде, штат Мичиган, где окончил школу в 1932 году. После получения степени бакалавра по математике и электротехнике в Мичиганском университете в 1936 году он начал исследовательскую работу в отделе электротехники Массачусетского технологического института. Его первая опубликованная работа "Символический анализ релейных и переключательных схем" являлась рефератом диссертации на соискание степени магистра по электротехнике. Эта диссертация была признана одной из наиболее выдающихся магистерских диссертаций, "вехой на пути проектирования цифровых схем от искусства к науке". Сама защита, как и одновременная защита докторской диссертации по математике, состоялась лишь через два года в 1940 году; задержка была вызвана недостаточным знанием Шенноном французского и немецкого языков - необходимым условием при защите диссертаций.

Академический 1940-1941 год Клод Шеннон провел в Институте высших исследований в Принстоне под руководством Германа Вейля, и именно в это время он начал всерьез развивать идеи, относящиеся к теории информации и эффективным коммуникационным системам. Пятнадцать следующих лет он работал в лабораториях Белла, и именно этот период его творчества был необыкновенно плодотворным: им были написаны замечательные работы по схемам из функциональных элементов - "Синтез двухполюсных переключательных схем" и "Надежные схемы из ненадежных реле"; были заложены основы теоретической криптографии в статье "Теория связи в секретных системах", все более популярной в последнее время в связи с необычайной актуальностью задач защиты информации; наконец, была написана работа "Математическая теория связи", заслуженно принесшая ему мировую известность и славу. С 1956 года до выхода на пенсию Шеннон был профессором Массачусетского технологического института.

Менее известным является увлечение Шеннона разработкой принципов компьютерных программ для игры в шахматы. Сам Шеннон понимал, что "эта задача, не имея, возможно, практической ценности, представляет теоретический интерес", ибо компьютеры в середине века были слишком слабы для успешной игры в шахматы. Посетив в 1965 году СССР по приглашению Общества имени А.С.Попова, он встретился с чемпионом мира по шахматам Михаилом Ботвинником, который также был электротехником и интересовался шахматным программированием. Шеннон вспоминал дискуссию с Ботвинником как очень интересную, но несколько "зашумленную", так как переводчики плохо разбирались как в шахматах, так и в компьютерах. После дискуссии Шеннон попросил Ботвинника сыграть с ним в шахматы и по ходу игры даже имел небольшое преимущество (ладью за коня и пешку), но все же проиграл на 42-м ходу. В 1980 году он был приглашен как почетный гость на Шахматный компьютерный чемпионат, проходивший в Линце (Австрия).

Еще одной сферой приложения интересов Шеннона являлась игра в рулетку. Совместно с Эдвардом Торпом, также профессором Массачусетского технологического института, Шеннон создал аналоговое вычислительное устройство (размером с пачку сигарет, управляемое четырьмя кнопками для ввода информации о скорости вращения колеса рулетки), которое помогало игроку "правильно" делать ставку. По утверждению Торпа, это устройство было испытано ими в 1961 году в казино Лас-Вегаса, обеспечив выигрыш в 44%.

Выдающийся инженерный талант Шеннона проявлялся в создании всевозможных машин и механизмов, среди которых механическая мышь "Тезей", решающая лабиринтную задачу, вычислительная машина с операциями над римскими цифрами, одноколесный велосипед с двумя седлами, складной нож с сотней лезвий, абсолютная машина и т.п. Приведем описание абсолютной машины, данное Артуром Кларком: "Ничего не может быть проще. Это просто маленький деревянный ящичек размером с пачку сигарет и с единственным тумблером на одной из сторон. Когда вы включаете тумблер, раздается сердитое нарочитое гудение. Крышка медленно поднимается и из-под нее выдвигается рука. Рука движется вниз, выключает тумблер и возвращается в ящичек. С эффектом закрывающегося гроба крышка захлопывается, гудение прекращается и воцаряется тишина. Психологический эффект, если вы не знаете, что вас ожидает, опустошающий. Есть что-то неслыханно зловещее в машине, которая не делает ничего - абсолютно ничего, кроме того, что сама себя выключает". Сам Шеннон говорил: "Я всегда следовал собственным интересам, не придавая особого значения финансовой стороне дела или полезности для общества. Я потратил много времени на совершенно бесполезные вещи".

Научная деятельность Шеннона отмечена большим количеством разнообразных престижных премий. Среди них выделим одну, присужденную Шеннону в 1973 году Международным обществом инженеров по электротехнике и электронике. С тех пор эта премия носит имя Клода Шеннона и является высшей наградой в области теории информации. В 1978 году эта премия была присуждена российскому ученому -сотруднику Института проблем передачи информации РАН М.С.Пинскеру.

В октябре 2000 года Клоду Шеннону был открыт памятник в Гэйлорде.

БАНДВАГОН

(Слово "бандвагон" (bandwagon) в Америке означает политическую партию, добившуюся популярности и победившую на выборах, или просто группу лиц, программа которых находит широкую поддержку населения. Слово состоит из двух частей: "band" (оркестр, джаз) и "wagon" (повозка, карета) и, возможно, связано с существовавшим обычаем, по которому победивший на выборах кандидат проезжал по городу в открытой машине с джазом. Но, кроме того, слово "band" применяется в теории связи, где оно означает полосу пропускания частот, так что в этом заглавии есть некоторая игра слов. )

За последние несколько лет теория информации превратилась в своего рода банд-вагон от науки. Появившись на свет в качестве специального метода в теории связи, она заняла выдающееся место как в популярной, так и в научной литературе. Это можно объяснить отчасти ее связью с такими модными областями науки и техники, как кибернетика, теория автоматов, теория вычислительных машин, а отчасти новизной ее тематики. В результате всего этого значение теории информации было, возможно, преувеличено и раздуто до пределов, превышающих ее реальные достижения. Ученые различных специальностей, привлеченные поднятым шумом и перспективами новых направлений исследования, используют идеи теории информации при решении своих частных задач. Так, теория информации нашла применение в биологии, психологии, лингвистике, теоретической физике, экономике, теории организации производства и во многих других областях науки и техники. Короче говоря, сейчас теория информации как модный опьяняющий напиток кружит голову всем вокруг.

Для всех, кто работает в области теории информации, такая широкая популярность несомненно приятна и стимулирует их работу, но такая популярность в то же время и настораживает. Сознавая, что теория информации является сильным средством решения проблем теории связи (и в этом отношений ее значение будет возрастать), нельзя забывать, что она не является панацеей для инженера-связиста и тем более для представителей всех других специальностей. Очень редко удается открыть одновременно несколько тайн природы одним и тем же ключом. Здание нашего несколько искусственно созданного благополучия слишком легко может рухнуть, как только в один прекрасный день окажется, что с помощью нескольких магических слов, таких как информация, энтропия, избыточность..., нельзя решить всех нерешенных проблем.

Что можно сделать, чтобы внести в сложившуюся ситуацию ноту умеренности? Во-первых, представителям различных наук следует ясно. понимать, что основные положения теории информации касаются очень специфического направления исследования, направления, которое совершенно не обязательно должно оказаться плодотворным в психологии, экономике и в других социальных науках. В самом деле, основу теории информации составляет одна из ветвей математики, т.е. строго дедуктивная система. Поэтому глубокое понимание математической стороны теории информации и ее практических приложений к вопросам общей теории связи является обязательным условием использования теории информации в других областях науки. Я лично полагаю, что многие положения теории информации могут оказаться очень полезными в этих науках; действительно, в ней уже достигнуты некоторые весьма значительные результаты. Однако поиск путей применения теории информации в других областях не сводится к тривиальному переносу терминов из одной области науки в другую. Этот поиск осуществляется в длительном процессе выдвижения новых гипотез и их экспериментальной проверки. Если, например, человек в определенной ситуации ведет себя подобно идеальному декодирующему устройству, то это является экспериментальным фактом, а не математическим выводом, и, следовательно, требуется экспериментальная проверка такого поведения на широком фоне различных ситуаций.

Во-вторых, мы должны поддерживать образцовый порядок в своем собственном доме. На понятия теории информации очень большой, даже, может быть, слишком большой спрос. Поэтому мы сейчас должны обратить особое внимание на то, чтобы исследовательская работа в нашей области велась на самом высоком научном уровне, который только возможно обеспечить. Больше исследовать и меньше демонстрировать свои достижения, повысить требовательность к себе - вот что должно быть сейчас нашим лейтмотивом. Исследователям следует публиковать результаты только своих наиболее ценных работ и то лишь после серьезной критики как со своей стороны, так и со стороны своих коллег. Лучше иметь небольшое количество первоклассных статей, чем много слабо продуманных или недоработанных публикаций, которые не принесут чести их авторам и только отнимут время у читателей. Только последовательно придерживаясь строго научной линии, мы сможем достичь реальных успехов в теории связи и укрепить свои позиции.

      Клод Шеннон, 1956 год