ЧЁРНЫЙ ЯЩИК

На протяжении нескольких лет известный изобретатель Фостер занимался исследованиями и экспериментами в области искусственного интеллекта. Как и многие другие, он считал это направление научных исследований очень перспективным. Ему казалось, что он сможет принести ощутимую пользу обществу, если ему удастся осуществить задуманное.
Торн, знакомый Фостера, также занимался исследованиями, но в другой области. Его больше интересовали гуманитарные науки: социология, психология, философия. В частности, он изучал вопрос влияния технического прогресса на жизнь отдельно взятого человека и общества в целом.
В общем-то, у двух этих людей было не так много общего. Они не были похожи внешне, у них были разные интересы и разные взгляды на жизнь. Но у обоих была одна общая черта, которая их объединяла – пристрастие к абстрактным философским рассуждениям. Они могли часами рассуждать о таких вещах, о которых другие никогда бы не задумались, или решать логические задачи, которые на первый взгляд вообще не имели решения. Иногда они в своих рассуждениях заходили так далеко, что уже не могли вспомнить, с чего начинался разговор.
Однажды вечером Торн проезжал на своём автомобиле мимо дома изобретателя и решил зайти к нему в гости, чтобы узнать, как у него идут дела. Торн подъехал к дому Фостера. Двухэтажный дом на окраине города, в котором жил изобретатель, почти ничем не отличался от соседних домов. Торн вышел из машины, подошёл к входной двери и постучал. Примерно через минуту Фостер открыл дверь. Торн и Фостер поприветствовали друг друга и вошли в дом.
- Я очень рад тебя видеть, - гостеприимно произнёс Фостер, - Проходи, присаживайся.
Они прошли в комнату для гостей; эта комната находилась на первом этаже. Торн уселся в одном из двух кресел, стоявших друг напротив друга. Фостер занял место в другом кресле, после чего спросил:
- Итак, с какой целью ты пришёл ко мне?
- Я просто проезжал мимо и решил зайти, чтобы узнать, как у тебя дела, - сказал Торн, устраиваясь поудобнее в кресле. - Изобрёл ли ты что-нибудь новое?
- Дела у меня идут неплохо. Я уже говорил тебе когда-то, что хочу сконструировать аппарат, который представляет собой аналог человеческого мозга, - ответил Фостер, - Так вот, мне удалось добиться неплохих результатов. Я мог бы гордиться этим, хотя, в сущности, мои заслуги не так уж велики, ведь я не изобрёл ничего принципиально нового. Я лишь сделал следующий шаг в этом направлении, обобщив результаты работы моих предшественников. Многие технические вопросы уже были решены раньше. Например, мне не пришлось ломать голову над вопросом "запоминания" информации. В отличие от человека, устройство может "усвоить" очень большой объем информации за считанные секунды.
- Однако, насколько я понимаю, этого недостаточно... Нужно же ещё иметь какой-то источник знаний, чтобы откуда-то получать новую информацию, не так ли? Например, человек получает информацию об окружающем мире с помощью органов чувств, из книг и из других источников. Как же будет получать новую информацию механическое устройство?
- На самом деле здесь всё просто. Видеокамера, микрофон, датчики движения заменяют моему устройству органы чувств. Часть данных поступает из глобальной сети в режиме реального времени. Поступающая информация постоянно обновляется, обрабатывается, преобразуется. Также можно наладить обмен информацией между устройствами. Одно устройство сможет "узнать", что в данный момент "видит" другое устройство. Можно даже сказать, что это своего рода телепатия... Кстати говоря, в этом будет заключаться ещё одно преимущество электронного мозга, поскольку люди пока не обладают способностью читать мысли других людей. Так что, как видишь, перед нами открываются совершенно новые возможности...
Смелые заявления изобретателя очень удивили Торна и заставили его всерьёз задуматься над тем, что было сказано. Разумеется, Торн имел представление об уровне современных технологий, но он никогда раньше не задумывался о том, как далеко может шагнуть технический прогресс и к чему может привести в конечном итоге повсеместное распространение новых технологий. Больше всего его поразила уверенность Фостера, рассуждавшего так спокойно и невозмутимо, как будто речь шла о чём-то очевидном.
Впрочем, подумал Торн, скорее всего, для Фостера всё, о чём он говорит, действительно очевидно. Когда человек много лет подряд занимается решением какой-то проблемы, некоторые вопросы и термины начинают ему казаться очень простыми и привычными, поэтому он редко задумывается о том, насколько хорошо разбираются в этих вопросах и терминах другие люди. Торн знал об этом по собственному опыту.
После небольшой паузы Торн произнёс задумчиво:
- Ну хорошо. Допустим, что у нас в наличии имеется вся информация, необходимая для решения поставленной задачи. А что дальше? Каким образом полученная информация обрабатывается?
- Как бы тебе объяснить... Ты когда-нибудь слышал термин "чёрный ящик"?
- Я знаю только, что устройства, используемые для записи переговоров экипажей самолётов, называются "чёрными ящиками"...
- Нет, я совсем другое имел в виду, - улыбнувшись, сказал Фостер. - Термин "чёрный ящик" часто встречается в научной литературе. "Чёрным ящиком" может считаться любая сложная система, принцип работы которой неизвестен или не до конца изучен. У "чёрного ящика" есть "входы" – исходная информация, и "выходы" – результаты работы системы. Между "входом" и "выходом" находится область нашего неведения. Давай-ка я лучше нарисую это на бумаге, чтобы было понятнее...
Он взял лист бумаги и начал рисовать карандашом какую-то схему. В центре он нарисовал квадрат, внутри квадрата написал "чёрный ящик"; слева изобразил стрелку с надписью "вход", направленную в сторону квадрата. Ещё одна стрелка с надписью "выход" исходила из квадрата с правой стороны.
Фостер продолжил:
- Примерно так это выглядит, хотя возможны разные варианты... В качестве "входов" и "выходов" может выступать любая информация: числа, текст, изображения, звуки. В общем, что угодно. В качестве "чёрного ящика" можно рассматривать не только устройства, но и обычные предметы. Человеческий мозг тоже можно рассматривать в качестве "чёрного ящика". В данном случае "входами" будут сведения, получаемые человеком и хранящиеся в его памяти. "Выходами" будут являться результаты умственной деятельности. При этом в большинстве случаев остаётся только догадываться, как проходит мыслительный процесс. Поэтому человеческий мозг можно рассматривать в качестве "чёрного ящика". То же самое можно сказать про многие вещи и явления. С философской точки зрения любой предмет, даже самый простой, в какой-то степени является "чёрным ящиком"...
- Почему?
- Потому что предмет перестаёт быть "чёрным ящиком" и становится "белым ящиком" только тогда, когда о нём всё известно, а так бывает крайне редко. Наши знания почти всегда являются обрывочными, неполными, неточными. В повседневной жизни мы постоянно имеем дело с "чёрными ящиками", хотя и не подозреваем об этом. Мы можем с уверенностью говорить только о некоторых свойствах вещей: о цвете, форме, материале, из которого сделана вещь. При этом о внутреннем строении мы не знаем ничего или почти ничего, поскольку любой предмет имеет чрезвычайно сложную структуру, так как состоит из молекул и атомов. Для того, чтобы обладать полной информацией о предмете, нужно иметь представление не только о всех элементарных частицах, из которых состоит предмет, но также об их координатах в пространстве в каждый момент времени. Впрочем, и этого мало... Невозможно даже составить полный список характеристик любого предмета, следовательно, нельзя обладать полной информацией об исследуемом предмете.
- Для чего же нужна такая информация? - удивился Торн. - По-моему, она совершенно бесполезна... Ведь для того, чтобы пользоваться простым предметом, вовсе не обязательно знать о его химическом составе и молекулах, из которых он состоит.
- Согласен. В повседневной жизни подобная информация никому не нужна. Но если мы хотим научиться создавать сложные системы, способные самостоятельно развиваться, нам придётся разбираться, как устроены "чёрные ящики" естественного происхождения, такие как человеческий мозг.
Торна заинтересовал термин "белый ящик", упомянутый Фостером в ходе разговора. Оказалось, что под "белым ящиком" подразумевается система, алгоритм функционирования которой известен и не вызывает сомнений. В ходе беседы выяснилось также, что существуют, помимо всего прочего, ещё и "серые ящики". Торн и Фостер начали рассуждать о том, какие системы могут считаться "чёрными ящиками", какие – "белыми ящиками", а какие – "серыми ящиками". В итоге они пришли к выводу, что почти все предметы и устройства являются "серыми ящиками", то есть объектами, не до конца изученными. В конце концов они вернулись к основной теме разговора.
- Кажется, мы отвлеклись от темы разговора, - заметил Торн, - Ты можешь подробнее рассказать о своём изобретении? Что оно представляет из себя, как выглядит и как его можно использовать на практике?
- Я потом покажу тебе, как выглядит моё творение. Если же говорить о сфере применения, стоит отметить, что круг задач, поддающихся автоматизации, очень широк. Без труда решаются задачи, которые можно решить с помощью математических методов. Например, к таким задачам можно отнести игру в шахматы. При решении таких задач трудностей обычно не бывает. Сложности возникают лишь тогда, когда для решения задачи требуется творческий подход.
- Интересно... Ты хочешь сказать, что машину можно научить писать литературные произведения, сочинять музыку и рисовать картины?
- Да, безусловно, это возможно, и не только это. Вот только результаты могут быть несколько неожиданными... Если хочешь, я могу продемонстрировать тебе, как всё происходит на практике.
- Конечно, я хочу на это взглянуть. Честно говоря, пока с трудом верится в то, о чём ты говоришь.
- Я понимаю. Трудно поверить в то, с чем никогда не сталкивался, - произнёс Фостер. - Ладно, давай поднимемся на второй этаж, в мою лабораторию. Там я смогу наглядно продемонстрировать результаты моей работы.
Они поднялись по лестнице на второй этаж. Здесь находилась домашняя лаборатория Фостера, в которой он работал; здесь же он хранил инструменты, приборы и всё необходимое для работы. Лаборатория была обставлена достаточно скромно. Слева находился стол, на столе стоял компьютер и лежала внушительных размеров стопка бумаг, на которых были написаны математические формулы и результаты расчётов. У противоположной стены стоял шкаф. На нижних полках шкафа рядами выстроились разнообразные устройства и приборы; верхняя полка шкафа была предназначена для научной литературы. Ящики с инструментами были расставлены вдоль стен; на стенах висели разноцветные диаграммы, графики и чертежи.
Фостер подошёл к шкафу, открыл дверцу и достал небольшую коробку. Поставив коробку на стол, он извлёк из неё миниатюрное устройство, с легкостью умещавшееся в руке. Глядя на это устройство, сложно было представить, что в нём заложены те необыкновенные возможности и функции, о которых говорил Фостер. Ничего примечательного во внешнем виде устройства не было. Корпус был сделан из обычного белого пластика; всю лицевую сторону занимал экран, сбоку виднелись какие-то кнопки.
- Это и есть твой "чёрный ящик"? - спросил Торн, разглядывая устройство. Он ожидал, что увидит нечто необычное, и поэтому был немного разочарован.
- Да. А что ты ожидал увидеть? Ящик чёрного цвета? Или, может быть, внушительных размеров аппарат с торчащими антеннами и проводами?
- Даже не знаю, что сказать. Я просто не представлял себе, как это может выглядеть...
- Ладно, давай перейдём от слов к делу. Начнем с чего-нибудь простого. Например, с арифметики. Я так думаю, что человек, не имеющий под рукой технических приспособлений, очень долго будет в уме вычислять, сколько получится, если число восемьсот сорок семь умножить на пятьсот семьдесят девять...
Надпись "490413" появилась на экране устройства сразу после того, как Фостер закончил фразу.
- Это правильный ответ? - усомнился Торн.
- Можешь проверить на калькуляторе, если не веришь.
- Давай проверим.
Торн решил тот же пример с помощью калькулятора и убедился, что ответ совпадает. После этого он спросил:
- И что же, устройство никогда не ошибается?
- Иногда ошибается. Ошибка может произойти, если говорить неразборчиво. Не будем на этом останавливаться, поскольку это слишком просто. Не стоит тратить время на такие пустяки. Предлагаю перейти к чему-нибудь более сложному.
- А какие ещё есть функции?
- Разные. Можем попробовать запустить процесс создания музыкального произведения. Не знаю, получится или нет... - сказал Фостер и произвёл какие-то манипуляции с устройством.
Помещение наполнилось странными звуками, источником которых являлось устройство. Никогда в жизни Торн не слышал ничего подобного. Сначала послышалось какое-то дребезжание, сопровождаемое скрипом. Потом стали раздаваться глухие удары, следовавшие один за другим через равные промежутки времени. К этим звукам добавились нарастающий гул, металлический звон и свист. Всё вместе это звучало хаотично и сумбурно. Звуки становились то громче, то тише, неожиданно менялись громкость, темп и тональность. Так продолжалось несколько минут. Наконец наступила тишина, которую нарушал только приглушённый шум автомобилей, доносившийся с улицы.
- Что это было? - растерянно спросил Торн.
- Музыка! - усмехнулся Фостер.
- Музыка?! Этот шум ты называешь музыкой? Не понимаю, как такое вообще можно слушать! - воскликнул Торн. - Признаюсь, у меня было желание заткнуть уши, чтобы не слышать этих ужасных звуков.
- Знаю, звучит немного необычно. Между прочим, я предупреждал тебя, что результат может оказаться неожиданным.
- Действительно, я такого не ожидал. У меня до сих пор в ушах звенит!
- Конечно, сначала такой вид искусства может показаться несколько странным. Со временем можно привыкнуть к такому звучанию. Тем более, что я ещё не завершил работу. Эта функция требует доработки... Нужно будет ещё поэкспериментировать с настройками...
Торн ничего не ответил. В голове у него царил хаос; разные бессвязные мысли, не успев принять форму слов, вылетали из головы. Новая информация, которую он получил, никак не укладывалась у него в голове. Он подошёл к окну и какое-то время молча наблюдал за тем, что происходит внизу. Глядя на машины, проезжавшие мимо дома, и на людей, идущих по своим делам, Торн подумал: "Интересно, какой была бы реакция этих людей, если бы они узнали то, что сегодня узнал я?".
Наконец он решил прервать затянувшуюся паузу и, собравшись с мыслями, спросил у Фостера:
- Послушай, ты уверен, что результаты твоей работы принесут пользу обществу?
- Я надеюсь на это. А почему ты спрашиваешь? У тебя возникли какие-то сомнения по этому поводу?
- Да, сегодня у меня появились сомнения, особенно после того, как я послушал концерт в исполнении твоего устройства. Не знаю, как сформулировать... Мне почему-то кажется, что ты можешь зайти слишком далеко в своём стремлении создать совершенный аппарат, который бы всё делал за нас. Как будто мы сами не можем решать математические задачи и сочинять музыку... Я просто не знаю, к чему мы придём в конечном итоге, если будем изобретать всё более изощрённые технические средства каждый раз, когда у нас появится в этом потребность...
- Я тоже не знаю, какие изменения, связанные с появлением новых технологий, произойдут в будущем. Предсказать что-либо сейчас очень сложно... Возможно, я своими действиями принесу людям не пользу, а вред. Но я не намерен останавливаться на достигнутом. Даже если я сейчас прекращу работу, это ничего не изменит. Найдутся другие люди, которые продолжат работу в этом направлении. Ведь я не изобретал ничего принципиально нового. Прекратить работу сейчас – значит снять с себя ответственность и переложить её на кого-то другого. Это было бы неправильно...
- И ты будешь продолжать свою работу, не имея представления о том, какими могут быть последствия?
- Да, я должен закончить начатое.
- Ну что же, в таком случае желаю тебе успехов, - Торн посмотрел на часы, - Я пойду, пожалуй. Мне нужно всё обдумать... Я ещё загляну к тебе когда-нибудь, если не возражаешь. Всё-таки интересно будет узнать, что у тебя получится в конечном итоге.
- Конечно, заходи, когда у тебя будет свободное время.
Попрощавшись с Фостером, Торн вышел на улицу и направился к своему автомобилю, размышляя о том, что он узнал сегодня. Этот вечер и состоявшийся разговор надолго остались в его памяти.