Машина или человек?

13 лет потребовалось программистам Владимиру Веселову, Евгению Демченко и Сергею Уласеню на создание программы искусственного интеллекта (ИИ), настолько успешно имитирующей человека, что ей удалось преодолеть тест Тьюринга. Британский математик-дешифровальщик Алан Тьюринг получил известность во время Второй мировой войны, когда ему удалось взломать сверхсекретный германский шифр «Энигма».

Скрытая личность одесского тинейджера

Экспертам Лондонского королевского общества и Школы системной инженерии британского Университета Ридинга предложили оценить пять «скрытых личностей», среди которых могли скрываться как реальные люди, так и суперпрограммы ИИ. Испытание представляло собой серию пятиминутных диалогов между экспертами и человеком/программой ИИ. Тестирование c результатом 33% выиграла программа «Евгений Густман» Веселова − Демченко, что стало своеобразной исторической вехой на пути развития ИИ.

Между тем Веселов и Демченко считают, что если обычному человеку, а не подготовленному эксперту, предложить пять минут беседы с их программой, то очень немногие почувствуют подвох. Подавляющее большинство будут уверены, что общаются с реальным Женей Густманом, 13-летним «продвинутым» тинейджером из Одессы, большим любителем шоколадных сладостей и чизбургеров, сыном доктора, мечтающим о врачебной карьере и обожающим компьютерные игры высокого уровня.

Загадочный Евгений Густман – тинэйджер из Одессы

Веселов и Демченко начали писать свою программу еще в 2001 году с помощью специалистов Санкт-Петербургского государственного университета телекоммуникаций им. проф. М.А. Бонч-Бруевича.

Изначально идея состояла в том, чтобы создать «электронный образ» интеллектуально развитого подростка-всезнайки. Все последующие годы ушли на «очеловечивание» программы. В дальнейшем создатели планируют сделать свое детище значительно умнее, в полном соответствии с взрослением Жени Густмана и улучшением его «логики общения».

Охотники за андроидами

Научно-художественное описание будущих тестов Тьюринга можно встретить в блестящем произведении известного писателя-фантаста Филипа К. Дика «Бегущий по лезвию бритвы» (в оригинале «Мечтают ли андроиды об электроовцах?»), по мотивам которого был снят фильм.

В романе описывается ситуация, когда кибернетические создания внешне и внутренне становятся практически полностью неотличимы от людей, и для поиска их на Земле (где находиться им под страхом смерти воспрещено) «охотниками за андроидами» применяются разнообразные ухищрения, основанные на принципах классического теста Тьюринга. Так, главный герой, охотясь за андроидами новой модели с мозгом «Узел-6», применяет эмоциональные «эмпатические» тесты, где подозреваемые должны ответить на вопросы об их отношении к животным и человеку в различных жизненных ситуациях. В романе примером такой проверки является эмпатический тест Войта − Кампфа.

По сюжету произведения, в недалеком будущем андроидов будут использовать только на планетах-колониях, но многие из них совершают побеги и отправляются на Землю, чтобы освободиться от своего рабского положения. Роботы-андроиды в романе напоминают других фантастических созданий − кибернетических сигомов − и физически вообще неотличимы от людей.

Кибернетические создания внешне и внутренне практически полностью неотличимы от людей,

Охотники-полицейские за беглыми киберами-андроидами обязаны проводить проверки, такие как тест Войта – Кампфа, на эмпатию (сочувствие), чтобы отличить робота от человека. Этот тест измеряет мозговую активность и движение глаз в ответ на эмоционально заряженные вопросы, большинство из которых связаны с причинением вреда животным. Так как андроиды не способны к эмпатии, их реакция радикально отличается от реакции людей. Другой, более простой фантастический тест Бонелли определяет скорость рефлекторной реакции спинного мозга.

Конечно, далеко не каждый специалист по искусственному интеллекту разделяет такие крайние идеи данного научно-фантастического произведения и точку зрения его автора. Более осторожный подход заключается в том, чтобы рассматривать компьютерные модели как полезное средство для изучения разума. Подобные взгляды часто суммируются следующим образом: разум по отношению к мозгу − это то же, что и программа по отношению к аппаратуре компьютера. Однако если взять, например, какой-нибудь незнакомый язык, то текст будет восприниматься как набор бессмысленных символов. Допустим, есть набор таких символов и сборник правил для их сочетаний. Причем правила эти можно применять, зная лишь форму символов. Тогда понимать значение символов совсем необязательно.

Смысл этого мысленного эксперимента состоит в том, что никакой компьютер не может понять смысл языка общения. Цифровые компьютеры просто манипулируют формальными символами согласно правилам, зафиксированным в программе. Получается, что умения манипулировать символами еще недостаточно, чтобы гарантировать знание, восприятие и понимание, т.е. первичные признаки мышления. И поскольку компьютеры − это устройства, манипулирующие символами по определенной программе, то нельзя говорить о наличии у них какого-либо знания.

Электронный мозг и эффект Флинна

В конце прошлого века был открыт интересный психологический эффект, названный в честь американского ученого Джеймса Флинна. Оказалось, что у нас гораздо больше шансов разгадать очень старый кроссворд или чайнворд, даже содержащий полузабытые понятия, чем у современников этих своеобразных тестов на умственное развитие.

Эффект Флинна позволяет с оптимизмом смотреть в будущее, хотя компьютерные шахматные программы давно уже обыгрывают чемпионов мира. Правда, и сами эти программы пока еще создает исключительно человек.

Джеймс Флинн открыл интересный психологический эффект

Между тем скептики, в число которых входят многие видные кибернетики, считают, что эффект Флинна уже мало чем поможет в интеллектуальной гонке с машинным разумом, поскольку создание полноценного искусственного интеллекта является делом нескольких десятилетий. Тут стоит вспомнить многочисленные прогнозы середины прошлого столетия, которые уже давно поместили нас в развитое кибернетическое сообщество «думающих» роботов. В настоящее время, однако, обнаружилось, что как научные, так и технические поиски столкнулись с несоизмеримо более серьезными трудностями, чем представлялось первым энтузиастам. На первых порах многие пионеры искусственного интеллекта верили, что через какой-нибудь десяток лет машины обретут высочайшие человеческие таланты. Предполагалось, что, преодолев период «электронного детства» и буквально впитав в себя все доступные знания, хитроумные компьютеры благодаря быстродействию, точности и безотказной памяти постепенно превзойдут своих создателей-людей.

Сегодня наука об искусственном интеллекте является одной из самых быстроразвивающихся кибернетических дисциплин. Как и у всякой сравнительно молодой отрасли знаний, здесь существует много сложных проблем. Среди них выделяется «задача программистов» − как представить машине человеческие знания для последующего ввода в память интеллектуальной системы. Причем мы должны так научить кибернетическую систему, чтобы знания из самых различных областей в дальнейшем использовались при решении разнообразных задач. На этом пути очень важно понять, как смоделировать человеческие рассуждения и изучить различные схемы умозаключений, используемых в процессе решения, а в конечном счете создать эффективные программы для реализации этих схем в вычислительных машинах.

Мозг-компьютер 

После прохождения машиной очередного уровня теста Тьюринга между кибернетиками вспыхивает дискуссия о том, каким же будет следующий шаг в развитии ИИ и по какому магистральному пути станет развиваться сама кибернетическая наука. Чаще всего речь идет о двух основополагающих направлениях – нейрокибернетике и эвристическом программном обеспечении, более известном как кибернетика «черного ящика». Эти направления долгое время развивались практически независимо друг от друга, существенно различаясь как методами исследования, так и технологиями создания ИИ. И только в последнее время стали появляться работы, в которых нейрокомпьютерное программное обеспечение включает специальные эвристические алгоритмы, способные пройти тесты Тьюринга самого высокого уровня.

Британский математик-дешифровальщик Алан Тьюринг

Все новые подходы в создании ИИ основаны на очень простом принципе: совершенно не важно, как именно устроено «мыслящее» устройство. Главное, чтобы на слова собеседника оно реагировало так же, как и человеческий мозг. При этом часто высказывается точка зрения, что человек не должен слепо копировать природу и строить искусственный «биомозг». Ведь природа не создала прообраза колеса. пропеллера самолета или корабельного винта.

Между тем совершенно иное значение обретает тест Тьюринга в военной науке. Военные кибернетики развивают ИИ сразу по нескольким направлениям. Это и классический софт, с которым работали «отцы» Жени Густмана, и специальное программное обеспечение, способное по нескольким признакам отличить «своего» от «чужого». При этом вполне вероятно, что в некоторых сверхсекретных электронных центрах Пентагона уже очень внимательно присматриваются к достижениям виртуального подростка из далекой Одессы.

Может быть блестящая программа Веселова − Демченко показывает картину будущего противостояния интеллектов. Судя по всему, человечеству когда-нибудь все же придется сразиться с новой расой киборгов, и движущей силой конфликта станет сбой сверхразвитых нейрокомпьютеров, просто смоделировавших немотивированную человеческую агрессивность.

Кто может победить в подобном кибернетическом Армагеддоне с участием очень далеких потомков Жени Густмана? Вполне возможно, никто! Просто на смену человечеству придет совершенно новая мыслящая формация, основанная, скажем, на принципах квантового разума, воплощаемого сегодня в квантовых компьютерах. И тогда тестирование «по Тьюрингу» потеряет всякий смысл.

Олег РЕСТОВИЧ

tainy.info