Умные машины: чего ожидать человечеству?

Нашествие, возглавляемое управляемыми искусственным интеллектом машинами. Умные компьютеры. Вирус в смартфоне, способный копировать поведение человека. Смешная футуристика? Ведущие исследователи искусственного интеллекта (artificial intelligence, AI) в течение нескольких последних лет достаточно изучили возможность потенциального скачка в прогрессе AI и теперь готовы дать свое заключение.

До последнего времени исследователи преимущественно занимались бесчисленными базовыми комплексными вопросами, такими как обучение машин различать обычные повседневные предметы. Человекоподобный интеллект у эволюционирующих машин рассматривался как дело далекой и абстрактной перспективы, не подлежащей серьезному обсуждению. Но недавно впервые состоялась конференция Ассоциации развития искусственного интеллекта (Association for the Advancement of Artificial Intelligence, AAAI) с участием 25 ученых, специализирующихся на AI, робототехнике, этике и юриспруденции, которые обсудили сопутствующие передовой сфере науки и техники проблемы. Мероприятие прошло в Менло-Парк, Калифорния. Вдохновение мероприятию придала прошедшая в 1975 году Азиломарская конференция по рекомбинантной ДНК в Калифорнии, где 140 биологов, физиологов и юристов рассматривали возможности и опасности получивших позже распространение технологий синтеза ДНК, не существовавшей в природе. Делегаты тогда предсказали расцвет генетической инженерии, хотя в то время практических наработок, таких как выращивание генно-модифицированных организмов, даже не существовало.

А искусственный интеллект уже проложил себе дорогу. Разнообразные роботы выступают помощниками в уборке помещений, собирают автомобили, а относительно сложные разработки, умеющие принимать решения - участвуют в комплексных действиях. Например, компания Poseidon Technologies продает AI-системы для помощи спасателям в обнаружении тонущих в бассейне людей; Clearflow от Microsoft способствует выбору водителем оптимального пути, анализируя дорожный трафик. Пока подобные системы лишь дают советы или ассистируют людям, но AAAI предупреждает о том, что не так далек тот день, когда машины продвинутся в принятии самостоятельных решений значительно дальше, пусть и в узкоспециализированных областях. Когда они станут повседневностью, преодоления каких барьеров ждать далее, какой эффект они окажут на социум? Не пора ли принять меры предосторожности?

Это лишь некоторые из многих вопросов, обсуждавшихся под председательством президента AAAI Эрика Горвица (Eric Horvitz), главного исследователя подразделения Microsoft Research. Результаты дискуссий были обнародованы 15 июля на Национальной объединенной конференции по искусственному интеллекту (International Joint Conference for Artificial Intelligence, IJCAI) в Пасадене, Калифорния. Все сошлись во мнении, что создание равного человеческому интеллекта принципиально возможно, но относительно сроков появления "умных" андроидов оценки существенно разнятся - ждать человечеству появления "прототерминаторов" осталось от 20 до 100 лет. Участник конференции Том Диттерих (Tom Dietterich) из Орегонского университета в Корвалисе (Oregon State University in Corvallis) отметил, что большинство из ведущихся сегодня работ не направлены на создание человекоподобных машин, но скорее сфокусированы на "ученых-идиотах" - системах с очень узкой специализацией, такой как математика. Была также высказана идея о неповторимости AI, когда машины по цепочке будут способны создавать с каждым шагом улучшающуюся систему. Хотя большинство ученых скептически отнеслись к экспоненциальному росту интеллекта машин в обозримом будущем, ссылаясь на малое количество проектов, в рамках которых может появиться самовоспроизводящаяся электронно-механическая сущность.

Зато в ближайшей перспективе человечество может получить вредоносное ПО, воссоздающее в цифровом формате индивидуальность человека. Поселившись в смартфоне, вирус будет незаметно анализировать текстовые сообщения, электронную почту, дневник и голосовую информацию. Затем программа сможет имитировать некоторые качества личности, производя указанные злоумышленниками действия. Уже сегодня смартфоны достаточно производительны (а запускаемое на них программное обеспечение содержит тысячи строк кода), чтобы стать относительно автономным инструментом совершения преступных действий в цифровом мире. По словам Горвица, однажды вычислительные системы перейдут грань, за которой станут настолько комплексными и непрозрачными, что мы перестанем их понимать. Как предупредить подобное развитие событий, ученые пока ответить не готовы. Единственная положительная новость - по их мнению, ожидать, что у интернета появится собственный "мозг", не стоит.