Восстание машин уже не за горами


Скоро компы научатся осознавать нас так, как понимают люди. Какие угрозы нас при всем этом подстерегают?

«Восстание машин», «Терминатор возвращается»... Куча фантастики построена на том, что компы становятся так умны, что понимают: им будет лучше без человека. Сказки? Да как поглядеть. К 2050 году обыденный домашний компьютер сумеет обрабатывать столько же инфы, сколько все люди на земле совместно взятые. Но 2050-ый - это при условии, что машины будут развиваться равномерно. А так не бывает. Наши дела с электрическим миром продвигаются рывками. Раз - к машине прикрепили мышку. Раз - появился Веб. Раз - появились телефоны с планшетами.

Последующий прорыв грядет когда компьютер сумеет осознавать людей. В телефонах уже есть приложения вроде Siri и Cortana, умеющие вести с нами обычный диалог. Но неувязка в том, чтоб компьютер осознавал, не то что мы говорим, а то, что имеем в виду! Самый обычный пример: фраза «Он от меня ушел», произнесенная заплаканной дамой и мужичной-начальником имеет совершенно различный смысл.

Итак вот: как машины обучат распознавать аспекты людской речи, с одной стороны у нас будут развязаны руки в прямом и переносном смыслах. Побеседовал с компом, и он все выполнил. С другой, не приближаемся ли мы к небезопасной черте, убирая последний барьер в разговоре людей и бездушного железа?

Об этом я издавна желал побеседовать с известным ученым, директором по лингвистическим исследованиям компании ABBYY, зав кафедрами компьютерной лингвистики в РГГУ и МФТИ Владимиром Селегеем. Но когда я выложил ему свои апокалипсические ужасы, тот нахмурился:

- Да, фантастика полна сумрачных пророчеств о том, как обученные человеком машины станут обходиться без него. Но мне неясно, почему повышение объема заложенных в программки познаний спровоцирует компьютер принимать решения, не спрашивая разрешения у человека?

По сути неувязка не в том, что компьютер научится обходиться без людей, а в том, что люди захочут обходиться без себя при решении тех либо других заморочек. Вот Чернобыль...

- А при чем здесь Чернобыль?

- Атомный реактор - сложнейшая физическая модель. Кажется, что у реактора все характеристики управления известны, всё подчиняется серьезным физическим законам, и можно стопроцентно передоверить компу принятие решений. Но...

В 1986 году, через неделю после аварии, я участвовал в семинаре по использованию способов искусственного ума в индустрии. Уже тогда было понятно - передоверяя принятие решений компу, мы серьезно рискуем. Программкам характерно содержать ошибки. Даже в спутниках случаются сбои в программном обеспечении.

- Другими словами человек надежнее компьютера, хотя тот "соображает" еще резвее?

- Человек ко всему иному обладает мотивацией. Он решает свои задачки - образование, продолжение рода, карьера, он умеет ощущать…

- Но может же какой-либо ушлый программер написать программку, которая бы учила машину злости...

- Можно попробовать сделать, к примеру, военного бота, который будет принимать решения сам, анализируя то, что он лицезреет и слышит. И это будет очень небезопасно. Но не поэтому, что у бота появится вдруг желание уничтожать, как написано у фантастов. А поэтому, что ошибка программера, неучет каких-либо причин может привести к непредсказуемому поведению бота.

Но пока мы очень далеки от умения создавать самообучающиеся программки, которые способны порождать совершенно новое познание. Грубо говоря, без помощи других перебегать от таблицы умножения к умению решать сложные уравнения.

Во 2-ой половине ХХ века были очень популярны футуристические прогнозы в области науки. Всё, что касалось ума компьютера, попало в молоко. Никто не предсказал Веба, неописуемой свободы доступа к инфы, мобильников. Но зато все гласили о мыслящих компьютерах.

Например, в конце 60-х годов 1-ая наша шахматная система КАИСА успешно выступала на чемпионате мира посреди компов. Числилось, что, для того чтоб машина обыграл человека, необходимо смоделировать методы людской игры. Заложить разум, ум, ту загадочною интуицию, которая принуждает шахматиста принимать правильные решения.

Сейчас компьютер обыгрывает человека. Но его так и не обучили интуиции. В его память загрузили млрд состоявшихся партий, весь опыт игры, все решения, которые когда-либо принимались шахматистами. И научили использовать это при выборе рационального плана игры, снабдив колоссальной скоростью перебора и оценки вариантов. Компьютер обыгрывает чемпионов мира, но не получает от этого никакого наслаждения. Все совершенно не так, как у людей.

- Но вы же один из числа тех, кто как раз учит компьютер "включать голову"!

- Мы только пытаемся обучить программки «понимать» тексты для того, чтоб они извлекали из их информацию, аккумулировали ее и обобщали. Чтоб люди получали познания отфильтрованные, избранные из млрд источников. Это очень трудно, так как человек сам не прекрасно знает, как устроена его языковая способность, на чем основано его осознание других людей.

На данный момент популярен статистический машинный перевод. Компьютер вообщем не осознает, о чем речь идет в переводимом тексте, он просто умеет отыскивать более возможные варианты перевода маленьких фрагментов (в несколько слов), анализируя большие объемы заложенных в его память переводов, изготовленных людьми. В целом выходит понятный текст. Но принимать на основании такового перевода ответственное решение было бы легкомысленно.

- Отлично, компьютер может мне аннотацию перевести?

- Аннотацию? Это небезопасно.

- Да к обычному холодильнику!..

- Даже к холодильнику! Хотелось бы, чтоб наши программки переводили, пытаясь разобраться в тексте, выбирая меж вариациями на основании познаний, а не просто поэтому, что вот это соответствие в нашей базе в большинстве случаев встречается.

- Хорошо, допустим, вы решили задачку и сделали систему, благодаря которой компы научатся осознавать аспекты нашей речи и даже точно переводить ее на другой язык. Тогда и людям угрожает новенькая опасность - мыслить уже не нужно будет. Не нужно будет тренировать память, мозг. Нужна информация - пожалуйста, «Википедия». Необходимо побеседовать с иноземцем - переводчик...

- Чем выше уровень ума и познаний человека, тем полезнее для него очередной «умный помощник». А чем ниже - тем больше возникает способностей совсем не мыслить. Компьютерные технологии приводят к поляризации общества. Грубо говоря, возникновение калькулятора не привело к вырождению математиков. Но у части школьников, разумеется, вышло понижение и без того малого уровня возможностей.

- Понимаете, для меня суровый показатель падения уровня образования - количество людей, которые пишут безграмотно либо не в состоянии выразить свои мысли и чувства без потребления мата.

- Да, люди стали писать наименее хорошо. Просто поэтому, что в целом стало меньше чтения редактируемых текстов и еще больше таких ресурсов, где орфография очень размыта. Стали ли люди от этого глупее? Наверняка, нет.

- Вы не видите связи меж тем, что человек безграмотно выражает свои мысли на родном языке, и тем, что он стал глупее?

- Я не стал бы входить так далековато. Хотя разумеется: от того, что малыши стали меньше читать, появились некие трудности с передачей познаний, культуры меж поколениями. Это неувязка. Мы сейчас лицезреем, что современный школьник с таким же уровнем оценок, что и 30 годов назад, ужаснее знает литературу.

- Вот!...

-… Но зато еще лучше знает многие другие вещи, которые никто и не подразумевал, что можно знать.

- Это естественный процесс?

- Да. Более того, в первый раз в истории населения земли познания могут передаваться не от старших к младшим, как происходило веками. Появилась передача познаний от младших к старшим, которая ранее была совершенно не характерна людской культуре. Ребенок учит папу либо маму работать на компьютере, с мобильным телефоном, является для собственных родителей источником различных познаний. А еще малыши больше ездят по миру. Очень нередко они являются источником географических, культурологических познаний.

- Слушайте, но ведь и здесь все началось с компов. Это они освободили людей даже от необходимости запоминать простые правила грамматики!

- Как раз сначала 90-х годов я работал в команде, которая разрабатывала одну из первых систем проверки орфографии российского языка. Полезно либо вредоносно было это сделать? С моей точки зрения, очень полезно. Эта система позволила резвее создавать документы. А далее все находится в зависимости от уровня ответственности человека. Кто произнес, что после машины совсем не надо делать проверку? Система только помогает делать ее еще эффективнее.

- Но мы доверяем компу!

- Это значит только то, что тот, кто делал программку, не сказал вам, что есть много явлений, которые машина не может проверить. Согласование, к примеру.

Новые технологии, как досадно бы это не звучало, нередко приводят к потере обычных способностей. Я вот делал ремонт в квартире. Желал поставить древесные окна, какие ставили ранее. Но это оказалось нереально. Все ставят стеклопакеты. Люди, как досадно бы это не звучало, перестают делать многие вещи руками. Что поделать, так жизнь устроена. К огорчению.

- Другими словами вы конформист?

- Нет. Я считаю, что совершенно вредные вещи делать нехорошо. Но когда у вас есть и выгода, и проигрыш, необходимо оценивать опасности… Если вы делаете лекарства, вы же не думаете, что в итоге его потребления выживут не только лишь отличные люди, да и нехорошие.

В нашем случае сразу с развитием технологий необходимо заниматься и обучением тех, кто ими пользуется. Нехорошие последствия новых технологий отражаются сначала на тех, кто свое дело делает не очень отлично при любом технологическом уровне.

Возьмем, к примеру, медицину. Мы желаем посодействовать медику принять решение, делаем компьютерную экспертную систему на основании анализа огромного числа надежных диагнозов, поставленных наилучшими медиками. Специалисту она дает возможность обратиться к большему, чем он сам располагает, объему познаний. Но принятие окончательного решения за ним, а не за компом! Для отвратительного доктора все по другому - он доверится тому, что не в состоянии накрепко проверить. Но в среднем с возникновением таких технологий, мне кажется, медицина становится все таки лучше, а не ужаснее.

- Отлично, уверили, что и от умственной системы осознания компом человека будет больше полезности, чем вреда. Но когда она появится?

- Это очень непростая задачка, которую сходу не решить. Необходимо научить компьютер познаниям о языке и познаниям о мире, способам вывода и сравнения значений. Что-то мы умеем делать уже на данный момент, на что-то потребуются годы. К примеру, нам необходимы надежные данные об использовании языка, с учетом личных и соц различий. А эти различия очень значительны. К примеру, мы сделали особый проект, посвященный региональным различиям в российском языке. Собрали словарь, в каком практически 10 тыщ слов, которые являются нормой для обитателей только определенных регионов нашей страны

- Мы - это кто?

- Это проект - «Языки российских городов», кооперативный, в нем участвуют спецы ABBYY, ученые-лингвисты, энтузиасты из различных мест Рф и русского зарубежья. Мы анализировали язык региональных сми, соц сетей, указов, постановлений местных властей. И это только маленькая часть тех познаний, которым необходимо научить компьютер!

- В чем принципное отличие вашего подхода к переводу от систем, которые употребляет, допустим, Гугл?

- Статистические системы не строят языковых структур. Они отыскивают переводные соответствия для маленьких фрагментов, в 5-7 слов. Но язык так устроен, что очень нередко связанные слова размещены еще далее, и, если эту связь не учесть, появляются ошибки. А ведь очень нередко в переводе важны конкретно такие детали, неучет которых может стопроцентно поменять смысл. Чтоб все учитывать, необходимо выявлять при анализе всю систему языковых связей меж словами, то что именуется структурой предложения. Мы не переводим куски предложений с языка на язык, мы пытаемся выявить смысловую структуру предложения, а позже синтезировать эту структуру средствами другого языка.

Но эти смысловые структуры употребляются не только лишь и не столько для целей машинного перевода. Они необходимы и для действенного решения задач умственного поиска и анализа инфы, которые сейчас важнее для ABBYY как коммерческой компании. К примеру, на этих разработках основаны не так давно выпущенные 1-ые решения для корпоративного рынка: они как раз позволяют находить и рассматривать данные в большом потоке инфы, которая хранится в организациях.

- А какой язык, с вашей точки зрения, труднее для осознания?

- Принято считать, что труднее те языки, в каких необходимо учить больше правил. Но в случае компьютерного осознания это не так.

То, что вызывает сложность для человека, к примеру, богатая система словоизменения в российском либо литовском языке, упрощает задачку компу на определенных стадиях анализа.

К примеру, китайский язык очень сложен, так как в нем нет никакой морфологии, а отсюда огромное количество неоднозначностей, с которой сталкивается компьютер. Потому для компьютерного анализа китайского языка очень принципиально использовать познания о мире, важнее, чем, например, при анализе языков с развитой морфологией.

Мы успели поработать с русским, германским, английским, французским, испанским, китайским языками. Языковой анализ делится на стадии. Какие-то стадии владеют специфичностью, сложностями для 1-го языка, какие-то - для другого. Но в сути технологии, с которыми мы работаем, применимы ко всем языкам.

- На ваш взор, когда настанет таковой денек, когда мы сможем наряду с нашим разговором получать на компьютере его резвый и понятный перевод. Скажем, мы на данный момент беседуем, и здесь же получаем расшифровку нашего разговора на испанском?

- Это будет может быть достаточно скоро. Не думаю, что через два года. Но… Что необходимо, чтоб решить эту задачку? Мы должны сделать лучше системы, анализирующие речь. Мы пока не можем взять спонтанный разговор, отделить его от шумов и получить подходящий текст. И в этом направлении каждый год есть прогресс.

Но все равно останутся такие вещи, которые машина не сумеет совершенно точно трактовать. И вот здесь точность осознания и перевода будет зависеть от наличия у системы познаний о мире, от устройств логического вывода.

Но в любом случае опасность полного доверия таковой программке остается. Ошибкой будет считать, что, скажем, через 5 лет вы можете надиктовать письмо компу, он его переведет, вышлет вашему деловому партнеру, и все будет отлично. Никто не гарантирует, что машина кое-где не пропустит «не» либо не допустит других ошибок, после которых ваши деловые дела можно будет считать законченными.

- Другими словами человек как контролер все равно должен быть?

- Непременно. Слепо доверять технологиям - небезопасно.


Copyright © 2018 Коипьютерный блог.