Авторы фильма «Искусственный интеллект. Опасные связи», показанного в рамках проекта телеканал «Культура» «Завтра не умрет никогда», попытались взглянуть на последние достижения в области искусственного интеллекта - от «примитивного» редактора в нашем телефоне до сложнейших искусственных нейронных сетей, чтобы узнать, насколько реальна перспектива появления «сверх-разума». Чем он будет полезен и чем грозит человечеству?
Александр Крайнов, руководитель отдела машинного обучения компании «Яндекс»: Люди уже не задумываются, что они задают в поисковую систему запросов, состоящий из одного-двух слов, с опечатками, иногда забыв поменять раскладку, да всё, что угодно. А поисковая система выдает ответ. Люди уже даже не думают как это происходит. Им кажется, что это нормально.
В девяностые годы именно производители компьютеров были безусловными лидерами в области разработок умных машин. Но с появлением глобальной сети пальму первенства перехватили крупные интернет-корпорации, начав настоящую погоню за технологиями искусственного интеллекта. А с появлением таких компаний в России с начала двухтысячных и мы участвуем в этой гонке.
Виктор Ламбурт, руководитель сервиса «Яндекс.Дзен»: Алгоритмы искусственного интеллекта известны давно. Раньше это называлось машинное обучение. Они применялись постепенно по мере развития вычислительных мощностей и применялись всё больше и больше. К примеру, технология искусственного интеллекта используется уже лет десять как в поиске. И состоит она в следующем: человек ввел запрос.и надо из миллиардов документов отобрать десятку, которая по этому запросу наиболее релевантна. Как это делается: машина смотрит на эти документы, на тексты запроса и выявляет всякие разные схожести.
Ежеминутно через сервер компании проходит огромный поток информации. Обработать, отсортировать и донести его в ту же секунду до каждого пользователя не в силах ни один человек. И тут на помощь приходит искусственный интеллект а точнее алгоритмы машинного обучения.
Александр Крайнов: Отличный пример - прогноз погоды. Наша задача - научить машину предсказывать прогноз погоды. Мы можем взять любой день в прошлом, в истории, и попробовать предсказать, какая погода должна быть в этой день в будущем , используя все те знания, которые у нас были на день до. Подобрать такую формулу , которая поможет наиболее точно, наиболее вероятно предсказывать погоду на этой неделе. Дней у нас с вами, как вы понимаете, все те, за которыми вообще ведется наблюдение в плане погоды. И используя факторы, которые у нас есть, мы можем предсказать погоду с какой-то точностью. Это вот такой простой наглядный пример машинного обучения.
Закладывая компьютер тысячи, а порой и десятки тысяч примеров, систему учат находить решения самостоятельно. Таким образом человек даёт машине возможность самой искать взаимосвязи и делать выводы.
Александр Крайнов: Я понимаю, что многие зрители могут сказать, что прогноз меня обманывает, он врёт и так далее. Но прогнозы все же точнее день ото дня. Давайте посоревнуемся с машиной и тут мы увидим, что она работает очень и очень неплохо.
Впрочем, как признает руководитель отдела машинного обучения группы компаний Rambler&Co Павел Клеменков, в первую очередь, достижения в области искусственного интеллекта компании используют для получения прибыли.
Павел Клеменков: Основной двигатель там, где применяются наиболее прогрессивные методики - это все, что касается рекламы. Именно там алгоритмы машинного обучения активно используются для того, чтобы повышать качество показываемой рекламы и делать ее максимально таргетированной и релеватной конкретному пользователю.
За иностранными понятиями «таргетированный» и «релевантный» скрывается простая вещь - реклама, рассчитанная исключительно на вас. Достаточно ввести в любой поисковой системе запрос, например, путешествие в какую-либо страну, и посмотреть результаты. Когда вы уже забыли об этом со всех сторон на вас посыпятся предложения о самых дешевых билетах, рекламы туров, путеводители, всё так или иначе связанное со словом «путешествие». Это похоже на шпионские игры, а на самом деле это и есть работа того самого искусственного интеллекта. Теперь он не просто помогает вам. Он научился разбираться в ваших пристрастиях, увлечениях. Он умеет подсказывать и советовать. А значит, управлять вашим поведением.
Виктор Ламбурт: В сервисе, которым я занимаюсь, мы используем искусственный интеллект для того чтобы для каждого человека собрать ленту контента со всего интернета, которая будет интересна именно ему.
Эволюция машинного интеллекта идет столь эволюции быстрыми темпами, что иногда складывается полное ощущение: машина научилась думать сама совсем как человек. На самом деле это не так далеко от истины: подсмотреть как работает человеческая механика и попытаться скопировать ее - именно это помогло инженером решить проблему с игрой Го. И по сравнению с шахматами это победа компьютера над человеком была уже не просто эффектная демонстрация технологии искусственного интеллекта.
В отличие от шахмат большинство ходов в игре Го диктуется простой интуицией, а подобное практически невозможно просчитать и уложить в алгоритм. Как искусственно создать интуицию или хотя бы сымитировать ее? Чтобы решить эту задачу программистам пришлось научить систему играть саму с собой в сотни и тысячи партий. То есть воссоздать то, как учится в обычной жизни человек.
Павел Клеменков: Случай с игрой в Го вообще интересная штука, потому что там использовали так называемые сети с подкреплением. Они будто бы прямо эмулируют процесс обучения человека. То есть когда человек сталкивается со средой, делает какой-то действие, допустим, случайное, получает от среды какой-то ответ, и понимает, что так можно делать или нет. И именно вот эта часть, наверное, наиболее близка к тому, что люди понимают под искусственным интеллектом.
А помогли компьютеру в победе в Го искусственные нейронные сети. Это один из самых востребованных сегодня методов машинного обучения.
Александр Логачев, директор департамента разработки аудиторных и рекламных технологий группы компаний Rambler&Co: Нейронные сети родились из того, что человек начал изучать как работает мозг, как происходит передача сигнала от нейрона к нейрону, как человек принимает решение.
Идея математической модели восприятия мозгом информации была предложена ещё в пятидесятых годах прошлого века американским ученым Фрэнком Розенблаттом. Он создал персептрон - прообраз современных нейросетей. Однако из-за слабой мощности вычислительных машин того времени интерес к персептрону быстро угас и технологию пришлось отложить больше чем на полвека. И вот конце двухтысячных и его время пришло.
Павел Клеменков: Появились достаточно производительные компьютеры, которые позволяют обучать действительно глубокие нейросети. И делать это не за годы и десятилетия, а за дни или часы.
Можете убедиться в этом сами: введите поисковый сервис запрос «нейросеть научили» - и тут же выпадут сотни, если не тысячи результатов. Компьютеры буквально на наших глазах научились рисовать, писать статьи, книги, стихи, музыку. Причём научились делать это так, что даже специалистам становится всё сложнее и сложнее определить создано это машиной или человеком.
Действительно ли машина научилась созидать? Неужели теперь она будет конкурировать с человеком в том, что еще вчера казалось исключительно его прерогативой: талантом, данным от рождения или мастерством, которое передавалось из поколения в поколение.
Виктор Ламбурт: Важно отметить, что машина, которая генерирует текст или музыку или какое-то изображение, на текущем уровне развития науки не понимает, что она генерирует. Она сгенерировала последовательность байтов. Это мы уже наполняет эту последовательность байтов семантикой, определяем, что это изображение похоже на картину Рембрандта и т. п. Машина этого не понимает. Для нее это строчка.
Александр Крайнов: Это скорее обучение машины демонстрировать какие-то возможности, которыми обладают те, кто интеллектом, безусловно, наделен.
Геннадий Осипов, профессор РАН, президент Российской Ассоциации Искусственного интеллекта (РАИ): Как я уже говорил, к интеллектуальным системам относятся системы, которые обладают способностями к обучению, рациональным рассуждением и целенаправленному или разумному поведению. Вот этих двух компонентов у них нет. А есть первые: обучаться они могут. Да, они могут обучаться Ну и слава Богу. Мы не можем смоделировать интеллект человека полностью кем бы он ни был: врачом, педагогом или уборщицей.
Не так давно компания «Microsoft» запустила в одной из социальных сетей искусственный интеллект, который обучался исключительно на записях других пользователей и на их основе делал собственные публикации. Искусственный интеллект с красивым именем Тей использовал ответ в зависимости от частоты их употребления в данной социальной сети. Всего за сутки Тей возненавидел человечество и из миролюбивого собеседника быстро превратился в откровенного расиста и ксенофоба. Эксперимент пришлось срочно прекратить.
Павел Клеменков: Хороший пример того, что помимо закономерности извлеченных из реальных данных, есть ещё какое-то человеческое представление о том, как должны эти вещи происходить, моральные устои, правила.. И именно процесс закладывания таких вещей, каких-то правил - вот это, наверное, самый сложный процесс.
Так кто же будет стоять за резко поумневшими машинами? Какой интеллект, какие моральные устои будут в нее заложены? Будут ли машины учить исключительно полезным и нужным для человечества вещам или как в научной фантастике они станут для нас угрозой? От ответов на эти вопросы зависит уже не будущее, а наше настоящее.
Илон Маск: Если мы создадим искусственный сверхинтеллект, который превзойдет нас во всём в разы, не спускайте с него глаз!
Но на самом деле бурно развивающийся искусственный интеллект не спускает глаз с нас самих. И делает это не сколько ради нашей пользы, сколько во благо крупнейших частных корпораций. Сегодня именно они активно двигают вперед технологии искусственного интеллекта и делают это благодаря невероятному количеству данных, которые есть проходят через серверы этих компаний.
Геннадий Осипов: Что такое данные? Это структурированная информация. Следующий шаг - знание.
Человек приобретает знания каждый день в течение всей жизни. Получая информацию от внешнего мира, мы анализируем ее, ищем взаимосвязи, затем используем и таким образом получаем знания. Но какие источники может использовать машина?
Геннадий Осипов: Можно извлекать знания из данных. Big Data - это как раз способы излечения знаний из данных.
XXI век ознаменовал собой конец эпохи бумажных носителей: всё стало электронным. Звонок по мобильному телефону, сообщение, ваша покупка в супермаркете и просто ваши передвижения - каждый ваш шаг оставляет за собой цифровой след. Это и есть большие данные, которые сегодня является главной пищей для искусственного интеллекта.
Анатолий Тёмкин, доктор наук, заведующий кафедры информатики Бостонского Университета (США): Понятно, что Big Data абсолютно переворачивает наше представление о мире и о нашем существовании в этом мире. Огромное количество плюсов . И совершенно гигантский минус: скажем, вы немножко заболели. Вы идете в Гугл и вводите в него все симптомы, которые у вас есть. При этом, если вы можете кому-нибудь сказать неправду относительно того, что у вас есть: врачу или семье, Гуглу вы скажете абсолютно всё. Дальше вы звоните врачу. Врач выписывает лекарство, вы идете в аптеку и платите вашей кредитной картой - вся эта информация сохраняется, соединяется и коррелируется.
Корреляция и есть возможность машины собирать информацию и самостоятельно искать в ней взаимосвязи. Именно так машины превращают информацию в знания. А размещая в интернете всё больше личных данных, мы активно им помогаем, не задумываясь о последствиях.
Анатолий Тёмкин: Человеческое «privacy” при этом у нас будет как бы отсутствовать. Это право человека на частную жизнь у нас, к сожалению, отняли и отняли у нас его навсегда.
Потеря личного пространства далеко не самая главная опасность бурного развития технологии искусственного интеллекта. Компьютеры, способные мгновенно обучаться и к тому же обучаться на наших личных данных, то есть на нашем опыте, в самом ближайшем будущем могут привести к социальному взрыву.
Виктор Ламбурт: Самая главная опасность здесь не в том, что машины нас поработят, а значит случится SkyNet, как в известном фильме с Арнольдом Шварценеггером. Главная опасность - это нарастание социального неравенства: часть населения перестанет быть востребована в будущем, потому что их будет дешевле звонить алгоритмами.
В самое ближайшее время мир изменится. И пока мы даже не можем себе представить, с чем нам придется столкнуться.
Александр Логачев: Например, в США сделали робота, который формировал в автоматическом режиме исковые заявления. И таким образом выигрывал суды.
Анатолий Тёмкин: У нас будет общество, в котором большинство людей не работает, и что ожидать от этого общества неизвестно никому и никто не может представить вообще, куда это будет развиваться. Единственное что для меня очевидно, что развитие будет совершенно отрицательное.
Виктор Ламбурт: И это прямо сейчас надо учитывать в том, как мы учим наших детей. Надо учить детей делать то, что сложно будет заменить машинами через 10 лет.
Александр Логачев: У нас поговаривают, что машины создадут новую профессию - облучатель машин.
Геннадий Осипов: Какие-то профессии исчезнут А может быть некоторые поменяют направленность. К примеру, есть психологи. А когда мы начнем говорить об интеллектуальной системе робототехнических систем, возникнут психологи, занимающиеся роботами. То есть робопсихологи.
Александр Крайнов: Мне кажется, что революционный скачок уже произошел. Все ли это осознали или нет, но он произошел. Другое дело, что многочисленные последствия этого скачка еще не наступили.
Мы еще не ощутили последствия от внедрения вчерашних технологий, как на нас лавиной обрушиваются новые. Нам кажется что мы контролируем процесс, держим руку на пульсе. Но так ли это? Ведь на пороге уже новый революционный этап: машины научились видеть, а это значит, что этот самый искусственный интеллект до сих пор прятавшийся в наших смартфонах и компьютерах, вот-вот сделает шаг в реальную жизнь
Источник: https://tvkultura.ru/
