Федор Червинский: Оставим их жить в смоделированном мире вне доступа к реальности

Инженер-исследователь Samsung AI Center Moscow об искусственном интеллекте и беспилотных автомобилях
Федор Червинский. Фото: Илья Табаченко

Идея создания суперкомпьютера, содержащего виртуальную модель реальности, населенной искусственными личностями, впервые была выдвинута в 1965 году Дэниелом Ф. Галуйе в фантастическом романе "Симулакрон-3". За почти полувековое существование она получила различные интерпретации в экранизациях – от малоизвестного "Мира на проводе" Райнера Вернера Фасбиндера до суперпопулярной "Матрицы" дуэта Вачовски.

Последний кино-опыт создания андроидов, чьи реакции, мотивации и смыслы искусно модерируются людьми из реальности, нам представил HBO в сериале "Мире Дикого Запада".

Федор Червинский, инженер-исследователь Samsung AI Center Moscow, участвующий в разработке технологий компьютерного зрения для беспилотных автомобилей, уверяет, что появление таких моделей виртуальной реальности с агентами с искусственным сознанием – вопрос ближайшего десятилетия.

Во Владивосток Федор прибыл как приглашенный преподаватель магистратуры DigitalArt ДВФУ.

Мы поговорили с инженером о проблеме создания искусственного интеллекта, технологическом прогрессе и четвертой мировой войне между людьми и ИИ.

Про искусственный интеллект

"Искусственный интеллект" – пока это только спекуляция. Есть понятие "искусственная нейронная сеть", которая представляет собой модель, алгоритм. По моему мнению, когда-нибудь эти искусственные нейронные сети усложнятся настолько, что появится искусственное сознание, неотличимое от человеческого, то есть оно будет способно точно так же аккумулировать опыт, на основании этого опыта адаптироваться к среде и выполнять действия, руководствуясь максимизацией своей полезной функции.

Если мы будем рассматривать человека как условно простое животное, которое только удовлетворяет свои потребности в еде, размножении и комфорте, то вся сложность моделирования такого организма заключается только в сложности среды. Человек взаимодействует с другими людьми, разговаривает с ними на каком-то языке, и сам язык – достаточно сложный объект для моделирования.

Но если мы упростим жизнь до какой-то условной игры и сведем наше выживание к нескольким правилам, то мы сможем смоделировать нескольких агентов с искусственным сознанием, оставить их жить в смоделированном мире, из которого они не смогут дотянуться до настоящего, и наблюдать за этой симуляцией. Я считаю, что таким методом можно, как минимум, разобраться в самих себе: почему мы настолько иррациональны, почему каждый в отдельности очень приятный человек, а вместе можем делать ужасные вещи.

Такие исследования ведутся не только в институтах, но даже в коммерческих компаниях, потому что это выгодно экономически – заменить людей умными алгоритмами, чтобы они решали какие-то прикладные задачи.

Например некоммерческая исследовательская компания из Сан-Франциско OpenAI, занимающаяся ИИ, разработала нейросеть, которая может генерировать любые тексты. Но саму технологию они не выложили, потому что это слишком мощный инструмент. И если люди получат к нему открытый доступ, то кто угодно сможет генерировать новости и комментарии к ним. Интернет очень сильно развил экономику всего мира за счет бесконечно быстрого перемещения информации, денег, товаров. А теперь все это может сломаться из-за чрезмерного количества фейковой информации.

Неизбежно, что такие технологии скоро станут доступными, но пока есть время к этому подготовиться, подумать, какие могут быть контр-меры. Например, придумать алгоритм, который будет отличать фейковую новость от настоящей.

Федор Червинский

Федор Червинский. Фото: Илья Табаченко

Про четвертую мировую между человечеством и ИИ

Мы уже живем в таком мире, где уже многое заменено бездушными машинами. И вопрос: насколько нам от этого дискомфортно. Раньше были ростовщики, у которых вы могли брать взаймы деньги, повлияв свой харизмой на величину процента. Теперь в банках бездушные алгоритмы решают, какова будет ваша ставка по кредиту, анализируя вашу кредитную историю.

Когда мы говорим про войну, то уже имеем в виду какое-то сложное взаимодействие. Понимаем ли мы, почему происходят войны? На мой взгляд, в современном развитом мире их быть не должно, но они есть. Социальные ограничения, различия в культуре, экономические факторы – все приводит к тому, что система, состоящая из множества единичных агентов, каждый из которых вроде сознателен, уничтожает сама себя.

Поэтому если мы говорим о возможности создания искусственного агента, который будет вести себя аналогично человеку, и таких агентов будет много, то последствия их взаимодействия будут точно также непредсказуемы, как мы не умеем предсказывать поведение самих себя, когда нас много. Но мы можем изначально закладывать ограничения в модель.

Например, есть человеческая черта – самолюбие, которая очень часто приводит к агрессии, конфликтам и дискомфорту других агентов. В человеке мы не можем выключить такие рычажки, потому что мы такими рождаемся – с самолюбием как базовым инстинктом. Но когда мы создаем такого агента искусственно, то мы можем пытаться этим управлять, это регулировать.

Про смысл человеческой жизни

Если в человеке отключить части, отвечающие за доминирование, то желание что-либо делать вообще пропадет. Уже существуют алгоритмы, похожие на сознание, например, алгоритм, генерирующий текст, но он работает только когда мы его запускаем. Если мы говорим про какого-то агента, который сам существует, то мы должны смоделировать более сложную мотивацию – объяснить, какова цель его жизни.

Эти вопросы всегда поднимаются и может оказаться, что все, что люди делают, мотивируется первобытными инстинктами. Только некоторые умеют реализовывать эту мотивацию в конструктивном русле, потому что созидание – это одна из реализаций доминирования.

Если я автор, пишу роман и становлюсь известным, то это моя самореализация, которая, не умей я писать, могла реализоваться в какой-то преступной форме. Эти вещи не выключишь совсем, и в этом красота этого мира, где мы живем в каком-то таком балансе, где все взаимосвязано.

Федор Червинский

Федор Червинский. Фото: Илья Табаченко

Про развитие саморефлексирующего сознания у ИИ

Нейробиологи нашли в мозге человека условный центр, который реализует чувство ощущения себя. Причем он ответственен как за чувственную часть: я знаю, что вот это тело – это я, а это – уже не я, и когда я прикасаюсь к предмету, я чувствую границу между собой и окружающим миром, так и за сознание: я знаю, что такое мое сознание и для меня оно отдельно от окружающего мира.

Все наше существование построено через ощущение этой границы, которая одновременно и физическая, и психологическая. Есть много экспериментов, когда йогов в состоянии глубокой медитации укладывают в томограф, и прибор показывает отсутствие активности этого центра. Это совпадает с субъективным ощущением, когда в глубокой медитации вы чувствуете, что вы и мир – это единое целое.

Про физический и виртуальный миры

Есть реальный физический мир, в котором мы сами читаем книги, сами водим автомобиль и смотрим в окно, чтобы узнать погоду, а есть виртуальный мир, в котором тоже много чего происходит. Просто граница постепенно сдвигается, и вещи, которые раньше происходили в физическом мире, теперь происходят в виртуальном. И чем мы становимся старше, тем более позади этого перехода мы оказываемся.

Даже мне, в возрасте 26-ти лет, некоторые вещи сложно осознать – например, кибер-спорт.

Есть люди, которые тренируются, выступают в командах, зарабатывают деньги, играя в компьютерные игры. На первый взгляд кажется, что это оскорбляет само понятие спорта, потому что спорт – это здоровье. Но наше представление об идеальном мире базируется на установках, полученных в процессе социализации. Все меняется, идеальный мир наших детей может выглядеть абсолютно по-другому, и в этом ничего страшного нет.

Про деградацию человечества как вида

Есть способность человека мыслить, есть запрос человека на смыслы. Каждому человеку нужно какое-то количество новых смыслов, после которого он устает и не может больше воспринимать. И мне кажется, эти вещи находятся в балансе. Способность человека мыслить сохраняется чисто эволюционно: мы рождаемся примерно с такими же возможностями мыслить и на горизонте сотни лет это не изменится, потому что геном так быстро не изменится. Поменяется наше окружение, воспитание, информационный шум, но у каждого человека останется свой запрос на смыслы, и если запрос есть, он эти смыслы найдет.

Отупения человека я, например, не вижу, просто его навыки смещаются из области физической в виртуальную. Раньше Интернета не было, а теперь есть, и вы должны знать правила нахождение в нем: куда пойти, где посмотреть, как отличить правду от вымысла, то есть вам необходимо овладеть целым рядом навыков, владение которыми раньше в принципе не предполагалось. Раньше была одна газета "Правда" и одна линия партии, теперь у вас много источников информации, из которых вы можете выбирать.

Федор Червинский

Федор Червинский. Фото: Илья Табаченко

Про язык

Язык постоянно меняется. Эмодзи появились и стали его частью, и, на мой взгляд, это прикольно, потому что это интернациональные знаки, которые позволяют быстрее выразить мысль, накинув дополнительных интонационных оттенков. Возможно, это в чем-то возвращение к каменному веку и наскальной живописи, но мне кажется, что это обогащение языка.

Текстовый формат не уйдет, потому что печатать быстрее, чем говорить. В моей среде не принято общаться голосовыми сообщениями, потому что слушать сообщение гораздо дольше, чем читать, то есть вы тратите время своего собеседника, а это не очень вежливо.

Про развитие науки

Наука движется вперед, и все наши сегодняшние достижения базируются на достижениях прошлого. Визуально это можно представить, как расширяющийся шар: каждый наш новый шаг направлен за границу известного и площадь этой поверхности каждый раз увеличивается. То количество знаний, которое нужно аккумулировать, чтобы открыть что-то новое сегодня, больше, чем раньше. Это приводит к тому, что ни один современный человек не может сегодня аккумулировать весь пласт знаний, специалисты концентрируются на конкретных областях и развивают их, отсюда возникает некая сепарированность.

Специалисты, которые занимаются, например, биологией мозга, не всегда знают, что происходит в компьютерных науках. Но как раз успех всех искусственных нейросетей и алгоритмов распознавания, которые сейчас есть в компьютерном зрении, связаны как раз с тем, что кто-то из ученых computerscience посмотрел на достижения биологии и вдохновленный этими открытиями, попытался смоделировать, как устроен мозг, создать простую модель нейрона, построить нейронную сеть, сильно упростив модель человеческого мозга. И оказалось, что эти алгоритмы действительно дают новые возможности, которых раньше не было.

Поэтому появилась связь между алгоритмами и биологией, но она не очень прочная – по-прежнему обе области развиваются независимо, периодически интересуясь друг другом, причем связь двунаправленная. Инженеры смотрят на открытия, связанные с биологией: нейромедиаторами, нейропластичностью, эффектами, связанными с памятью, а потом эти принципы пытаются использовать при создании алгоритмов. И наоборот: биологи проводят много экспериментов, открывают новые поведенческие свойства нейронов, белков, накапливается большая база фактов, но они не могут их систематизировать.

Основная проблема нейробиологии – отсутствие фундаментальной модели, которая есть, например, в физике. В физике накапливаются результаты экспериментов, а потом гений уровня Ньютона или Эйнштейна предлагает простой закон, который описывает все эти результаты. В нейробиологии сейчас такого закона нет, его не хватает и все чувствуют, что может быть в ближайшее время что-то такое появится.

Про беспилотники

Беспилотные такси уже есть в мире и даже в России. В "Инополисе" в Казани или в "Сколково" в Москве вы можете вызвать через приложение такси, оно приедет само, но там будет сидеть человек, который в опасной ситуации вмешается в управление. Это публичные тесты, и только вопрос времени, когда эту технологию достаточно оттестируют – сначала на определенных улицах, территориях, потом по всему городу, по всей стране.

Технологический прогресс – это экономически обусловленное явление. Я не питаю сильных иллюзий, что он должен сделать жизнь человека лучше. Возможно, жизнь станет более безопасна в том смысле, что будет меньше смертей на дорогах, но косвенно, скорее всего, возникнут какие-то другие проблемы. Экономически выгоднее, когда Uber ездит сам, чем когда в нем сидит водитель, поэтому это рано или поздно будет. В развитых странах – раньше, в нашей стране – позже. Если вы спросите меня, как скоро это будет, то я скажу, что в течение десяти лет это явление станет обыденностью.

Проблема, которая обычно больше всего волнует обывателя: кто будет принимать решение в патовой ситуации. На практике разработчики-инженеры этими вопросами не занимаются. Когда заходит речь о беспилотнике, то возникает такая ошибка сознания, что каждый человек по умолчанию идеально водит автомобиль, хотя на самом деле люди довольно плохо справляются с этой задачей.

Если возникнет ситуация, что необходимо врезаться или в толпу на остановке или сбить одинокого пешехода, человек совершенно точно примет не оптимальное, нерациональное решение, зависящее от случайности. Поэтому когда мы к алгоритму начинаем предъявлять требования супер-оптимальности и выбора, мы забываем, что у нас итак будет лучше, чем при управлении человеком, потому что алгоритмически вы не можете решить, куда вам рулить.

Здесь можно подойти только максимально формально, то есть согласно ПДД, в которых не указано, кто ценнее из людей: мужчина в расцвете лет или беременная женщина, зато там указано, что если вы переходите дорогу в неположенном месте, то это ваши проблемы.

А наша задача сделать так, чтобы автомобиль никогда не терял управления и всегда следовал правилам.

‡агрузка...

© 2005—2019 Медиахолдинг PrimaMedia