О разработках дальневосточных ученых, будущем с искусственным интеллектом и необоснованных страхах людей по поводу нейросетей рассказала в интервью ИА PrimaMedia заместитель директора по научной работе Института автоматики и процессов управления (ИАПУ) ДВО РАН, вице-президент Российской ассоциации Искусственного интеллекта, доктор технических наук, член-корреспондент РАН Валерия Грибова.
Валерия Грибова. Фото: предоставлено пресс-службой ИАПУ ДВО РАН
— Сейчас тема искусственного интеллекта у людей на слуху. Вы этой сферой начали заниматься много лет назад. Как вы оцениваете развитие ИИ за эти годы, особенно у нас в дальневосточной научной среде и чего удалось достичь ДВО РАН? Сделайте, пожалуйста, такой исторический экскурс.
— Можно сказать, что искусственный интеллект зародился от каких-то фантастических идей и дошел до научной отрасли. Если брать официальную дату рождения, это 1956 год, то есть его изучают уже порядка 60-ти лет. Поэтому на самом деле, когда я пришла работать в Институт ДВО РАН, я уже пришла в "искусственный интеллект". Другой вопрос, что не всегда искусственный интеллект был таким популярным и был на слуху.
Когда я пришла работать, некоторые называли эти исследования лженаукой, что этим не нужно заниматься. То есть были такие "холодные зимы", потом какие-то "оттепели". Говорили, что искусственный интеллект себя не оправдывает, не стоит вообще время тратить. По-разному было. Ну и тем не менее, мы видим за последние 10 лет огромный скачок в области искусственного интеллекта. Стали появляться достаточно весомые и очень интересные результаты.
Сегодня мы все живем с этим термином, все о нем говорим, часто используем. Почему так произошло? Наверное сложилось много разных условий. Началась активная цифровизация общества, компьютеры стали внедряться в повседневную жизнь. Фактически на цифровых носителях образовалось огромное количество данных, которое можно было уже обрабатывать, они не в бумажном виде находились. Алгоритмы искусственного интеллекта тоже развивались. Хотя у нас и в "холодные зимы" эти алгоритмы были, но проблема была в том, что не хватало вычислительных мощностей компьютеров, и поэтому эти алгоритмы работали неэффективно. Сейчас сошлось всё в одной точке — наборы данных, алгоритмы и вычислительные возможности. Это породило новые результаты, всплеск интереса. Поэтому действительно искусственный интеллект стал очень многообещающей областью знаний, с прорывными результатами.
— Многие эксперты говорят, что о реальном искусственном интеллекте говорить пока рано, речь чаще всего идет о машинном обучении. Поэтому то, что часто указывают в рекламе или описаниях о ИИ, таковым не является. Как вы оцениваете, это действительно так?
— На самом деле это действительно игра словами, потому что даже в профессиональном сообществе есть ему много определений и каждое вызывает некие вопросы и какие-то уточнения. Фактически искусственный интеллект — это имитация с помощью компьютерной техники способностей естественного интеллекта, то есть решение каких-либо интеллектуальных задач. И методы машинного обучения в этом бесспорно помогают.
— Лаборатория искусственного интеллекта в ДВО РАН существует с 1974 года. Какими успехами и наработками может она похвастаться?
— Я могу рассказать историю о Школе искусственного интеллекта с того момента, когда туда пришла я. Ее основателем был очень неординарный человек, доктор физико-математических наук, профессор Александр Сергеевич Клещев. К сожалению, его уже несколько лет нет с нами. Я его ученица и могу сказать, что именно этот человек действительно создал настоящую школу искусственного интеллекта на Дальнем Востоке, привлек очень много людей сюда, увлек этой темой даже тех, кто изначально ей и не интересовался. Много лет назад все начиналось с того, что мы разрабатывали модели представления знаний. Ведь знания, которые содержатся в книгах, в разных руководствах, инструкциях, статьях, чтобы система их могла адекватно обработать, надо представить в памяти компьютера определенным образом. А для этого, прежде всего, надо разработать модели, методы манипулирования и обработки этих знаний, создания различных систем.
Теперь мы подошли к тому, что человечество накопило большое количество применяемых знаний — огромный потенциал для системы искусственного интеллекта. Но с другой стороны, накоплено еще большее количество необработанных данных, которые тоже нужно использовать. Симбиоз этих методов как раз может дать очень интересные результаты.
Мы в лаборатории занимаемся фундаментальными исследованиями, наша основная задача — разработка моделей, методов и инструментов для создания таких систем. Но с другой стороны, это всё невозможно без создания прикладных систем искусственного интеллекта, на которых мы апробируем разработанные модели и методы.
— Приведите, пожалуйста, примеры конкретных проектов.
— Для медицины мы разрабатываем системы поддержки принятия решений и работаем совместно с нашими коллегами из Москвы, Самары, из Дальневосточного федерального университета, Тихоокеанского государственного медицинского университета. Существует лечебный диагностический процесс — надо поставить диагноз, назначить лечение, мониторить состояние пациента и так далее. Возьмите 100 лет назад арсенал врача — у него было несколько порошков, какие-то элементарные примочки и так далее. Из совсем небольшого списка он что-то выбирал и принимал решение. Сейчас у нас сотни различных лабораторных и инструментальных исследований, огромное количество лекарств. Каждый препарат имеет длинную инструкцию — показания, противопоказания, совместимость с другими. Поэтому сегодня врачу, чтобы принять решение, надо манипулировать сотнями различных фактов. Человеческий мозг, какой бы уникальный врач ни был, не может безошибочно манипулировать таким количеством информации. Медикам должны помогать системы искусственного интеллекта, которые быстро переработают огромное количество информации и помогут им поставить диагноз, спланировать лечение и объяснить, почему именно это решение было принято. Задача систем искусственного интеллекта — помочь, а не заменить человека.
Еще один пример: 3D печать, а именно аддитивное лазерное производство металлических изделий. Здесь тоже очень важны помощники в поддержке принятия решений технологами. Это очень интересная область. Одно дело, когда массово создается изделие и можно потратить деньги, время, силы на выработку технологии создания. А тут каждая деталь уникальна, этих технологий нет, и поэтому принять решение о технологических режимах производства достаточно сложно. Приходится использовать комплекс методов — рассуждения по аналогии, рассуждения на основе знаний, машинное обучение. Очень интересные результаты получаем.
Сейчас начинаем работать в области строительства. Это касается разработки кибернормативов — интеллектуальной обработки различных нормативных документов в строительной области.
Исследований много, как и задач, и проблем, которые мы видим и должны решать. Сегодняшние технологии позволяют делать то, о чем еще 10 лет назад мы не могли и мечтать.
Валерия Грибова. Фото: предоставлено пресс-службой ДВО РАН
Валерия Грибова. Фото: предоставлено пресс-службой ДВО РАН
Валерия Грибова. Фото: предоставлено пресс-службой ДВО РАН
— Сейчас многие боятся, что скоро ИИ просто заменит человека в некоторых сферах, и люди перестанут думать, анализировать, оперировать большим объемом данных сами. Как быть с этими страхами?
— Да, сейчас очень много манипулируют этим, что искусственный интеллект вытеснит человека. Тенденции, конечно, такие есть, но все ученые говорят об ИИ как о помощнике человека. Развитие не остановить, зато можно направить, спрогнозировать, уберечь и предостеречь.
Бояться, что ИИ поработит мир не нужно, стоит принять для себя, что не желательно слепо ему следовать и не скатываться в простого потребителя.
Предстоит осознать, что он в будущем будет определять мировоззрение на основе прошлого опыта, и как с этим справятся человек и гуманитарные науки, нам еще предстоит увидеть.
— Провокационный вопрос — а есть ли у лаборатории проект, которым мог бы заинтересоваться Илон Маск?
— Мы не ориентируемся на Илона Маска. Хотя, действительно, у него есть интересные продукты, и он вкладывает колоссальные средства в эту сферу. А она и правда требует огромные вычислительные мощности, людские ресурсы, которыми он, кстати, обладает и очень успешно пользуется. Сейчас для искусственного интеллекта столько задач и столько проблем, путей их решения и фундаментальных задач, что я думаю, никто в этой сфере не останется без работы, мы в том числе. Мы разрабатываем и прикладные проекты, и программные инструменты, используя которые эти прикладные проекты можно создать. Так, наш продукт, которым мы, бесспорно, гордимся и на основе которого мы создаем все прикладные системы — это наша платформа IACPaaS облачных вычислений для создания различных систем искусственного интеллекта на основе семантических технологий. Начали разрабатывать ее давно, ей уже более 10 лет, и она эволюционирует. Мы каждый год добавляем туда что-то новое. Она есть в открытом доступе, ей очень активно пользуются.
— Если перейти от предметных исследований к глобальным последствиям внедрения ИИ — какое будущее вы видите как специалист в этой сфере?
— У меня нет какого-то однозначного ответа. Я считаю, с одной стороны он бесспорно нужен, иначе я этим бы не занималась, если бы не верила в его перспективность и полезность. Но с другой стороны, конечно возможны отрицательные моменты из-за внедрения искусственного интеллекта.
В полной мере системами искусственного интеллекта их пока назвать нельзя, но интеллектуальные помощники уже активно внедрены в жизнь — они помогают выбрать фильм или книгу на основе предпочтений. ИИ анализирует запросы и предлагает решения. Фактически, если человек будет активно пользоваться такими интеллектуальными помощниками, то превратится в "слепого потребителя". То есть искусственный интеллект посоветовал фильм, я его посмотрела — мне понравился, он мне следующий посоветовал — мне он тоже понравился. Я стала следовать советам искусственного интеллекта, и в результате человек превращается в такого узкого потребителя без собственного мнения. А если бы не было этой подсказки, человек бы читал не только, например, детектив, а какую-то философскую книгу — то есть отходил от шаблона, принимал свое уникальное решение. Ведь человек тем и ценен, что он может действовать не по шаблону. А искусственный интеллект всё-таки где-то направляет. И тут всё зависит от человека — кто-то будет следовать и полностью будет управляем, а кто-то останется самостоятельным.
Та же система социальных рейтингов, которую хотят повсеместно внедрить в Китае. Для управления государством — это, наверное, хорошо, но ведет к усреднению человека, без отхода от шаблона и паттернов. Поэтому большую роль будет играть гуманитарная наука, которой придется идти вровень с развитием ИИ — объяснять, что искусственный интеллект помогает, но человек должен выходить из этого шаблона, из области комфорта и заниматься чем-то новым, читать новые книги, смотреть новые фильмы, заниматься какой-то новой деятельностью, которую ИИ ему не посоветует.
В то же время очень много положительного в искусственном интеллекте — ведь добро и зло есть везде. А ИИ — продукт человека, так и тут будет и темное, и светлое.
С сотрудниками института. Фото: предоставлено пресс-службой ДВО РАН
Материал посвящен основателю Института. Фото: предоставлено пресс-службой ДВО РАН
Наглядный материал в Институте. Фото: предоставлено пресс-службой ДВО РАН
— Нужно ли ограничивать ИИ, нужны ли специальные законы или это должно развиваться своим чередом. Какое мнение у ученых на этот счет?
— Конечно, ученые бы не занимались этой проблемой, если бы не верили в ИИ. Мы верим именно в доброе и хорошее — то, что несет искусственный интеллект и реально помогает. Мы сегодня не представляем себе жизни без компьютера, никто не откажется от того, что он нам дает, мы все пользуемся смартфонами, программным обеспечением. Но рядом с ним существует и вредоносное программное обеспечение — вирусы. Вот это добро и зло вечно борется. Так и в искусственном интеллекте.
Действительно ИИ может нести опасности, даже наверное больше, чем обычные вирусы программы, потому что если он основан, допустим, на машинном обучении, он учится на большой выборке данных. Что заложить в эту выборку данных заложить — тому он и научится.
А ведь можно заложить неправильную, плохую, вредоносную информацию — ее можно не заметить с помощью алгоритмов предварительной обработки данных. В результате система искусственного интеллекта будет выдавать не то, что она должна выдавать. Проблема доверия к искусственному интеллекту уже очень остро стоит. И ей надо заниматься.
— Для разработок ИИ важны вычислительные мощности, нужны огромные ЦОДы для анализа. Есть ли потенциал в этом у России и Дальнего Востока?
—Да, в целом Россия отстает по вычислительным мощностям, но тем не менее у Сбербанка есть большие вычислительные мощности — он уже создал аналог GPT-чатбота. Да и наши русские программисты всегда отличались высоким уровнем профессионализма. Поэтому нет принципиальных причин, чтобы мы как-то могли отставать по программному обеспечению от мира.
Денег на такие проекты надо очень много. У нас в институте есть центр обработки данных, вычислительный кластер. Мы можем его загрузить гораздо большим объемом информации и задач, на порядок больше, чем сегодня он может обрабатывать. Такая потребность есть, мы ее высказываем. Тем не менее каждый год постепенно наращиваем вычислительные мощности.
— Как вы считаете, нужны такие ЦОДы для научных центров или задачи необходимо ставить только коммерческим структурам, которые в состоянии объять и потянуть такие глобальные проекты?
— Надо развивать и то, и другое. Допустим, на нашем центре обработки данных решаются много научных задач, и прежде, чем что-то выйдет в продукт, надо провести множественные вычисления, моделирование, апробацию. Поэтому в научных организациях должны быть хорошие, большие ЦОДы, поскольку именно наука определяет тренд нашего развития.
Но и коммерческие ЦОДы активно развиваются. К примеру, есть мнение, что у нас не развивается свое программное обеспечение, но на самом деле российского ПО много, оно не единичное. Сейчас как раз политическая ситуация дала отличный толчок развития этой сфере и в программном обеспечении, я не вижу особо каких-то проблем.
— Какие темы в ИИ в ближайшие 5-10 лет станут прорывными и трендовыми?
— Технологии меняются каждый год, меняются условия, но проблемы основные остаются во всех сферах — как сделать так, чтобы система искусственного интеллекта действительно была помощником. Мои коллеги, большое сообщество коллег в Новосибирске, Москве, ряде других городов — каждый занимается какими-то своими аспектами. Кто-то связан с робототехникой, кто-то с обработкой естественного языка, с представлением знаний, методами машинного обучения. Мы очень активно взаимодействуем, обогащаемся идеями друг друга. Сейчас в исследованиях в России какого-то приоритета нет. И как раз чем наука и хороша — она занимается широким спектром и этот их симбиоз, объединение дает синергетический эффект, мы постоянно видим новые результаты в области ИИ и этот тренд, уверена, сохранится.
Задач для науки очень много. Конечно, потребителю интересен конечный продукт, именно прикладная система искусственного интеллекта. А для нас, исследователей, больший интерес педставляют инструменты, с помощью которых можно такие прикладные системы быстро создавать. Это очень большая интеллектуальная работа — как создать такой программный продукт, с помощью которого будет работать система в различных областях.
К примеру, у нас две совершенно разные задачи — планирование лечения в медицине и технологического процесса в лазерном производстве. Они разные с точки зрения конечного потребителя. Но если смотреть на это математически, задачи очень похожие. Как раз сейчас мы и решаем — как разработать такой инструмент, чтобы системы планирования и проектирования в медицине, в строительстве, в лазерном производстве можно было легко создавать с помощью одного инструмента.
— Перед интервью мы спросили про безопасность ИИ у ChatGPT (6+), так вот он выдал и этические проблемы, и злоупотребление, и конфиденциальность и многие другие вопросы, которые еще никак не закрыты. А как сообщество ученых оценивает их?
— Проблема действительно очень серьезная — что заложишь, то и получишь. Могу сказать, что в конце 21-го года был разработан этический Кодекс в области искусственного интеллекта. Изначально инициатором выступил наш президент. Он разрабатывался в России, мы в своей Ассоциации ИИ тоже принимали участие в его разработке, его редакции. Он активно широко обсуждался среди заинтересованных лиц. Сейчас там порядка 200 подписантов, среди которых крупные фирмы, разработчики, которые понимают важность и соблюдение вот этих этических норм. Поэтому да, проблема безопасности — достаточно острая.
Конечно, регулировать ИИ надо, но реализовать это в мировом масштабе непросто. Уже сейчас понятно, что в огромный массив данных — Bigdata — можно внедрить неточные, заранее незаконные, угрожающие, с неизвестной целью данные. Как их обнаружить, как отличить от случайной ошибки — вопрос. Говорить о его решении в ближайшие 5-10 лет я не могу. Но уже сегодня речь идет о доверенном искусственном интеллекте — чему можно доверять, а чему нельзя. По крайней мере, есть разговоры о том, чтобы на любом созданном ИИ продукте указывалось, что это сгенерировано искусственным интеллектом. Чтобы человек хотя бы осознавал, что там может быть всё что угодно. Но фейки существуют и без искусственного интеллекта.
Конечно, надо регулировать это как минимум на уровне страны, но и на общемировом уровне, потому что мы потребители общемировых ресурсов. Тот же ChatGPT и другие продукты, как их сделать безопасными — остается вопросом, которому надо уделять пристальное внимание.
Тренды в кибербезопасности 2023: как защититься и на что обращать внимание пользователям Подводя итоги 2022 года, эксперты советуют максимально придерживаться "цифровой гигиены" в будущем
— Кстати про ChatGPT и другие работающие с огромным массивом данных продукты. У людей возникают вопросы — а раз есть системы, которые обрабатывают такой объем и предлагают решение, то зачем тогда ученые, что они будут делать. Это вызов вам, останутся ли ученые вообще?
— Я считаю, ученые как были так и останутся, потому что искусственный интеллект учится на исторических данных и на их основе выдает какое-то даже новое решение. Но именно человек всегда характеризовался тем, что он думал совершенно по-другому. Все открытия, научные идеи рождались часто вопреки. ИИ выдает некий вектор, может быть даже непрогнозируемый с точки зрения человека, потому что он переработал большой объем информации. И тут как раз искусственный интеллект может помочь ученым — обработать этот массив информации, дать пищу для размышления, что будет хорошим толчком для новых открытий, новых исследований. Я вижу роль ИИ как помощника. Он никогда не заменит человека, потому что мы мыслим нестандартно, нешаблонно, принимаем совершенно уникальные решения и выдвигаем не подвластные искусственному интеллекту гипотезы. Таким образом получаются новые знания. Да, новое знание можно выделить из тех данных, которые уже накопились. Но вот вы тоже поймите, что такое данные? Их человек решил измерить каким-то прибором, собрал. Но почему именно этот набор данных? Это уже человек так решил. Целеполагание идет от человека. Откуда взялся этот набор данных? Почему вы решили измерить вот это и это, а не измерить что-то другое? Потому что были какие-то идеи у человека. Вы исследовали определенным прибором, инструментарием — его надо тоже создать.
Не стоит верить ИИ как окончательному и идеальному решению, он может проанализировать и подсказать, но именно человек ставит задачу и решает — как, почему, какими методами, какой объем и что он хочет получить в итоге. Поэтому я не думаю, что труд ученых будет как-то нивелирован или его потребность будет меньше. Наоборот, ИИ может дать толчок новым исследованиям ученого.
— Что будет, если передать руководство ДВО РАН искусственному интеллекту?
— Развалится на следующий день. Понимаете, роль личности совершенно несравнима с возможностями искусственного интеллекта. Не надо его отождествлять с человеком. Есть естественный интеллект и искусственный. Последний — ограниченный, он помощник. Возможно, в международном масштабе в этой сфере и начинается "война миров". Но пока речь идет о главенстве человека и зависимости от его решений. Поэтому пока ИИ используется как помощник, ему не стоит слепо доверять и следовать по указке, так как в ином случае мы превратимся в простого потребителя без собственного мнения.
— Мир будущего глазами ученого. Каким он будет через 10 — 30 лет?
— От технологий никуда не деться. То, что мы сейчас называем элементами искусственного интеллекта скоро у нас будет действительно везде. Конечно, он кардинально изменит жизнь. Уже видно, как стремительно меняется система образования и обучения. Наша молодежь и дети совершенно по-другому воспринимают действительность. С этим надо смириться и не говорить — а вот мы читали то, смотрели то, делали так. Они сейчас совершенно другие, с этим нужно работать. Важная задача в обучении — всё-таки помогать становиться личностью, не отдавать это на откуп технологиям. Самое сложное будет сейчас — сохранить свою идентичность, личность, уникальность.
Системы искусственного интеллекта, которые будут везде — от бытовых вещей и заканчивая наукой — бесспорно станут оказывать влияние на нашу жизнь. Возможно, часть людей превратится в какое-то безликое "стадо", это надо признать, потому что легкость и доступность, которую дает искусственный интеллект, будет формировать бездумное потребление.
Людей не желающих развиваться, ИИ может затормозить и привести к деградации. Но в этой теме сейчас очень много "пены", фантастики, все зависит от человека. Кроме того, что он станет оператором ИИ, важно не утонуть и не погрязнуть, учиться постоянно, оставлять за собой уникальность. На этом пути мы получим большой интеллектуальный прирост. Ну а то, что мир изменится — это надо признать.
Мы все скоро станем роботовладельцами — какое будущее ждет россиян с развитием IT Мир скоро почти весь будет оцифрован, поэтому информационные системы будут определять все сферы жизни
— Если уже заговорили о детях и обучении, как считаете, чему сейчас стоит учиться, принимая во внимание развитие ИИ? Куда идти абитуриентам, какие специальности выбирать?
— Все инженерные специальности будут очень востребованы. Потому что технологии будут требовать новых инструментов и новые производства. Тот же смартфон скоро изменится и потребуются новые технологии и материалы. Поэтому инженерные и научные области будут очень популярны.
— Расскажите, а как вы выбрали стезю ученого и легко ли быть женщиной-ученым?
— Я не мужчина, но я не вижу разницы. Вот никогда я не чувствовала разницы между женщиной и мужчиной в науке. Есть научный результат, а кто его произвел, создал — женщина или мужчина — отличия нет. Я никогда не ощущала это различие в своей работе.
Почему вдруг я занялась искусственным интеллектом — это, наверное, определил все же счастливый случай. Я закончила Ленинградский Политехнический институт. Сама из Владивостока и решила вернуться домой в любимый город. Тогда была система распределения. У меня было три варианта — Институт Автоматики и процессов управления , Институт проблем морских технологий и кафедра прикладной математики Политехнического Института,. Я выбрала Институт Автоматики и процессов управления. Я тогда даже помыслить не могла о том, чтобы заниматься искусственным интеллектом. То время в науке было точно не "оттепелью", а "зимой" ИИ. Когда я попала сюда, руководитель Александр Сергеевич Клещев был настолько увлечен наукой, так интересно рассказывал, что и меня это увлекло. Теперь я благодарю судьбу, что сложилось именно так. Но роль личности, наставника — огромна в этом выборе.
Сейчас в науке много женщин. Многое зависит от области изучения — в какой-то сфере у нас больше мужские коллективы, в других — женские. Но гендерный вопрос никогда не стоял в повестке и никогда проблемой не был.
— Чем сейчас может гордиться ваш Институт?
— У нас институт очень уникальный и многопрофильный. Обычно институты проводят моно-исследования в какой-то области. У нас же очень широкий спектр различных направлений и в каждом есть свои бесспорные лидеры, о которых можно много и долго рассказывать. Если касаться области информационных технологий, то интересные исследования проводят и лаборатория интеллектуальных систем, и лаборатория математического моделирования. Последняя прогнозирует популяции, как будут развиваться определенные процессы в живых системах. Лаборатория компьютерной графики занимается машинным зрением и различными аспектами, связанными графикой и робототехникой. У нас есть центр Спутникового мониторинга ДВО РАН, их основное направление исследовательских работ — извлечение из спутниковой информации различных физических параметров суши, океана, атмосферы. У нас занимаются оптикой, лазерной физикой, создают новые материалы для микроэлектроники. Ведутся исследования и по направлению робототехники и управления. В институте находится вычислительный центр ДВО РАН — по мощности суперкомпьютеров мы вошли в российский топ-50. Можно рассказывать часами об исследованиях и исследователях, но это лучше сделают сами руководители своих направлений. Поэтому я действительно горжусь, что работаю в этом институте. Тут много уникальных, талантливых и интересных людей.
