"Мы перестали жить в биологическом обществе"
Спецпроект "Русского пионера" об искусственном интеллекте: мифы, реальные факты, новое будущее.
"Лабораторную работу", посвященную искусственному интеллекту, мы открываем беседой с Ольгой Усковой - президентом группы компаний Cognitive Technologies. Если вы думали, что фильмы о конце света, войне людей и машин и создании искусственного интеллекта, который сможет осознать себя, - всего лишь вымысел голливудских сценаристов, то вы ошибались. Ольга Ускова уверена, что правительствам всех стран придется рано или поздно договориться о единых законах в сфере ИИ, как это было сделано когда-то с разработками ядерного оружия.
Революционный период
Алармисты или мечтатели?
Почему вы считаете, что наступил новый революционный период истории?

Ольга Ускова: Первое, что можно констатировать – мы перестали жить в биологическом обществе. Это произошло довольно незаметно, но это уже произошло. И это не наша воля, это не совсем от нас зависит. Появление все более и более умных сущностей идет со скоростью геометрически возрастающей прогрессии. Ни одно из направлений в мире не развивалось раньше такими темпами. За последние 20 лет было зарегистрировано такое количество патентов и изобретений, было столько серьезных достижений в кибернетике, математике, физике и нейрофизиологии, что мы можем говорить о действительно революционном периоде, когда никакие старые законы не действуют.
Чем всегда обуславливается революция? Полной сменой - сменой лидеров и сменой ролей. Общество реагирует на эти изменения по-разному. Алармисты говорят – всем конец, осталось пять минут до конца света, остановите этих страшных роботов, иначе мы все погибнем. А мечтатели говорят – ох, как прекрасно! К алармистам относится, например, Маск, а к мечтателям – Цукерберг, который уверен, что все будет прекрасно, мы будем лежать на пляже, нам в рот будет падать спелая вишня, а весь мир будут возделывать роботы. Грубо говоря, это такие две партии, которые можно также сравнить с разделением людей на пессимистов и оптимистов. Часть населения не ждет ничего хорошего от будущего, боится всего и поэтому старается занять позицию трагичного наблюдателя. Другая часть, наоборот – восторженно лезет под колеса и в первые ряды. Но обычные человеческие реалии складываются из того, что в революционный период выигрывают те, кто возглавляют процесс. Ты должен стать партией власти в новом мире. Если ты становишься партией власти, то тогда и роботы работают по твоему техническому заданию, и искусственный интеллект выполняет твою волю, и селекция людей на тех, которые нужны и которые не нужны – будет производиться таким образом, как ты захочешь.
Три закона нового времени
Человечество должно создать новый моральный кодекс
Как искусственный интеллект повлияет на жизнь простых людей?

Ольга Ускова: Чтобы понять, как жить дальше, надо усвоить три закона нового времени. Первый закон – нет будущего. Будущее и настоящее слилось. Мне кто-то из приятелей совсем недавно сказал, Пелевин уже перестал быть человеком, который пишет фэнтези. Он стал документалистом. Ускорения идут таким образом, что когда мы пытаемся сказать, что будет через сто лет, то мы все время не попадаем в прогноз. Что с нами будет через сто лет, мы не знаем, потому что у нас просто не хватает фантазии для того, чтобы это представить.
Второй закон – филологи начинают сливаться с технарями, потому что так называемое визионерство фантастов совпадает с визионерством ученых. Например, сейчас в рамках организации работы беспилотников возникает так называемый моральный аспект. Есть вопросы, над которыми человечество до этого в принципе не задумывалось. Представьте, что вы едете за рулем, и у вас возникает ситуация, когда авария неизбежна. У вас справа – маленький мальчик, слева – маленькая девочка, а впереди бабушка. Кого вы задавите? В момент стресса человек просто делает какое-то движение, и оно обусловлено его предыдущим образованием, культурой, реакцией на стресс, реакцией на картинки. Выбор происходит подсознательно. Каждый раз на суде в таких ситуациях это объясняется психическими особенностями личности. Когда за рулем робот, то для него должно быть прописано ТЗ, в котором будет сказано, что в дорожной ситуации типа А наименее ценным членом общества всегда является девочка, а не мальчик или бабушка, а не дети. По этим сложным вопросам человечество должно договориться. Оно должно выпустить моральный кодекс. И тут начался серьезный затык, уже очень давно у общества не было задачи создания новой морали, морального кодекса, религии – чего-то такого глобального, что определяло бы последующие правила игры. И вот сейчас, когда мы столкнулись с этим вопросом, мы находимся в несколько растерянном состоянии. Нет единого ощущения.
" Что предложил Китай – это ужасно. Они предложили создать каждому человеку его социальный рейтинг, и в соответствии с этим социальным рейтингом давить."
Чистый фашизм, а в условиях возможной коррупции, когда на кону взятки стоит твоя жизнь, ты заплатишь по полной программе для изменения своего рейтинга. И мы сейчас находимся на промежуточном этапе, когда нужны серьезные специалисты, люди с сильной волей, которые бы разработали кодекс для жизни в новом мире.

Третий закон – это так называемые изменения структуры производства и структуры потребления. Приведу пример на журналистике. Как устроена новостная журналистика? Есть человек, который берет на себя ответственность по исследованию, сбору информации и ее представлению аудитории. Через призму своего представления о жизни. И под этой информацией он подписывает свою фамилию. Дальше, в зависимости от доверия к его фамилии, у него набирается тот или иной объем аудитории, количество лайков и так далее. То есть существует посредник между информацией и потребителем. А на рынке с увеличивающимися объемами информации роль этих посредников зачастую сводится просто к «копипасту». Во многих СМИ достаточно низкое качество посредников. Отсюда и растут все эти фейки, лишние истерики... Искусственный интеллект в этой зоне заменит процентов 80 всех журналистов из отрасли, потому что он уберет посредников из этой зоны. Искусственный интеллект работает на любом по объему информационном поле, то есть он в секунду перерабатывает намного больше информации, чем это доступно человеку. Во-вторых, он имеет возможность индивидуальной настройки на интересы каждого персонального клиента. Сам аналитический механизм носит абсолютно непредвзятый характер, потому что настраивается по каким-то ключевым параметрам. Уходит пропагандистское искажение. В профессии останутся только те люди, которые смогут генерировать контент – это те люди, которые будут писать техническое задание для искусственного интеллекта. И это гораздо более узкая прослойка, то есть здесь возникает некая элитарность. То же самое происходит в любой другой сфере. Уже сейчас один из наших заказов – умный холодильник. Он изучает меню семьи, заказывает точно по потреблению, напрямую связывается с поставкой. Ему не нужны полки магазина, все эти ритейлеры с наценками, ему нужен только склад. Полностью меняется вся структура, включая структуру цены.
Как только процессы становятся автоматическими, возникает вопрос – ну, хорошо, а что делать 80-ти процентам людей в каждой из отраслей, которые потеряют работу из-за искусственного интеллекта?

Было большое международное экспертное обсуждение с участием Гейтса, Маска – и вообще всех, кто причастен так или иначе к революционным разработкам. От России там была почему-то только я, но надеюсь, через какое-то время кто-нибудь еще появится. Меня очень заинтересовала речь Гейтса, которая вызвала бурю негативных реакций. Он говорил честно и по существу. Он сказал, что основная масса населения уйдет в гейминг, и наша задача, чтобы они ушли не в криминал, а в виртуальный криминал. В Голливуде за последние годы вышла целая серия фильмов как раз про это. Человек просыпается с утра, надевает на себя виртуальный шлем, выбирает внешность, жизнь и так далее. Это модель, которую Гейтс рисует для 80-ти процентов населения. Общество содержит их по минималке, они в гейминге и не мешают всем новым процессам. То есть у них нет вообще никакой функции, либо есть та, которую описал Пелевин: их энергия жизнедеятельности как-то используется системой по принципу биологических батареек. Малоприятная картинка, но она честная. В этом смысле вторая модель, к которой хорошо было бы стремиться, это то, что в свое время рисовали Стругацкие и Лем – это когда человек все-таки изначально перепрограммируется и учится на креативную функцию. Поскольку только эта функция остается востребованной, все остальные рутинные процессы возьмет на себя искусственный интеллект. К этому общество должно быть готово.

Ключевым вопросом становится образование. Куда вы отправите своего ребенка, чтобы он через 20 лет он не оказался за бортом в гейминге? Куда вы сами соберетесь через 10 лет, насколько вы соответствуете этим вызовам? Вспомните тех, кто оказался во время перестройки не у дел, что произошло с нестарыми людьми, которым было не более 45 лет, например. Это была дикая психологическая ломка. Эти все вопросы должны быть поставлены уже сейчас. И они носят как личный характер, так и общий. Каждый человек лично для себя должен решить, как ему прокачать себя с точки зрения соответствия новым вызовам.
Компьютерное зрение
Беспилотники научились интуиции
Беспилотные машины теперь могут видеть как люди?

Искусственная интуиция - это одна из самых крутых разработок. Это то, что помогло нам сделать прыжок на международный рынок. Суть заключается в следующем: мы создаем искусственный мозг по антропоморфным принципам, поэтому у нас в команде вместе с математиками работают нейрофизиологи. Мы очень много работаем с медиками, биологами. Изучение работы человеческого мозга привело в такому примитивному выводу, о котором мы раньше не задумывались. Осознанным логическим процессом человек занят не больше 10-12 процентов в день, а в среднем от 5 до 7. Массу действий мы производим на подсознательном уровне. С утра встали, выпили кофе, умылись, сделали зарядку, мы не обдумываем это логически – вот сейчас я подниму руку, потом опущу. Логический аппарат гораздо более медленный, чем бессознательный аппарат. Логический аппарат надо включать, когда у вас сложная проблема, вам надо подумать, разложить все за и против. Но в любом случае это не больше 5-10 процентов в день. Наконец, мы доперли, что по такому же принципу должен быть построен искусственный мозг.

До какого-то периода под искусственным интеллектом почему-то понимались какие-то логические системы типа игры в шахматы, но реально не это является ключевыми задачами искусственного интеллекта. Революционный момент произошел в 2012 году, когда была разработана система нейронного программирования (разработана не нами) – это создание нейронных сетей глубокого обучения. Она принципиально отличается от задач компьютерного зрения ровно тем, что она занимается не как программный логический аппарат, а это эвристическая машина, которая работает по принципу черного ящика – есть вход, есть выход, есть готовые схемы, которые нарастают так же, как в человеческой голове. Это и есть процедура обучения. Плюс мы научили искусственный мозг интуиции, которая является, на самом деле, результатом работы определенных отделов мозга, которые накапливают в бессознательном режиме опыт и информацию, связанные с какими-то мелкими процессами. И на базе вот этого опыта в момент возникновения каких-то сигнальных единиц, возникает готовое решение.
Например, вы едете по дороге и видите, что автомобиль, который справа от вас, начал колесом выезжать на ваша полосу, и вы понимаете - скорее всего, сейчас метнется, хоть и не включил «поворотник». Вам кажется, у вас сработала интуиция, вы притормаживаете, потому что интуитивно почувствовали, что он сейчас перестроится. Но это не интуиция, это просто боковое зрение. Вы это фиксируете автоматически, не происходит логического осознания. Этому мы уже научили нашего пилота, то есть он уже понимает, что такое «козел в правом ряду», «блондинка за рулем в левом». Возникает история с предсказанием изменения ситуации на дороге в следующие несколько секунд. И это стало некоторой бомбой, нашей визитной русской карточкой. Это действительно очень интересует иностранные компании, здесь точно нет никаких санкций.
Нужны новые законы
Государства должны договориться об использовании искусственного интеллекта, как когда-то договорились об атоме
Мы правильно понимаем, что сейчас нет никаких законов, которые бы регламентировали разработки в области создания искусственного интеллекта?

В Китае, Америке, России я вижу абсолютно разное поведение правительственных команд. Я могу сказать, что наиболее продвинутая политика с точки зрения стратегических моментов – конечно, китайская. Но отчасти это обусловлено тем, что у них-то уж совсем жареный петух. Россия – это огромная территория с маленьким количеством людей, и в нашей стране роботизация необходима просто для того, чтобы обслуживать свою территорию. У нас просто нет рабочих рук, и чужаки к нам не едут. А у Китая территория намного меньше, людей несравненно больше, поэтому они к этому, конечно, подходят системно.

Пока каждая страна идет своим путем, но это, конечно, должно прекратиться. Точно так же как с расщепленным атомом. Если не будет единого управления этими процессами, то человечество может погибнуть в какой-то момент, потому что создастся очень серьезное оружие. Есть моменты, по которым все должны единовременно договориться. Несколько месяцев назад у нас было внутреннее совещание акционеров, и мы приняли хартию о том, что мы не представляем наших новейших разработок для военной промышленности.. Это наше внутреннее решение, о котором мы сообщили нашим коллегам за рубежом. Google, например, не поддержал это, потому что у них контракт с Пентагоном, но в Google около 12-ти тысяч сотрудников написали петицию своему руководству о том, что они просят отказаться от этого контракта, и руководство обещало на следующий год не продлевать договор. Но это как бы общественные мероприятия, а по большому счету это должно быть возведено на ранг мировых договоренностей государств – так же, как это было с атомом. Все должны принять решение о том, что разработки по искусственному интеллекту не используются в военных целях.


Второй момент связан с особенностями развития этих технологий. Искусственный мозг развивается антропоморфным образом, то есть так же, как у человека: ребенок сначала начинает воспринимать объекты и смыслы, а где-то в период с двух до пяти лет возникает так называемое осознание себя как личности – личности, отдельной от этих смыслов и объектов. Он может самостоятельно принимать решения. Вот сейчас искусственный интеллект находится в режиме распознавания смыслов. То есть это ребенок. Но рано или поздно наступит момент, когда он начнет себя осознавать как отдельную сущность. И если этот момент не будет подготовлен, если не будет жестко заложено, что робот не имеет права нанести вред человеку, не имеет права воевать… В эту же секунду, как он себя осознает как личность, он может принять решение об уничтожении человечества или, как минимум, может помешать движению городского транспорта, если захочет вывести из строя все светофоры. Мы не знаем, как эта личность поведет себя, как она обработает информацию, которая будет ей доступна. Потому что информация о нашей цивилизации очень тяжелая, и человечество ведет себя по-разному, и какие выводы сделает искусственный мозг – сказать трудно. Какое поведение он возьмет за образец? Поэтому надо ввести какие-то ограничения на уровне формирования вот этой самой территории смыслов, из которой дальше будет вырастать само определение искусственного интеллекта. А это введение ограничений для разработчиков. И этого нигде еще не сделано. В пионерах сейчас находится Америка, она очень быстро реагирует и очень серьезно относятся к новым рынкам. В Калифорнии беспилотников на дороге скоро будет больше, чем обычных водителей. Например, японцы не рвутся вперед, они берут американский опыт. Европа – немцы и французы – тоже вторичны. Они сами так определили, решили пойти в хвосте, они берут американскую юридическую разработку на вооружение. Других развитых рынков особо и нет. Так что если самим не проявлять инициативу, в какой-то момент России просто пришлют разнарядку – либо вот так, либо изоляция.

Как вы считаете, как долго нам еще ждать момента, когда искусственный интеллект сможет осознать себя как отдельную личность?

Лет десять – мы можем это застать. Это точно застанут наши дети. Люди, которые считают, что это не их проблемы, совсем скоро поймут, что это не так.
Продолжение следует
Made on
Tilda