Писатель Владимир Торин обсуждает вместе с экспертами, оправданы ли наши страхи восстания машин и как далеко успел зайти искусственный интеллект
В. Торин:
- Добрый день, дорогие друзья. В эфире программа «Нефантастика», программа о будущем, в котором теперь возможно все, программа о нереальном, которое вчера еще было нереальным, а сегодня совершенно реально и абсолютно естественно. Тема у нас такая: роботы и люди. Оправданны ли наши страхи о восстании машин? И как далеко успел зайти искусственный интеллект? И что нас ждет в будущем с этими самыми роботами и людьми?
Сегодня на разговор об этом приглашен Владимир Белый, глава фонда Alpha Robotics Venture, один из создателей робота Федора. И с нами Александр Вячеславович Лосев, член президиума Совета по внешней и оборонной политике.
Сегодня у нас новость, которую опять подбросил Илон Маск. На Дне искусственного интеллекта в Калифорнии Илон Маск представил вариант робота-гуманоида Tesla Bot. Его первый прототип может появиться уже в 2022 году. Этот робот, по словам Маска, будет использовать те же датчики, что и в электромобилях компаний, они помогут ему распознавать мир, ориентироваться в нем. По его задумке, этот робот будет дружелюбным, сможет взять на себя какие-то опасные, однотипные или скучные задачи, которыми люди не хотят заниматься. К примеру, он будет ходить куда-нибудь в магазин за продуктами.
Сегодня в интернете это много обсуждают. Владимир, когда мы сегодня готовились к эфиру, у нас появилась такая история, что вы общались с Илоном Маском и даже предлагали ему модель робота Alpha Bot. Правда это или нет? А во-вторых, что вы думаете по поводу сегодняшней нашей новости?
В. Белый:
- Да, была такая история. Я у вас, наверное, впервые озвучиваю, что такое вообще возможно, и что к этому мы как раз приходили. 13-й год, декабрь, мы вели переговоры с офисом Илона Маска и с его представителем, затем встречались в Нью-Йорке, на тему как раз реализации проекта Alpha Bot. То есть мы сделали концепт…
В. Торин:
- То есть вы встречались с Илоном Маском в его штаб-квартире и предлагали вашего робота ему?
В. Белый:
- Да, была такая тема. Это еще до того, как мы занимались разработкой робота Федора, мы делали очень много разных вариаций того, какие роботы должны быть в будущем, какие мы хотим построить. И один из таких проектов мы представили Илону Маску. Там была интересная беседа. И в конце он заявил о том, как это будет, и как это не будет.
В. Торин:
- По-моему, только ленивый не покритиковал робота Федора. А вот сегодняшние картинки и видео того робота, которого предлагал Илон Маск, они, мягко говоря, странные. Там человек, одетый в костюм робота, и он танцует на некой сцене. Вы видели эти кадры?
В. Белый:
- Да, конечно. Я думаю, их все видели. Мало того, все описание, которое он сделал в своей презентации, полностью, практически тезисно копирует то, что мы представляли еще в 13-м году. Это достаточно забавно.
В. Торин:
- То есть Илон Маск украл у вас робота?
В. Белый:
- Нет, ни в коем случае. Никто ни у кого не воровал. Я думаю, скорее всего, он вдохновился чем-то. Ему на стол попали материалы, и я думаю, что он, увидев в нас неких людей, которые предугадывают будущее даже в виде концептов или предложений, решил это воссоздать в реальности. Мало того, всем известно, что когда мотивация, дизайн и деньги встречаются вместе, такие проекты получаются, и они реализуются из мечты в реальность.
В. Торин:
- Александр Вячеславович, вы член президиума Совета по внешней и оборонной политике. Насколько серьезна эта история сегодня про роботов?
А. Лосев:
- Я в первую очередь выпускник МВТУ им. Баумана, инженер в четвертом поколении. И меня такими темами не удивить. Мы всё это видели много раз. Мы даже помним 80-е годы, Японию, где все эти роботы-андроиды в каждом супермаркете. И вот когда случилась катастрофа на С. Андреевская: «Фукусима» в 2011 году, кто пошел в зону реактора, кто пошел устранять? Роботы? Нет. В такой технологичной стране, как Япония, не нашлось ни одного робота, способного работать в экстремальных условиях. Туда пошли смертники, пошли пенсионеры-атомщики, пошли туда умирать.
Что нам показывает Илон Маск? Не то, что он такой креативный, а то, что в Калифорнии очень хороший «колумбийский снег» и прочие запрещенные в России вещества. Вот и все, что мы видим.
В. Торин:
- То есть это скорее шоу, чем развитие науки?
А. Лосев:
- Конечно, это шоу. Они говорят, что он будет слабее человека. Простите, пока искусственный интеллект нормальный не создан. Пока еще человеческий разум мощнее, чем разум машин. А если они создают робота, который будет слабее гастарбайтера, то зачем вообще такой робот?
В. Торин:
- То есть все-таки пока это больше пиар?
А. Лосев:
- Абсолютно. Потому что надо поддерживать котировки акций Tesla на каком-то приемлемом уровне, иначе о них все забудут и начнут продавать. Поэтому пиаримся.
В. Торин:
- Владимир, вы создали робота Федора. И чем он отличается от того, что сегодня показал Илон Маск?
В. Белый:
- Во-первых, робот Федор это совокупность разных технологий, которые реально работают, и его создавали как робота-спасателя для определенных целей и задач. Соответственно, все, что из этого складывается, это набор технологических наработок, различного опыта и того, что дает возможность дальше разрабатывать в разных направлениях в сфере робототехники, искусственного интеллекта, систем распознавания, систем динамического равновесия и т.д. И в целом это все-таки уже функционирующий робот, на котором, даже несмотря на то, что производятся различные исследования, сейчас уже можно проводить работы на базе этих платформ. В частности, это проекты и для Росатома, и для подводников наших, и для Министерства обороны, и т.д. Все это является полезной робототехникой, которая приносит пользу на данный момент.
В. Торин:
- А можете привести какие-то конкретные примеры?
В. Белый:
- Все очень просто. Здесь нужно понимать, что если мы используем безлюдные технологии там, например, где человеку просто опасно находиться по своей сущности и физиологии, в частности, работая с токсичными или радиоактивными отходами, то здесь, кроме робототехники, ничего не сработает нормально.
В. Торин:
- Нет, работают. Нам только что Александр Вячеславович рассказал, что пошли смертники - пенсионеры, работавшие в атомной промышленности, спасать человечество от того, что случилось на станции «Фукусима». Потому что роботы, к сожалению, были не в состоянии решить эту проблему.
В. Белый:
- Да, абсолютно верно, что пока робототехника не заработает, идут всегда люди – на Чернобыльской АЭС, «Фукусиме» и т.д. Тем не менее, «Фукусима» дала как раз тот толчок, когда стало понятно, что все-таки людей нужно беречь, сохранять и так далее. Кстати, они к нам обращались, то есть от «Фукусимы» приходило приглашение на тему, чтобы мы тех роботов, которых мы тогда уже разработали, привезли и в этой их чрезвычайной ситуации выполнили работы. Но в тот момент у нас не было на 50% даже готовности в этом участвовать и везти, хотя предпосылки были.
В. Торин:
- Я знаю, что после аварии на «Фукусиме» к вам обращались коллеги из Японии.
В. Белый:
- Пришло письмо от их государственной организации о том, что необходима помощь. Они делали рассылку по всем компаниям, которые на то время занимались робототехникой. И мы попали в этот пул. Мы им вежливо ответили, что сочувствуем и соболезнуем им. Но на тот момент роботы, которые у нас были, еще не готовы для того, чтобы работать на их объектах. Мы могли отправить им экспериментального робота… Но у нас было всего несколько изделий, которые выполняли конкретные функции. Это были прототипы. И как таковых готовых изделий, в плане полноразмерной функциональной робототехники, до этого еще нужно было года три-четыре поработать.
В. Торин:
- Если вдруг сегодня произошла бы катастрофа подобная той, и к вам бы обратились ваши японские коллеги, то сегодня вы могли бы отправить роботов, которые бы спасли нас всех?
В. Белый:
- Сегодня такая возможность есть. Это, скорее всего, сделали через РАО «Росатом», которая уже имеет у себя на балансе таких роботов, которые…
В. Торин:
- Оказывается, инженерная мысль движется вперед. Или пока еще говорить о засилье роботов рано?
А. Лосев:
- Засилье роботов возникло давным-давно, еще в прошлом веке, когда появились автоматизированные люди. Та же сборка автомобильной техники, манипуляторы. Роботов-андроидов создавать бессмысленно. Это просто ходячие манекены. Те роботы, которые необходимы для разминирования, мы это видим в Сирии, те роботы, которые необходимы на поле боя, это не андроиды. Боевые роботы – это танк без экипажа, это защищенный объект или истребитель без экипажа. Маневренный, несущий хорошее вооружение.
В. Торин:
- Дрон с гранатой.
А. Лосев:
- Не дрон. Дрон – штука слабая. Реально что-то размером с истребитель, способное и себя защитить, и с высокой скоростью двигаться. «Армата» мог бы быть боевым роботом. Потому что робота-андроида снесет любая взрывная волна или просто пуля из крупнокалиберного пулемета. И нет робота. Это просто голливудская фантастика.
А что касается засилья, то здесь засилье немножко другое. Есть такие компании как Facebook, Netflix, Amazon, Google, они нам говорят, что они – великие дирижеры системы. Что их большие данные, их искусственный интеллект – нейросети скоро начнут управлять человечеством. И чем больше мы погружаемся в свои смартфоны, чем меньше мы думаем своей головой, тем больше они захватывают власть. Это опасней, чем роботы человекоподобные.
В. Торин:
- Происходит некая подмена понятий. Когда сейчас Илон Маск говорит о том, что вот этот робот просто будет решать однотипные скучные задачи – ходить в магазин за продуктами, убирать квартиру и делать монотонную работу, - на самом деле это не так. По-прежнему монотонную работу будет делать человек, а вот проникновение в интеллект и сбор данных – этим и занимаются роботы. И они совсем не похожи на человека.
А. Лосев:
- Да, нейросети. Идет накопление больших данных. У всех смартфоны. И каждый смартфон как зеркало. А таких смартфонов миллиарды. И в этом зеркале отражается все – ваши интересы, ваши запросы, ваш круг общения, ваши покупки. И сбор, анализ этих данных, а потом еще и возможность вовлечения людей в соцсети, возможность не только продавать им товары, но и манипулировать их эмоциями, сознанием, вот что нужно.
Илон Маск может создать таких роботов для миллиардеров, которые просто втайне ненавидят людей, такие мизантропы, для того, чтобы в их особняках такие роботы ходили, чтобы там не было прислуги. Может быть.
В. Торин:
- Владимир, а как вы считаете у роботов-андроидов есть будущее?
В. Белый:
- Такая линейка как антропоморфность у нас в мире давно присутствует. И она необходима. Вся инфраструктура создана для человекоподобного существа. Не нужно городить пандусов или специальной системы для адаптации под дрон, для колесных систем, на базе гусеничных или несколькоосных. Антропоморфность – самая идеальная. Там не нужно тратить миллиарды, чтобы все переоборудовать. Об этом думают и фантасты, и миллиардеры, и те, кто занимается инжинирингом.
И в целом мы тоже не просто так начали этим заниматься. Когда у нас стояла задача утилизировать снаряды, заниматься демилитаризацией боеприпасов, там тоже ни один колесный робот не мог протиснуться в те бункеры, где это происходило, к тем станкам подъехать. Работала бабушка, которая выходила, заходила, закручивала большой винт на сейфовой двери. И делала такие операции, пока снаряды не заканчивались. А они не заканчиваются и не закончатся еще в ближайшие лет пятьдесят.
В. Торин:
- Мы можем делать сколько угодно роботов, но без бабушки, которая закручивает вентиль, мы не можем обойтись.
В. Белый:
- Мы начали продумывать то, что может ее заменить. Ездим по миру, смотрим рынок. Япония – это первая страна, куда мы отправились, чтобы изучать, что там происходит. Мы увидели, что мир в 2005 году стоял практически на нулевом пороге. При этом выставочные и сервисные роботы более-менее уже были представлены. И на них активно привлекались инвестиции. И несколько роботов вы точно знаете – от «Тойоты», от «Хонды», которых мы видим на хайповых роликах. Boston Dynamics – их основная тема была отработка систем динамического равновесия. В какой-то момент они поняли, что это тоже достаточно интересная тема, и начали разрабатывать таких роботов.
Почему мы выбрали антропоморфность одним из направлений? Это универсальность. Через 5-10 лет тот же Илон Маск построит таких роботов, они будут ходить по офисам и предлагать кофе. Это не панацея. И в то же время и не совсем какие-то ограничивающие моменты по производству элементной базы. Сервоприводы, редукторы и так далее – это все уже реализовано.
В. Торин:
- Илон Маск представил человекоподобного робота. Как выяснилось, это был человек, одетый в костюм робота, и никого он сильно не удивил. Владимир, вы же не удивились этому роботу?
В. Белый:
- Нет, абсолютно не удивился, мало того, ожидал, что Илон Макс подобное что-то сделает, потому что все предпосылки для этого были. И плюс дизайн, компоновка, очень многое подводит к тому, что все это существует в мире, и можно что-то подобное из этого собрать. Конечно, я увидел много несостыковок. В частности, в компоновке редукторов, двигателей и т.д. и степени свободы таких роботов. Тем не менее, выглядит он прикольно, я думаю, что сейчас акции Tesla и всех, кто участвует в этом проекте, просто вылетят вперед, и это даст возможность очень приличного инвестирования, от институциональных инвесторов в том числе.
В. Торин:
- То есть вы считаете, что будущее именно за такими роботами? Вы не согласны с мнением Александра Вячеславовича?
В. Белый:
- Да нет, почему? Я согласен. И это тоже, мы в таком направлении тоже двигаемся, создаем и такие роботы, и коллаборативные, и реабилитационно-медицинская робототехника, и ее очень много, искусственного интеллекта, нейросетей, скажем, создано, для того чтобы все это работало, на колесной базе, и беспилотники, и дроны, и мобильные наземные беспилотники. Все это создается и уже создано нами, нашими организациями, в нашем холдинге. Я считаю, что это одно из направлений, которое создано добавлять человеку вот таких ассистентов. А как дальше все это будет и кто как ими распорядится, это второй момент. Потому что взять Boston Dynamics, их робота, который паркур выполнил, это уже совсем другой уровень робототехники. Я, например, очень плохо представляю, чем мы ответим, если такие роботы будут где-то, условно, в Афганистане бегать с оружием. Меня такие темы немного напрягают. Потому что у нас пока ответить особо нечем. Даже если сделаем роботов Федоров, стреляющих по таким роботам, все равно недостаточно прогрессивно получилось это сделать.
Если наши инвесторы и люди в правительстве увидят, что есть такая потребность, есть такая угроза с той стороны, поработаем, сделаем что-нибудь интересное. Это как одно из направлений из всей линейки робототехники. Потому что сейчас проблем нет вообще и на роботы-манипуляторы, заводские какие-то направления для промышленности, они все уже лет 20-30 в работе, и ничего в этом удивительного нет. Поэтому я соглашусь. Просто у меня есть свое добавление к этому.
В. Торин:
- Александр Вячеславович, бытует такое мнение, что производство андроидов вообще бессмысленно, что нужно заниматься именно тем, о чем сейчас говорил ваш коллега Владимир. То есть нужно заниматься именно нейросетями, искусственным интеллектом, и это гораздо важнее и серьезнее, чем создание таких роботов-андроидов. Как вы считаете?
А. Лосев:
- Мой коллега наговорил много чего интересного и странного. Мало того, что какие-то роботы в Афганистане… Все это прекрасно уничтожается обычным вооружением, та же самая РЭБ (электронная борьба) выключает кого угодно. Нам нужно в первую очередь заниматься естественнонаучным образованием. Потому что мы сейчас видим, что в нейросетях человечество уже достигло определенных пределов. Нам нужны новые знания, нужна новая математика. Снова вспоминают методы нелинейного программирования, которые были еще до компьютеров, для того чтобы понять, куда вообще двигаться. И когда мы говорим об андроидах… Главное – это энергия. Если вы не создадите компактный источник энергии, то никаких роботов-андроидов у вас не будет. Что будет приводить в движение их двигатели, которых у них много, для того чтобы обеспечить такую динамику и кинетику? Что, гигантские аккумуляторы в рюкзаках этих роботов? Нужны новые принципы хранения и использования энергии. Пока мы не придумаем компактные батарейки, которые будут обеспечивать андроидов, о них можно просто забыть. Они не нужны. Гастарбайтеры всегда будут дешевле, и неважно, у нас, здесь, или там, в Америке.
В. Торин:
- Гастарбайтеры заменят нам роботов. Владимир, что ответите?
В. Белый:
- Ну, на данный момент так и есть, гастарбайтеры заменяют пока роботов. И в России не особо пытаются применить у себя робототехнику, даже говоря о промышленной или коллаборативной робототехнике. Тем не менее, предпосылки есть, в том числе Сбер работает над этим, Яндекс, и активно, успешно внедряют, интегрируют.
Второй момент. Если говорить про ЭМИ (устройство, условно, радиоэлектронной борьбы), такие роботы не для этого применяются в целом, а для того, например, чтобы заминированное помещение проверить или вступить в ближний бой с какими-нибудь террористами или злоумышленниками. И не всегда у них есть такие устройства, которые они могут применять.
Это делается все-таки для спасения личного состава и т.д. То есть много разных моментов, при которых такая робототехника, она живая. В частности, проект «Маркер» создан, сделан, преодолел кучу разных препятствий, выполнил все задания. Это трехосевой вездеход на гусеничной платформе, который успешно выполняет задачу охранять наши границы или выполнять задачи, которые ему ставят от Министерства обороны. В то же время с ним работают в комплексе, например, беспилотные летательные аппараты в виде квадрокоптеров или октокоптеров, которые являются его глазами и системами наведения, например, на цель.
Что касается замены солдат, например. Вы просто матерям можете рассказать, насколько это важно или нет, сохранится их ребенок или нет. В том числе и в Штатах, и в России, и вообще в целом по всему миру.
И третье. Я все-таки думаю, что жизнь человека ценна, и ее нужно сохранять. Помимо этого те роботы, которые уже создаются, и платформы, которые уже созданы, они созданы для того, чтобы убрать человека от опасных для него внешних воздействий (и космос, и атомная промышленность, и там, где вообще опасно находиться, например, в шахтах, наполненных метаном). Это все как раз дело робототехники, пусть она там работает, а мы с вами будем заниматься творчеством, сидеть где-нибудь на дачах, выращивать цветы, получать безусловный базовый доход, и всем будет хорошо.
В. Торин:
- То есть люди будут сидеть на дачах, а роботы в это время будут охранять границы, делать целенаведение, стрелять по врагам и не стрелять по друзьям. И будут нас во всем слушаться.
Вот этот страх перед будущим, перед восстанием машин – будет ли что-то такое?
А. Лосев:
- Опасности есть. Если мы прекратим думать головой, если мы перестанем думать о прогрессе. И если мы будем полагаться на безусловный базовый доход, куда нас тащат, если мы подпадем под цифровой контроль и в цифровой концлагерь. Самая большая опасность – создание такой антиутопии. И управлять нами будут, конечно, не роботы. Нами будут управлять хозяева денег и хозяева социальных платформ. Мы уже видим, как они отнимают власть у выбранных политиков. Посмотрите, как они просто растерли в порошок Трампа. И дальше наши американские коллеги уже напрягаются, что сейчас власти у IT-гигантов гораздо больше, чем у политиков и банкиров.
Когда мы говорим, такие вещи нам внушают: люди, сидите дома, получайте безусловный базовый доход, кто-то будет другой работать, инклюзивный капитализм, устойчивое развитие, - это как раз про антиутопию и цифровой концлагерь. Почему не нужно бояться роботов? Потому что наука деградирует в последние тридцать лет. Как только американцы победили в холодной войне, как только Советский Союз, их главный конкурент и противник, исчез с карты мира, прекратилось нормальное инвестирование в фундаментальную науку. Все достижения в космосе были сделаны тогда, в 70-80-е. Потому что денег не жалели, потому что космос был стратегической отраслью, потому что он решал задачи обеспечения безопасности государства, в первую очередь, а уже все остальные задачи – во вторую. То же самое было с наукой и с ядерной энергетикой. А сейчас нет конкуренции, идет деградация.
В. Торин:
- Люди боятся, что роботы просто могут взять власть над человеческим интеллектом. К нам подключилась Ирина Коржаева, клинический психолог, гипнотерапевт. Общий уровень истерики про цифровой концлагерь, про то, что роботы завладеют умами людей, это врачебный случай? Или это реальность, которая заставляет людей нервничать?
И. Коржаева:
- Конечно же, это то, что заставляет людей нервничать. Социум говорит о том, что роботы нас окружают, они нами управляют, собирают информацию о нас. Стоит ли бояться роботов? Мы боимся их или людей, которые их делают и программируют? Все зависит от назначения.
В. Торин:
- Что с этими страхами делать?
И. Коржаева:
- Надо изначально снять ответственность с роботов. Их делают люди. помните сказку «Раз-два, горе – не беда». Там был огромный робот Карбарас. Робот изначально был очень добрый, замечательный, просто большой и внешне должен был отпугивать врага. Но как только появился человеческий фактор, его повредили, и он пошел все разрушать. Все зависит от людей. А страх питается естественно. Очень много книг, много фильмов. Это тот самый маркетинг, о котором мы уже говорили. Что люди хотят и чего люди боятся. Естественно, таким образом нами пытаются управлять. Но когда мы начинаем разбираться, то понимаем, что робот-пылесос нам помогает. А робот, который побежит и где-то что-то заминирует, наверное, это беда и зло. Но за всем этим стоит человек. Это когда люди боятся неизвестного. А если люди чего-то не понимают, то они начинают сочинять сказки, додумывать.
В. Торин:
- Владимир, стоит ли бояться роботов?
В. Белый:
- Роботов бояться не стоит. Все зависит от тех, кто их создает и для чего использует. Молоток тоже когда-то создавали, это могло стать оружием, но стало инструментом. Я предлагаю роботов рассматривать как инструмент и использовать их для этого. Чтобы человечество развивалось. Я недавно инвестировал в социальную сеть с элементами нейросетей.
В. Торин:
- Спасибо!
Понравилась программа? Подписывайтесь на новые выпуски в Яндекс.Музыке, Apple Podcasts, Google Podcasts, ставьте оценки и пишите комментарии!
Илон Маск представил робота-гуманоида Tesla Bot и выдал идеи российской компании за свои - РАДИО «КОМСОМОЛЬСКАЯ ПРАВДА»
Read More
No comments:
Post a Comment