Главные события
в комментариях экспертов

ПОИСК ПО САЙТУ

Пример: что будет с рублем

Курс валют:
$ 59.27
€ 69.67

Илон Маск и Стивен Хокинг решили предотвратить восстание машин

Тысячи ведущих западных ученых и бизнесменов подписали письмо , призывающее запретить использование боевых роботов в гонке вооружений. Авторы письма, среди которых физик Стивен Хокинг, один из создателей Apple Стив Возняк и глава компании SpaceX Илон Маск, заявили, что использование искусственного интеллекта как оружия может начаться уже в ближайшие годы и привести к огромным человеческим жертвам.

«Если появится военная сила, которая начнет активно вести разработки «умного оружия», то глобальная гонка вооружений будет неизбежна. И финал этой гонки совершенно очевиден: автоматизированное оружие станет своеобразным автоматом Калашникова будущего», — говорится в тексте письма.

Стивен Хокинг заявил, что развитие автономного наступательного оружия может привести к гибели человеческой расы. А Илон Маск выделил 10 миллионов долларов на предотвращение использования искусственного интеллекта во вред человечеству. 

Однако ученые не добиваются полного запрета для использования искусственного интеллекта в оборонной промышленности, но настаивают на том, что технологии не должны самостоятельно принимать решения.
По материалам Techcrunch  и РБК.

Источник: www.rusea.info
Владимир Громов
Главный конструктор ОАО "Завод им. В.А. Дегтярёва"
29 июля 13:49

Мы отстаиваем интересы России, гуманизм на нашей стороне

Более тысячи ведущих западных ученых и бизнесменов, среди которых физик Стивен Хокинг, один из создателей Apple Стив Возняк и глава компании SpaceX Илон Маск,  подписали письмо с призывом запретить использование боевых роботов в гонке вооружений. Авторы письма уверены, что использование искусственного интеллекта как оружия может начаться уже в ближайшие годы и привести к огромным человеческим жертвам. О своем отношении к этой проблеме рассказывает главный конструктор ОАО "Завод им. В.А. Дегтярёва", занимающегося  разработкой российских боевых роботов Владимир Громов.

Если настолько масштабно смотреть на проблему, то можно довести все до абсурда. Занимаясь прикладными задачами, которые не представляют угроз для человеческой расы, мы пытаемся экономить человеческий ресурс, и снимать непосильную нагрузку с перегруженных операторов и командиров. Мы отстаиваем интересы России и считаем, что правда и гуманизм на нашей стороне.

Развитие автономного оружия находится в самом начале пути, и до его применения еще далеко. Пока решаются только научные и частично прикладные задачи. Сегодня даже не идет речи о том, чтобы вписывать самостоятельные робототехнические единицы в систему вооружения. 

К тому же нет определенности в термине «искусственный интеллект».  Если подразумевать интеллектуальные системы для замены человека, то такими задачами мы занимаемся, но впереди еще большой путь. В фантастических книгах за людей воют роботы, а они сидят у компьютера. В реальности же такого нет, и еще очень не скоро появится во всем мире. Пока речь идет только об использовании интеллектуальных систем для замены человека в решении каких-то задач. Решение принимает человек, а не машина.

Источник: mosroboforum.ru
Игорь Никитин
Генеральный директор Корпорации роботов
29 июля 18:10

Ученые не хотят появления Терминатора

Группа влиятельных мировых ученых и общественных деятелей, среди которых Илон Маск и Стивен Хокинг, выступила против использования боевых роботов в гонке вооружений. Как далеко продвинулась наука на пути создания терминаторов, рассказывает генеральный директор компании «Бал роботов» Игорь Никитин.

Инициатива, которую подписали ученые, это правильное решение, ведь в связи с развитием современных систем управления боевыми роботами и беспилотными средствами, искусственный интеллект играет очень важную роль.

Держава, которая имеет оружие такого класса и может его применять, получает огромное преимущество на поле боя. На данный момент современные ограничения по использованию дистанционных средств связаны с каналами  управления боевыми машинами, роботами на поле боя. Большинство современных боевых роботов – это просто беспилотные средства, которые управляются оператором, будь то самолет, танк, или механический робот с руками и ногами. Таких машин, как Терминатор на данный момент не создано. А инициатива, которую подписали ученые, направлена на то, чтобы таких машин и не создавалось.

В Америке уже практикуется запуск беспилотников без связи, и он, по определенным признакам вычисляет врага и пускает ракету. Это полностью автоматическое средство уничтожения объектов на земле. Но любая программа несовершенна. Любой компьютерный вирус или сбой, или умышленные действия могут привести к тому, что оружие обернется против своих создателей. И это не тот сценарий, когда машина вдруг осознает, что она разумна и ей надо уничтожить человечество.  Это всего лишь красивая литературная метафора, которая невозможна  в современном мире. Но вполне вероятно, что машина, у которой произойдет сбой, примет своих солдат за врагов, а  мирных жителей за объекты для уничтожения. При этом у нее не будет ни разума, ни самоидентификации. И это будет очень банальный сбой, как в телефоне, когда email уходит другому адресату. 

Против создания таких систем и выступают ученые. То же самое касается и ядерной проблемы. На Земле были ядерные войны, взрывали ядерные бомбы, были очень большие людские потери. Все помнят Хиросиму и Нагасаки. Однако самое опасное в ядерной проблеме - потеря контроля над вооружениями и террористическая угроза.  Все апокалиптические сценарии исходят из потери контроля.  Также и с искусственным интеллектом. Чем больше автономности, автоматизации, искусственного интеллекта в вооружениях, тем больше шанс потерять контроль. И тогда любой передвижной автомат начинает представлять колоссальную опасность для всего человечества. И потерять этот контроль можно в любой момент от малейшего сбоя.

Поэтому необходимо обсуждение этой проблемы на межправительственном уровне. Заблокировать создание такого оружия практически невозможно. Нужно указывать на то, насколько это проблема важна, запретить применение таких видов вооружений, как мы запретили применение химического оружия, и других средств массового поражения. Если в реальных конфликтах вооружение применяться не будет, то, скорее всего, оно и не будет развиваться. Но, к сожалению, соблазн получить полностью автономные боевые машины, которые могут принимать решения и действовать на территории врага, для любого военачальника любой страны очень велик. Такое оружие дает очень большие преимущества, поэтому борьба с ним возможна только информационными методами.

Источник: sk.ru
Альберт Ефимов
главный роботехник фонда Сколково
29 июля 13:39

Из-за развития робототехники могут быть потеряны миллионы рабочих мест

Более тысячи ведущих западных ученых и бизнесменов подписали письмо с призывом запретить использование боевых роботов в гонке вооружений. Дискуссия запоздала на несколько десятилетий, уверен, главный роботехник фонда Сколково Альберт Ефимов.

Опасения западных ученых я не разделяю. В ходе развития технологий и, в частности, робототехники, могут быть потеряны миллионы рабочих мест, которые уже не подлежат дальнейшему восстановлению – это может быть.

На развитие робототехнических технологий и искусственного интеллекта в военном секторе идут миллиардные бюджеты, которые вряд ли могут быть каким-либо образом изменены несколькими миллионами долларов.

Что касается использования автоматических технологий в военной сфере, то дискуссия запоздала на несколько десятилетий. Автономные технологии, принимающие решения насчет применения или не применения оружия, существуют уже десятки лет. Говорить о том, что этот вопрос встал только сейчас – это ошибка. Применение ракетного и зенитного вооружения во многих случаях уже идет без участия человека. Именно поэтому и происходят разного рода трагические инциденты, которые, к глубочайшему сожалению, повторялись уже много раз.

К тому же очень многие из подписавших этот документ, на бумаге против военного применения искусственного интеллекта, но в то же время они совершенно не стесняются брать деньги у оборонных ведомств Соединенных штатов. Имена большинства ученых из этого списка будет совпадать с именами грантополучателей таких агентств, как Пентагон и DARPA (Агентство передовых оборонных исследовательских проектов США). Поэтому некоторые из подписантов немного лицемерят.

Искусственный интеллект, который обладает способностями роботов из фантастических, а не научных фильмов, будет создан через десятилетия, а может и столетия. Бунта машин нам точно не нужно бояться. Нам нужно бояться того, что наши машины, которые мы уже имеем в эксплуатации, в том числе и автомашины, могут хакнуть, они могут подвергнуться несанкционированному взлому, спровоцированной кем-то аварии. По-настоящему искусственный интеллект, превосходящий по своим возможностям человеческий, еще очень-очень далеко.

Источник: naucaitechnika.ru
Алексей Полубояринов
директор компании-разработчика и производителя роботов-охранников "СМП Роботикс"
29 июля 14:13

Искусственный интеллект нужно использовать для колонизации Марса

Ведущие западные ученые и бизнесмены, среди которых физик Стивен Хокинг, и глава компании SpaceX Илон Маск, подписали письмо об опасности использования искусственного интеллекта как оружия. Грозит ли человечеству восстание машин и как этого избежать, объясняет директор производителя роботов-охранников "СМП Роботикс" Алексей Полубояринов.

Пока об угрозе превращения искусственного интеллекта в оружие убийства переживать рано.  Может быть, это  популизм и попытка подогреть интерес к теме искусственного интеллекта.

Сейчас есть программируемые образы искусственного интеллекта. Но еще далеко до того, чтобы искусственный интеллект стал бы самовоспроизводить себя и качественно шагнул на новый уровень развития сравнительный с мозгом человека. Предполагается, что это будет не раньше, чем в 2045 году. Еще лет 30 у нас в запасе есть.

Вопрос об использовании искусственного интеллекта только в мирных целях – риторический и теологический. Среда, в первую очередь, определяет тип мышления. Соответственно, нужно поместить этот искусственный интеллект в среду, где у него не будет возможности и никаких предпосылок к тому, чтобы он навредил человечеству или жизни как таковой.

Может быть, эта среда должна быть на какой-то неосвоенной территории, допустим, за пределами нашей планеты, или в Антарктиде, которая является демилитаризованной зоной, согласно конвенциям ООН и другим уставам. А если смотреть далеко в будущее, это должна быть колонизация Марса.

Комментарии пользователей

Самое популярное

Колонки

15 ноября
Добившись дополнительных льгот, Венесуэла получает время на частичный выкуп своего долга. Возможно, считают некоторые международные финансовые аналитики, в этом и заключается стратегия венесуэльского государства.