antony_w (antony_w) wrote,
antony_w
antony_w

World economic forum: развитие робототехники бросает новые вызовы



Участники всемирного экономического форума в Давосе обсудили вызовы, которые ставит стремительное развитие робототехники. Экспертное сообщество обеспокоено угрозами правам человека, а также всё возрастающими темпами сокращения рабочих мест, уничтожаемых роботами, алгоритмами и программами.

Четвертая промышленная революция

Ключевая особенность текущей промышленной революции — её скорость. Именно скорость порождает ряд проблем, способы решение которых сейчас вырабатываются. Когда фермеров заменяли промышленные рабочие, это происходило в режиме смены поколений: не столько крестьяне массово переквалифицировались, сколько их дети уезжая в города обучались новым профессиям. Сейчас достаточно сильные изменения происходят за времена, намного меньшие длительности жизни человека, а это значит что образовательная система должна быть готова к массовому переучиванию взрослых людей. Да и люди должны быть психологически готовы к изменениям.

Отчёт о будущем рынка труда основан на изучении 15 стран, в число которых Россия не попала, тем не менее его выводы применимы и к нам. Студентам рекомендую ознакомиться с ним подробнее, — многие из них сейчас изучают исчезающие специальности.

Последние годы пресса насадила людям представление о том, что данные изменения коснутся прежде всего рабочих специальностей — было много публикаций о внедрении промышленных роботов на производстве.

Вместе с тем, эксперты отметили, что на первом этапе самые массовые сокращения ожидают не представителей производственных специальностей, а административный персонал — так называемых «белых воротничков». Связано это с тем, что компаниям заменить программное обеспечение проще и дешевле, чем производственное оборудование. Новые алгоритмы и программы позволят автоматизировать большее число операций. Необходимость их выполнения офисными служащими отпадет. Больше всего пострадают женщины.

Оценка по изученным странам на ближайшие 5 лет (к 2020 году) такова — сокращение более 7 миллионов рабочих мест. Новые места будут создаваться, но в меньшем количестве — всего 2 миллиона рабочих мест. Итог неутешителен — чистая потеря 5 миллионов рабочих мест.



Угрозы правам человека

Помимо уничтожения рабочих мест, внимание экспертов форума было приковано к ещё одной теме, где скорость технического прогресса захватывает человечество врасплох. И тема эта пострашнее — автономные боевые роботы.

Выступивший на форуме глава британского производителя оружия BAE Роджер Карр заявил, что несмотря на прозвучавшие в этом году протесты таких людей, как основатель Tesla Элон Маск, — в настоящее время разработки по созданию боевых автономных роботов ведутся в 40 станах, включая США. Соединённые штаты лидирует, сказал Барр, хотя это единственная страна в мире, где существует законодательный запрет на использование таких устройств до 2022 года.

Анджела Кейн, представитель ООН по вопросам разоружения, заявила, что разговоры о принятии норм международного права, регулирующих этот вопрос начались в 2014 года, однако достигнутый прогресс незначителен. «На сегодняшний день не существует даже общепринятого определения того, что можно называть роботом-убийцей или автономным оружием», сказала Кеин.

Привыкшее десятилетиями обсуждать и шлифовать формулировки договоров, международное сообщество просто не в состоянии принять что-либо, регулирующее применение этих умных смертоносных машин: предмет изменяется быстрее, чем дипломаты его понимают. А тем временем утверждается, что такие боевые устройства станут доступны через пару лет.

Профессор компьютерных наук Калифорнийского университета, Стюарт Рассел, сообщил участникам, что в ближайшие два года ожидает появление таких автономных боевых машин, которые будут способны самостоятельно исполнить приказ «уничтожить всех мужчин в возрасте до 40 лет в городе».

Однако, даже в отсутствие специального закона, все участники дискуссии согласились с тем, что приказ об убийстве человека, отданный автономному роботу, будет нарушать международное гуманитарное право, поскольку противоречит конвенциям о правилах ведения войн.

Примечательно отношение обычных людей к возможности использования роботов в войнах. Участники опроса более благосклонно отнеслись к отправке роботов погибать вместо своих сыновей и дочерей, чем к тому чтобы их противники использовали роботов в охоте за ними. И это очень хорошо показывает психологию гонки вооружений — или ты первый создашь оружие, позволяющее получить военное превосходство, или будешь страдать от такого оружия.

С точки зрения прав человека, автономные боевые роботы вызывают беспокойство по ряду причин:

применение оружия без полноценного и эффективного контроля со стороны человека увеличит вероятность незаконных убийств и увечий на поле боя — машины не смогут правильно оценить сложные ситуации, а также оценить соразмерность ответного удара;
несмотря на то, что некоторые эксперты по технологиям доказывают, что автономные роботы могут быть запрограммированы так, что будут соблюдать международное право, многим это кажется невероятным;
и наконец, позволить роботам получить власть над вопросами жизни и смерти, значит поступиться фундаментальным моральным принципом. Для нас важнее, что это также нарушает право человека на жизнь и достоинство, поскольку можно сказать, что убийство людей машинами является крайней степенью унижения достоинства, и люди не должны превратиться лишь в объекты.

В пресс-службе «Объединённой приборостроительной корпорации» группы «Ростех», на запрос RobotReview сообщили, что в конце 2015 года успешно прошла испытания система автоматизированного управления группами роботов «Уникум», созданная для нужд министерства обороны. Практически любой вновь разработанный робот может быть включен в управляемую группировку без существенных доработок. Робот, действующий в составе группировки, получает информацию не только от своих сенсоров, но и от сенсоров других роботов. «Если Уникум принимает критическое решение (прим. — поражение живой цели), — требуется обязательное подтверждение оператором», — говорит Леонид Хозин.

Такой подход мне видится верным. Он не только позволяет решить этическую проблему, но и избежать технических ошибок. Дело в том, что как бы не совершенствовались алгоритмы распознавания объектов, разработчикам не удается добиться 100% точности. Проблему очень хорошо описал Андрей Себрант из Яндекса — рекомендую посмотреть его лекцию. Суть её в том, что машинное обучение, используемое в таких алгоритмах, позволяет добиться более высокой, чем у человека, средней точности распознавания, однако иногда машина совершает настолько грубую ошибку, которую никогда не допустил бы человек. Например, распознает в обычной фотографии яблока какое-нибудь животное. Это грубый пример — для общего понимания.

Tags: робот
Subscribe

Posts from This Journal “робот” Tag

promo antony_w август 17, 2014 11:48 18
Buy for 10 tokens
Есть блог, в котором написано много постов про роботов: ссылка И там есть несколько статей о замене рабочих мест человека роботами: Уже к 2018 году роботы отберут у человека часть профессий Рабский труд без зарплаты Армия роботов: зачем она нужна обильной людьми Поднебесной и кому может…
  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 1 comment