antony_w (antony_w) wrote,
antony_w
antony_w

IEEE предложил стандарт производства и создания «благонадежных» роботов и ИИ



Новости о том, что автоматизация рано или поздно начнет массово лишать людей их работы и оставит за забором социальной полезности, вряд ли вызовут положительные эмоции у человека, с перспективой смотрящего в будущее. Масла в огонь подливают такие шоу, как «Терминатор» или, например, свежий «Мир Дикого запада», которые тоже вносят свой вклад в общую копилку опасений, но уже с точки зрения разработки «недружелюбного» искусственного интеллекта.

Имеют ли эти страхи под собой реальную основу? Возможно. А возможно, это всего лишь надуманная истерия. Но как бы там ни было, Институт инженеров элект­ро­тех­ни­ки и электроники (IEEE) уверен в том, что развитие ИИ и автоматизационных систем должно «согласовываться с полным учетом и соответствием человеческим моральным ценностям и этическим принципам».



Свои идеи институт представил в виде 136-страничного документа с названием «Ethically Aligned Design», являющегося своего рода «стандартом» для разработок, производства и развития роботов и искусственного интеллекта. Документ разработан при содействии более 100 мировых экспертов в сфере ИИ, законов, этики, философии и политики. Другими словами, при участии самых видных академиков, ученых и представителей правительственного сектора.

«Благодаря обеспечению экспертов и разработчиков практическими рекомендациями для создания автоматизированных и интеллектуальных продуктов, сервисов и систем с учетом соблюдения выработанных этических человеческих принципов мы сможем справиться с нашими страхами, связанными с этими технологиями и сосредоточить свое внимание на тех преимуществах, которые эти технологии смогут принести человечеству не только в будущем, но уже и сегодня», — говорится в заявлении Константиноса Карачалиоса, управляющего директора ассоциации по вопросам стандартизации в IEEE.

В IEEE отмечают, что инициатива является полностью открытой и они готовы к предложениям и обсуждениям интересующих вопросов со стороны инженеров, разработчиков и дизайнеров систем автоматизации и развития ИИ. При этом они готовы вести полноценный диалог, так как обратная связь в этом вопросе является одним из важнейших аспектов в выработке обсуждаемых стандартов.

Что касается предложений, описанных в самом документе, то в них включены соображения по вопросам методологии проведения исследований и разработок; описываются опасения по поводу создания «черных ящиков». Другими словами, документ предостерегает сферу ИИ и автоматизации от проведения закрытых разработок.

С более фундаментальной точки зрения то, что предлагает IEEE, приводит к появлению сразу нескольких интересных вопросов, важнейшим из которых, пожалуй, является следующий: а можно ли вообще запрограммировать мораль? Возможно ли на самом деле подстроить технологии ИИ и автоматизации под те «стандарты и человеческие и социальные ценности», о которых говорится в документе IEEE?

Однако IEEE настаивает на своем и говорит о важности и необходимости стандартов. Ведь благодаря им мы сможем быть уверены в том, что при создании и развитии новых технологий в конечном итоге не пострадают люди.

«Стандарты смогут обеспечить производственный контроль интеллектуальных и автономных технологий. Интеллектуальные системы становятся все сложнее и потому их незапрограммированное поведение может стать опасным. Для решения этого вопроса необходим надзор за процедурой разработки интеллектуальных и автономных систем».

«Исследователям и разработчикам, занимающимся развитием и внедрением автономных и интеллектуальных систем, придется столкнуться с более прогрессивным и сложным набором мер соответствия по вопросам моральной и технической безопасности. Следовательно, к своей работе им придется подходить более ответственно».

Если смотреть на ситуацию в целом, то IEEE сделала очень важный и действительно необходимый шаг на пути к «очеловечиванию» автономных и интеллектуальных систем.

Tags: искусственный интеллект, робот
Subscribe

Posts from This Journal “искусственный интеллект” Tag

promo antony_w august 17, 2014 11:48 18
Buy for 10 tokens
Есть блог, в котором написано много постов про роботов: ссылка И там есть несколько статей о замене рабочих мест человека роботами: Уже к 2018 году роботы отберут у человека часть профессий Рабский труд без зарплаты Армия роботов: зачем она нужна обильной людьми Поднебесной и кому может…
  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 0 comments