Profi (profi) wrote,
Profi
profi

Categories:
  • Music:

Пятизаконие


Прогресс не стоит на месте. Уверен, сам создатель Трех Законов Робототехники был бы совсем не против этой инициативы.

Трёх придуманных Айзеком Азимовым правил робототехники уже недостаточно. Организация экономического сотрудничества и развития (международная экономическая организация развитых стран, признающих принципы представительной демократии и свободной рыночной экономики, то есть «Запад» в широком политическом смысле) по инициативе США утвердила пять правил разработки искусственного интеллекта:

1. Искусственный интеллект (далее ИИ) должен приносить пользу людям и нашей планете, содействуя экономическому росту, устойчивому развитию и повышению благосостояния всех групп населения.

2. Системы ИИ должны разрабатываться с соблюдением власти права, прав человека, демократических ценностей и этнокультурного многообразия, и должны включать в себя необходимые предохранители — например, возможность человеческого вмешательства в систему в случае необходимости — для обеспечения честного и справедливого общественного устройства.

3. Системы ИИ должны создаваться и работать в атмосфере прозрачности, ответственности и открытости, гарантирующей понимание людьми возможных результатов работы ИИ и возможность эти результаты оспаривать.

4. Системы ИИ должны быть надежными и безопасными в течении всего времени их существования, и возможные риски их использования должны постоянно оцениваться и контролироваться.

5. Организации и физические лица, разрабатывающие, устанавливающие и использующие системы ИИ, должны нести ответственность за их надлежащее функционирование в соответствии с вышеизложенными правилами.


Звучит вполне разумно, кстати. Хотя при попытках реализовать эти законы в "железе" или "софте" возникнет множество дополнительных вопросов и этических проблем. Впрочем, не меньше вопросов возникает и по отношению к "старым" азимовским Трем Законам. И Азимов сам это прекрасно понимал и использовал. Этому (вопросам и проблемам Трех законов), собственно, и посвящен как весь цикл рассказов "Я, робот", так и многие другие повести Айзека Азимова (ну хоть те же "Стальные пещеры", например).

PS Про искусственный фотосинтез там, по линку, - тоже очень интересно. То ли будущее стучится к нам в дверь, то ли мы стучимся в дверь будущего. Надо дожить.

This entry was originally posted there. Please comment here or, in the worst case, - there.
Tags: будущее, наука, техника
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 39 comments