Три закони робототехніки Азімова та їхня актуальність

Автори наукової фантастики роками задумуються над питанням, а що якщо одного дня “розумні” роботи перевершать людину на фізичному та розумовому рівні, зможуть осягнути себе, та вирішать що люди їм просто не потрібні? У відповідь на ці питання приходять три правила роботехніки Азімова. У минулому столітті, письменник фантаст Айзек Азімов, у своїх роботах неодноразово розбирав принципи робототехніки та пропонував розв’язання проблеми у вигляді певних законів. 

Три закони робототехніки Азімова та їхня актуальність, в наш час, викликають багато заперечень. На початку своєї роботи виробники роботів Nanit Robots неодноразово замислювались над тим як зробити так, щоб робот не нашкодив людині, був корисним та функціональним? Бо, наприклад, існує багато роботів, що вже зараз не потребують втручання людини. Ті, що збирають автомобілі на заводах, негайно вимикаються, щоразу як до них наближається людина. Самокерований автомобіль навпаки продовужє рухатись, аби уникнути зіткнення, а робот-доглядач – швидко налаштований на швидке реагування аби підхопити літню людину, якщо та ось-ось впаде. 

Колись роботи стануть нашими компаньйонами та колегами, та ми повинні бути готові до складніших ситуацій, які вони створюватимуть, передбачити етичні питання та питання безпеки, які можуть виникнути у процесі роботи.

Три закони робототехніки Азімова та їхня актуальність

Азімов – відомий у всьому світі письменник-фантаст, за освітою – професор біохімії в Бостонському університеті. За час своєї літературної кар’єри, яку він розпочав у 1939 році, Айзек Азімов випустив понад 500 опублікованих томів на додаток до 90 000 листів, листівок та інших наукових книг.

У 1942, в рамках циклу фантастичних творів “Я, робот” Айзек Азімов, для свого вигаданого світу створив звід правил, яких мав дотримуватися кожен робот під час взаємодії з людиною. У своїх роботах автор надихався історією та принципом «злочин і покарання» як у «Фаусті». 

20 років потому автор зізнався, що починаючи писати в 1940 році, він виявив один головний сюжет наукової фантастики – роботи були створені та знищені їх творцем. Виходить, що знання мають свої небезпеки, чи можуть бути знання перешкодою для небезпек, які воно несе? В його історіях про роботів йдеться про незвичайну та неінтуїтивну поведінку як ненавмисний наслідок того, як робот застосовує Три закони до ситуації, в якій він опинився. Саме тому письменник вирішив, що в його оповіданнях робот не буде «дурно накидатися на свого творця без жодної мети».

3 закони Азімова:

• Робот не може заподіяти шкоду людині або своєю бездіяльністю допустити, щоб людині було завдано шкоди.
• Робот повинен підкорятися наказам, відданим йому людиною, за винятком випадків, коли такі накази суперечать Першому Закону.
• Робот повинен захищати своє існування до тих пір, поки такий захист не суперечить Першому або Другому законам.

Хоча, ці закони звучать правдоподібно, численні аргументи науковців демонструють неактуальність ідей. В оповіданнях Азімова відстежується деконструкція цих законів, та неможливість створення безпечних, сумісних і надійних роботів. Розглянемо три закони робототехніки більш детально.

Перший закон

В реальному світі він може стосуватись не тільки нещасних випадків на виробництві, але й абсолютно навмисних сценаріїв вбивств. Історія знає декілька таких нещасних випадків. У 1979 році, на заводі Ford у Мічигані робот вбив працівника. Два роки по тому, робот, на заводі в Кавасакі, штовхнув робітника в шліфувальний верстат із гідравлічним важелем. 

Так, такі ситуації трапляються рідко, але роками роботи розчавлювали, били й навіть обливали людей розплавленим алюмінієм. Причиною того є недостатня модернизованість ранніх моделей, вони не були обладнані для того, щоб зупиняти свої рухи в небезпечних умовах, і не могли відчувати присутність людини в межах свого робочого діапазону.

Другий закон

У другому законі йдеться про слухняність робота. Шкода мінімальна, якщо він запрограмований вдало. Роботи дуже добре виконують накази людей, але також можна стверджувати, що це “завдає шкоди” на економічному рівні. Розвиток робототехніки, ймовірно, призведе до кризи, коли буде важко знайти нові способи використання людської праці.

Третій закон

Люди створюють роботів подібних до себе, наділяючи їх людськими властивостями. Та чи можна наділити робота почуттями? І взагалі, чи може робот захистити своє існування, якщо він не знає, що він існує? 

Після вивчення робіт Айзека, багато науковців задумувались над питанням самозбереження роботів. Вартість такого продукту висока. Конфлікт створення багатьох комерційних роботів неодмінно викличе занепокоєння інвестицій їхніх власників. Захист засобів та відшкодування збитків у процесі створення роботів – можливий, але має багато нюансів. Будь-яке застосування Третього закону в сучасних умовах буде спрямоване на захист людей від фінансового і фізичного збитку.

Парадокс 3-х законів робототехніки 

Три закони робототехніки Азімова та їхня актуальність роками випробовуються на міцність. До прикладу, створення керованих людиною військових безпілотників. З одного боку – рятування життя, з іншого – вбивство.

Парадокс першого закону Азімова, в тому що, можна покласти вину на людські плечі, адже він керує роботом в цьому випадку. 

Висновок: армії, оснащені бойовими роботами значно зменшать кількість людських жертв загалом, тож використовування роботів як гарматне м’ясо – можливий вихід у вирішенні багатьох конфліктів світового рівня.

У випадку з допомогою літнім людям – робот може бути запрограмований на мінімальну допомогу, аби людина намагалась втримати незалежність, яка для багатьох літніх людей дуже важлива. Виходить, що люди мають змогу ухвалювати власні рішення, зокрема ті, що можуть призвести до заподіяння шкоди собі, наприклад, внаслідок падіння. Робот, що дозволяє своїй людині приймати незалежні рішення, які призвели до травми внаслідок падіння, порушував би Перший Закон через бездіяльність.

Які є рішення?

Проблематика трьох законів робототехніки полягає в форматах та будь-яких керівних принципах. Вчені з Техаського університету A&M та штату Огайо, переглянули три закони Азімова, намагаючись виправити неясності у виразах. Та розробили свої, де головна мета – емпауермент, протилежність безпорадності.

Вчені займаються розробкою та моделюванням ситуацій, де роботи будуть використовувати принцип розширення можливостей в різних сценаріях, та можуть діяти напрочуд “природно”.  

Захищати та підтримувати людину, і так само бути безпечним та автономним аби підтримувати свої власні можливості, наприклад, гарантуючи, що у нього достатньо енергії для роботи, і він не застрягне і не буде пошкоджений.

Натомість старим законам роботехніки, вчені виявили нові:

– Людина не може створити робота без робочої системи “людина-робот”. Робототехніки та виробники  повинні нести відповідальність за дії робота на юридичному, професійному та етичному рівнях. 

– Робот повинен відповідати людям залежно від їхньої ролі. Необдумані інструкції можуть викликати хаос, не порушуючи жодного з трьох законів, але і сліпе підпорядкування не бажане.

– Робот зобов’язаний дотримуватися достатньої автономії для захисту свого існування, але, незалежно від обставин, люди завжди повинні бути в змозі взяти гору, якщо вони відчувають у цьому необхідність.

Висновки

Впродовж багатьох десятиліть три правила робототехніки Азімова були константою для робототехніків. Зараз вчені займаються удосконаленням роботи системи «людина-робот» та технології штучного інтелекту в усьому світі. Хоча, розширення прав і можливостей забезпечує новий спосіб мислення про безпечну поведінку роботів, нам ще потрібно багато працювати над підвищенням його ефективності, щоб його можна було легко розгорнути на будь-якому роботі та перетворити на хорошу і безпечну поведінку з усіх боків. Це дуже складне завдання. Але ми твердо віримо, що розширення можливостей може привести нас до практичного розв’язання поточної та дуже дискусійної проблеми.