Europski parlament2014-2019

Dokument s plenarne sjednice

A8-0005/2017

27.1.2017

IZVJEŠĆEs preporukama Komisiji o pravilima građanskog prava o robotici(2015/2103(INL))

Odbor za pravna pitanja

Izvjestiteljica: Mady Delvaux

(Inicijativa - članak 46. Poslovnika)

Izvjestitelji za mišljenje (*):Georg Mayer, Committee on Transport and Tourism Michał Boni, Committee on Civil Liberties, Justice and Home Affairs

(*) Pridruženi odbori – članak 54. Poslovnika

RR\1115573HR.docx PE582.443v03-00

HR Ujedinjena u raznolikosti HR

PR_INL

SADRŽAJ

Stranica

PRIJEDLOG REZOLUCIJE EUROPSKOG PARLAMENTA.................................................3

PRILOG PRIJEDLOGU REZOLUCIJE: DETALJNE PREPORUKE O SADRŽAJU TRAŽENOG PRIJEDLOGA....................................................................................................20

OBRAZLOŽENJE....................................................................................................................27

MIŠLJENJE ODBORA ZA PROMET I TURIZAM...............................................................31

MIŠLJENJE ODBORA ZA GRAĐANSKE SLOBODE, PRAVOSUĐE I UNUTARNJE POSLOVE.................................................................................................................................36

MIŠLJENJE ODBORA ZA ZAPOŠLJAVANJE I SOCIJALNA PITANJA..........................42

MIŠLJENJE ODBORA ZA OKOLIŠ, JAVNO ZDRAVLJE I SIGURNOST HRANE.........48

MIŠLJENJE ODBORA ZA INDUSTRIJU, ISTRAŽIVANJE I ENERGETIKU...................56

MIŠLJENJE ODBORA ZA UNUTARNJE TRŽIŠTE I ZAŠTITU POTROŠAČA...............60

REZULTAT KONAČNOG GLASOVANJA U NADLEŽNOM ODBORU..........................65

(*) Pridruženi odbori – Članak 54. Poslovnika

PE582.443v03-00 2/64 RR\1115573HR.docx

HR

PRIJEDLOG REZOLUCIJE EUROPSKOG PARLAMENTA

s preporukama Komisiji o pravilima građanskog prava o robotici(2015/2103(INL))

Europski parlament,

– uzimajući u obzir članak 225. Ugovora o funkcioniranju Europske unije,

– uzimajući u obzir Direktivu 85/374/EEZ o odgovornosti za proizvode,

– uzimajući u obzir članke 46. i 52. Poslovnika,

– uzimajući u obzir izvješće Odbora za pravna pitanja i mišljenja Odbora za promet i turizam, Odbora za građanske slobode, pravosuđe i unutarnje poslove, Odbora za zapošljavanje i socijalna pitanja, Odbora za okoliš, javno zdravlje i sigurnost hrane, Odbora za industriju, istraživanje i energetiku te Odbora za unutarnje tržište i zaštitu potrošača (A8-0005/2017),

Uvod

A. budući da su vremena od Frankensteina Mary Shelley, klasičnog mita o Pigmalionu i praškog Golema do robota Karela Čapeka, koji je i skovao tu riječ, ljudi sanjali o mogućnosti da proizvedu inteligentne strojeve, a najčešće je riječ bila o androidima s ljudskim obilježjima;

B. budući da u trenutku kad se ljudska vrsta nalazi na pragu razdoblja u kojem je sve više sofisticiranih robota, botova, androida i drugih oblika umjetne inteligencije spremno za novu industrijsku revoluciju, koja će vrlo vjerojatno utjecati na sve slojeve društva, od ključne je važnosti da zakonodavac razmotri pravne i etičke implikacije i učinke toga bez kočenja inovacija;

C. budući da je potrebno donijeti opće prihvaćene definicije pojmova „robot” i „umjetna inteligencija” koje su fleksibilne i kojima se ne koče inovacije;

D. budući da je od 2010. do 2014. prodaja robota u prosjeku porasla za 17 %, a 2014. za 29 %, što predstavlja najveći godišnji porast dosad, te da su dobavljači automobilskih dijelova, elektroindustrija i elektronička industrija glavni pokretači rasta; budući da se tijekom posljednjeg desetljeća broj prijavljenih patenata u području robotike utrostručio;

E. budući da je stopa zaposlenosti trajno rasla tijekom posljednjih 200 godina zbog tehnološkog razvoja; budući da razvoj robotike i umjetne inteligencije može potencijalno preobraziti živote i radne prakse, povećati učinkovitost, uštedu i razine sigurnosti te pružiti poboljšanu razinu usluga te da se u kratkoročnom do srednjoročnom razdoblju od robotike i umjetne inteligencije očekuje korist u smislu učinkovitosti i uštede, ne samo u proizvodnji i trgovini već i u područjima kao što su prijevoz, medicinska njega, spašavanje, obrazovanje i poljoprivreda, te istovremeno i mogućnost da se ljudi prestanu izlagati opasnim uvjetima, primjerice pri čišćenju područja zagađenih otrovnim tvarima;

RR\1115573HR.docx 3/64 PE582.443v03-00

HR

F. budući da je starenje rezultat dužeg očekivanog životnog vijeka zbog napretka u pogledu životnih uvjeta i u modernoj medicini te je ono jedno od najvećih političkih, socijalnih i gospodarskih izazova za europska društva u 21. stoljeću; budući da će do 2025. više od 20 % Europljana biti u dobi od 65 godina ili starije, uz posebno brz porast broja osoba starijih od 80 godina, što će dovesti do potpuno različite ravnoteže među generacijama u našim društvima, te budući da je u interesu društva i obitelji da starije osobe ostanu zdrave i aktivne što je dulje moguće;

G. budući da aktualni trend vodi prema razvoju pametnih i autonomnih strojeva koje je moguće obučavati i koji mogu samostalno donositi odluke te da to dugoročno donosi ne samo gospodarske koristi nego i otvara niz pitanja povezanih s izravnim i neizravnim učincima na cjelokupno društvo;

H. budući da strojno učenje nudi izrazito velike gospodarske i inovativne koristi za društvo jer se njime uvelike poboljšava mogućnost analize podataka te da ono predstavlja nove izazove u pogledu jamčenja nediskriminacije, pravičnosti, transparentnosti i razumljivosti u postupcima donošenja odluka;

I. budući da je slično tome potrebno ocijeniti gospodarske pomake i učinak na zapošljavanje kao rezultat razvoja robotike i strojnog učenja; budući da, unatoč njezinim neosporivim prednostima, primjena robotike može rezultirati transformacijom tržišta rada i potrebom da se u skladu s time razmotri budućnost obrazovanja, zapošljavanja i socijalnih politika;

J. budući da široko rasprostranjena uporaba robota možda neće automatski dovesti do toga da oni zamjenjuju radna mjesta, međutim, niskokvalificirana radna mjesta u radno intenzivnim sektorima bit će podložnija automatizaciji; budući da bi taj trend mogao vratiti proizvodne procese natrag u EU; budući da je istraživanje pokazalo da zaposlenost znatno brže raste u profesijama u kojima se češće koriste računala; budući da se automatizacijom poslova može potencijalno osloboditi ljude od monotonog fizičkog rada i usmjeriti ih prema kreativnijim i značajnijim zadaćama; budući da automatizacija zahtijeva da vlade ulažu u reforme obrazovanja i drugih područja kako bi se poboljšalo preusmjeravanje na one vještine koje će biti potrebne radnici u budućnosti;

K. budući da istovremeno razvoj robotike i umjetne inteligencije može dovesti do toga da roboti preuzmu velik dio posla koji trenutačno obavljaju ljudi bez potpune nadoknade izgubljenih radnih mjesta, što je zabrinjavajuće u pogledu budućnosti zapošljavanja, održivosti sustava socijalne zaštite i sigurnosti te trajnog zaostatka u mirovinskim doprinosima ako se zadrži trenutačni sustav oporezivanja jer bi se time potencijalno povećala nejednakost u pogledu raspodjele bogatstva i utjecajnosti; istovremeno je za očuvanje socijalne kohezije i blagostanja potrebno ocijeniti mogućnost oporezivanja rada robota ili naknade za korištenje i održavanje robota u kontekstu financiranja potpore i ponovnog osposobljavanja nezaposlenih radnika čija su radna mjesta smanjena ili ukinuta;

L. budući da je, s obzirom na sve veće podjele u društvu i smanjivanje srednje klase, važno imati na umu da razvoj robotike može dovesti do visoke koncentracije bogatstva i moći u rukama manjine;

PE582.443v03-00 4/64 RR\1115573HR.docx

HR

M. budući da će se razvojem robotike i umjetne inteligencije definitivno utjecati na radno okruženje, što može stvoriti nove probleme povezane s odgovornošću, ali i ukloniti druge probleme; budući da je potrebno razjasniti pravnu odgovornost u pogledu poslovnog modela i obilježja radnika u slučaju da dođe do hitnih slučajeva ili problema;

N. budući da trend usmjeren prema automatizaciji zahtijeva da subjekti uključeni u razvoj i stavljanje na tržište aplikacija umjetne inteligencije od samog početka razmišljaju o sigurnosti i etici, čime se priznaje da oni moraju biti spremni prihvatiti pravnu odgovornost za kvalitetu tehnologije koju proizvode;

O. budući da je u Uredbi (EU) 2016/679 Europskog parlamenta i Vijeća1 (Opća uredba o zaštiti podataka) utvrđen pravni okvir za zaštitu osobnih podataka; budući da će se možda trebati dodatno rješavati pitanje daljnjih aspekata povezanih s pristupom podacima i zaštitom osobnih podataka i privatnosti s obzirom na to da se mogu javiti problemi zbog međusobne komunikacije aplikacija i uređaja te njihove komunikacije s bazama podataka bez ljudske intervencije;

P. budući da se napredak u području robotike i umjetne inteligencije može i treba ostvariti na način kojim se štiti dostojanstvo, autonomnost i samoodređenje pojedinca, posebno u području ljudske skrbi i interakcije te u kontekstu medicinskih uređaja koji „popravljaju” ili poboljšavaju ljude;

Q. budući da naposljetku postoji mogućnost da bi umjetna inteligencija dugoročno mogla nadići ljudsku intelektualnu sposobnost;

R. budući da daljnji razvoj i povećano korištenje automatiziranog i algoritamskog odlučivanja nesumnjivo utječe na konačne odluke koje donosi privatna osoba (poput poslovnog subjekta ili internetskog korisnika) ili administrativno, pravosudno ili drugo javno tijelo, a koje su potrošačke, poslovne ili administrativne prirode; budući da je u postupak automatiziranog i algoritamskog odlučivanja potrebno uvrstiti zaštitne mjere i mogućnost ljudske kontrole i verifikacije;

S. budući da nekoliko stranih jurisdikcija, kao što su SAD, Japan, Kina i Južna Koreja, razmatra regulatorne mjere u području robotike i umjetne inteligencije, a do određene su ih mjere već i poduzele, te budući da su neke države članice počele razmatrati mogućnost osmišljavanja pravnih normi ili promjene zakonodavstva kako bi se uzele u obzir nove aplikacije iz područja takvih tehnologija;

T. budući da bi europskoj industriji mogao koristiti učinkovit, usklađen i transparentan pristup regulaciji na razini Unije kojim bi se utvrdili predvidljivi i dovoljno jasni uvjeti pod kojima poduzeća mogu razvijati aplikacije i planirati svoje poslovne modele u europskim razmjerima, a istovremeno bi se zajamčilo da Unija i njezine države članice zadrže kontrolu nad regulatornim normama koje treba uspostaviti kako ne bi bile prisiljene usvojiti i poštovati norme koje su im nametnuli drugi, odnosno treće zemlje koje su također predvodnice u razvoju robotike i umjetne inteligencije;

1 Uredba (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ (Opća uredba o zaštiti podataka) (SL L 119, 4.5.2016., str. 1.).

RR\1115573HR.docx 5/64 PE582.443v03-00

HR

Opća načela

U. budući da Asimove zakone1 treba smatrati upućenima projektantima, proizvođačima i operatorima robota, uključujući robote s integriranom autonomijom i mogućnošću samostalnog učenja, s obzirom na to da ih se ne može prevesti u strojni kod;

V. budući da su korisna i nužna pravila kojima se uređuju, prije svega, odgovornost i transparentnost te koja odražavaju suštinski europske i univerzalne humanističke vrijednosti koje obilježavaju doprinos Europe društvu; budući da se takvim pravilima ne smije utjecati na postupak istraživanja, inovacija i razvoja u području robotike;

W. budući da bi Europska unija mogla imati ključnu ulogu u uspostavljanju temeljnih etičkih načela koja treba poštovati pri razvoju, programiranju i upotrebi robota i umjetne inteligencije te u uključivanju tih načela u europske propise i kodekse ponašanja u cilju utjecanja na tehnološku revoluciju na način da ona služi čovječanstvu te da koristi od napredne robotike i umjetne inteligencije budu široko rasprostranjene, a da se pritom u najvećoj mogućoj mjeri izbjegnu potencijalne zamke;

X. budući da je za Uniju potrebno usvojiti postupan, pragmatičan i oprezan pristup kakav je zagovarao Jean Monnet2 u pogledu budućih inicijativa povezanih s robotikom i umjetnom inteligencijom kako bi se zajamčilo da ne kočimo inovacije;

Y. budući da je s obzirom na razvojni stadij robotike i umjetne inteligencije vrijeme da se započne s radom na pitanjima građanskopravne odgovornosti;

Odgovornost

Z. budući da današnji roboti, zahvaljujući impresivnim tehnološkim naprecima iz prošlog desetljeća, nisu samo sposobni za obavljanje radnji koje su ranije bile tipične i rezervirane isključivo za ljude već su, zahvaljujući razvoju određenih autonomnih i kognitivnih obilježja, kao što su primjerice sposobnost za učenje iz iskustva i donošenje donekle neovisnih odluka, sve sličniji agentima koji su u interakciji sa svojom okolinom i sposobni su je znatno mijenjati; budući da je u tom kontekstu ključno pitanje pravna odgovornost koja proizlazi iz štetnog djelovanja robota;

AA. budući da se autonomija robota može definirati kao sposobnost da donosi odluke i da ih provodi u stvarnom svijetu, neovisno o vanjskoj kontroli i utjecajima; budući da je ta autonomija isključivo tehnološke prirode i da njezin stupanj ovisi o tome za koliko je sofisticiranu interakciju s okolinom robot dizajniran;

AB. budući da što su roboti autonomniji, to ih se manje može smatrati jednostavnim alatom u rukama drugih aktera (kao što su proizvođač, operater, vlasnik, korisnik itd.); budući da se time otvara pitanje jesu li dostatna obična pravila o odgovornosti ili to zahtijeva uvođenje novih načela i pravila kojima se omogućuje jasnoća u pogledu pravne

1 (1) Robot ne smije naškoditi ljudskom biću ili svojom pasivnošću dopustiti da mu se naškodi. (2) Robot mora slušati ljudske naredbe, osim kad su one u suprotnosti s prvim zakonom. (3) Robot mora štititi svoju egzistenciju, osim kad je to u suprotnosti s prvim ili drugim zakonom (vidi „Izmotavanje” I. Asimov, 1943.) i (0) Robot ne smije naškoditi čovječanstvu ili svojom pasivnošću dopustiti da mu se naškodi.2 vidi Schumanovu deklaraciju iz 1950.: „Europa se neće stvoriti odjednom niti prema jedinstvenom planu. Izgradit će se konkretnim postignućima koja će najprije stvoriti istinsku solidarnost.”

PE582.443v03-00 6/64 RR\1115573HR.docx

HR

odgovornosti različitih aktera kada je riječ o odgovornosti za djelovanja i propuste robota u slučajevima kada se kao uzrok ne može odrediti specifični ljudski akter te je li bilo moguće izbjeći djelovanja ili propuste robota koji su prouzročili štetu;

AC. budući da u se posljednje vrijeme zbog autonomije robota postavlja pitanje njihove prirode u svjetlu postojećih pravnih kategorija ili bi pak za njih trebalo stvoriti novu kategoriju s posebnim obilježjima i implikacijama;

AD. budući da se prema trenutačnom pravnom okviru roboti ne mogu smatrati odgovornima per se za svoja djela i propuste kojima su oštećene treće osobe; budući da postojeća pravila o odgovornosti pokrivaju slučajeve u kojima se uzrok djelovanja ili propusta robota u konačnici može naći u djelovanju konkretnog ljudskog agenta, kao što je primjerice proizvođač, operater, vlasnik ili korisnik koji je mogao predvidjeti i izbjeći štetno ponašanje robota; budući da se, osim toga, proizvođači, operateri, vlasnici ili korisnici mogu smatrati strogo odgovornima za djelovanja i propuste robota;

AE. budući da se aktualni pravni okvir za odgovornost za proizvode, prema kojem je proizvođač odgovoran za neispravnost proizvoda, i propisi kojima se uređuje odgovornost za štetno djelovanje, prema kojima je korisnik proizvoda odgovoran za ponašanje koje vodi do štete, primjenjuju na štetu uzrokovanu robotima ili umjetnom inteligencijom;

AF. budući da u scenariju u kojem robot donosi samostalne odluke tradicionalna pravila neće biti dovoljna za rješavanje pitanja pravne odgovornosti za štetu uzrokovanu robotom jer prema tim pravilima ne bi bilo moguće utvrditi koja je strana odgovorna za odštetu i zahtijevati od nje da ispravi štetu koju je uzrokovala;

AG. budući da su tradicionalna pravila neprimjenjiva zbog nedostataka aktualnog pravnog okvira koji se najbolje vide i u području ugovorne odgovornosti u slučajevima kad su strojevi dizajnirani na način da sami mogu birati partnere, pregovarati o ugovornim uvjetima, sklapati ugovore i odlučivati hoće li i kako će primjenjivati te ugovore te da zbog toga do izražaja dolazi potreba za novim, učinkovitim i ažuriranim pravilima koja trebaju biti usklađena s nedavnim tehnološkim razvojem i inovacijama koje se koriste na tržištu;

AH. budući da u pogledu izvanugovorne odgovornosti Direktivom Vijeća 85/374/EEC1 obuhvaćena je samo šteta koja nastane zbog greške u proizvodnji robota i pod uvjetom da oštećena osoba može dokazati stvarnu štetu, neispravnost proizvoda i uzročnu vezu između štete i neispravnosti, stoga možda neće biti dostatan okvir koji uključuje strogu odgovornost ili odgovornost bez krivnje;

AI. budući da usprkos području primjene Direktive 85/374/EEZ trenutačni pravni okvir ne bi bio dovoljan da se pokrije šteta koju je uzrokovao robot nove generacije jer on može imati sposobnost prilagodbe i učenja, što sa sobom povlači određen stupanj nepredvidljivosti njegova ponašanja s obzirom na to da bi takvi roboti mogli samostalno učiti iz vlastitih i promjenjivih iskustava te biti u interakciji sa svojom okolinom na jedinstven i nepredvidljiv način;

1 Direktiva Vijeća 85/374/EEZ od 25. srpnja 1985. o približavanju zakona i drugih propisa država članica u vezi s odgovornošću za neispravne proizvode (SL L 210., 7.8.1985., str. 29.).

RR\1115573HR.docx 7/64 PE582.443v03-00

HR

Opća načela razvoja robotike i umjetne inteligencije za civilnu upotrebu

1. poziva Komisiju da predloži zajedničku europsku definiciju kiberfizičkih sustava, autonomnih sustava, pametnih autonomnih robota i njihovih potkategorija uzimajući u obzir sljedeća obilježja pametnih robota:

– sposobnost autonomnog rada s pomoću senzora i/ili razmjene podataka s okolinom (međusobna povezivost) te dijeljenja i analize tih podataka

– samostalno učenje iz iskustva ili s pomoću interakcije (fakultativni kriterij)

– barem manja fizička potpora

– prilagodba ponašanja i djelovanja u odnosu na okolinu

– nedostatak života u biološkom smislu;

2. smatra da treba uvesti sveobuhvatni sustav Unije za registraciju naprednih robota u okviru unutarnjeg tržišta Unije kada je to relevantno i potrebno za specifične kategorije robota te poziva Komisiju da uspostavi kriterije za klasifikaciju robota koje bi trebalo registrirati; u tom kontekstu poziva Komisiju da istraži bi li bilo poželjno da takvim sustavom za registraciju i registrom upravlja Agencija EU-a za robotiku i umjetnu inteligenciju koja bi bila imenovana za taj zadatak;

3. ističe da bi se razvoj robotike trebao usredotočiti na dopunjavanje ljudskih sposobnosti, a ne na njihovo zamjenjivanje; smatra da je u razvoju robotike i umjetne inteligencije ključno zajamčiti da ljudi uvijek imaju kontrolu nad inteligentnim strojevima; smatra da je potrebno usmjeriti posebnu pozornost na mogući razvoj emotivne veze između ljudi i robota, posebno u osjetljivim skupinama kako što su djeca, starije osobe i osobe s invaliditetom, te ističe pitanja koja se otvaraju zbog mogućeg ozbiljnog emotivnog i fizičkog utjecaja takve emotivne veze na ljude;

4. naglašava da se jedinstvenim pristupom na razini Unije može olakšati razvoj jer se na taj način izbjegava fragmentacija na unutarnjem tržištu i istovremeno naglašava važnost načela međusobnog priznavanja u prekograničnoj upotrebi robota i robotskih sustava; podsjeća da bi se testiranja, izdavanje certifikata i odobrenje za stavljanje na tržište trebali zahtijevati u samo jednoj državi članici; naglašava da bi taj pristup trebao biti popraćen djelotvornim nadzorom tržišta;

5. ističe važnost mjera za pomoć malim i srednjim poduzećima te novoosnovanim (start-up) poduzećima u sektoru robotike, koja stvaraju nove tržišne segmente u tom sektoru i koriste robote;

Istraživanja i inovacije

6. ističe da su mnoge robotske aplikacije još uvijek u eksperimentalnoj fazi; pozdravlja činjenicu da države članice i Unija financiraju sve više istraživačkih projekata; smatra da je ključno da Unija, zajedno s državama članicama s pomoću javnog financiranja, ostane predvodnik u istraživanju u području robotike i umjetne inteligencije; poziva Komisiju i države članice da ojačaju financijske instrumente za istraživačke projekte u

PE582.443v03-00 8/64 RR\1115573HR.docx

HR

području robotike i informacijsko-komunikacijske tehnologije, uključujući javno-privatna partnerstva, te da u svoje politike u području istraživanja uvrste načela otvorene znanosti i odgovorne etičke inovacije; naglašava da treba uložiti dovoljno sredstava u pronalazak rješenja za društvene, etičke, pravne i gospodarske izazove koji proizlaze iz tehnološkog razvoja i njegovih primjena;

7. poziva Komisiju i države članice da potaknu istraživačke programe, istraživanja o mogućim dugoročnim opasnostima i mogućnostima koje proizlaze iz tehnologija umjetne inteligencije i robotike te da čim prije potaknu pokretanje strukturiranog javnog dijaloga o posljedicama razvoja takvih tehnologija; poziva Komisiju da poveća potporu u okviru revizije višegodišnjeg financijskog okvira na sredini razdoblja za program SPARC koji se financira iz programa Obzor 2020.; poziva Komisiju i države članice da usmjere zajedničke napore u pažljivo praćenje i jamčenje jednostavnijeg prijelaza tih tehnologija iz faze istraživanja u fazu stavljanja na tržište i korištenja na tržištu nakon provođenja prikladnih sigurnosnih procjena u skladu s načelom predostrožnosti;

8. ističe da inovacije u području robotike i umjetne inteligencije te integracija tehnologije robotike i umjetne inteligencije u gospodarstvo i društvo zahtijevaju digitalnu infrastrukturu kojom se omogućava univerzalna povezivost; poziva Komisiju da uspostavi okvir kojim će se zadovoljiti uvjeti u pogledu povezivosti za digitalnu budućnost Unije i da se pobrine za to da pristup širokopojasnoj i 5G mreži bude potpuno u skladu s načelom mrežne neutralnosti;

9. čvrsto je uvjeren da je interoperabilnost među sustavima, uređajima i uslugama u oblaku, utemeljena na integriranoj sigurnosti i privatnosti, nužna za protok podataka u stvarnom vremenu, kojim se omogućava veća fleksibilnost i autonomnost robota i umjetne inteligencije; poziva Komisiju da promiče otvoreno okružje, od otvorenih standarda i inovativnih modela licenciranja do otvorenih platformi i transparentnosti, kako bi se izbjegla ovisnost o vlasničkim sustavima kojima se ograničava interoperabilnost;

Etička načela

10. napominje da je potencijal za napredak s pomoću primjene robotike obilježen nizom napetosti ili rizicima koje je potrebno ozbiljno razmotriti u pogledu sigurnosti, zdravlja i zaštite ljudi, slobode, privatnosti, integriteta i digniteta te samoodređenja, nediskriminacije i zaštite osobnih podataka;

11. smatra da je aktualni pravni okvir potrebno ažurirati i nadopuniti, kada je to prikladno, usmjerenim etičkim načelima koja odražavaju složenost područja robotike i njenih brojnih društvenih, medicinskih i bio-etičkih implikacija; smatra da su potrebne jasne, stroge i učinkovite okvirne etičke smjernice za razvoj, projektiranje, proizvodnju, upotrebu i izmjenu robota kojima će se nadopuniti pravne preporuke iz ovog izvješća te postojeća pravna stečevina država članica i Unije; u prilogu Rezoluciji predlaže okvir u obliku povelje koja bi sadržavala kodeks ponašanja za inženjere robotike, kodeks za povjerenstva koji se bave istraživačkom etikom koji bi se koristio pri preispitivanju protokola robotike te obrasce dozvola za dizajnere i korisnike;

12. ističe načelo transparentnosti, tj. da treba uvijek biti moguće opravdati sve odluke koje

RR\1115573HR.docx 9/64 PE582.443v03-00

HR

se donose s pomoću umjetne inteligencije i koje mogu znatno utjecati na život jedne ili više osoba; smatra da treba uvijek biti moguće prevesti izračune sustava umjetne inteligencije u oblik razumljiv ljudima; smatra da napredni roboti moraju biti opremljeni „crnom kutijom” u kojoj su pohranjeni podaci o svim transakcijama koje stroj izvršava, uključujući logika koja je dovela do njegovih odluka;

13. ističe da bi okvirne etičke smjernice trebale biti utemeljene na načelima djelovanja u interesu dobrobiti, neštetnosti, autonomije i pravde, kao i na načelima i vrijednostima utvrđenima u članku 2. Ugovora o Europskoj uniji i u Povelji o temeljnim pravima, kao što su ljudsko dostojanstvo, ravnopravnost, pravda i jednakost, nediskriminacija, informirani pristanak, zaštita privatnog i obiteljskog života i podataka, kao i na drugim temeljnim načelima i vrijednostima zakonodavstva Unije poput nestigmatizacije, transparentnosti, autonomije, individualne i društvene odgovornosti, te na postojećoj etičkoj praksi i kodeksima;

14. smatra da je potrebno posebnu pozornost usmjeriti na robote koji predstavljaju znatnu opasnost u pogledu povjerljivosti zbog njihova postavljanja u tradicionalno zaštićena i privatna okruženja te zbog njihove mogućnosti izvlačenja i slanja osobnih i osjetljivih podataka;

Europska agencija

15. smatra da je potrebna pojačana suradnja između država članica i Komisije kako bi se zajamčila usklađena prekogranična pravila u Uniji kojima se potiče suradnja među europskim industrijama i omogućuje diljem Unije stavljanje u upotrebu robota koji su usklađeni s potrebnom razinom zaštite i sigurnosti, kao i s etičkim načelima iz zakonodavstva Unije;

16. traži od Komisije da razmotri osnivanje Europske agencije za robotiku i umjetnu inteligenciju u cilju pružanja tehničkog, etičkog i regulatornog stručnog znanja koje je potrebno kako bi se na razini EU-a i na razini država članica pružila podrška relevantnim javnim akterima u njihovim naporima da zajamče pravodoban, etički i informiran odgovor na nove prilike i izazove, posebno na one koji su prekogranične prirode, koji proizlaze iz tehnološkog razvoja robotike, primjerice u prometnom sektoru;

17. smatra da je zbog potencijala i problema povezanih s upotrebom robotike i zbog aktualne dinamike ulaganja opravdano da Europska agencija raspolaže odgovarajućim proračunom i osobljem koje čine regulatori i vanjski tehnički i etički stručnjaci, koji po sektorima i multidisciplinarno prate robotske aplikacije, utvrđuju norme za najbolje prakse i, prema potrebi, predlažu regulatorne mjere, utvrđuju nova načela te se bave potencijalnim problemima u vezi sa zaštitom potrošača i sistemskim izazovima; poziva Komisiju (i Europsku agenciju, ako se osnuje) da svake godine izvještavaju Europski parlament o novostima u razvoju robotike i o svim mjerama koje je potrebno poduzeti;

Prava intelektualnog vlasništva i prijenos podataka

18. napominje da ne postoje posebne pravne odredbe za robotiku, ali da se postojeći pravni

PE582.443v03-00 10/64 RR\1115573HR.docx

HR

režimi i doktrine mogu primijeniti na robotiku, s time da neke aspekte treba posebno razmotriti; poziva Komisiju da podrži horizontalan i tehnološki neutralan pristup intelektualnom vlasništvu koji se primjenjuje na različite sektore u kojima se bi se mogla koristiti robotika;

19. poziva Komisiju i države članice da zajamče usklađenost građanskopravnih propisa u sektoru robotike s Općom uredbom o zaštiti podataka te s načelima nužnosti i proporcionalnosti; poziva Komisiju i države članice da uzmu u obzir brz tehnološki razvoj u području robotike, uključujući razvoj kiberfizičkih sustava, te da zajamče da zakonodavstvo Unije ne zaostaje za krivuljom tehnološkog razvoja i stavljanja tehnologije u upotrebu;

20. naglašava da se pravo na zaštitu privatnog života i osobnih podataka u skladu s člancima 7. i 8. Povelje i člankom 16. Ugovora o funkcioniranju Europske unije (UFEU) primjenjuje na sva područja robotike te da je potrebno u potpunosti poštovati pravni okvir Unije; u tom pogledu poziva na preispitivanje propisa i kriterija u vezi s upotrebom kamera i senzora u robotima; poziva Komisiju da zajamči poštovanje načela o zaštiti podataka kao što su integrirana i zadana privatnost, smanjenje količine podataka i ograničavanje svrhe te transparentnih kontrolnih mehanizama za osobe čiji se podaci obrađuju i prikladnih pravnih lijekova u skladu sa zakonodavstvom Unije o zaštiti podataka, te da zajamči poticanje prikladnih preporuka i normi i njihovu integraciju u politike Unije;

21. naglašava da je slobodan protok podataka iznimno važan za digitalno gospodarstvo i razvoj sektora robotike i umjetne inteligencije; ističe da je visoka razina sigurnosti robotskih sustava, uključujući njihove interne sustave podataka i protok podataka, ključna za primjerenu upotrebu robota i umjetne inteligencije; naglašava da je potrebno zajamčiti zaštitu mreža međusobno povezanih robota i umjetne inteligencije kako bi se spriječile moguće povrede sigurnosti; ističe da je ključna visoka razina sigurnosti i zaštite osobnih podataka, uzimajući u obzir privatnost u komunikaciji između ljudi, robota i umjetne inteligencije; ističe odgovornost dizajnera sustava robotike i umjetne inteligencije da razvijaju proizvode na način da budu sigurni i prilagođeni svrsi; poziva Komisiju i države članice da osiguraju podršku i poticaje za razvoj potrebne tehnologije, uključujući integriranu sigurnost;

Normizacija, sigurnost i zaštita

22. ističe da je pitanje utvrđivanja normi i omogućavanja interoperabilnosti ključno za buduću konkurentnost u području tehnologija umjetne inteligencije i robotike; poziva Komisiju da nastavi s radom na međunarodnom usklađivanju tehničkih normi, posebno u suradnji s europskim organizacijama za normizaciju i Međunarodnom organizacijom za normizaciju, kako bi se potaknule inovacije, izbjegla fragmentacija unutarnjeg tržišta i zajamčila visoka razina sigurnosti proizvoda i zaštite potrošača, uključujući kada je to prikladno minimalne norme o sigurnosti na radu; ističe važnost zakonitog obrnutog inženjeringa i otvorenih standarda u cilju postizanja maksimalne vrijednosti inovacija i jamčenja da roboti mogu međusobno komunicirati; u tom smislu pozdravlja osnivanje posebnih tehničkih odbora, poput ISO/TC 299 Robotika, čiji je cilj isključivo raditi na razvoju standarda u području robotike;

RR\1115573HR.docx 11/64 PE582.443v03-00

HR

23. naglašava da je testiranje robota u stvarnim uvjetima ključno za utvrđivanje i ocjenu rizika koje bi roboti mogli uzrokovati te za ocjenu stadija tehnološkog razvoja robota izvan isključivo eksperimentalnih laboratorijskih uvjeta; u tom pogledu ističe da je testiranje robota u stvarnim uvjetima, posebno u gradovima i na cestama, višestruko problematično i nailazi na prepreke kojima se usporava razvoj tih faza testiranja, te da je u tom pogledu potrebna djelotvorna strategija i kontrolni mehanizam; poziva Komisiju da izradi jedinstvene kriterije za sve države članice koje bi one pojedinačno trebale primjenjivati kako bi utvrdile u kojim je područjima dozvoljeno eksperimentiranje s robotima, u skladu s načelom predostrožnosti;

Autonomna prijevozna sredstva

a) Autonomna vozila

24. ističe da autonomni prijevoz obuhvaća sve vrste daljinski upravljanog, automatiziranog, umreženog i autonomnog cestovnog, željezničkog, vodenog i zračnog prijevoza, uključujući vozila, vlakove, plovila, trajekte, zrakoplove, bespilotne letjelice, kao i sve buduće oblike razvoja i inovacija u tom sektoru;

25. smatra da je potrebno hitno uvesti učinkovita europska i globalna pravila u automobilski sektor kako bi se zajamčio prekogranični razvoj automatiziranih i autonomnih vozila i u potpunosti iskoristio njihov ekonomski potencijal te dobila najveća moguća korist od pozitivnih učinaka tehnoloških trendova; ističe da fragmentiranost regulatornih pristupa otežava provedbu autonomnih prometnih sustava i može ugroziti europsku konkurentnost;

26. skreće pozornost na činjenicu da je vrijeme reakcije vozača u slučaju neplaniranog preuzimanja nadzora nad vozilom iznimno važno te stoga poziva odgovarajuće dionike da utvrde realne vrijednosti koje su odlučujuće za pitanja sigurnosti i odgovornosti;

27. smatra da će prelazak na autonomna vozila imati učinak na sljedeće aspekte: građanskopravnu odgovornost (odgovornost i osiguranje), sigurnost na cestama, sva pitanja povezana s okolišem (npr. energetska učinkovitost, korištenje obnovljivih tehnologija i izvora energije), pitanja povezana s podacima (npr. pristup podacima, zaštita podataka i privatnosti, dijeljenje podataka), pitanja povezana s infrastrukturom informacijsko-komunikacijske tehnologije (npr. velika koncentracija učinkovite i pouzdane komunikacije) i zapošljavanje (npr. otvaranje i gubitak radnih mjesta, obuka vozača teretnih vozila za rukovanje automatiziranim vozilima); naglašava da će biti potrebna znatna ulaganja u cestovnu i energetsku infrastrukturu te u infrastrukturu povezanu s informacijskim i komunikacijskim tehnologijama; poziva Komisiju da u svojem radu povezanom s autonomnim vozilima u obzir uzme spomenute aspekte;

28. naglašava da su pouzdane informacije o položaju i vremenu koje pružaju europski satelitski navigacijski programi Galileo i EGNOS od ključne važnosti za uvođenje autonomnih vozila te u tom pogledu potiče na finalizaciju i lansiranje satelita potrebnih za dovršetak europskog sustava pozicioniranja Galileo;

29. skreće pozornost na veliku dodanu vrijednost autonomnih vozila za osobe sa smanjenom pokretljivošću, s obzirom na to da im takva vozila omogućuju učinkovitije

PE582.443v03-00 12/64 RR\1115573HR.docx

HR

sudjelovanje u individualnom cestovnom prometu, čime se olakšava i njihov svakodnevni život;

b) Bespilotne letjelice (RPAS)

30. priznaje pozitivan napredak u području tehnologije bespilotnih letjelica, posebno u području traganja i spašavanja; ističe važnost okvira Unije za bespilotne letjelice kako bi se očuvale sigurnost, zaštita i privatnost građana Unije te poziva Komisiju da postupi na temelju preporuka iz Rezolucije Europskog parlamenta od 29. listopada 2015. o sigurnoj upotrebi zrakoplovnih sustava na daljinsko upravljanje (RPAS), opće poznatih kao bespilotne letjelice, u civilnom zrakoplovstvu1; potiče Komisiju da izvrši procjene u pogledu sigurnosnih pitanja povezanih s raširenom upotrebom bespilotnih letjelica; poziva Komisiju da razmotri potrebu za uvođenjem obveznog sustava praćenja i identifikacije za zrakoplovne sustave na daljinsko upravljanje, kojim se omogućuje utvrđivanje položaja letjelica u stvarnom vremenu tijekom njihove upotrebe; podsjeća da bi homogenost i sigurnost zrakoplova bez posade trebalo zajamčiti mjerama utvrđenima u Uredbi (EZ) br. 216/2008 Europskog parlamenta i Vijeća2;

Roboti za njegu

31. naglašava da su istraživanje i razvoj u području robotike za skrb za starije osobe s vremenom postali rašireniji i jeftiniji te nastaju proizvodi bolje funkcionalnosti koje potrošači bolje prihvaćaju; napominje da takve tehnologije, koje starijim osobama, osobama s invaliditetom i osobama koje pate od demencije, kognitivnih poremećaja i gubitka pamćenja pružaju usluge prevencije, pomoći, praćenja, poticanja i socijalne interakcije, imaju široku primjenu;

32. ističe da je ljudski kontakt jedan od temeljnih aspekata ljudske njege; vjeruje da bi se zamjenom ljudskog faktora robotima mogle dehumanizirati prakse njege, međutim, prima na znanje da bi roboti mogli izvršavati automatizirane zadaće njege i pomoći njegovateljima u njihovom radu, uz poboljšanje ljudske njege i bolje usmjeravanje procesa rehabilitacije, zbog čega bi medicinsko osoblje i njegovatelji mogli posvetiti više vremena dijagnostici i bolje isplaniranim opcijama liječenja; ističe da, iako se robotikom može poboljšati mobilnost i integracija osoba s invaliditetom i starijih osoba, ljudski njegovatelji će i dalje biti potrebni te nastaviti imati važnu ulogu koja nije u potpunosti zamjenjiva u socijalnoj interakciji;

Medicinski roboti

33. naglašava važnost odgovarajućeg obrazovanja, osposobljavanja i pripreme zdravstvenih djelatnika poput doktora i njegovatelja kako bi se zajamčila najviša moguća razina stručne sposobnosti i zaštitilo zdravlje pacijenata; ističe da je potrebno odrediti

1 Usvojeni tekstovi, P8_TA(2015)0390.2 Uredba (EZ) br. 216/2008 Europskog parlamenta i Vijeća od 20. veljače 2008. o zajedničkim pravilima u području civilnog zrakoplovstva i osnivanju Europske agencije za sigurnost zračnog prometa i stavljanju izvan snage Direktive Vijeća 91/670/EEZ, Uredbe (EZ) br. 1592/2002 i Direktive 2004/36/EZ (SL L 79, 19.3.2008., str. 1.).

RR\1115573HR.docx 13/64 PE582.443v03-00

HR

minimalne stručne uvjete na temelju kojih će se kirurzima dopuštati rukovanje kirurškim robotima i njihova upotreba; smatra da je od temeljne važnosti poštovanje načela nadzirane autonomije robota na temelju kojega početno planiranje liječenja i konačan odabir načina izvršenja ostaju uvijek u domeni odluke ljudskog kirurga; naglašava posebnu važnost obuke za korisnike kojom će im se omogućiti bolje upoznavanje s tehnološkim zahtjevima u tom području; usmjerava pozornost na sve veći trend samodijagnosticiranja korištenjem mobilnog robota i, kao posljedica toga, na potrebu da se liječnike osposobi za rješavanje samodijagnosticiranih slučajeva; smatra da upotreba takvih tehnologija ne smije umanjiti odnos liječnik-pacijent niti mu naštetiti, već treba pružati pomoć liječnicima pri dijagnosticiranju i/ili liječenju pacijenta u cilju smanjenja opasnosti od ljudske greške i povećanja kvalitete života i očekivanog životnog vijeka;

34. smatra da medicinski roboti imaju sve veću ulogu u operacijama visoke preciznosti i u izvođenju postupaka koji se ponavljaju te da oni mogu poboljšati rezultate u rehabilitaciji i pružati vrlo učinkovitu logističku potporu u bolnicama; napominje da se robotima mogu potencijalno smanjiti troškove zdravstvene skrbi jer će se zdravstvenim djelatnicima omogućiti da se usredotoče na prevenciju umjesto na liječenje, a više proračunskih sredstava namijenit će se za bolju prilagodbu različitim potrebama pacijenata, stalnom osposobljavanju zdravstvenih djelatnika i istraživanju;

35. poziva Komisiju da prije datuma početka primjene Uredbe o medicinskim uređajima1 zajamči da su postupci za ispitivanje novih medicinskih robota sigurni, posebno ako je riječ o uređajima koji se implantiraju u ljudsko tijelo;

„Popravljanje” organa i „poboljšavanje” ljudskog tijela

36. ističe važan razvoj i daljnji potencijal robotike u području „popravljanja” i nadomještanja oštećenih ljudskih organa i funkcija, ali i kompleksna pitanja koja se otvaraju zbog mogućnosti „poboljšanja” ljudskog tijela jer medicinski roboti i posebno kiberfizički sustavi mogu izmijeniti naša razmišljanja o zdravom ljudskom tijelu budući da ih je moguće nositi izravno na ljudskom tijelu ili mogu biti ugrađeni u ljudsko tijelo; naglašava da je važno da se u bolnicama i drugim ustanovama zdravstvene skrbi hitno uspostave povjerenstva za etiku u robotici s prikladnim osobljem radi razmatranja neuobičajenih i kompliciranih etičkih problema povezanih s pitanjima njege i liječenja pacijenata te radi pomaganja pri rješavanju tih problema; poziva Komisiju i države članice da osmisle smjernice za pomoć pri uspostavi i radu takvih povjerenstava;

37. smatra da je u području životno važne medicinske primjene, poput robotskih proteza, nužno pružiti stalnu i održivu mogućnost održavanja i poboljšanja te, posebice, softverskih ažuriranja kojima se ispravljaju nedostaci i slabe točke;

38. preporučuje osnivanje neovisnih tijela kako bi se zajamčilo pružanje usluga osobama koje imaju životno važne i napredne medicinske uređaje, kao što su održavanje, popravci i poboljšanja, uključujući softversko ažuriranje, posebno u slučajevima kada originalni pružatelj više ne pruža takve usluge; predlaže da se uvede obveza za

1 Vidi Zakonodavnu rezoluciju Europskog parlamenta od 2. travnja 2014. o priejdlogu uredbe Europskog parlamenta i Vijeća o medicinskim uređajima i o izmjeni Direktive 2001/83/EZ, Uredbe (EZ) br. 178/2002 i Uredbe (EZ) br. 1223/2009 (COM(2012)0542 – C7-0318/2012 – 2012/0266(COD)).

PE582.443v03-00 14/64 RR\1115573HR.docx

HR

proizvođače da tim neovisnim tijelima pružaju kompletne upute za projektiranje, uključujući izvorni kod, slično pravnoj obvezi pružanja publikacija nacionalnoj knjižnici;

39. skreće pozornost na rizike povezane s mogućnošću da kibernetičko-fizički sustavi integrirani u ljudsko tijelo budu hakirani, isključeni ili da im se izbrišu računalne memorije jer bi se tako moglo ugroziti ljudsko zdravlje, a u krajnjim slučajevima i ljudski životi, te stoga ističe da zaštita tih sustava mora biti prioritet;

40. ističe važnost jamčenja jednakog pristupa za sve osobe takvim tehnološkim inovacijama, alatima i intervencijama; traži od Komisije i država članica da promiču razvoj pomoćnih tehnologija kako bi se potaknuo razvoj tih tehnologija i kako bi ih osobe kojima su potrebne usvojile, u skladu s člankom 4. Konvencije UN-a o pravima osoba s invaliditetom koju je potpisala Unija;

Obrazovanje i zapošljavanje

41. skreće pozornost na predviđanja Komisije prema kojima bi do 2020. Europi moglo nedostajati do 825 000 stručnjaka za informacijske i komunikacijske tehnologije (ICT), a za 90 % poslova bit će potrebne barem osnovne digitalne vještine; pozdravlja inicijativu Komisije da predloži plan za moguću upotrebu i reviziju Okvira digitalne kompetencije i opisa digitalnih kompetencija za sve razine učenja te poziva Komisiju da pruži znatnu potporu razvoju digitalnih vještina u svim dobnim skupinama i neovisno o radnom statusu, kao prvi korak prema boljem usklađivanju nedostataka i potražnje na tržištu rada; naglašava da rast sektora robotike zahtijeva da države članice razviju fleksibilnije sustava za osposobljavanje i obrazovanje kako bi se zajamčila usklađenost strategija povezanih s vještinama i potreba gospodarstva u području robotike;

42. smatra da bi poticanje interesa mladih žena za karijeru u digitalnom sektoru i zapošljavanje više žena na digitalnim radnim mjestima bilo korisno za digitalnu industriju, žene i europsko gospodarstvo; poziva Komisiju i države članice da pokrenu inicijative za pružanje podrške ženama u sektoru ICT-a i za poboljšavanje njihovih e-vještina;

43. poziva Komisiju da počne pomnije analizirati i pratiti srednjoročne i dugoročne trendove u području zapošljavanja i da pritom posebno obrati pažnju na otvaranje, premještanje i gubitke radnih mjesta u različitim područjima stručnosti kako bi se saznalo u kojim se područjima otvaraju nova radna mjesta, a u kojima nestaju zbog povećane upotrebe robota;

44. ističe važnost predviđanja društvenih promjena, imajući na umu moguće posljedice razvoja i primjene robotike i umjetne inteligencije; traži od Komisije da analizira različite moguće scenarije i njihove posljedice na održivost sustava socijalne zaštite u državama članicama; smatra da je potrebno pokrenuti uključivu raspravu o novim modelima zapošljavanja i održivosti naših fiskalnih i socijalnih sustava na temelju postojanja dostatnog dohotka, uključujući moguće uvođenje općeg osnovnog dohotka;

45. ističe važnost fleksibilnosti vještina te društvenih, kreativnih i digitalnih vještina u obrazovanju; uvjeren je da se, osim školama koje pružaju akademsko znanje, potrebe za

RR\1115573HR.docx 15/64 PE582.443v03-00

HR

cjeloživotnim učenjem trebaju ostvarivati cjeloživotnim aktivnostima;

46. napominje da se robotikom uvelike može poboljšati sigurnost na radu preusmjeravanjem brojnih opasnih i štetnih zadataka od ljudi na robote, međutim, istovremeno napominje da se time može stvoriti novi niz opasnosti zbog povećanog broja interakcija između ljudi i robota na radnom mjestu; u tom pogledu ističe važnost primjenjivanja strogih i naprednih pravila za interakcije između ljudi i robota kako bi se zajamčilo zdravlje, sigurnost i poštovanje temeljnih prava na radnom mjestu;

Utjecaj na okoliš

47. napominje da se robotika i umjetna inteligencija trebaju razvijati na način kojim se utjecaj na okoliš ograničava učinkovitom energetskom potrošnjom, energetskom učinkovitošću promicanjem korištenja obnovljive energije i rijetkih materijala, minimalnim otpadom, poput električnog i elektroničkog otpada, te mogućnošću popravljanja; stoga potiče Komisiju da načela kružne ekonomije uvrsti u svaku politiku Unije o robotici; također primjećuje da će primjena robotike imati pozitivan utjecaj na okoliš, posebno u područjima poljoprivrede, opskrbe hranom i prometa, konkretno zahvaljujući smanjenoj veličini strojeva, smanjenoj uporabi gnojiva, energije i vode te preciznoj poljoprivredi i optimizacije ruta;

48. ističe da će kibernetičko-fizički sustavi dovesti do stvaranja energetskih i infrastrukturnih sustava koji mogu nadzirati protok električne energije od proizvođača do potrošača te će također dovesti do nastanka „proizvođača-potrošača” električne energije, koji i proizvode i troše energiju, čime će se omogućiti velike koristi za okoliš;

Odgovornost

49. smatra da je građanskopravna odgovornost za štetu prouzročenu robotima ključno pitanje koje je potrebno analizirati i riješiti na razini Unije kako bi se postigao jednak stupanj učinkovitosti, transparentnosti i usklađenosti pri jamčenju pravne sigurnosti u cijeloj Europskoj uniji, u korist građana, potrošača i poduzeća;

50. napominje da će razvoj tehnologije u području robotike zahtijevati bolje razumijevanje temelja potrebnog za zajedničko djelovanje ljudi i robota koje bi se trebalo osnivati na dvjema međuovisnim značajkama kao što su predvidivost i usmjerenost; ističe da su te dvije međuovisne značajke ključne za utvrđivanje koje je informacije potrebno podijeliti između ljudi i robota te načina na koji se može postići zajednička osnova između ljudi i robota kako bi se omogućilo glatko zajedničko djelovanje ljudi i robota;

51. traži od Komisije da na temelju članka 114. UFEU-a podnese prijedlog zakonodavnog instrumenta za pravna pitanja povezana s razvojem i korištenjem robotike i umjetne inteligencije koji se predviđa za sljedećih 10-15 godina, zajedno s nezakonodavnim instrumentima kao što su smjernice i kodeksi ponašanja, u skladu s preporukama iz Priloga;

52. smatra da se, koje god se pravno rješenje primijeni u pogledu građanskopravne odgovornosti za štetu prouzročenu robotima u slučajevima koji nisu povezani s

PE582.443v03-00 16/64 RR\1115573HR.docx

HR

materijalnom štetom, budućim pravnim instrumentom ni na koji način ne smiju ograničavati vrsta ili opseg štete koju je moguće nadoknaditi, kao ni oblici naknade koji se mogu ponuditi oštećenoj strani samo na temelju činjenice da je šteta prouzročena neljudskim čimbenikom;

53. smatra da bi se budući zakonodavni instrument trebao temeljiti na detaljnoj procjeni Komisije o tome treba li se primjenjivati pristup stroge odgovornosti ili pristup upravljanja rizicima;

54. istovremeno napominje da pristup stroge odgovornosti zahtijeva samo dokaz o šteti i uspostavljanje uzročne veze između štetnog djelovanja robota i štete koju je pretrpjela oštećena strana;

55. napominje da pristup upravljanja rizicima nije usmjeren na osobu „koja je postupala nemarno” i koja je pojedinačno odgovorna već na osobu koja može, pod određenim okolnostima, svesti rizike na najmanju moguću mjeru i rješavati negativne učinke;

56. smatra da, kad se utvrdi koje strane snose krajnju odgovornost, ta odgovornost u načelu treba biti razmjerna stvarnoj razini uputa danih robotu i autonomije robota, tako da je odgovornost „učitelja” robota veća što je sposobnost učenja ili autonomija robota veća i što je dulje trajala „obuka” robota; posebno napominje da pri utvrđivanju tko je odgovoran za štetno ponašanje robota treba razlikovati vještine koje proizlaze iz „obuke” robota i one koje ovise isključivo o sposobnosti robota za samostalno učenje; napominje da barem u aktualnoj fazi odgovornost mora biti u rukama čovjeka, a ne robota;

57. ističe da je obvezni sustav osiguranja kakav se koristi, primjerice, za automobile, moguće rješenje za složenost utvrđivanja odgovornosti za štetu koju prouzroče sve autonomniji roboti; ipak, napominje da bi se, za razliku od sustava osiguranja za cestovni promet kojim se pokrivaju ljudsko djelovanje i propusti, sustavom osiguranja za robotiku trebale uzeti u obzir sve moguće odgovornosti u lancu;

58. smatra da bi se, kao i u slučaju osiguranja motornih vozila, takav sustav osiguranja mogao nadopuniti fondom kojim će se zajamčiti naknada štete kad osiguranje ne postoji; poziva sektor osiguranja da osmisli nove proizvode i vrste ponuda prilagođene napretku u području robotike;

59. poziva Komisiju da pri provedbi procjene učinka budućeg zakonodavnog instrumenta istraži, analizira i razmotri posljedice svih mogućih pravnih rješenja, kao što su:

a) uspostava sustava obveznog osiguranja, kada je to prikladno i potrebno za specifične kategorije robota, prema kojem bi, slično kao kod osiguranja automobila, proizvođači ili vlasnici robota bili dužni ugovoriti osiguranje za štetu koju bi mogli uzrokovati njihovi roboti;

b) jamstvo da fond za naknadu štete ne bi služio samo za jamčenje naknade štete u slučaju da je štetu uzrokovao neosigurani robot;

c) omogućavanje proizvođaču, programeru, vlasniku ili korisniku da imaju koristi od stroge odgovornosti ako doprinose fondu za naknadu štete te ako zajedno imaju

RR\1115573HR.docx 17/64 PE582.443v03-00

HR

osiguranje kojim se jamči naknada u slučajevima kada robot uzrokuje štetu;

d) odluka treba li osnovati opći fond za sve pametne autonomne robote ili posebne fondove za svaku kategoriju robota te treba li se doprinos plaćati jednokratno kad se robot stavi na tržište ili periodično tijekom životnog vijeka robota;

e) uvođenje individualnog registarskog broja u posebnom registru Unije zahvaljujući kojem bi se robota lako moglo povezati s njegovim fondom, a osobe u interakciji s robotom mogle bi dobiti informacije o prirodi fonda, granicama odgovornosti u slučaju materijalne štete, imenima i funkcijama doprinositelja te sve druge relevantne pojedinosti;

f) stvaranje posebnog dugoročnog pravnog statusa za robote kako bi barem najsofisticiraniji autonomni roboti mogli imati status elektroničkih osoba s odgovornošću ispravljanja štete koju su uzrokovali te moguća primjena statusa elektroničke osobe u slučajevima kad roboti donesu pametnu autonomnu odluku ili na neki drugi način neovisno međudjeluju s trećim stranama;

g) uvođenje prikladnog instrumenta za potrošače koji žele kolektivno od odgovornih proizvođača zatražiti naknadu za štetu uzrokovanu neispravnošću inteligentnih strojeva;

Međunarodni aspekti

60. napominje da bi se, iako nije potrebna hitna izmjena aktualnih općih pravila međunarodnog privatnog prava o prometnim nezgodama primjenjivih u Uniji radi njihove prilagodbe razvoju autonomnih vozila, pojednostavljenjem trenutačnog dualnog sustava za definiranje mjerodavnog prava (na temelju Uredbe (EZ) br. 864/2007 Europskog parlamenta i Vijeća1 i Haške konvencije od 4. svibnja 1971. o mjerodavnom pravu za prometne nezgode) poboljšala pravna sigurnost i ograničile mogućnosti traženja najpovoljnijeg pravnog sustava („forum shopping”);

61. napominje da je potrebno razmotriti izmjenjivanje međunarodnih sporazuma kao što su Bečka konvencija od 8. studenog 1968. o cestovnom prometu i Haška konvencija o mjerodavnom pravu za prometne nezgode;

62. očekuje od Komisije da zajamči da države članice na ujednačen način provode međunarodno pravo, kao što je Bečka konvencija o cestovnom prometu koju je potrebno izmijeniti, kako bi se omogućila vožnja bez vozača i poziva Komisiju, države članice i industriju na što bržu provedbu ciljeva Deklaracije iz Amsterdama;

63. snažno potiče međunarodnu suradnju u pogledu rješavanja društvenih, etičkih i pravnih izazova te uspostavljanje regulatornih standarda pod okriljem Ujedinjenih naroda;

64. ističe da bi i na robotiku trebalo primijeniti ograničenja i uvjete iz Uredbe (EZ) br. 428/2009 Europskog parlamenta i Vijeća2 o trgovini robom dvojne namjene –

1 Uredba (EZ) br. 864/2007 Europskog parlamenta i Vijeća od 11. srpnja 2007. o pravu koje se primjenjuje na izvanugovorne obveze („Rim II”) (SL L 199, 31.7.2007., str. 40.).2 Uredba Vijeća (EZ) br. 428/2009 o uspostavljanju režima Zajednice za kontrolu izvoza, prijenosa, brokeringa i

PE582.443v03-00 18/64 RR\1115573HR.docx

HR

dobrima, kompjuterskim programima i tehnologijom koja se može koristiti u civilne i u vojne svrhe i/ili može pridonijeti širenju oružja za masovno uništavanje;

Završni aspekti

65. traži na temelju članka 225. UFEU-a od Komisije da na temelju članka 114. UFEU-a podnese prijedlog direktive o građanskom pravu o robotici slijedeći detaljne preporuke iz Priloga ovom dokumentu;

66. potvrđuje da se preporukama poštuju temeljna prava i načelo supsidijarnosti;

67. smatra da bi traženi prijedlog imao financijske posljedice ako se uspostavi nova europska agencija;

68. nalaže svojem predsjedniku da ovu Rezoluciju i popratne detaljne preporuke proslijedi Vijeću i Komisiji.

provoza robe s dvojnom namjenom (SL L 341, 29.5.2009., str. 1.).

RR\1115573HR.docx 19/64 PE582.443v03-00

HR

PRILOG PRIJEDLOGU REZOLUCIJE:DETALJNE PREPORUKE O SADRŽAJU TRAŽENOG PRIJEDLOGA

Definicija i klasifikacija pametnih robota

Potrebno je utvrditi zajedničku europsku definiciju pametnih autonomnih robota, uključujući, kada je to potrebno, prikladne definicije njihovih potkategorija te uzimajući u obzir sljedeće značajke:

– Sposobnost autonomnog rada s pomoću senzora i/ili razmjene podataka s okolinom (međusobna povezivost) i analize tih podataka

– Sposobnost učenja kroz iskustvo i interakciju

– Oblik fizičke potpore robota

– Sposobnost prilagodbe ponašanja i djelovanja u odnosu na okolinu

Registriranje pametnih robota

U cilju sljedivosti i olakšavanja provedbe daljnjih preporuka, potrebno je uvesti sustav registriranja naprednih robota koji se temelji na kriterijima utvrđenima za klasifikaciju robota. Sustav registracije i sam registar trebali bi se voditi na razini Unije i pokrivati unutarnje tržište te bi njima mogla upravljati Agencija EU-a za robotiku i umjetnu inteligenciju u slučaju da se takva agencija osnuje.

Građanskopravna odgovornost

Sva odabrana pravna rješenja koja se primjenjuju na odgovornost robota i umjetne inteligencije u slučajevima koji nisu povezani s materijalnom štetom ne smiju ni na koji način ograničavati vrstu ili opseg štete koju je moguće nadoknaditi, niti se takvim rješenjima ne smiju ograničavati oblici naknade koji se mogu ponuditi oštećenoj strani isključivo na temelju toga da je šteta prouzročena neljudskim čimbenikom.

Budući zakonodavni instrument trebao bi se temeljiti na detaljnoj procjeni Komisije o tome treba li se primjenjivati pristup stroge odgovornosti ili pristup upravljanja rizicima.

Potrebno je uvesti plan obveznog osiguranja koji bi se mogao temeljiti na obvezi proizvođača da osigura autonomne robote koje proizvodi.

Osiguranje bi se trebalo nadopuniti fondom kojim će se jamčiti nadoknada štete u slučaju da osiguranje ne postoji.

Sve političke odluke o pravilima građanskopravne odgovornosti koja se primjenjuju na robote i umjetnu inteligenciju trebaju se donositi uzimajući u obzir rezultate projekta na razini Europe u području istraživanja i razvoja robotike i neuroznanosti kako bi znanstvenici i stručnjaci mogli procijeniti sve povezane rizike i posljedice.

Interoperabilnost, pristup kodu i prava intelektualnog vlasništva

PE582.443v03-00 20/64 RR\1115573HR.docx

HR

Potrebno je zajamčiti interoperabilnost autonomnih robota povezanih mrežom koji međusobno komuniciraju. Pristup izvornom kodu, ulazni podaci i podaci o projektiranju trebaju biti dostupni po potrebi kako bi se istražile nesreće i šteta uzrokovane pametnim robotima te zajamčio njihov trajni rad, dostupnost, pouzdanost, zaštita i sigurnost.

Povelja o robotici

Komisija bi pri predlaganju zakonodavnih akata povezanih s robotikom trebala uzeti u obzir načela utvrđena u sljedećoj Povelji o robotici.

POVELJA O ROBOTICI

Predloženim kodeksom etičkog ponašanja u području robotike postavit će se temelji za utvrđivanje temeljnih etičkih načela i nadzor njihova poštovanja te za usklađenost s njima već u fazi projektiranja i razvoja.

Potrebno je izraditi promišljeni okvir, uzimajući u obzir rezultate projekta na razini Europe u području istraživanja i razvoja robotike i neuroznanosti, kojim će se omogućiti pojedinačna prilagodba od slučaja do slučaja kako bi se utvrdila ispravnost ili neispravnost određenog ponašanja u određenoj situaciji te donošenje odluka u skladu s ranije utvrđenim nizom vrijednosti.

Taj kodeks ne zamjenjuje potrebu za rješavanjem svih velikih pravnih problema u tom području i on bi trebao služiti kao nadopuna. Njime će se omogućiti etička kategorizacija u području robotike, osnažiti odgovorna inovativnost u tom području i odgovoriti na zabrinutost javnosti.

Potrebno je posebno naglasiti faze istraživanja i razvoja u relevantom tehnološkom procesu (postupak projektiranja, revizija etičkih načela, revizorske kontrole, itd.). Cilj je kodeksa odgovoriti na potrebe za usklađenosti djelovanja istraživača, stručnjaka, korisnika i projektanata s etičkim normama, kao i uvođenje postupka za rješavanje relevantnih etičkih dvojbi i omogućavanje tim sustavima da djeluju uz poštovanje etičkih načela.

KODEKS ETIČKOG PONAŠANJA ZA INŽENJERE ROBOTIKE

PREAMBULA

Kodeksom ponašanja pozivaju se svi istraživači i projektanti na odgovorno djelovanje, uzimajući u potpunosti u obzir potrebu za poštovanjem dostojanstva, privatnosti i sigurnosti ljudi.

Kodeks poziva na blisku suradnju svih disciplina kako bi se zajamčilo da se istraživanja u području robotike u Europskoj uniji provode na siguran, etički i učinkovit način.

Kodeksom ponašanja pokrivene su sve aktivnosti istraživanja i razvoja u području robotike.

Kodeks ponašanja djeluje na dobrovoljnoj osnovi i njime se nudi niz općih načela i smjernica za djelovanje svih dionika.

RR\1115573HR.docx 21/64 PE582.443v03-00

HR

Tijela za financiranje istraživanja u području robotike, istraživačke organizacije, istraživači i povjerenstva za istraživačku etiku pozivaju se da u najranijim fazama razmotre buduće posljedice tehnologija ili predmeta o kojima se provodi istraživanje te da razviju kulturu odgovornosti, uzimajući u obzir izazove i prilike do kojih bi moglo doći u budućnosti.

Javna i privatna tijela za financiranje istraživanja u području robotike trebala bi zatražiti provedbu procjene rizika koja će se potom prezentirati zajedno sa svakim prijedlogom za financiranje istraživanja u području robotike. U okviru takvog kodeksa odgovornim subjektima moraju se smatrati ljudi, a ne roboti.

Istraživači u području robotike trebaju se obvezati na najviši stupanj etičkog i profesionalnog ponašanja te poštovati sljedeća načela:

Djelovanje u najboljem interesu – roboti trebaju djelovati u najboljem interesu ljudi;

Nenanošenje štete – prvo načelo „nenanošenja zla” prema kojem roboti ne smiju naškoditi ljudima;

Autonomija – sposobnost donošenja informirane odluke bez prisile o uvjetima interakcije s robotima;

Pravednost – pravedna raspodjela koristi povezanih s robotikom, posebno u pogledu cjenovne dostupnosti robota za skrb u domu i robota za zdravstvenu skrb.

Temeljna prava

Istraživačkim aktivnostima u području robotike trebaju se poštovati temeljna prava te ih je u fazama njihova projektiranja, provođenja, širenja i korištenja potrebno provoditi u interesu dobrobiti i samoodređenja pojedinaca i općeg društva. Potrebno je uvijek poštovati ljudsko dostojanstvo, kako fizičko tako i psihološko.

Predostrožnost

Istraživačke aktivnosti u području robotike trebaju se provoditi u skladu s načelom predostrožnosti, uz predviđanje mogućih sigurnosnih posljedica rezultata i poduzimanje potrebnih mjera opreza koje su razmjerne razini zaštite te istovremeno poticanje napretka za društvo i okoliš.

Uključivost

Inženjeri robotike jamče transparentnost i poštovanje legitimnog prava na pristup informacijama za sve dionike. Uključivost omogućuje sudjelovanje u postupku odlučivanja svih dionika koji su obuhvaćeni ili sudjeluju u istraživačkim aktivnostima u području robotike.

Odgovornost

Inženjeri robotike trebaju i dalje biti odgovorni za društvene i ekološke posljedice robotike, kao i za njezine posljedice za ljudsko zdravlje sadašnjih i budućih generacija.

Sigurnost

PE582.443v03-00 22/64 RR\1115573HR.docx

HR

Projektanti robota trebaju uzeti u obzir i poštovati fizičku dobrobit, sigurnost, zdravlje i prava ljudi. Inženjeri robotike trebaju očuvati ljudsku dobrobit uz poštovanje ljudskih prava te pravovremeno objaviti čimbenike koji bi mogli naškoditi javnosti ili okolišu.

Reverzibilnost

Reverzibilnost je, kao nužan preduvjet za mogućnost kontrole, temeljni koncept pri programiranju sigurnog i pouzdanog ponašanja robota. Modelom reverzibilnosti robotu se pružaju informacije o tome koja je radnja reverzibilna i kako primijeniti tu reverzibilnost. Mogućnost brisanja posljednje radnje ili posljednjeg niza radnji omogućuje korisnicima da izbrišu neželjene radnje i da se vrate na „dobru” fazu rada.

Privatnost

Potrebno je uvijek poštovati pravo na privatnost. Inženjeri robotike trebaju zajamčiti sigurnost privatnih informacija i njihovo ispravno korištenje. Štoviše, inženjeri robotike trebaju zajamčiti nemogućnost osobnog identificiranja pojedinaca, osim u slučaju izvanrednih okolnosti, ali čak i tada uz jasan, nedvojben i informirani pristanak pojedinca. Informirani pristanak osobe potrebno je zatražiti i dobiti prije bilo kakve interakcije između osobe i robota. Projektanti robota su kao takvi odgovorni za razvijanje i poštovanje postupaka za valjan pristanak, povjerljivost, anonimnost, pravedno postupanje i pravičan postupak. Projektanti će izvršiti sve zahtjeve za uništavanje svih relevantnih podataka ili za njihovo uklanjanje iz skupova podataka.

Maksimalna korist i minimalna šteta

Istraživači bi trebali stremiti ostvarivanju maksimalne koristi od njihova rada u svim fazama, od osmišljavanja do objave rezultata. Potrebno je izbjegavati nanošenje štete sudionicima u istraživanju, ljudskim subjektima ili sudionicima u eksperimentu, ispitivanju ili studiji. U slučaju kada je opasnost neizbježan i sastavni dio istraživanja, potrebno je sastaviti i poštovati stroge protokole za procjenu rizika i upravljanje njima. U normalnim okolnostima, opasnost od štete ne bi trebala biti veća od one u svakodnevnom životu, tj. ljudi ne bi trebali biti izloženi dodatnim opasnostima ili opasnostima većima od onih kojima su ionako izloženi u njihovom uobičajenom načinu života. Djelovanje sustava robotike treba se uvijek temeljiti na temeljitom postupku procjene rizika koji treba pratiti načela predostrožnosti i proporcionalnosti.

KODEKS ZA POVJERENSTVA ZA ISTRAŽIVAČKU ETIKU

Načela

Neovisnost

Postupak preispitivanja etičnosti treba biti neovisan o samom istraživanju. Ovim se načelom ističe potreba za izbjegavanjem sukoba interesa između istraživača i osoba koje se bave preispitivanjem protokola o etičnosti, kao i između tih osoba i struktura organizacijskog upravljanja.

Nadležnost

RR\1115573HR.docx 23/64 PE582.443v03-00

HR

Postupak preispitivanja etičnosti trebaju provoditi osobe prikladne stručnosti, pri čemu treba pažljivo razmotriti opseg članstva i stručno osposobljavanje povjerenstava za istraživačku etiku u području etike.

Transparentnost i odgovornost

Postupak preispitivanja treba biti odgovoran i podložan nadzoru. Povjerenstva za istraživačku etiku trebaju biti svjesna svoje odgovornosti i imati odgovarajuće mjesto u organizacijskim strukturama koje jamče transparentnost djelovanja povjerenstava za istraživačku etiku i postupaka za očuvanje i preispitivanje normi.

Uloga povjerenstva za istraživačku etiku

Povjerenstvo za istraživačku etiku obično je odgovorno za preispitivanje svih istraživanja koja uključuju ljudske sudionike, a koja provode pojedinci zaposleni u okviru relevantnih institucija ili koje takve institucije zapošljavaju, jamči da je preispitivanje etičnosti neovisno, kompetentno i pravovremeno, štiti dostojanstvo, prava i dobrobit sudionika u istraživanju, uzima u obzir sigurnost istraživača, uzima u obzir legitimne interese drugih dionika, donosi informirane odluke o znanstvenoj vrijednosti prijedloga i donosi informirane preporuke za istraživača ako se utvrdi da je prijedlog manjkav.

Uspostava povjerenstva za istraživačku etiku

Povjerenstvo za istraživačku etiku obično je multidisciplinarno, uključuje i muškarce i žene te se sastoji od članova sa širokim iskustvom i stručnosti u području istraživanja robotike. Mehanizmom imenovanja treba se zajamčiti da sastav članova povjerenstva omogućuje prikladnu ravnotežu između znanstvene stručnosti, filozofske, pravne ili etičke pozadine te laičkih mišljenja te da se povjerenstvo sastoji od barem jednog člana sa specijalističkim znanjem u području etike i od korisnika specijalističkih zdravstvenih, obrazovnih ili socijalnih usluga ako su istraživačke aktivnosti na njih usmjerene te pojedinaca sa specifičnom metodološkom stručnosti koje se odnosi na istraživanje koje preispituju te mora biti uspostavljeno na način da se izbjegavaju sukobi interesa.

Praćenje

Sve istraživačke organizacije trebaju uspostaviti prikladne postupke za praćenje provođenja istraživanja koje je dobilo odobrenje o etičnosti sve do njegova završetka te zajamčiti trajno praćenje u slučajevima kada su u fazi projektiranja istraživanja predviđene moguće promjene kroz vrijeme koje će se možda trebati rješavati. Praćenje treba biti proporcionalno prirodi i stupnju rizika povezanog s istraživanjem. Ako povjerenstvo za istraživačku etiku smatra da izvješće o praćenju ukazuje na znatne probleme u pogledu etičnosti studije, ono mora zatražiti puno i detaljno preispitivanje etičnosti istraživanja. Ako se procijeni da se studija provodi na neetičan način, potrebno je razmotriti povlačenje njezina odobrenja te obustavu ili ukidanje njezina istraživanja.

DOZVOLA ZA PROJEKTANTE

– Trebate uzeti u obzir europske vrijednosti dostojanstva, autonomije, samoodređenja, slobode i pravde prije, tijekom i nakon postupka projektiranja, razvoja i provedbe takvih

PE582.443v03-00 24/64 RR\1115573HR.docx

HR

tehnologija, uključujući potrebu za nenanošenjem štete ili ozljeda te nedovođenjem u zabludu i neiskorištavanjem (osjetljivih) korisnika.

– Trebate uvesti pouzdana načela za projektiranje sustava za sve aspekte rada robota, uključujući opremu i programe te svaku obradu podataka koja se na platformi ili izvan nje vrši iz sigurnosnih razloga.

– Trebate značajkama u fazi projektiranja omogućiti privatnost kako bi se zajamčila sigurnost privatnih informacija i njihova prikladna primjena.

– Trebate integrirati jasne mehanizme za dobrovoljni izlazak iz sustava (prekidači za prestanak rada) koji bi trebali biti u skladu s razumnim ciljevima projektiranja.

– Trebate zajamčiti usklađenost rada robota s lokalnim, nacionalnim i međunarodnim etičkim i pravnim načelima.

– Trebate zajamčiti da je korake robota pri donošenju odluka moguće rekonstruirati i slijediti.

– Trebate zajamčiti maksimalnu transparentnost u programiranju robotskih sustava, kao i predvidljivost ponašanja robota.

– Trebate analizirati predvidljivost funkcioniranja sustava čovjek-robot uzimajući u obzir nesigurnost pri tumačenju i djelovanju, kao i moguće kvarove robota ili ljudske pogreške.

– Trebate razviti alate za sljedivost u fazi projektiranja robota. Tim će se alatima stručnjacima, operatorima i korisnicima omogućiti praćenje i razjašnjenje, pa makar i ograničeno, ponašanja robota na različitim razinama.

– Trebate osmisliti protokole za projektiranje i procjenu te surađivati s potencijalnim korisnicima i dionicima pri ocjenjivanju koristi i rizika robotike, uključujući kognitivne, psihološke i ekološke koristi i rizike.

– Trebate osigurati da se pri interakciji s ljudima robote može identificirati kao takve.

– Trebate štititi sigurnost i zdravlje osoba koje su u interakciji i dodiru s robotima s obzirom na to da se prilikom projektiranja robota kao proizvoda trebaju primijeniti procesi kojima se jamči njihova zaštita i sigurnost. Inženjer robotike mora štititi dobrobit ljudi uz istovremeno poštovanje ljudskih prava te ne smije pokrenuti robote bez jamčenja sigurnosti, učinkovitosti i reverzibilnosti djelovanja sustava.

– Trebate dobiti pozitivno mišljenje povjerenstva za istraživačku etiku prije testiranja robota u stvarnom okruženju ili uključivanja ljudi u njegove postupke projektiranja i razvoja.

DOZVOLA ZA KORISNIKE

– Smijete se koristiti robotom bez opasnosti ili straha od fizičke ili psihološke štete.

– Imate pravo očekivati od robota da će provesti svaki zadatak za koji je izričito

RR\1115573HR.docx 25/64 PE582.443v03-00

HR

projektiran.

– Trebate biti svjesni da svaki robot može imati perceptivna, kognitivna i aktivacijska ograničenja.

– Trebate poštovati fizičku i psihološku osjetljivost ljudi, kao i njihove emocionalne potrebe.

– Trebate uzeti u obzir prava pojedinaca na privatnost, uključujući deaktiviranje video nadzora tijekom intimnih postupaka.

– Ne smijete prikupljati, koristiti ili objavljivati osobne informacije bez izričitog pristanka subjekta o čijim je podacima riječ.

– Ne smijete se koristiti robotom ni na koji način koji je suprotan etičkim ili pravnim načelima ili normama.

– Ne smijete modificirati robot kako bi on mogao funkcionirati kao oružje.

PE582.443v03-00 26/64 RR\1115573HR.docx

HR

OBRAZLOŽENJE

Kontekst

U skladu s Prilogom VI. Poslovnika, Odbor za pravna pitanja odgovoran je, među ostalim, za područje građanskog i trgovačkog prava, prava trgovačkih društava, prava intelektualnog vlasništva te za tumačenje i primjenu međunarodnog prava, u mjeri u kojoj se odnose na Europsku uniju, te etička pitanja povezana s novim tehnologijama. Razvoj robotike i umjetne inteligencije postavlja pravna i etička pitanja koja su jasno povezana sa svim tim područjima i koja zahtijevaju hitno djelovanje na razini EU-a. Iako je zadaća Komisije da u konačnici iznese jedan ili više zakonodavnih prijedloga povezanih s robotikom i umjetnom inteligencijom, Europski parlament odlučio je otvoriti put takvim inicijativama koristeći se svojim pravima u skladu s člankom 225. Ugovora o funkcioniranju Europske unije i člankom 46. Poslovnika.

Kao rezultat toga, Odbor JURI odlučio je 20. siječnja 2015. osnovati radnu skupinu za pravna pitanja povezana s razvojem robotike i umjetne inteligencije u Europskoj uniji. Glavni je cilj radne skupine izrada nacrta građanskopravnih pravila povezanih s tim područjem.

Osim članova Odbora za pravna pitanja, radna skupina uključuje i članove koji predstavljaju Odbor za industriju, istraživanje i energetiku (ITRE), Odbor za unutarnje tržište i zaštitu potrošača (IMCO) i Odbor za zapošljavanje i socijalna pitanja (EMPL).

Radna skupina savjetovala se sa stručnjacima iz vrlo različitih područja i dobila njihov vrlo važan doprinos koji je uvršten u ovu rezoluciju.

Općenito

Robotika i umjetna inteligencija sada su među najistaknutijim tehnoloških trendovima našeg stoljeća. Brzi rast njihova korištenja i razvoja našem društvu donosi nove i teške izazove. Prijelaz robota i umjetne inteligencije iz industrijskog sektora u okruženje civilnog društva zahtijeva drugačiji pristup tim tehnologijama jer bi se takvim prijelazom povećala njihova interakcija s ljudima u vrlo raznovrsnim područjima.

Odbor JURI smatra da je potrebno hitno rješavati rizike povezane s tim novim interakcijama i pobrinuti se da se određeni niz temeljnih vrijednosti prenosi u svaku fazu kontakta između robota, umjetne inteligencije i ljudi. Pritom je potrebno posebno naglasiti ljudsku sigurnost, privatnost, integritet, dostojanstvo i autonomiju.

Drugi važni aspekti o kojima je riječ u ovoj rezoluciji su: normizacija, prava intelektualnog vlasništva, vlasništvo podataka, zapošljavanje i pravna odgovornost. Ključno je da se zakonskom regulativom pruže predvidljivi i dovoljno jasni uvjeti za poticanje europske inovacije u području robotike i umjetne inteligencije.

Pravna osnova i supsidijarnost

RR\1115573HR.docx 27/64 PE582.443v03-00

HR

Djelovanje Komisije u pogledu prilagodbe postojećeg zakonodavstva realnosti područja robota i umjetne inteligencije treba se temeljiti na članku 114. UFEU-a. Kao što je navedeno u članku 5. stavku 3. UEU-a, Unija sukladno načelu supsidijarnosti djeluje jedino ako i u mjeri u kojoj ciljeve predloženog djelovanja države članice ne mogu dostatno ostvariti, kako na središnjoj razini tako i na regionalnoj i lokalnoj, nego se zbog opsega ili učinaka predloženog djelovanja mogu na bolji način ostvariti na razini Europske unije. Do razvoja robotike trenutačno dolazi na razini cijele Unije. Države članice reagiraju na te inovacije izradom nacionalnih zakonodavstava koji se međusobno razlikuju. Možemo očekivati da će te razlike stvoriti prepreke za učinkoviti razvoj robotike. Zbog činjenice da ta tehnologija ima prekogranične posljedice, najbolja je opcija zakonodavstvo na razini Unije.

Opća i etička načela

Rezolucijom su utvrđena opća i etička načela povezana s razvojem robotike i umjetne inteligencije za civilnu upotrebu. Kao prvo, važno je utvrditi zajedničku definiciju pametnih autonomnih robota kako bi se prikladno reagiralo na takav razvoj. Nadalje, potrebno je ojačati istraživanja u području robotike i informacijsko-komunikacijskih tehnologija, kao i istraživanja o posljedicama njihova širenja.

Kao drugo, ovoj je rezoluciji priložena Povelja o robotici u cilju rješavanja etičkih načela. Ta se Povelja sastoji od kodeksa ponašanja za inženjere robotike, kodeksa za povjerenstva za istraživačku etiku te dozvola za projektante i korisnike. Predloženi okvir u potpunosti je usklađen s Poveljom EU-a o temeljnim pravima.

Nadalje, predlaže se osnivanje Agencije EU-a za robotiku i umjetnu inteligenciju. Ta bi agencija trebala pružati potrebna tehnička, etička i regulatorna stručna znanja za potporu relevantnim javnim akterima.

Prava intelektualnog vlasništva, zaštita podataka i vlasništvo podataka

Rezolucijom se Komisija poziva da predloži uravnotežen pristup u pogledu prava intelektualnog vlasništva kad se ona primjenjuju na norme i kodekse za opremu i programe kojima se štiti i istovremeno potiču inovacije. Nadalje, potrebno je utvrditi kriterije za „vlastito intelektualno stvaralaštvo” za radove na koje se mogu primijeniti autorska prava, a koje proizvode računala ili roboti.

Nedostatnost aktualnog pravnog okvira za zaštitu i vlasništvo podataka razlog je za veliku zabrinutost zbog (očekivanog masivnog) protoka podataka uslijed primjene robotike i umjetne inteligencije.

Normizacija, sigurnost i zaštita

Porast u korištenju robotima i umjetnom inteligencijom zahtijeva normizaciju na razini EU-a kako bi se izbjegle razlike između država članica i fragmentacija unutarnjeg tržišta Europske unije.

Nadalje, potrebno je odgovoriti na zabrinutost potrošača u pogledu sigurnosti i zaštite povezanih s korištenjem robota i umjetne inteligencije. Ovom se rezolucijom posebno ističe da je testiranje robota u stvarnim uvjetima ključno za utvrđivanje i procjenu rizika do kojih bi moglo doći.

PE582.443v03-00 28/64 RR\1115573HR.docx

HR

Pravila za specifično korištenje robotima i umjetnom inteligencijom

Rezolucija obuhvaća i odredbe koje se primjenjuju na specifične vrste robota. Potrebno je usvojiti pojedinačna pravila za autonomna vozila, robote za skrb, medicinske robote, za popravljanje organa i poboljšavanje ljudskog tijela te bespilotne letjelice (zrakoplovni sustavi na daljinsko upravljanje , RPAS).

Pravila o odgovornosti

Rizici do kojih može doći po svojoj su prirodi povezani s uporabom autonomnih strojeva u našem društvu. Ponašanje robota ima potencijalne građanskopravne posljedice u pogledu ugovorne i neugovorne odgovornosti. Stoga je nužno razjasniti odgovornost za djelovanje robota, kao i eventualno pravnu sposobnost i/ili status robota i umjetne inteligencije, kako bi se osigurala transparentnost i pravna sigurnost za proizvođače i potrošače diljem Europske unije.

Komisija se poziva na provođenje procjene učinka svojih budućih zakonodavnih mjera kako bi se razmotrile posljedice svih mogućih pravnih rješenja, kao što je, primjerice, uspostava plana obaveznog osiguranja i fonda za naknadu štete.

Robotika i umjetna inteligencija u društvenom kontekstu

Sve veća komunikacija i interakcija s robotima može duboko utjecati na fizičke i moralne odnose u okviru našeg društva. To se posebno odnosi na robote za skrb prema kojima posebno osjetljive osobe mogu razviti emocije i privrženost, što je zabrinjavajuće u pogledu ljudskog dostojanstva i drugih moralnih vrijednosti.

Roboti i umjetna inteligencija već utječu na obrazovanje i zapošljavanje. U tom je pogledu potrebno pomno pratiti trendove u zapošljavanju kako bi se izbjegle nepoželjne posljedice za tržište rada.

Međunarodni aspekti

S obzirom na globalni razvoj robotike i umjetne inteligencije, potrebno je razmotriti i poduzeti inicijative za izmjenu postojećih relevantnih međunarodnih sporazuma, ako je to potrebno, ili za izradu nacrta novih instrumenata kako bi se u njih uvrstila konkretna upućivanja na robotiku i umjetnu inteligenciju. Vrlo je poželjna međunarodna suradnja u tom području.

RR\1115573HR.docx 29/64 PE582.443v03-00

HR

16.11.2016

MIŠLJENJE ODBORA ZA PROMET I TURIZAM

upućeno Odboru za pravna pitanja

s preporukama Komisiji o pravilima građanskog prava o robotici(2015/2103(INL))

Izvjestitelj za mišljenje: Georg Mayer

(Inicijativa – članak 46. Poslovnika)

PRIJEDLOZI

Odbor za promet i turizam poziva Odbor za pravna pitanja da kao nadležni odbor u prijedlog rezolucije koji će usvojiti uvrsti sljedeće prijedloge:

– uzimajući u obzir Deklaraciju iz Amsterdama o suradnji u području umrežene i automatizirane vožnje, donesenu na sjednici Vijeća održanoj 14. i 15. travnja 2016. („Deklaracija iz Amsterdama”),

A. budući da je Komisija nedavno osnovala skupinu na visokoj razini GEAR 2030., kojoj je cilj osmisliti plan za propisno stavljanje u upotrebu autonomnih vozila;

B. budući da je radi građanskopravne odgovornosti potrebno razlikovati automatizirana vozila (koja sadrže uređaje za automatsko izvršenje pojedinih radnji u vožnji) od autonomnih vozila (koja izvršavaju sve takve radnje); budući da u prvom slučaju vozač i dalje mora stalno nadzirati vožnju te je i dalje u potpunosti odgovoran za nju, a u drugom slučaju vožnja više ne zahtijeva stalan nadzor ni intervencije korisnika; budući da program građanskopravne odgovornosti u prvom slučaju ostaje nepromijenjen u odnosu na konvencionalna vozila, dok ga je u drugom slučaju potrebno prilagoditi;

1. ističe da autonomni prijevoz obuhvaća sve vrste daljinski upravljanog, automatiziranog, umreženog i autonomnog cestovnog, željezničkog, vodenog i zračnog prijevoza, uključujući vozila, vlakove, plovila, trajekte, zrakoplove, bespilotne letjelice, kao i sve buduće oblike razvoja i inovacija u tom sektoru (u daljnjem tekstu: „autonomna prijevozna sredstva”);

2. poziva Komisiju da u svom radu povezanom s autonomnim prijevoznim sredstvima u

PE582.443v03-00 30/64 RR\1115573HR.docx

HR

obzir uzme sljedeće aspekte: građanskopravnu odgovornost (odgovornost i osiguranje), sva pitanja povezana s okolišem (npr. energetska učinkovitost, korištenje obnovljivih tehnologija i izvora energije) i pitanja povezana s podacima (pristup podacima, zaštita osobnih podataka i privatnosti, dijeljenje podataka o nesrećama i rizičnim situacijama, financijska vrijednost podataka i njihove distribucije);

3. uzima u obzir činjenicu da bi autonomna prijevozna sredstva mogla imati iznimno važan učinak na poboljšanje sigurnosti u prometu jer je 90 % prometnih nesreća izazvano ljudskom pogreškom; unatoč tome, napominje da se korištenjem autonomnih vozila neće moći spriječiti sve prometne nesreće; stoga se javlja pitanje odgovornosti uključenih strana i naknade žrtvama u slučaju nesreće;

4. podsjeća da autonomni prometni sustavi već dugo postoje u sektoru javnog prijevoza (sustavi podzemne željeznice) te su dokazali svoju pouzdanost i visok stupanj prihvaćenosti u javnosti;

5. zauzima stajalište da prelazak na autonomna vozila, osim pozitivnog utjecaja na sigurnost na cesti, potrošnju goriva, okoliš i stvaranje novih mogućnosti zapošljavanja u telekomunikacijskom i automobilskom sektoru, može također dovesti do gubitka radnih mjesta u prometnom sektoru te imati posljedice u sektoru osiguranja;

6. skreće pozornost na činjenicu da je vrijeme reakcije vozača u slučaju neplaniranog preuzimanja nadzora nad vozilom iznimno važno te stoga poziva odgovarajuće dionike da utvrde realne vrijednosti koje su odlučujuće za pitanja sigurnosti i odgovornosti;

7. naglašava posebnu važnost nacrta izvješća o prometnom sektoru koji je izradio Odbor za pravna pitanja, s obzirom na tehnološki napredak i činjenicu da su poluautonomna prijevozna sredstva već dostupna na tržištu, a uskoro će biti dostupna i ona potpuno autonomna;

8. naglašava važnost podupiranja daljnjih inovacija u robotici, kao što su umrežena i automatizirana vozila i bespilotne letjelice, kako bi se ojačao položaj industrije Unije na globalnom tržištu;

9. napominje da autonomna prijevozna sredstva imaju važnu ulogu u razvoju održivog prometa; napominje da bi autonomna prijevozna sredstva mogla doprinijeti smanjenju prometnih gužvi te poziva Komisiju i države članice da u potpunosti i pravovremeno uzimaju u obzir tehnički napredak, kao i učinke na okoliš i sigurnost te promicanje inovacija;

10. očekuje od Komisije da se pobrine za to da države članice na ujednačen način prilagode postojeće zakonodavstvo, kao što je Bečka konvencija o cestovnom prometu od 8. studenoga 1968., kako bi se omogućila vožnja bez vozača i poziva Komisiju, države članice i industriju na što bržu provedbu ciljeva Deklaracije iz Amsterdama;

11. potiče Komisiju da podnese procjene u pogledu sigurnosnih pitanja povezanih s raširenom upotrebom bespilotnih letjelica; poziva Komisiju da provede studije o utjecaju autonomnih prijevoznih sredstava na povećanje prometne sigurnosti i održivosti;

RR\1115573HR.docx 31/64 PE582.443v03-00

HR

12. ističe da će optimizacijom ruta, suzbijanjem prometnih gužvi, optimizacijom uporabe pogonskog sustava te komunikacijom sa sustavima za kontrolu protoka, autonomna vozila doprinijeti poboljšanju ekoloških čimbenika, posebice u gradskim čvorištima;

13. naglašava da će interakcija između autonomnih prijevoznih sredstava, upravljanja prometom, infrastrukture i upravljanja njome zahtijevati veliku koncentraciju učinkovite i pouzdane komunikacije kako bi se na siguran način prenijele velike količine podataka u stvarnom vremenu; naglašava da će biti potrebna znatna ulaganja u cestovnu i energetsku infrastrukturu, infrastrukturu povezanu s informacijskim i komunikacijskim tehnologijama, uz jamčenje zaštite podataka i privatnosti;

14. naglašava važnost pametne i međupovezane prometne infrastrukture te stoga poziva Komisiju i države članice da uspostave odgovarajuću sveobuhvatnu, prekograničnu i interoperabilnu infrastrukturu;

15. poziva Komisiju da razvije sustav građanskopravne odgovornosti, uključujući i teret dokaza, prilagođen razvoju autonomnih vozila; naglašava važnost osiguranja jasne podjele odgovornosti između dizajnera, proizvođača raznih dijelova i montera autonomnih vozila, pružatelja usluga (usluge prijevoza ili usluge potrebne za rad autonomnih vozila) i krajnjih korisnika kako bi se zajamčili sigurnost i prava putnika, zaštita podataka i zaštita od hakiranja;

16. naglašava da su pouzdane informacije o položaju i vremenu koje pružaju europski satelitski navigacijski programi Galileo i EGNOS od ključne važnosti za uvođenje autonomnih vozila, osobito za navigacijske i sigurnosne sustave u autonomnim vozilima, s jedne strane, te za pametne prometne sustave i sustave upravljanja prometom, s druge strane;

17. skreće pozornost na veliku dodanu vrijednost autonomnih vozila za osobe sa smanjenom pokretljivošću, s obzirom na to da im takva vozila omogućuju učinkovitije sudjelovanje u individualnom cestovnom prometu, čime se olakšava i njihov svakodnevni život;

18. poziva Komisiju da do 2019. predloži zajedničku europsku strategiju (uključujući i jedinstven plan) za autonomna prijevozna sredstva te za bližu suradnju svih relevantnih dionika, uključujući pomnu analizu i preporuke u pogledu dinamike i razvoja tržišta; poziva Komisiju da revidira i po potrebi prilagodi regulatorni okvir Unije u cilju podupiranja razvoja i upotrebe autonomnih prijevoznih sredstava; potiče da se što prije dovrše i lansiraju sateliti potrebni za dovršetak europskog sustava pozicioniranja Galileo kako bi se takav sustav mogao upotrebljavati kao zadani sustav pozicioniranja u autonomnim prijevoznim sredstvima;

19. napominje da su za razvoj autonomnih vozila potrebni proaktivan i predan institucijski pristup Unije i država članica te sudjelovanje tehnoloških centara i automobilske industrije;

20. poziva Komisiju da razvije europske infrastrukturne standarde kako bi se omogućilo širenje autonomnih vozila i plan za njihovo uvođenje;

21. poziva Komisiju i države članice da rukovanje automatiziranim vozilima uključe u

PE582.443v03-00 32/64 RR\1115573HR.docx

HR

početne i napredne programe obuke vozača teretnih vozila i da postane dio obuke za stjecanje vozačke dozvole za upravljanje osobnim automobilima;

22. podsjeća da bi homogenost i sigurnost zrakoplova bez posade trebalo zajamčiti mjerama utvrđenima u Uredbi (EZ) br. 216/2008 Europskog parlamenta i Vijeća1;

1 Uredba (EZ) br. 216/2008 Europskog parlamenta i Vijeća od 20. veljače 2008. o zajedničkim pravilima u području civilnog zrakoplovstva i osnivanju Europske agencije za sigurnost zračnog prometa i stavljanju izvan snage Direktive Vijeća 91/670/EEZ, Uredbe (EZ) br. 1592/2002 i Direktive 2004/36/EZ (SL L 79, 19.3.2008., str. 1.).

RR\1115573HR.docx 33/64 PE582.443v03-00

HR

REZULTAT KONAČNOG GLASOVANJA U ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja 10.11.2016

Rezultat konačnog glasovanja +:–:0:

2250

Zastupnici nazočni na konačnom glasovanju

Daniela Aiuto, Marie-Christine Arnautu, Georges Bach, Izaskun Bilbao Barandica, Deirdre Clune, Michael Cramer, Luis de Grandes Pascual, Andor Deli, Karima Delli, Jacqueline Foster, Bruno Gollnisch, Merja Kyllönen, Peter Lundgren, Marian-Jean Marinescu, Cláudia Monteiro de Aguiar, Renaud Muselier, Markus Pieper, Salvatore Domenico Pogliese, Massimiliano Salini, Claudia Schmidt, Jill Seymour, Pavel Telička, Wim van de Camp, Roberts Zīle, Elżbieta Katarzyna Łukacijewska

Zamjenici nazočni na konačnom glasovanju

Ramona Nicole Mănescu, Matthijs van Miltenburg

PE582.443v03-00 34/64 RR\1115573HR.docx

HR

23.11.2016

MIŠLJENJE ODBORA ZA GRAĐANSKE SLOBODE, PRAVOSUĐE I UNUTARNJE POSLOVE

upućeno Odboru za pravna pitanja

s preporukama Komisiji o pravilima građanskog prava o robotici(2015/2103(INL))

Izvjestitelj za mišljenje: Michał Boni

(Inicijativa – članak 46. Poslovnika)

(*) Pridruženi odbor – članak 54. Poslovnika

PRIJEDLOZI

Odbor za građanske slobode, pravosuđe i unutarnje poslove poziva Odbor za pravna pitanja da kao nadležni odbor:

– u prijedlog rezolucije koji će usvojiti uvrsti sljedeće prijedloge:

A. budući da će tehnološki napredak u području robotike imati pozitivne učinke na gospodarstvo Unije, kao i na svakodnevni život pojedinaca, ali bi također mogao podrazumijevati rizike koje je potrebno uzeti u obzir; budući da je pri razvoju svih novih tehnoloških i proizvodnih paradigmi, u okviru programa Obzor 2020. ili izvan njega, potrebno poštovati etička načela i posvetiti dužnu pažnju temeljnim pravima ugrađenima u Povelju o temeljnim pravima;

B. budući da su brojne treće zemlje usvojile odgovarajuće smjernice i zakonodavstvo u području robotike i da su neke države članice započele s konkretnim razmatranjima u tom području; budući da bi se regulatornim okvirom kojim se na razini Unije uređuje razvoj i korištenje robotike i umjetne inteligencije, te koji se nadovezuje na postojeće propise kao što je Opća uredba o zaštiti podataka1 EU-a mogla spriječiti fragmentacija propisa na 1 Uredba (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ

RR\1115573HR.docx 35/64 PE582.443v03-00

HR

jedinstvenom tržištu i dodatno osigurati zaštita temeljnih prava svih građana EU-a na ljudsko dostojanstvo, privatnost i obiteljski život, zaštitu osobnih podataka i intelektualnog vlasništva, slobodu izražavanja i informiranja, ravnopravnost i nediskriminaciju, solidarnost te prava građana i pravda, kao i sigurnost, uz primjenu načela proporcionalnosti;

Etička načela

1. smatra da bi postojeći pravni okvir Unije trebalo ažurirati i dopuniti, po potrebi, vodećim etičkim načelima za dizajn, izradu, testiranje i korištenje robota i umjetne inteligencije kako bi se osiguralo da takve tehnologije mogu zaista poboljšati kvalitetu ljudskog života; poziva na to da se pri razvoju i korištenju takvih tehnologija uvijek vodi računa o načelu predostrožnosti;

2. smatra da robotski sustavi i sustavi umjetne inteligencije, posebno oni s integriranom autonomijom, uključujući mogućnost samostalnog izdvajanja, prikupljanja i dijeljenja osjetljivih informacija s raznim dionicima te mogućnost samostalnog učenja ili čak evolucije do razine na kojoj je moguća modifikacija vlastita sustava, trebaju biti podložni strogim zakonima ili načelima, poput načela da robot ne smije ubiti čovjeka niti mu nauditi te da mora slušati naredbe čovjeka i biti pod njegovom kontrolom; vjeruje da postupak s pomoću kojeg roboti i sustavi umjetne inteligencije prikupljaju, koriste i obrađuju osobne podatke mora biti transparentan i razumljiv; vjeruje da bi ta načela trebala biti tehnološki neutralna i utemeljena na empirijskom istraživanju; podržava razvoj zadanog etičkog okvira za istraživače, akademske krugove i inženjere kojim bi se osiguralo da ta tehnološka rješenja neće ometati istraživanja i tehnološki razvoj, već da će biti u skladu s postojećim europskim i nacionalnim praksama i kodeksima, kao i s pravima i načelima ugrađenima u Povelju o temeljnim pravima, posebno s ljudskim dostojanstvom, poštovanjem privatnog i obiteljskog života i njihovom zaštitom, sigurnošću, zaštitom osobnih podataka, zaštitom intelektualnog vlasništva, slobodom izražavanja i informiranja, ravnopravnošću i nediskriminacijom, solidarnošću te pravima građana i pravdom, uz poštovanje načela proporcionalnosti;

3. potvrđuje da je za definiranje takvih zakona i načela te za njihovu praktičnu primjenu potrebno više istraživanja u području etike umjetne inteligencije; smatra da bi Europska skupina za etiku u znanosti i novim tehnologijama s vremenom mogla imati ulogu u utvrđivanju etičkih smjernica i standarda koji će biti usmjereni na budućnost i prilagođeni tehnološkim promjenama u budućnosti;

4. ističe da je potrebno pozabaviti se psihološkim i društvenim utjecajem interakcije između ljudi i robota, kao i dvostrukom naravi utjecaja tehnologije na ljudske sposobnosti, uz pridavanje posebne pozornosti ranjivim skupinama, a posebno djeci, kako bi se izbjeglo razvijanje štetne ovisnosti o robotima, primjerice izazivanjem emotivne reakcije, ili izolacija tih ljudi od stvarnosti;

5. naglašava da će robotika i umjetna inteligencija, a posebno robotski sustavi u zdravstvu, njezi i domaćinstvu te medicinski kiberfizički sustavi, čiji pojedini dijelovi mogu biti ugrađeni u ljudsko tijelo ili se mogu nositi na tijelu, znatno utjecati na ljudski život,

(Opća uredba o zaštiti podataka) (SL L 119, 4.5.2016., str. 1.).

PE582.443v03-00 36/64 RR\1115573HR.docx

HR

posebno kad je riječ o osobama s invaliditetom; stoga napominje da je ključno osigurati uključiv i ravnopravan pristup tim tehnologijama; nadalje ističe utjecaj koji takva robotika može imati na privatnost korisnika zbog pristupa tradicionalno zaštićenim prostorima i osjetljivim osobnim informacijama; vjeruje da bi trebalo zajamčiti poštovanje načela medicinske etike, sigurnost pacijenata i integritet pružene skrbi;

Privatnost i zaštita podataka

6. ponavlja da se pravo na zaštitu privatnog života i pravo na zaštitu osobnih podataka, sukladno člancima 7. i 8. Povelje o temeljnim pravima i članku 16. UFEU-a, primjenjuju na sva područja robotike i umjetne inteligencije te da se mora u potpunosti poštovati pravni okvir Unije za zaštitu podataka; ističe odgovornost dizajnera sustava robotike i umjetne inteligencije da razvijaju proizvode na način da budu sigurni i prilagođeni svrsi te da slijede postupke za obradu podataka u skladu s postojećim zakonodavstvom, povjerljivošću, anonimnošću, pravednim postupanjem i pravičnim postupkom;

7. poziva Komisiju da se pobrine za to da se u sve zakonodavne dokumente Unije u području robotike i umjetne inteligencije uključe mjere i propisi kojima se u obzir uzima brz tehnološki razvoj u tom polju, uključujući razvoj kiberfizičkih sustava, kako bi se zajamčilo da zakonodavstvo Unije ne zaostaje za krivuljom tehnološkog razvoja i stavljanja tehnologije u upotrebu; naglašava da takvo zakonodavstvo mora biti usklađeno s propisima o privatnosti i zaštiti podataka, odnosno s propisima povezanim s obvezama informiranja, pravom na obrazloženje odluke utemeljene na automatskoj obradi podataka, zahtjevom za poštovanjem načela integrirane i zadane privatnosti, načelima proporcionalnosti, nužnosti, smanjenja količine podataka i ograničavanja svrhe, kao i s transparentnim kontrolnim mehanizmima za osobe čiji se podaci obrađuju i tijela za zaštitu podataka te s odgovarajućim pravnim lijekovima u skladu s postojećim zakonodavstvom; poziva na preispitivanje propisa, načela i kriterija u vezi s upotrebom kamera i senzora u robotima i sustavima umjetne inteligencije, u skladu s pravnim okvirom Unije za zaštitu podataka;

8. poziva na ujednačen horizontalni pristup robotici i umjetnoj inteligenciji u regulatornom okviru Unije koji će biti tehnološki neutralan i koji će se primjenjivati na razne sektore u kojima bi se mogla koristiti robotika, kao što su promet, zdravstvo, industrijska proizvodnja, telekomunikacije, izvršavanje zakonodavstva i mnoga druga područja; naglašava da bi, gdje je to primjereno, postojeći pravni okvir trebalo ažurirati i dopuniti kako bi se zajamčila jednaka razina zaštite podataka, privatnosti i sigurnosti;

9. ističe da je važno spriječiti provođenje masovnog nadzora s pomoću tehnologije povezane s robotikom i umjetnom inteligencijom;

10. poziva Komisiju i države članice da promiču snažnu i transparentnu suradnju među javnim i privatnim sektorom te akademskim krugovima, čime bi se pojačala razmjena znanja, i da promiču obrazovanje i osposobljavanje dizajnera u pogledu etičkih posljedica, sigurnosti i poštovanja temeljnih prava te obrazovanje i osposobljavanje potrošača u pogledu korištenja robotike i umjetne inteligencije, s posebnim naglaskom na sigurnosti i privatnosti podataka;

Sigurnost podataka i sustava podataka te protok podataka

RR\1115573HR.docx 37/64 PE582.443v03-00

HR

11. naglašava da je slobodan protok podataka iznimno važan za digitalno gospodarstvo te je nužan za razvoj robotike i umjetne inteligencije; ističe da je visoka razina sigurnosti robotskih sustava i sustava umjetne inteligencije u cjelini, uključujući njihove interne sustave podataka i protok podataka, ključna za primjerenu upotrebu robota i umjetne inteligencije; naglašava da je potrebno zajamčiti zaštitu mreža međupovezanih robota i umjetne inteligencije kako bi se spriječile moguće povrede sigurnosti, kibernapadi ili zloupotreba osobnih podataka, posebice kad se prikuplja i obrađuje velika količina podataka; naglašava da je potrebno osmisliti mehanizam kojim se korisniku omogućuje da zaustavi obradu svojih osobnih podataka u slučaju povrede sigurnosti; ističe važnost aktivnosti istraživanja i razvoja u području tehnika zaštite podataka te naglašava zajedničku odgovornost javnosti i poduzeća da surađuju u cilju jamčenja visoke razine sigurnosti i privatnosti podataka koji se koriste u komunikaciji između ljudi i robota, odnosno umjetne inteligencije, zajedno s visokom kvalitetom sustava za prepoznavanje govora i znakovnog jezika; smatra da bi proizvođači komercijalnog hardvera i softvera trebali biti odgovorni u slučaju ozbiljnih povreda sigurnosti podataka uzrokovane njihovim nemarom; poziva Komisiju i države članice da osiguraju podršku i poticaje za razvoj potrebne tehnologije, uključujući integriranu sigurnost i komunikacijske kanale;

Bespilotne letjelice (zrakoplovni sustavi na daljinsko upravljanje (RPAS))

12. ističe da se, bez obzira na to obrađuju li podatke javna tijela u svrhu kaznenog progona ili pak privatni ili javni subjekti u druge zakonom dopuštene svrhe, pri obradi osobnih podataka u okviru RPAS-a primjenjuje pravo na zaštitu i sigurnost te pravo na poštovanje privatnog života, kako je utvrđeno u člancima 6. i 7. Povelje o temeljnim pravima, pravo na zaštitu osobnih podataka navedeno u članku 8. Povelje o temeljnim pravima i članku 16. UFEU-a, te da se mora u potpunosti poštovati pravni okvir Unije za zaštitu podataka; poziva Komisiju da razmotri potrebu za uvođenjem obveznog sustava praćenja i identifikacije za zrakoplovne sustave na daljinsko upravljanje, kojim se omogućuje utvrđivanje položaja letjelica u stvarnom vremenu tijekom njihove upotrebe.

13. ponovno poziva Vijeće da razvije strog i učinkovit okvir Unije o korištenju naoružanih bespilotnih letjelica, da prida najveću moguću važnost poštovanju etičkih načela, ljudskih prava i međunarodnog humanitarnog prava i da prione na rješavanje pitanja poput pravnog okvira, proporcionalnosti, odgovornosti, transparentnosti i zaštite civila, uključujući i poduzimanje svih mogućih mjera predostrožnosti kako bi se izbjegli pogrešno ciljanje i usputne civilne žrtve, te da zajamči da krajnju kontrolu i odgovornost ima čovjek; ponovno zahtijeva zabranu proizvodnje, razvoja i uporabe potpuno autonomnog oružja kojim se omogućava provođenje napada bez ljudske intervencije; potiče Komisiju i države članice da pokrenu opsežan međunarodni politički dijalog u cilju uspostave globalnih pravnih standarda o razvoju, širenju i upotrebi sve autonomnijih sustava oružja te o pravnim i etičkim ograničenjima takvih sustava, primjerice u obliku obvezujućeg međunarodnog sporazuma;

14. priznaje pozitivan napredak u području tehnologije bespilotnih letjelica, posebno u području traganja i spašavanja, te i tvrdi da bi Unija trebala nastaviti u tom smjeru kad je riječ o razvoju tehnologije bespilotnih letjelica;

Kodeks ponašanja

PE582.443v03-00 38/64 RR\1115573HR.docx

HR

15. smatra da bi u određenim područjima za koja relevantne studije pokazuju da bi izrada zakonodavstva bila preuranjena odgovarajuće zakonodavstvo trebalo popratiti poticanjem okvira neobvezujućeg prava, kodeksa ponašanja ili javno-privatnih partnerstava, po mogućnosti diljem Unije, kako bi se osigurala suradnja industrije i dizajnera u području robotike s javnim tijelima i svim ostalim relevantnim dionicima; vjeruje da bi takvi instrumenti trebali biti usmjereni na praktična rješenja radi jamčenja privatnosti i zaštite podataka, ljudskog dostojanstva, nediskriminacije, sigurnosti i etike industrije robotike te primjerene svakodnevne upotrebe robota i umjetne inteligencije.

RR\1115573HR.docx 39/64 PE582.443v03-00

HR

REZULTAT KONAČNOG GLASOVANJAU ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja 17.11.2016

Rezultat konačnog glasovanja +:–:0:

4702

Zastupnici nazočni na konačnom glasovanju

Heinz K. Becker, Malin Björk, Michał Boni, Caterina Chinnici, Ignazio Corrao, Frank Engel, Tanja Fajon, Lorenzo Fontana, Mariya Gabriel, Kinga Gál, Ana Gomes, Nathalie Griesbeck, Sylvie Guillaume, Jussi Halla-aho, Monika Hohlmeier, Filiz Hyusmenova, Sylvia-Yvonne Kaufmann, Cécile Kashetu Kyenge, Marju Lauristin, Juan Fernando López Aguilar, Monica Macovei, Roberta Metsola, Claude Moraes, József Nagy, Péter Niedermüller, Judith Sargentini, Birgit Sippel, Branislav Škripek, Csaba Sógor, Helga Stevens, Traian Ungureanu, Bodil Valero, Harald Vilimsky, Josef Weidenholzer, Tomáš Zdechovský

Zamjenici nazočni na konačnom glasovanju

Daniel Dalton, Anna Hedh, Teresa Jiménez-Becerril Barrio, Ska Keller, Jeroen Lenaers, Andrejs Mamikins, Maite Pagazaurtundúa Ruiz, Christine Revault D’Allonnes Bonnefoy, Barbara Spinelli

Zamjenici nazočni na konačnom glasovanju prema čl. 200. st. 2.

Lynn Boylan, Verónica Lope Fontagné, Mylène Troszczynski, Tom Vandenkendelaere, Rainer Wieland

PE582.443v03-00 40/64 RR\1115573HR.docx

HR

9.11.2016

MIŠLJENJE ODBORA ZA ZAPOŠLJAVANJE I SOCIJALNA PITANJA

upućeno Odboru za pravna pitanja

s preporukama Komisiji o pravilima građanskog prava o robotici(2015/2103(INL))

Izvjestitelj za mišljenje Ádám Kósa

(Inicijativa – članak 46. Poslovnika)

PRIJEDLOZI

Odbor za zapošljavanje i socijalna pitanja poziva Odbor za pravna pitanja da kao nadležni odbor u prijedlog rezolucije koji će usvojiti uključi sljedeće prijedloge:

1. poziva Komisiju da hitno provede detaljno ocjenjivanje učinka robotike na broj i vrste radnih mjesta te na kvalitetu postojećih radnih mjesta i pripadajuće profile sposobnosti; poziva Komisiju da prikupi informacije o novim oblicima zapošljavanja kako bi se na najučinkovitiji mogući način unaprijed procijenilo, kao prvo, donosi li robotika sama po sebi dobrobit i napredak, čini li ona ljudski rad u okviru tradicionalne strukture proizvodnje i usluga nepotrebnim i, ako da, koji su uvjeti osim financijske sigurnosti potrebni da bi se osiguralo psihičko i fizičko zdravlje i sreća ljudi te aktivnost građana i hoće li teoretska korist od simbioze ljudi i strojeva i u praksi pridonijeti dobrobiti i razvoju te, kao drugo, može li se na tržištu rada koje se mijenja zakonima i praksom država članica zajamčiti društveno pravedan, uključiv i održiv način smanjivanja nejednakosti, siromaštva i socijalne isključenosti te okružje u kojem sva ljudska bića imaju jednake prilike za razvoj talenata, vještina i osjećaja individualnosti;

2. ističe da je razvoj robotike i umjetne inteligencije sve brži te da je ključno oblikovati njegov tijek i predvidjeti moguće posljedice u pogledu zapošljavanja i socijalne politike jer intenzivnije i opće korištenje robotike u proizvodnji robe i pružanju usluga vodi k većoj produktivnosti uz manji broj zaposlenika te će se stoga tijekom sljedećih desetljeća neka radna mjesta u potpunosti ukinuti, a na mnoga druga će to imati utjecaja; stoga poziva Komisiju da provede analizu izazova i prilika u pogledu zapošljavanja i da osmisli metodu kojom će se omogućiti praćenje broja i vrste ukinutih radnih mjesta i novih radnih mjesta do kojih će dovesti robotizacija i automatizacija, te utjecaja te pojave na gubitak prihoda u sustavima socijalne sigurnosti; nadalje, poziva Komisiju da redovito i u dijalogu sa socijalnim partnerima procjenjuje do koje se mjere

RR\1115573HR.docx 41/64 PE582.443v03-00

HR

tjedno, godišnje i životno radno vrijeme može smanjiti bez gubitka prihoda, da počne istraživati nove mogućnosti financiranja budućih sustava socijalne sigurnosti te da preispita način na koji radnici obavljaju svoje poslove i način na koji se pojedinci, timovi i projekti mogu bolje povezati preko digitalnih radnih platformi;

3. ističe da će se kao posljedica robotizacije, s jedne strane, mnoga radna mjesta ukinuti, a s druge će se u mnogim sektorima gospodarstva pojedinačno radno vrijeme skratiti, ali bi se povećanom produktivnošću moglo financirati zadržavanje jednakih plaća;

4. smatra da bi robote trebalo projektirati primjenom procesa kojima se jamči ljudska kontrola i reverzibilnost operacija robota te da, s obzirom na sve veću autonomnost robota, to treba popratiti izmjenom propisa o odgovornosti kad je riječ o posljedicama povezanima s djelovanjem ili nedjelovanjem robota; zabrinut je zbog nepostojanja općeg okvira i pravnih odredbi u pogledu automatizacije posla u toj novoj industrijskoj revoluciji i smatra da je od ključne važnosti da Unija donese pravni okvir koji će odražavati kompleksnost robotike i njezinih brojnih društvenih implikacija; stoga poziva Komisiju da predloži zajedničku definiciju pametnih autonomnih robota na radnom mjestu i njihovih potkategorija te da razmotri prednosti i nedostatke obaveznog osiguranja kojim će se pokrivati moguće štete i propusti koje prouzročuju roboti;

5. ističe da se sustavi obrazovanja i osposobljavanja moraju prilagoditi promjenama u zanimanjima i načinima proizvodnje pri čemu veći naglasak treba staviti na kreativne poslove u kojima se radnje ne ponavljaju kako bi se očuvala vrijednost ljudskog rada i svim generacijama pružili sredstva za najbolju moguću pripremu za tržište rada u svijetu koji se zbog robotizacije i automatizacije stalno mijenja; ističe važnost fleksibilnosti vještina te životnih i društvenih vještina u obrazovanju; uvjeren je da osim školskog akademskog znanja djeca trebaju steći i vještinu kritičkog razmišljanja da bi mogla propitkivati stvari i donositi odluke utemeljene na informacijama, kreativne vještine da bi mogla provoditi ideje u djelo i razvijati smisao za inicijativu te je također uvjeren da cjeloživotno učenje treba ostvarivati cjeloživotnim djelovanjem; ističe da su digitalne kompetencije ključne jer današnja brza automatizacija i digitalizacija posla i usluga zahtijeva razvoj digitalnih vještina i kompetencija da bi se zajamčila visoka razina zapošljavanja i iskorijenili sve veća digitalna nepismenost i s njome povezan rizik od socijalne isključenosti; ističe da posebnu pažnju treba posvetiti digitalizaciji nastave i iskorištavanju robotizacije u nastavi i učenju, dok bi se u obrazovanju naglasak trebao staviti i na društvene znanosti koje su korisne u pogledu kreativnih, inovativnih, umjetničkih i kulturnih kvaliteta, kako bi na izmijenjenom tržištu rada ljudi zadržali svoje komparativne prednosti u odnosu na strojeve;

6. uviđa da robotika ima velik potencijal u pogledu potpore i olakšavanja svakodnevnog života, prije svega kad je riječ o osobama s invaliditetom i starijim osobama, i da bi ona takvim osobama mogla uvelike pomoći da same oblikuju svoj život i da se uključe u tržište rada te smatra da se mora pomno razmotriti pitanje koje bi odredbe o zapošljavanju mogle biti nužne u pogledu radne snage ako umjetan i genetski razvoj ili nadograđivanje postojećih ljudskih sposobnosti dovedu do postojanja ljudi s izvanrednim sposobnostima, čime bi se u temelju izmijenilo značenje pojma invaliditeta, a ljudima koji imaju pristup takvim tehnološkim inovacijama, alatima i intervencijama pružila nedostižna prednost, koja će, naravno, dovesti to etičkih i moralnih pitanja kojima se treba temeljito pozabaviti;

PE582.443v03-00 42/64 RR\1115573HR.docx

HR

7. ističe da odluka pojedinca da prihvati ili odbije implantat, protezu ili ekstenziju za svoje tijelo nikad ne smije dovesti do nepovoljnog postupanja s tom osobom ili prijetnji u pogledu njezina zaposlenja, obrazovanja, zdravstvene skrbi, socijalnog osiguranja i drugih prava te naglašava da svi građani moraju imati jednak i slobodan pristup koristima nove tehnologije; u tom pogledu ističe da je, budući da je ljudsko dostojanstvo u središtu europskog i međunarodnog prava u području ljudskih prava, važno preispitati kako se može zajamčiti da se s osobama koje se još ne smatraju osobama s invaliditetom ne postupa nepovoljnije nego s „osobama s poboljšanim sposobnostima”, kao što je slučaj s osobama s mentalnim ili intelektualnim invaliditetom, te hoće li osobe s mentalnim ili intelektualnim invaliditetom moći samostalno donositi odluke s pomoću podrške robota za donošenje odluka, kao što je navedeno u Konvenciji o pravima osoba s invaliditetom, i kako u tom slučaju treba podijeliti odgovornost;

8. međutim, ističe da pri korištenju robota postoje rizici koje treba pažljivo odmjeriti u odnosu na korist koju mogu donijeti; napominje da treba imati na umu ozljede na radu koje prouzročuju roboti i s njima povezana potraživanja; napominje da bi, iako može povećati produktivnost, nosiva robotska tehnologija kao što su egzoskeletoni za zaštitu od ozljeda na radu mogla dovesti i do većih očekivanja poslodavaca od zaposlenika te stoga i do većeg rizika od ozljeda; ističe da, među ostalima, zakonodavci, poslodavci, sindikati i zaposlenici moraju to uzeti u obzir u internim pravilima i kolektivnim sporazumima te da bi drugi rizici u vezi s robotima mogli biti povezani s borbom protiv diskriminacije, npr. u slučaju da nakon intervjua za posao prikupljeni podaci dovedu do neplanirane analize; napominje da zbog primjene robotike može doći i do novih izazova povezanih s trgovinom i privatnošću;

9. ističe da je, s obzirom na sve veće podjele u društvu i smanjivanje srednje klase, važno imati na umu da razvoj robotike može dovesti do visoke koncentracije bogatstva i moći u rukama manjine;

10. napominje da se zbog utjecaja tehnološkog napretka i trenutačne robotizacije na zapošljavanje i socijalnu politiku radikalno izmijenio način na koji ljudi pristupaju informacijama i pružaju ih, komuniciraju, druže se i rade, zbog čega nastaju nove prilike i izazovi, a zahvaljujući mogućem povećanju učinkovitosti aktivnosti te štednje energije i materijala otvaraju se i nove mogućnosti; međutim, ističe i da bi, iako roboti i umjetna inteligencija kratkoročno i srednjoročno obećavaju stvarne prednosti u pogledu djelotvornosti i ekonomije, ne samo u području proizvodnje i trgovine već i u područjima u kojima je zbog potrebe za ljudskom interakcijom, inteligencijom i kreativnošću teško provesti automatizaciju te su dosada u njima mogli raditi isključivo ljudi, primjerice u sektorima u kojima je zaposlen velik broj katkad nisko kvalificiranih radnika, mogla postojati opasnost da će broj novih radnih mjesta u području robotike biti manji od broja ukinutih radnih mjesta u područjima kao što su prijevoz, logistika i uredski poslovi; stoga poziva Komisiju i države članice da u suradnji sa socijalnim partnerima te regionalnim i lokalnim tijelima prema potrebi izrade nove mehanizme zaštite prikladne za načine rada i razvoja karijera koje oblikuju digitalizacija i veća upotreba robotike te da se pobrinu za prikladno obrazovanje i osposobljavanje dostupno svima;

11. ističe da bi zbog razvoja i korištenja pametnih robota koji surađuju i umjetne

RR\1115573HR.docx 43/64 PE582.443v03-00

HR

inteligencije razlika između broja novih i ukinutih radnih mjesta mogla imati posljedice na financijsku održivost sustava socijalne sigurnosti, mirovinskih sustava i sustava osiguranja za nezaposlene u državama članicama te ističe da bi srednjoročni i dugoročni gubitak radnih mjesta zbog robotizacije također mogao biti povezan s rizikom od gubitka kapaciteta potrošnje; ističe da veći dio koristi od automatizacije i robotizacije u području zapošljavanja ne bi trebao dolaziti samo od smanjenja troška rada već i od povećanja produktivnosti smanjenjem broja pogrešaka, većom proizvodnjom, poboljšanom kvalitetom i sigurnošću te većom brzinom; poziva Komisiju i države članice da se pri prilagodbi zakonodavnog okvira u području robotike i digitalnog gospodarstva redovito savjetuju sa socijalnim partnerima i da ih uključe u taj proces, da utvrde koji su potencijalni rizici za zdravlje i sigurnost na radu koji proizlaze iz tehnoloških inovacija i poduzmu prikladne mjere za suzbijanje tih rizika te da istraže mogućnost da se prije početka korištenja robota i njihovog relativnog sudjelovanja u prometu trgovačkih društava, uvede sustav obavještavanja u svrhu oporezivanja i davanja doprinosa za socijalno osiguranje;

12. poziva Komisiju da predstavi smjernice o etičkim i socijalnim načelima kojima treba popratiti buduće propise u području robotike, posebno u pogledu cilja definiranja normi okrenutih budućnosti prikladnih za budući tehnološki razvoj;

13. skreće pozornost na rad od kuće preko interneta (en. crowdworking); poziva Komisiju da prouči taj novi način zapošljavanja i preispita do koje mjere treba prilagoditi sustave socijalne sigurnosti i mjerodavno radno pravo da bi se takvim radnicima pružila prikladna zaštita;

14. ističe da je tehnološki napredak nemoguće kočiti, ali da današnja generacija ima i priliku i odgovornost usmjeriti ga tako da donese korist za ljude i planetu; smatra da bi Unija trebala doprinijeti integriranoj strategiji u političkim područjima dobrobiti, ekonomskog rasta i tehnologije da bi bila u prvim redovima kad je riječ o globalnom razvoju; poziva države članice i Komisiju da detaljno prouče posljedice koje će veća upotreba robotskih sustava u bliskoj budućnosti imati na rad i da izrade okvir za taj razvoj sa zakonodavstvom oblikovanim na način da tehnološka tranzicija bude što jednostavnija za zaposlenike; čvrsto je uvjeren da hitno treba pronaći odgovor na pitanje hoće li kao rezultat daljnjeg razvoja robotike i jeftinijih rješenja biti radnih mjesta na kojima će se mogućnost ljudi da rade ograničiti zakonom zbog štetnosti ili opasnosti posla po ljudsko zdravlje (kao što su propisi koji se trenutačno primjenjuju na trudnice) ili zbog drugih razloga te na pitanje u kojim bi se područjima mogla razmotriti ograničenja ili zabrane djelomične ili potpune automatizacije da bi se, uzimajući u obzir demografske promjene i održivost, zajamčili sigurnost i poštovanje temeljnih prava koja sve veća automatizacija cijelih industrija dovodi u pitanje te da bi se izbjegle neplanirane društvene posljedice;

15. smatra da bi nam s obzirom na brzinu tehnološkog napretka cilj trebao biti izrada zakonodavstva u području robotike u bliskoj budućnosti; smatra i da bi zakonodavstvo trebalo omogućavati reakciju na znanstvene i tehnološke promjene; smatra da je potrebno predvidjeti razvoj novih područja poslovanja do čega bi moglo doći na temelju daljnjeg razvoja robotike i umjetne inteligencije; ipak, ističe da roboti nisu samo alati za rad već sve više samostalno djeluju u području proizvodnje robe i pružanja usluga te stoga poziva na uspostavu sveobuhvatnih sustava zaštite kojima će se zajamčiti

PE582.443v03-00 44/64 RR\1115573HR.docx

HR

primjerena zaštita zdravlja i sigurnosti radnika koji rade s robotima i drugim oblicima umjetne inteligencije ili uz njih, kao i na donošenje propisa o odgovornosti kojima će se zajamčiti da se šteta koju prouzroče autonomni roboti može protumačiti u korist zaposlenika; stoga poziva Uniju i države članice da potaknu započinjanje strukturiranog javnog dijaloga o posljedicama razvoja takvih tehnologija čim to bude moguće i poziva dionike koji sudjeluju u istraživanju da razviju kritički pristup i na konstruktivan način doprinesu javnom dijalogu;

16. ističe da sve aktivnosti obrade podataka koje provode roboti ili sustavi umjetne inteligencije moraju biti u potpunosti u skladu sa zakonom Unije o zaštiti podataka i uključivati načela integrirane i zadane privatnosti;

17. naglašava da robotizacija nudi znatne mogućnosti za vraćanje proizvodne industrije u Uniju, a time i stvaranje novih mogućnosti zapošljavanja, prije svega za niskokvalificirane radnike;

18. smatra da korištenje robota u proizvodnji podrazumijeva velike izazove za zdravlje i sigurnost na radnom mjestu; ističe da robotizacija s jedne strane može smanjiti fizičko opterećenje radnika, ali s druge strane može dovesti i do većeg mentalnog napora zbog veće odgovornosti pojedinca u složenijim proizvodnim procesima; poziva Komisiju i njezine agencije, prije svega Europsku agenciju za sigurnost i zdravlje na radu, da preispitaju učinke digitalizacije, robotike i umjetne inteligencije na mentalni napor i da daju prijedloge za protumjere; poziva na to da se zaposlenicima pruži prilika da imaju trajnu i aktivnu ulogu u oblikovanju vlastitog radnog okružja i da se u taj postupak na svim razinama uključe socijalni partneri i sindikati;

19. upućuje na znanstvene studije u kojima su utvrđena četiri glavna problema koji proizlaze iz izrade zakonodavstva za korištenje robota: povjerljivost u pogledu platformi i proizvođača uključenih u razvoj i istraživanje umjetne inteligencije, koji nisu uvijek vidljivi zakonodavcima; disperzija do koje dolazi kad sustave umjetne inteligencije razvijaju timovi znanstvenika koji rade u različitim organizacijama, geografskim područjima i jurisdikcijama; povjerljivost se odnosi na činjenicu da sustavi umjetne inteligencije mogu obuhvaćati mnoge različite, odvojene i već postojeće komponente opreme i programa; ističe da se učinci spajanja svih tih komponenti možda ne mogu unaprijed u potpunosti sagledati i da nedostatak transparentnosti znači da bi način na koji rade sustavi umjetne inteligencije mogao biti manje transparentan od prethodnih tehnologija; napominje da bi to mogao biti problem za zakonodavce jer problemi koje bi mogli predstavljati takvi sustavi, a ni načini na koje se oni mogu rješavati, nisu dovoljno jasni.

RR\1115573HR.docx 45/64 PE582.443v03-00

HR

REZULTAT KONAČNOG GLASOVANJA U ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja 8.11.2016

Rezultat konačnog glasovanja +:–:0:

3679

Zastupnici nazočni na konačnom glasovanju

Laura Agea, Guillaume Balas, Brando Benifei, Vilija Blinkevičiūtė, Enrique Calvet Chambon, David Casa, Ole Christensen, Martina Dlabajová, Lampros Fountoulis, Arne Gericke, Sergio Gutiérrez Prieto, Marian Harkin, Danuta Jazłowiecka, Agnes Jongerius, Rina Ronja Kari, Jan Keller, Ádám Kósa, Jean Lambert, Patrick Le Hyaric, Jeroen Lenaers, Verónica Lope Fontagné, Javi López, Morten Løkkegaard, Thomas Mann, Dominique Martin, Anthea McIntyre, Joëlle Mélin, Elisabeth Morin-Chartier, Emilian Pavel, João Pimenta Lopes, Georgi Pirinski, Marek Plura, Terry Reintke, Sofia Ribeiro, Maria João Rodrigues, Claude Rolin, Sven Schulze, Siôn Simon, Jutta Steinruck, Yana Toom, Renate Weber, Tatjana Ždanoka, Jana Žitňanská

Zamjenici nazočni na konačnom glasovanju

Daniela Aiuto, Georges Bach, Amjad Bashir, Heinz K. Becker, Csaba Sógor, Helga Stevens, Neoklis Sylikiotis, Flavio Zanonato

Zamjenici nazočni na konačnom glasovanju prema čl. 200. st. 2.

David Coburn

PE582.443v03-00 46/64 RR\1115573HR.docx

HR

14.10.2016

MIŠLJENJE ODBORA ZA OKOLIŠ, JAVNO ZDRAVLJE I SIGURNOST HRANE

upućeno Odboru za pravna pitanja

s preporukama Komisiji o pravilima građanskog prava o robotici(2015/2103(INL))

Izvjestitelj za mišljenje: Cristian-Silviu Buşoi

(Inicijativa – članak 46. Poslovnika)

PRIJEDLOZI

Odbor za okoliš, javno zdravlje i sigurnost hrane poziva Odbor za pravna pitanja kao nadležni odbor:

– da u prijedlog rezolucije koji će usvojiti uvrsti sljedeće prijedloge:

A. budući da je starenje rezultat dužeg očekivanog životnog vijeka zbog napretka u pogledu životnih uvjeta i u modernoj medicini te je ono jedno od najvećih političkih, socijalnih i gospodarskih izazova za europska društva u 21. stoljeću; budući da će do 2025. više od 20 % Europljana biti u dobi od 65 godina ili starije, uz posebno rapidan porast broja osamdesetogodišnjaka i osoba starijih od 80 godina, što će dovesti do potpuno različite ravnoteže među generacijama u našim društvima, te budući da je u interesu društva i obitelji da starije osobe ostanu zdrave i aktivne što je dulje moguće;

B. budući da je prodaja i proizvodnja robota između 2010. i 2014. godine znatno porasla, a povećanje je samo 2014. iznosilo gotovo 30 %, posebno u sektoru zdravstva i pružanja skrbi;

C. budući da u društvu koje stari rastu prevalencija i stopa invaliditeta, kroničnih bolesti, rizika od moždanog udara, ozljeda mozga i smanjenih sposobnosti;

D. budući da će se društva i zdravstveni sustavi trebati prilagoditi procesu starenja i zahtjevima povezanima sa zdravstvenom skrbi za starije osobe kako bi mogli pružati prikladnu skrb i ostati financijski održivi;

E. budući da su kibernetičko-fizički sustavi tehnički sustavi mrežnih računala, robota i umjetne inteligencije koji imaju interakciju s fizičkim svijetom, a primjenjuju se na

RR\1115573HR.docx 47/64 PE582.443v03-00

HR

brojne načine u zdravstvenom sektoru;

F. budući da je zbog prirode kibernetičko-fizičkih sustava potrebno dostići specifične i detaljnije standarde jednake u cijeloj Uniji;

G. budući da će se takvim sustavima postaviti temelji za nove i buduće pametne usluge te omogućiti razvoj personalizirane zdravstvene skrbi, hitne pomoći i zdravstvene skrbi na daljinu;

H. budući da niti u kojem slučaju upotreba dijagnostičkih instrumenata ili onih za liječenje robotskog tipa ili napredne tehnologije ne smije dovesti do povećanja odgovornosti liječnika ili medicinskog osoblja koji ih upotrebljavaju, te se u tom smislu smatra važnim povećati odgovornost zdravstvenih ustanova ili uključenih proizvođača;

I. budući da je ekonomski i društveni potencijal kibernetičko-fizičkih sustava znatno veći nego što je prvobitno bilo zamišljeno te da se diljem svijeta ulažu znatna sredstva u razvoj te tehnologije;

J. budući da upotreba tehnologija ne smije umanjiti odnos liječnik-pacijent niti mu naštetiti, već treba pružati pomoć liječnicima pri uspostavi dijagnoze i/ili liječenju pacijenta;

K. budući da kibernetičko-fizički sustavi postavljaju mnoga visoka očekivanja i imaju velik potencijal, učinci novouvedenih tehnologija nikad se neće moći u potpunosti predvidjeti te se mogu uspješno integrirati samo ako se društvo može prilagoditi novom načinu interakcije s tehnologijom;

1. prima na znanje da će se usvajanjem novih tehnologija u području zdravstvene skrbi, pod uvjetom da se prednost daje odnosu između pacijenta i liječnika te slobodi izbora, najvjerojatnije ostvariti velike koristi u pogledu njege pacijenta te učinkovitosti i preciznosti liječenja u cilju smanjenja rizika od ljudske pogreške, što će dovesti do povećane kvalitete života i duljeg očekivanog životnog vijeka;

2. smatra da, iako robotika može društvu donijeti koristi, one istodobno mogu znatno promijeniti načine na koje ljudi komuniciraju jedni s drugima te tako imati stvaran utjecaj na postojeće društvene strukture; stoga ističe hitnu potrebu za opsežnom i informiranom javnom raspravom o toj novoj tehnološkoj revoluciji;

3. smatra da je od ključne važnosti da Unija razradi pravni okvir na osnovi etičkih načela koja mogu odražavati složenost područja robotike i njenih mnogih društvenih, medicinskih i bio-etičkih implikacija;

4. ističe da inovacije u pogledu pružanja bolje dijagnoze i boljih uvida u opcije liječenja, njege i rehabilitacije dovode do preciznijih medicinskih odluka i bržeg oporavka, čime bi se stoga mogao olakšati problem nedostatka stručnih radnika u području zdravstvene skrbi u procesima njege i rehabilitacije;

5. ističe da povećanje potražnje za jedinicama kibernetičko-fizičkih sustava ima potencijal za stvaranje većeg broja radnih mjesta za visokokvalificirane osobe u Uniji;

PE582.443v03-00 48/64 RR\1115573HR.docx

HR

6. smatra prisutnost robota kao potpornih figura u radu liječnika ili zdravstvenih djelatnika korisnom za poboljšanje ljudskog iskustva dijagnosticiranja i liječenja, ali bez zaboravljanja potrebe da se ne dopusti dehumanizacija liječničke prakse i skrbi o pacijentima;

Roboti za njegu

7. napominje da se kibernetičko-fizičkim sustavima može na bolje promijeniti život osoba s invaliditetom jer se pametne tehnologije mogu koristiti za prevenciju, pružanje pomoći, praćenje i socijalnu interakciju;

8. primjećuje da je vjerojatno da će kibernetičko-fizički sustavi imati snažan utjecaj na zdravstveni sektor zbog svojeg potencijala za smanjenje ukupnih troškova zdravstvene skrbi tako što će zdravstvenim djelatnicima omogućiti da se usredotoče na prevenciju umjesto na liječenje;

9. naglašava da su istraživanje i razvoj u području robotike za skrb za starije osobe s vremenom postali rašireniji i jeftiniji te nastaju proizvodi bolje funkcionalnosti koje potrošači bolje prihvaćaju; napominje da takve tehnologije, koje starijim osobama kao i osobama koje pate od demencije, kognitivnih poremećaja i gubitka pamćenja pružaju usluge prevencije, pomoći, praćenja, poticanja i socijalne interakcije, imaju široku primjenu;

10. ističe da, iako se kibernetičko-fizičkim sustavima može poboljšati mobilnost i društvena uključenost osoba s invaliditetom i starijih osoba, ljudski njegovatelji će i dalje biti potrebni te nastaviti imati važnu ulogu koja nije u potpunosti zamjenjiva u socijalnoj interakciji; napominje da se tehnologijama ili robotima kibernetičko-fizičkih sustava može samo znatno poboljšati skrb koju pruža zdravstveno osoblje i na bolji način usmjeriti proces rehabilitacije kako bi medicinsko osoblje i njegovatelji imali više kvalitetnog vremena za dijagnostiku i pružanje boljih opcija liječenja;

Medicinski roboti

11. napominje da se stariji oblici robota i pametnih uređaja s kibernetičko-fizičkim sustavima već koriste u zdravstvenoj skrbi, kao što su uređaji e-zdravstva i kirurški roboti, te da će se u bliskoj budućnosti ta tehnologija nastaviti razvijati i potencijalno smanjiti troškove zdravstvene skrbi jer će zdravstvenim djelatnicima omogućiti da se usredotoče na prevenciju umjesto na liječenje zbog čega će više proračunskih sredstava biti namijenjeno za bolju prilagodbu različitim potrebama pacijenata, stalnom osposobljavanju zdravstvenih djelatnika i istraživanju;

12. ističe da bi povećana uporaba kibernetičko-fizičkih sustava mogla stvoriti zdravije društvo jer zahvati tako postaju manje invazivni zbog čega je vrijeme oporavka kraće te se smanjuje broj slučajeva izostajanja s radnog mjesta iz zdravstvenih razloga;

13. primjećuje da se medicinski roboti nastavljaju razvijati te da će se vjerojatno početi češće upotrebljavati u operacijskim zahvatima, čime će se pomicati granice medicine;

14. prima na znanje da su kirurški roboti zamišljeni kako bi se proširile sposobnosti ljudskih kirurga izvan ograničenja tradicionalne laparoskopije te da su se kirurški roboti razvili

RR\1115573HR.docx 49/64 PE582.443v03-00

HR

iz želje da se takva ograničenja prevladaju i da se prošire koristi minimalno invazivne operacije, detaljnih pokreta i preciznosti;

15. napominje da se kibernetičko-fizičkim sustavima omogućuju operacije na daljinu, uz brojne prednosti kao što je povećana preciznost pokreta ruku, uklanjanje drhtanja iz pokreta ruku, uvećani pregled, koji mogu odmah analizirati i procijeniti, poboljšana mobilnost ruku i operiranje na daljinu, te da temeljni preduvjet mora biti da liječnici steknu vještine i ovlasti za obavljanje zahvata s pojedinačnim uređajima kibernetičko-fizičkih sustava;

16. napominje da je tijekom posljednjih godina došlo do znatnih promjena u sektoru medicinskog obrazovanja i osposobljavanja; nadalje napominje da, s obzirom na to da medicinska skrb postaje sve složenija, akademski zdravstveni centri pružaju mogućnost da se poboljša cjelovit pristup zdravlju, preispita način na koji se medicinsko obrazovanje i doživotno učenje pružaju, uz očuvanje osnovnog načela prema kojem liječnici i dalje imaju veću stručnost od robota te upravljaju njima; traži od Komisije i država članica da promiču visoke standarde osposobljavanja i specijalizacije za medicinsko i paramedicinsko osoblje koje koristi ili će koristiti nove robotske tehnologije te da potiču slobodno kretanje kirurga koji namjeravaju koristiti te tehnologije za izvođenje operacija;

17. poziva Komisiju i države članice da ojačaju financijske instrumente za istraživačke projekte u području robotike i društveno-zdravstvenih hitnih intervencija;

18. smatra da je od temeljne važnosti poštovanje načela nadzirane autonomije robota na temelju kojega početno programiranje liječenja i konačnog odabira načina izvršenja ostaje uvijek u domeni odluke ljudskog kirurga;

Klinička procjena i klinička istraživanja

19. ističe da medicinski kibernetičko-fizički sustavi trebaju zadovoljiti visoke standarde za medicinsku opremu s pomoću učinkovitih postupaka provjere i certifikacije kojima se omogućuje procjena sigurnosti i učinkovitosti predloženih tehnologija koju provodi na odgovarajući način osposobljeno osoblje, čak i u fazi njihova osmišljavanja;

20. naglašava važnost razlikovanja kirurških robota od proteza i egzoskeletona od robota za pratnju čija je funkcija pomoć osobama s invaliditetom ili privremeno nesposobnim osobama; naglašava važnost da se obje vrste podvrgnu kontrolama koje će se obavljati prema što preciznijim i detaljnijim standardima;

21. pozdravlja politički dogovor o Uredbi o medicinskim uređajima (2012/0266(COD)) koji su suzakonodavci postigli u lipnju 2016.; poziva Komisiju da prije datuma početka primjene te Uredbe zajamči da su postupci za ispitivanje novih medicinskih robota sigurni, posebno ako je riječ o uređajima koji se implantiraju u ljudsko tijelo; nadalje, napominje da pacijenti moraju imati potpuni uvid u svoje podatke, a javnost mora imati potpuni uvid u podatke o neuspjelim i uspjelim ispitivanjima te da pacijentima i javnosti mora biti jasna odgovornost za neuspjela ispitivanja i kibernetičko-fizičke sustave;

Etika

PE582.443v03-00 50/64 RR\1115573HR.docx

HR

22. naglašava da, iako razvoj tehnologije eksponencijalno raste, socijalni sustavi u Uniji ne mogu odgovoriti jednakom brzinom, dok sustavi zdravstvene skrbi još sporije reagiraju; naglašava da takav razvoj znatno utječe na današnju civilizaciju te da je stoga ključno da je tehnološki napredak popraćen procjenom dugoročnih moralnih i etičkih implikacija novih tehnologija prije i tijekom njihova razvijanja;

23. naglašava važnost da se osigura, u skladu s etičkim standardima, da robotski proizvodi jamče poštovanje temeljnih prava pojedinca, kao i socijalnih prava zaštićenih na razini Unije, predviđanjem eventualnih tehničkih svojstava koja jamče takvo poštovanje već od faze projektiranja u skladu s takozvanim pristupom „privacy by design”;

24. skreće pozornost na rizike povezane s mogućnošću da kibernetičko-fizički sustavi integrirani u ljudsko tijelo budu hakirani, isključeni ili da im se izbrišu računalne memorije jer bi se tako moglo ugroziti ljudsko zdravlje, a u krajnjim slučajevima i ljudski životi, te stoga ističe da zaštita tih sustava mora biti prioritet;

25. prima na znanje osjetljivost pacijenata s posebnim potrebama, uključujući djecu, starije osobe i osobe s invaliditetom, te ističe da se svaki korisnik može emotivno povezati s kibernetičko-fizičkim sustavima i robotima; ističe etička pitanja povezana s takvim mogućim povezivanjem; potiče Komisiju da počne razmatrati kako će zajamčiti da kibernetičko-fizički sustavi ne utječu negativno na samostalnost i neovisnost osoba u osjetljivom položaju;

26. traži od Komisije i država članica da promiču razvoj pomoćnih tehnologija i kroz režime odgovornosti različite od onih koji se trenutačno primjenjuju, kako bi se potakao razvoj i kako bi subjekti kojima je to potrebno usvojili te tehnologije, u skladu s člankom 4. Konvencije UN-a o pravima osoba s invaliditetom koju je potpisala Unija;

27. ističe da je važno očuvati temeljni odnos između pacijenta i liječnika, posebno u pogledu komunikacije o medicinskoj dijagnozi i liječenju;

28. napominje da uporaba kibernetičko-fizičkih sustava postavlja pitanje poboljšanja čovjekovih sposobnosti, koje se definira kao poboljšanje postojećih prirodnih ljudskih vještina ili dodjeljivanje novih vještina, što pojedinim osobama omogućuje da nadvladaju invaliditet;

Utjecaj na okoliš

29. prima na znanje da je mogući okolišni ili ekološki otisak robotike potrebno svesti na najmanju moguću mjeru jer se očekuje da će se korištenjem kibernetičko-fizičkih sustava i robota povećati cjelokupna potrošnja energije te količina električnog i elektroničkog otpada; ističe da je potrebno što više povećati potencijal da postupke učini resursno učinkovitijima te povećati energetsku učinkovitost promicanjem korištenja obnovljivih tehnologija u području robotike, promicati uporabu i ponovnu uporabu sirovina te smanjiti količinu otpada; stoga potiče Komisiju da načela kružne ekonomije uvrsti u svaku politiku Unije o robotici;

30. također primjećuje da će uporaba kibernetičko-fizičkih sustava imati pozitivan utjecaj na okoliš, posebno u područjima poljoprivrede i opskrbe hranom, konkretno zahvaljujući smanjenoj veličini strojeva i smanjenoj uporabi gnojiva, energije i vode,

RR\1115573HR.docx 51/64 PE582.443v03-00

HR

kao i preciznoj poljoprivredi;

31. ističe da će kibernetičko-fizički sustavi dovesti do stvaranja energetskih i infrastrukturnih sustava koji mogu nadzirati protok električne energije od proizvođača do potrošača te će također dovesti do nastanka „proizvođača-potrošača” električne energije, koji i proizvode i troše energiju; tako će donijeti velike koristi za okoliš;

– da u Prilog prijedlogu rezolucije koji će usvojiti uvrsti sljedeće preporuke:

Sigurnost

Sigurnost medicinskih robota preduvjet je za njihovo uvođenje u sektor zdravstvene skrbi. Potrebno je ocijeniti učinkovitost i sigurnost robota za njegu i medicinskih robota s pomoću posebnih, vrlo detaljno razrađenih sigurnosnih zaštitnih mjera i standardiziranih postupaka za certifikaciju, uz poseban naglasak na njihovu primjenu u skrbi za osobe s poteškoćama ili u hitnim situacijama; poziva Komisiju da donese detaljne zajedničke specifikacije za medicinske robote; posebnu pozornost trebalo bi obratiti na sigurnost mreža kibernetičko-fizičkih sustava kako bi se uklonila svaka mogućnost hakiranja tih sustava i krađe osjetljivih osobnih podataka.

Sigurnost kibernetičko-fizičkih sustava implantiranih u ljudsko tijelo temeljni je preduvjet jer bi svaka greška u njima mogla biti kobna te je u tom kontekstu važno pružiti informacije i nedvosmisleno regulirati pitanja odgovornosti, uključujući pitanje čije su vlasništvo ti implantirani kibernetičko-fizički sustavi, tko ima prava nad njima te tko može promijeniti njihovu implantaciju, uz strogu zabranu svakog provođenja pokusa na osobama bez njihova pristanka.

Privatnost

Korištenjem medicinskih kibernetičko-fizičkih sustava i robota kao „elektroničke zdravstvene dokumentacije” otvaraju se pitanja o zakonima o privatnosti pacijenata, liječničkoj tajni i zaštiti podataka u području javnog zdravlja. Trebalo bi prilagoditi pravila Unije o zaštiti podataka kako bi se u obzir uzela sve veća složenost i međusobna povezanost robota za njegu i medicinskih robota koji možda raspolažu vrlo osjetljivim osobnim i zdravstvenim podacima te bi ih trebalo uskladiti s pojmom zaštite privatnosti već pri projektiranju („privacy by design”) kako je utvrđeno u Uredbi (EU) 2016/679 o zaštiti podataka. Trebalo bi poboljšati kodeks ponašanja o liječničkoj tajni u pogledu zdravstvenih podataka pohranjenih u kibernetičko-fizičkim sustavima kojima mogu pristupiti treće strane.

Osiguravajućim društvima ili drugim pružateljima usluga ne bi se smjelo dopustiti korištenje podataka iz e-zdravstva kako ne bi bilo diskriminacije u određivanju cijena jer bi to bilo protivno temeljnom pravu na najviši mogući standard zdravlja.

Povjerenstva za istraživačku etiku

Povjerenstva za istraživačku etiku trebala bi u obzir uzimati etička pitanja do kojih dolazi zbog razvoja medicinskih robota i kibernetičko-fizičkih sustava u mnogim

PE582.443v03-00 52/64 RR\1115573HR.docx

HR

područjima zdravstvene skrbi i pružanja pomoći za osobe s invaliditetom i starije osobe. Potrebno je pažljivo razmotriti pitanja kao što je jednakost pristupa robotskoj preventivnoj zdravstvenoj skrbi, privilegirani odnos između pacijenta i liječnika te podložnost osobito pacijenata s posebnim potrebama (primjerice, osoba s invaliditetom), ali i drugih pacijenata (kao što su djeca, usamljene osobe itd.), da se emotivno povežu s robotima.

Potiče povjerenstva za istraživačku etiku i Komisiju da započnu postupak razmatranja kako bi razradili kodeks ponašanja za istraživače/projektante i korisnike medicinskih kibernetičko-fizičkih sustava, koji bi se trebao temeljiti na načelima sadržanima u Povelji Europske unije o temeljnim pravima (kao što su ljudsko dostojanstvo i ljudska prava, jednakost, pravda i pravednost, korist i šteta, dostojanstvo, nediskriminacija i nestigmatizacija, samostalnost i odgovornost pojedinaca, informirani pristanak, privatnost i društvena odgovornost, kao i prava starijih osoba, integracija osoba s invaliditetom, pravo na zdravstvenu skrb i pravo na zaštitu potrošača), te na postojećim etičkim praksama i kodeksima.

Valja spomenuti da robotika može unijeti visok stupanj nesigurnosti u pogledu pitanja odgovornosti;

RR\1115573HR.docx 53/64 PE582.443v03-00

HR

REZULTAT KONAČNOG GLASOVANJAU ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja 13.10.2016

Rezultat konačnog glasovanja +:–:0:

6100

Zastupnici nazočni na konačnom glasovanju

Marco Affronte, Margrete Auken, Pilar Ayuso, Zoltán Balczó, Catherine Bearder, Ivo Belet, Nessa Childers, Birgit Collin-Langen, Mireille D’Ornano, Miriam Dalli, Angélique Delahaye, Stefan Eck, Bas Eickhout, Eleonora Evi, José Inácio Faria, Elisabetta Gardini, Gerben-Jan Gerbrandy, Jens Gieseke, Julie Girling, Sylvie Goddyn, Françoise Grossetête, Anneli Jäätteenmäki, Jean-François Jalkh, Josu Juaristi Abaunz, Karin Kadenbach, Kateřina Konečná, Giovanni La Via, Peter Liese, Norbert Lins, Susanne Melior, Miroslav Mikolášik, Massimo Paolucci, Bolesław G. Piecha, Frédérique Ries, Michèle Rivasi, Daciana Octavia Sârbu, Annie Schreijer-Pierik, Davor Škrlec, Dubravka Šuica, Tibor Szanyi, Claudiu Ciprian Tănăsescu, Jadwiga Wiśniewska, Damiano Zoffoli

Zamjenici nazočni na konačnom glasovanju

Guillaume Balas, Paul Brannen, Nicola Caputo, Michel Dantin, Mark Demesmaeker, Luke Ming Flanagan, Elena Gentile, Martin Häusling, Krzysztof Hetman, Gesine Meissner, James Nicholson, Marijana Petir, Gabriele Preuß, Christel Schaldemose, Jasenko Selimovic, Mihai Ţurcanu

Zamjenici nazočni na konačnom glasovanju prema čl. 200. st. 2.

Nicola Danti, Anna Hedh

PE582.443v03-00 54/64 RR\1115573HR.docx

HR

15.11.2016

MIŠLJENJE ODBORA ZA INDUSTRIJU, ISTRAŽIVANJE I ENERGETIKU

upućeno Odboru za pravna pitanja

s preporukama Komisiji o pravilima građanskog prava o robotici(2015/2103(INL))

Izvjestiteljica za mišljenje: Kaja Kallas

(Inicijativa – članak 46. Poslovnika)

PRIJEDLOZI

Odbor za industriju, istraživanje i energetiku poziva Odbor za pravna pitanja da kao nadležni odbor:

– u prijedlog rezolucije koji će usvojiti uvrsti sljedeće prijedloge:

A. budući da bi timovi sastavljeni od robota i ljudi mogli biti 85 %1 produktivniji od timova sastavljenih samo od robota ili samo od ljudi; budući da će roboti, poboljšanjem ljudskih sposobnosti, smanjiti rizik od ljudske pogreške;

B. budući da Unija zauzima vodeće mjesto u industrijskoj robotici, s tržišnim udjelom ponude i upotrebe većim od 25 %2, a tržišni rast procjenjuje se na 8 % do 9 % godišnje, zbog čega je taj sektor strateški industrijski prioritet;

1. smatra da robotika i umjetna inteligencija imaju veliku ulogu u poboljšanju konkurentnosti i produktivnosti europskog gospodarstva te da bi, srednjoročno gledano, mogli imati veći utjecaj na konkurentnost neproizvodnih sektora kao što su poljoprivreda, promet, zdravstvena skrb, sigurnost i komunalne usluge; poziva Komisiju da u području robotike i umjetne inteligencije promiče ambicioznu međusektorsku politiku koja pogoduje inovacijama, čime će se olakšati integracija tehnologije u lance vrijednosti i razvoj inovativnih poslovnih modela te skratiti razdoblje između inovacije i industrijalizacije; traži od Komisije da procijeni je li potrebno modernizirati zakonodavstvo ili sastaviti europske smjernice kojima bi se zajamčili zajednički pristup i

1 Kao što je utvrđeno u istraživanju instituta MIT provedenom na temelju zajedničkog iskustva proizvođača automobila BMW i Mercedes-Benz.2 http://ec.europa.eu/programmes/horizon2020/en/h2020-section/robotics.

RR\1115573HR.docx 55/64 PE582.443v03-00

HR

djelovanje u području robotike i umjetne inteligencije, prijeko potrebni za širenje trgovačkih društava u Europi;

2 napominje da su treće zemlje shvatile stratešku važnost robotike i da dovode u pitanje vodeće mjesto Unije na svjetskom tržištu u tom sektoru, primjerice preuzimanjem proizvođača iz Unije; poziva Komisiju da osmisli industrijsku strategiju u okviru koje se rješava pitanje uloge strateški važnih sektora kao što je robotika te utvrđuje način na koji Unija može očuvati radna mjesta, rast, znanje i veliki dio lanca vrijednosti;

3. ističe da inovacije u području robotike i umjetne inteligencije te integracija tehnologije robotike i umjetne inteligencije u gospodarstvo i društvo zahtijevaju digitalnu infrastrukturu kojom se omogućava univerzalna povezivost; poziva Komisiju da uspostavi okvir kojim će se zadovoljiti uvjeti u pogledu povezivosti za digitalnu budućnost Unije i da se pobrine za to da pristup širokopojasnoj i 5G mreži bude potpuno u skladu s načelom mrežne neutralnosti;

4. čvrsto je uvjeren da je interoperabilnost među sustavima, uređajima i uslugama u oblaku, utemeljena na integriranoj sigurnosti i privatnosti, nužna za protok podataka u stvarnom vremenu, kojim se omogućava veća fleksibilnost i autonomnost robota i umjetne inteligencije; poziva Komisiju da promiče otvoreno okružje, od otvorenih standarda i inovativnih modela licenciranja do otvorenih platformi i transparentnosti, kako bi se izbjegla ovisnost o vlasničkim sustavima kojima se ograničava interoperabilnost; osim toga ističe da je potrebno pružiti visoku razinu sigurnosti, zaštite i privatnosti podataka koji se koriste u ljudskoj komunikaciji s robotima i umjetnom inteligencijom; stoga poziva Komisiju i države članice da u svoje politike u području robotike i umjetne inteligencije te u strategiju kibersigurnosti EU-a uvrste načela integrirane sigurnosti i privatnosti te da robotika i umjetna inteligencija budu teme diskusija savjetodavne skupine za kibersigurnost na visokoj razini koju će osnovati Komisija;

5. napominje da je pristup podacima ključan za inovacije u području algoritama za strojno učenje; poziva Komisiju da primijeni ambiciozan okvir i strategiju za otvoren i slobodan protok podataka, posebno preko inicijative „slobodan protok podataka”, u skladu sa zakonodavstvom za zaštitu podataka i reformiranim zakonodavstvom u području intelektualnog vlasništva; ističe da bi se inicijativom „slobodan protok podataka” trebala pojasniti pitanja vlasništva, upotrebljivosti i pristupa, koja su važna za daljnji razvoj i primjenu tehnologije robotike;

6. poziva Komisiju da u okviru revizije VFO-a sredinom programskog razdoblja poveća svoju potporu za program SPARC koji se financira iz programa Obzor 2020., da provodi studije o prognozama, da promiče otvorene inovacije kao strateški cilj te okružje pogodno za suradnju nacionalnih i europskih institucija, istraživačke zajednice, tijela za normizaciju koja privlače talente, ali i privatnog sektora, svjetskih trgovačkih društava, malih i srednjih poduzeća te novoosnovanih poduzeća koja su ključna za inovacije i otvaranje novih tržišta u području robotike na svjetskoj razini; ističe ulogu koju javno-privatna partnerstva mogu imati u tom pogledu;

7. ističe da bi se razvoj robotike trebao usredotočiti na dopunjavanje ljudskih sposobnosti, a ne na njihovo zamjenjivanje; ističe da će se zahvaljujući rastu u području robotike i umjetne inteligencije otvoriti znatan broj radnih mjesta, smanjiti izloženost ljudi štetnim i opasnim uvjetima te preobraziti život i rad, što će iziskivati dugoročnu procjenu i mjere

PE582.443v03-00 56/64 RR\1115573HR.docx

HR

kojima će se na pravilan način riješiti pitanje socijalnog, okolišnog, etičkog i obrazovnog aspekta te aspekta odgovornosti; posebno smatra da u sve faze obrazovanja i izobrazbe, od ranih školskih dana do cjeloživotnog učenja, treba uključiti digitalne vještine, među kojima je i kodiranje;

8. smatra da roboti u medicini imaju sve veću ulogu u operacijama visoke preciznosti i u izvođenju postupaka koji se ponavljaju; smatra da imaju potencijal za poboljšanje rezultata rehabilitacije te da pružaju vrlo učinkovitu logističku potporu u bolnicama;

– u prilog prijedlogu rezolucije uvrsti sljedeće preporuke:

9. smatra da bi se svim budućim zakonodavnim inicijativama u području robotike i umjetne inteligencije, nakon savjetovanja s nizom različitih relevantnih dionika i na temelju stalnog dijaloga, trebala pružiti pravna sigurnost, a da se pritom ne ometaju inovacije u tom tehnološkom području koje se brzo razvija;

10. smatra da bi Komisija, zajedno s krajnjim korisnicima, inženjerima robotike, istraživačkom zajednicom i svim ostalim dionicima, trebala razviti kodeks etičkog ponašanja kojim bi se usmjeravale aktivnosti u području razvoja robotike i umjetne inteligencije;

11. smatra da u okviru preporuka o licenciranju treba poštovati ugovornu slobodu i ostaviti prostora za inovativne sustave licenciranja; upozorava na uvođenje novih prava intelektualnog vlasništva u području robotike i umjetne inteligencije, koja bi mogle ometati inovacije i razmjenu stručnog znanja.

RR\1115573HR.docx 57/64 PE582.443v03-00

HR

REZULTAT KONAČNOG GLASOVANJAU ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja 13.10.2016

Rezultat konačnog glasovanja +:–:0:

5413

Zastupnici nazočni na konačnom glasovanju

Bendt Bendtsen, Xabier Benito Ziluaga, José Blanco López, David Borrelli, Jerzy Buzek, Angelo Ciocca, Edward Czesak, Jakop Dalunde, Pilar del Castillo Vera, Christian Ehler, Fredrick Federley, Ashley Fox, Adam Gierek, Theresa Griffin, Hans-Olaf Henkel, Eva Kaili, Kaja Kallas, Barbara Kappel, Krišjānis Kariņš, Seán Kelly, Jaromír Kohlíček, Zdzisław Krasnodębski, Miapetra Kumpula-Natri, Janusz Lewandowski, Ernest Maragall, Edouard Martin, Angelika Mlinar, Nadine Morano, Dan Nica, Carolina Punset, Herbert Reul, Paul Rübig, Algirdas Saudargas, Sergei Stanishev, Neoklis Sylikiotis, Dario Tamburrano, Patrizia Toia, Evžen Tošenovský, Claude Turmes, Vladimir Urutchev, Henna Virkkunen, Martina Werner, Lieve Wierinck, Anna Záborská, Flavio Zanonato, Carlos Zorrinho

Zamjenici nazočni na konačnom glasovanju

Michał Boni, Rosa D’Amato, Esther de Lange, Jens Geier, Benedek Jávor, Olle Ludvigsson, Vladimír Maňka, Marian-Jean Marinescu, Clare Moody, Maria Spyraki

Zamjenici nazočni na konačnom glasovanju prema čl. 200. st. 2.

Salvatore Cicu, Albert Deß

PE582.443v03-00 58/64 RR\1115573HR.docx

HR

12.10.2016

MIŠLJENJE ODBORA ZA UNUTARNJE TRŽIŠTE I ZAŠTITU POTROŠAČA

upućeno Odboru za pravna pitanja

Pravila građanskog prava o robotici(2015/2103(INL))

Izvjestiteljica za mišljenje: Dita Charanzová

(Inicijativa – članak 46. Poslovnika)

PRIJEDLOZI

Odbor za unutarnje tržište i zaštitu potrošača poziva Odbor za pravna pitanja da kao nadležni odbor u prijedlog rezolucije koji će usvojiti uvrsti sljedeće prijedloge:

A. budući da robotika ne predstavlja novinu; budući da ona može imati i već ima važnu ulogu u mijenjanju našeg društva na bolje; budući da robotika i umjetna inteligencija mogu imati aktivnu ulogu u digitalizaciji gospodarstva u brojnim sektorima, poput industrije, zdravstva, građevine i prometa, te da mogu doprinijeti inovacijama, manjoj izloženosti opasnim uvjetima rada i novim poslovnim modelima te budući da se Unija mora aktivno zalagati za razvoj ovog područja kako bi se ostvario napredak na digitalnom jedinstvenom tržištu;

B. budući da roboti sve više rade u neposrednoj blizini ljudi i budući da se, posebice, tržište robotskih usluga konstantno širi i donosi nove koristi za društvo, a da se pri tome ne zanemaruju sigurnost i pitanja povezana s odgovornošću;

C. budući da, unatoč njezinim neosporivim prednostima, primjena robotike može rezultirati transformacijom tržišta rada i potrebom da se u skladu s time promisli budućnost obrazovanja, zapošljavanja i socijalnih politika;

D. uzimajući u obzir znatan porast prodaje i proizvodnje robota u razdoblju između 2010. i 2014. godine, koji je samo u 2014. iznosio gotovo 30 %, posebice u elektroničkoj industriji;

E. budući da bi digitalna transformacija europske proizvodne industrije, koja je zaslužna za

RR\1115573HR.docx 59/64 PE582.443v03-00

HR

15 % BDP-a u Uniji, 2025. mogla imati dodanu vrijednost od 1,25 bilijuna EUR1, dok bi usvajanje autonomnih i robotskih tehnologija moglo doprinijeti rastu europske industrijske proizvodnje i rezultirati znatnom konkurentnom prednošću za Europu;

F. budući da strojno učenje nudi izrazito velike ekonomske i inovativne koristi za društvo jer se njime uvelike poboljšava mogućnost analize podataka, ali i da predstavlja nove izazove u pogledu jamčenja nediskriminacije, pravičnosti, pristupa informacijama i razumljivosti u postupcima donošenja odluka;

G. budući da zbog napretka u području primjene u medicini, poput robotskih proteza i implantata, život osoba koje ih nose ovisi o mogućnosti održavanja, popravaka i poboljšanja;

H. budući da se u razvoju svih novih tehnoloških i proizvodnih prototipova mora voditi računa o zaštiti podataka i poštovanju intelektualnog vlasništva;

I. budući da su brojne treće zemlje usvojile odgovarajuće smjernice i zakonodavstvo u području robotike te da su se neke države članice također počele ozbiljno posvećivati tom pitanju;

1. ističe da se zauzimanjem jedinstvenog pristupa na razini Unije može olakšati razvoj jer se na taj način izbjegava fragmentacija na unutarnjem tržištu i istovremeno naglašava važnost načela međusobnog priznavanja u prekograničnoj upotrebi robota i robotskih sustava; podsjeća da bi se testiranja, izdavanje certifikata i odobrenje za stavljanje na tržište trebali zahtijevati u samo jednoj državi članici;

2. naglašava da bi taj pristup trebao biti popraćen djelotvornim nadzorom tržišta te pravnim lijekovima i ovlastima država članica da povuku proizvode i izreknu kazne u slučaju kršenja;

3. ističe važnost mjera za pomoć malim i srednjim poduzećima te novoosnovanim (start-up) poduzećima u sektoru robotike, koja stvaraju nove tržišne segmente u tom sektoru i koriste robote;

4. potiče razvoj ambiciozne europske strategije za istraživanje i inovacije u području robotike kako bi se u potpunosti razvio njegov potencijal za rast i otvaranje radnih mjesta u Europi;

5. iako u industriji već postoji i primjenjuje se velik broj međunarodnih standarda koji se odnose na pitanja poput interoperabilnosti i sigurnosti, smatra da je u području robotike i umjetne inteligencije potrebna dodatna usklađena normizacija te da bi ona trebala biti jedan od prioriteta Unije kada je riječ o normizaciji kako bi se poticale inovacije i zajamčila visoka razina zaštite potrošača; ističe da je od ključne važnosti da se u tom području usmjerenom na budućnost donesu zajednički i sigurni standardi na visokoj razini;

6. poziva Komisiju da zajedno s europskim tijelima za normizaciju i dalje proaktivno surađuje s međunarodnim tijelima za normizaciju te da poboljša i suradnju s

1 STOA, Etički aspekti kibernetičko-fizičkih sustava, Studija znanstvenih predviđanja (svibanj 2016.), Prilog 1., str. 37.

PE582.443v03-00 60/64 RR\1115573HR.docx

HR

međunarodnim partnerima kako bi se nastavio rad na poboljšanju standarda u tom području; u tom smislu pozdravlja osnivanje posebnih tehničkih odbora, poput ISO/TC 299 Robotika, čiji je cilj isključivo raditi na razvoju standarda u području robotike;

7. ponavlja da se velika većina standarda donosi kao odgovor na prepoznatu potrebu u industriji te potiče europska i međunarodna tijela za normizaciju da konstantno preispituju svoje vlastite standarde kako bi osigurala da zadovoljavaju njihove potrebe;

8. smatra da bi i roboti izrađeni za proizvodnju i oni izrađeni za osobnu upotrebu trebali podlijegati pravilima o sigurnosti proizvoda i zaštiti potrošača kojima se, ovisno o slučaju, jamče minimalni standardi sigurnosti i u obzir uzima rizik od nesreća koje su posljedica interakcije s ljudima ili rada u blizini ljudi; smatra da bi se u svakoj politici u području robotike trebala razmotriti etička pitanja i pitanja povezana sa zaštitom podataka, koja obuhvaćaju i podatke o trećoj strani te osobne podatke, građansku odgovornost, obrazovanje i osposobljavanje te kibersigurnost;

9. ističe važnost privatnosti i sigurnosti dizajna u izradi robota te važnost pravila za testiranje reakcija robota koja se provode u cilju zaštite potrošača;

10. ističe da se svaki put kada se predloži upotreba robota treba voditi računa o dostojanstvu ljudskog bića, posebno u području zdravstvene skrbi;

11. smatra da je u području životno važne medicinske primjene, poput robotskih proteza, nužno pružiti stalnu i održivu mogućnost održavanja i poboljšanja te, posebice, softverskih ažuriranja kojima se ispravljaju nedostaci i slabe točke;

12. smatra da se u politikama država članica u području zapošljavanja i obrazovanja te socijalnim politikama treba voditi više računa o utjecaju robotizacije; traži od Komisije da teži uspostavi jedinstvenog regulatornog okvira i boljoj suradnji među državama članicama; poziva države članice da ponovno osmisle okvire za osposobljavanje kako bi se spriječio nedostatak stručnjaka u području informacijske i komunikacijske tehnologije;

13. uviđa da se robotika i umjetna inteligencija sve više koriste u autonomnim vozilima, poput autonomnih automobila i civilnih dronova; skreće pozornost na činjenicu da neke države članice već provode zakonodavstvo u tom području ili pak razmatraju njegovo donošenje, što bi moglo rezultirati mozaikom nacionalnih zakonodavstava kojim bi se otežao razvoj autonomnih vozila; stoga poziva na donošenje niza jedinstvenih propisa Unije u kojima će se postići prava ravnoteža između interesa korisnika, poduzeća i ostalih zainteresiranih strana te čime će se izbjeći prekomjerna regulacija u području robotike i robotskih sustava;

14. poziva na regulatornu suradnju u izmjeni određenih međunarodnih sporazuma poput Bečke konvencije o cestovnom prometu od 8. studenoga 1968. i Haške konvencije o prometnim nezgodama od 4. svibnja 1971.;

15. smatra da u slučaju autonomnih vozila možda ne postoji potreba za izmjenom pravne situacije koja se odnosi na osiguranje, imajući u vidu da se postojeće prakse i odnosi između operatera, proizvođača i osiguravatelja mogu na odgovarajući način nositi s uvođenjem novih tehnologija, što je već bio slučaj u prošlosti;

RR\1115573HR.docx 61/64 PE582.443v03-00

HR

16. ističe da korištenje robotike u zdravstvu već predstavlja rastuće tržište, posebno kada je riječ o telerobotskim kirurškim zahvatima, u kojima Europa prednjači; traži od Komisije da osigura uvjete kojima će se omogućiti još veće korištenje tim praksama;

17. poziva Komisiju na povećanje financiranja međudisciplinarnih studija socijalnih učinaka umjetne inteligencije i procesa strojnog učenja.

PE582.443v03-00 62/64 RR\1115573HR.docx

HR

REZULTAT KONAČNOG GLASOVANJAU ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja 11.10.2016

Rezultat konačnog glasovanja +:–:0:

3511

Zastupnici nazočni na konačnom glasovanju

Catherine Bearder, Dita Charanzová, Carlos Coelho, Lara Comi, Anna Maria Corazza Bildt, Daniel Dalton, Nicola Danti, Dennis de Jong, Vicky Ford, Ildikó Gáll-Pelcz, Evelyne Gebhardt, Maria Grapini, Sergio Gutiérrez Prieto, Robert Jarosław Iwaszkiewicz, Liisa Jaakonsaari, Antonio López-Istúriz White, Marlene Mizzi, Eva Paunova, Jiří Pospíšil, Virginie Rozière, Christel Schaldemose, Andreas Schwab, Olga Sehnalová, Igor Šoltes, Ivan Štefanec, Catherine Stihler, Richard Sulík, Róża Gräfin von Thun und Hohenstein, Mylène Troszczynski, Mihai Ţurcanu, Anneleen Van Bossuyt, Marco Zullo

Zamjenici nazočni na konačnom glasovanju

Birgit Collin-Langen, Morten Løkkegaard, Julia Reda, Marc Tarabella

Zamjenici nazočni na konačnom glasovanju prema čl. 200. st. 2.

John Stuart Agnew

RR\1115573HR.docx 63/64 PE582.443v03-00

HR

REZULTAT KONAČNOG GLASOVANJAU NADLEŽNOM ODBORU

Datum usvajanja 12.1.2017

Rezultat konačnog glasovanja +:–:0:

1722

Zastupnici nazočni na konačnom glasovanju

Max Andersson, Joëlle Bergeron, Marie-Christine Boutonnet, Jean-Marie Cavada, Therese Comodini Cachia, Mady Delvaux, Lidia Joanna Geringer de Oedenberg, Mary Honeyball, Gilles Lebreton, António Marinho e Pinto, Julia Reda, Evelyn Regner, József Szájer, Tadeusz Zwiefka

Zamjenici nazočni na konačnom glasovanju

Daniel Buda, Sergio Gaetano Cofferati, Angel Dzhambazki, Heidi Hautala, Constance Le Grip, Victor Negrescu

Zamjenici nazočni na konačnom glasovanju prema čl. 200. st. 2.

Eleonora Evi, Andrey Novakov

PE582.443v03-00 64/64 RR\1115573HR.docx

HR