Boni: Zrozumieć i oswoić roboty (ROZMOWA)

15 lutego 2017, 07:30 Bezpieczeństwo

Z Michałem Bonim, posłem do Parlamentu Europejskiego, kontrsprawozdawcą raportu w sprawie przepisów prawa cywilnego dotyczących robotyki, w Parlamencie Europejskim w Brukseli rozmawiał Mieczysław T. Starkowski, redaktor BiznesAlert.pl.

BiznesAlert.pl: Panie pośle, kiedy rozpoczęły się prace nad raportem i jakie były ich postępy?

Michał Boni: Na początku ubiegłego roku w Parlamencie Europejskim, z inicjatywy Komisji Prawnej, powołano grupę roboczą w celu opracowania raportu o prawnych aspektach robotyki, głównie z perspektywy prawa cywilnego. Znaleźli się w niej przedstawiciele wielu komisji, między innymi Zatrudnienia i Spraw Społecznych, Wolności Obywatelskich, Sprawiedliwości i Spraw Wewnętrznych, Przemysłu, Badań Naukowych i Energii. Celem działania grupy, wszelkich dyskusji, wymiany zdań z ekspertami było rozpoznanie sytuacji. Bo przecież robotyka się rozwija, sztuczna inteligencja wchodzi w nasze życie, maszyny uczące się zaczynają uczestniczyć w produkcji, pomocy niepełnosprawnym i chorym, pomagają w edukacji, wykonują zadania na rzecz bezpieczeństwa.

To są roboty nowej generacji, bo ich działanie opiera się na szybkim przetwarzaniu olbrzymiej ilości informacji. Ale rośnie też stopień samodzielności podejmowanych przez nich decyzji. Mogą więc na przykład spowodować wypadek w miejscu pracy.

Rodzi się wtedy pytanie: kto ponosi odpowiedzialność za błąd, za incydent? Konstruktor? Właściciel? Operator? Współpracujący z robotem człowiek? Nie jest to jasne, bo maszyna ucząca się – wykorzystując odpowiednie algorytmy – sama ocenia ryzyka sytuacji i podejmuje decyzje. Trzeba zatem znaleźć nowe formy odpowiedzialności. To był punkt wyjścia.

W kwietniu 2016 roku w Parlamencie miało miejsce wysłuchanie publiczne na temat: „Prawne i etyczne aspekty rozwoju robotyki i sztucznej inteligencji”, podczas którego zaproszeni eksperci, prawnicy i inżynierowie przedstawili swoje rekomendacje dla posłów.

Natomiast w środę, 15 lutego, odbędzie się głosowanie w Parlamencie Europejskim w Strasburgu w sprawie zaleceń dla Komisji Europejskiej związanych z przepisami prawa dotyczącymi robotyki.

Jakie są najważniejsze zjawiska, których dotyczy raport?

Najistotniejsze jest to, że raport bardzo dobrze opisuje istniejącą sytuację i stawia kluczowe pytania. Prezentuje różne skutki rozwoju funkcjonowania robotów nowej generacji. Opisuje użyteczność robotów w wielu dziedzinach, pokazuje, jak ważne są standardy istotne dla procedur związanych z wykonywaniem różnych czynności w produkcji, w edukacji, w zdrowiu i opiece społecznej, w ochronie bezpieczeństwa i tak dalej. I dlatego rekomenduje, aby dokonać przeglądu standardów pod kątem tego, jakie są konieczne, gdy zadania wykonują roboty i jak bardzo potrzebna jest harmonizacja standardów na poziomie europejskim. Mówi o rozwoju badań w tej dziedzinie i wymianie doświadczeń europejskich.

Dokument pokazuje zagrożenia dla rynku pracy i zatrudnienia ludzi. Czy roboty wyprą ludzi z wykonywania wielu zadań ? W niektórych zawodach wyprą, ale powstaną nowe profesje. W większości robot nie będzie zastępował człowieka, ale uzupełniał jego funkcje. Dla lepszej efektywności. Musimy się więc nauczyć – jako ludzie – współpracować z robotami, rozumieć je, komunikować się z nimi (rośnie znaczenie technik rozpoznawania przez roboty ludzkiego głosu, co już stosuje Amazon) i pilnować, by utrzymywać nad nimi kontrolę.

Raport nie zawiera gotowych regulacji prawnych. Jest zbiorem sugestii i rekomendacji dla Komisji Europejskiej. Dotyczą one rejestru robotów, które są Sztuczną Inteligencją w najwyższym (do tej pory) wymiarze. To ważne, by wiedzieć, gdzie są i jakie mają zadania. Rekomendacje te mówią również o harmonizacji europejskiej: standardach technicznych i komunikacyjnych. Proponują powołanie europejskiej agencji, która monitorowałaby zmiany zachodzące w tej nowej rzeczywistości – rzeczywistości robotów. Osobiście nie jestem pewien, czy zaczynać od nowej agencji europejskiej, czy nie przekazać zadań monitorowania rozwoju robotyki którejś z istniejących instytucji.

Raport ma też wymiar humanistyczny.

Mocno podkreśla, że jedną z kluczowych spraw jest zgodność powstającego świata robotów z zasadami etyki, standardami ochrony prywatności osób działających wokół robotów i z robotami, regułami bezpieczeństwa, z prawami fundamentalnymi. Roboty nie powinny nikogo dyskryminować, ani mieć swobody przekazywania różnych danych, przede wszystkim danych personalnych, w tym zdrowotnych. Roboty nie mogą nikogo emocjonalnie uzależniać. To oznacza, że w algorytmy i konstrukcję robotów od początku muszą być wpisane zasady przestrzegania prawa o ochronie prywatności, muszą istnieć mechanizmy samokasujące zbieranie danych bez zgody ludzi o tych ludziach, na przykład szyfrowanie informacji dla bezpieczeństwa musi być wpisane w schematy algorytmów. To jest zadanie dla przemysłu, to obowiązek biznesu. W Stanach Zjednoczonych na wszystkich wydziałach inżynierskich zajmujących się robotyką uczy się studentów zasad etyki. Takie rozwiązanie przydałoby się w Europie. Ale też, dlatego tak ważne są wspólnie ustalane przez wszystkich partnerów zasady, które mogłyby tworzyć kodeksy postępowania.

Jako sprawozdawca z Komisji ds. Wolności Obywatelskich oraz Sprawiedliwości i Spraw Wewnętrznych bardzo mocno to podkreślam i nasza opinia na ten temat jest częścią raportu.

Co według Pana posła jest istotą tego dokumentu?

Istota raportu polega na tym, że jest to pierwsze tego typu podejście do tematu. Dajemy sygnał i chcemy mobilizować środowiska zainteresowane rozwojem robotyki, by szukały wspólnych rozwiązań. Jest to też apel do Komisji Europejskiej, by przygotowała analizę sytuacji i zaproponowała rozwiązania, jaką drogą iść w Europie.

Dokument – zwracając uwagę na rozwój robotyki – mówi o potrzebie debaty publicznej i oswojenia tematu. I uznaje, że jest jeszcze za wcześnie na twarde regulacje. Ponieważ potrzebne są reguły i normy, należy skorzystać z istniejących przepisów (między innymi o ochronie danych osobowych są, o procedurach medycznych – też są) oraz kodeksów postępowania. To pozwoli przygotować się do ewentualnych późniejszych regulacji, nie ograniczając rozwoju.

Raport – to istotne – nie zaleca korzystania z wypracowanych już, skończonych rozwiązań dotyczących odpowiedzialności cywilnej. Ale nie chce też przenosić odpowiedzialności wyłącznie na konstruktorów czy operatorów. Na przykład przy rozważaniu kwestii, czy istnieje „cyfrowy podmiot”, jakim mógłby być robot, nie określa jednoznacznie, czy taki status roboty mogłyby otrzymywać. Ale zarazem sugeruje, że użytkownicy i konstruktorzy mogliby tworzyć wspólny fundusz, z którego byłyby wypłacane odszkodowania za incydenty spowodowane przez roboty. To sprawa do dalszych prac – i jedna z najbardziej kontrowersyjnych.

Jakie są inne istotne różnice poglądów?

Te kontrowersje to między innymi niechęć części środowisk i posłów, by wprowadzać coś, co byłoby jakąś formą opodatkowania tworzenia i używania robotów. Bo przecież wszyscy partnerzy: od producentów robotów po ich użytkowników płacą podatki, a więc protestują przeciwko ich podnoszeniu. Do tych spraw trzeba będzie wrócić.

Pojawiły się też inne rozbieżności poglądów. Na przykład wspomniana wcześniej propozycja powołania specjalnej agencji, która zajmowałaby się monitorowaniem zjawisk związanych z robotyką oraz opracowywaniem standardów rozwoju robotyki. Czy miałaby ona powielać zadania europejskich instytucji zajmujących się standardami technicznymi?

Mówił Pan już o zagrożeniach dla pracy ludzi. Ta sprawa budzi ogromne emocje.

Dlatego pojawił się pomysł, dyskutowany zresztą szeroko w świecie co najmniej od dwóch lat, czy nie przydałoby się, by w związku z nowymi technologiami i zmianami, jakie mogą one wywołać na rynku pracy, nie wprowadzić wynagrodzenia bazowego na masową skalę. Dostępne dla każdego wynagrodzenie bazowe to byłoby coś więcej niż płaca minimalna. W wersji maksymalnej – to rozwiązanie dla wszystkich (pracujących, bezrobotnych i biernych). Przy czym to, co zatrudnieni dostawaliby za pracę nie powinno wpływać na utratę wynagrodzenia bazowego. W wersji minimalnej – to dochód przekazywany każdemu, kto pracuje w takich miejscach, gdzie technologie mogą go tej pracy pozbawić albo ograniczyć lub zmienić model jej wykonywania.

To bardzo drogie rozwiązanie, o niejasnych skutkach i efektywności. Nie wiadomo, czy nie będzie dezaktywizowało, zamiast stwarzać pomost między jednymi rodzajami pracy a nowymi. W wielu krajach, w wielu wzorcach kultury pracy osłabi ono pozytywną motywację do zmian i wprowadzi bodźce demotywujące.

Uważam zatem, że to niedobre rozwiązanie. Już lepiej byłoby opracować w Unii Europejskiej i w poszczególnych krajach odpowiednie programy przejścia: od starych umiejętności do nowych, od starej pracy do nowej. Można byłoby wtedy uczyć pracowników nie tylko nowych umiejętności, ale i dawać wsparcie mentalne do rozumienia całego procesu przemiany zawodów i pracy ze względu na presję i zmiany technologiczne. Do tej sprawy trzeba będzie wrócić w jakiś racjonalny sposób.

Podsumowując, to bardzo ważny i dobry raport. Inicjuje on dyskusję i poszukiwanie rozwiązań dla świata, w który wkraczamy – świata z robotami i sztuczną inteligencją, świata, który trzeba zrozumieć i oswoić, by zachować rzecz podstawową: naszą kontrolę nad robotami. A przy tym w pełni skorzystać z szansy, jaką świat robotów niesie. Ale to dopiero początek drogi.

Rozmawiał Mieczysław Starkowski