Czy grozi nam bunt maszyn? – Chyba tak.

fot. MGM

Czy sztuczna inteligencja nam zagraża?

Motyw buntu maszyn przeciw ludziom to póki co jedynie dobry pomysł na powieść, lub scenariusz filmu science fiction. Ale naukowcy ostrzegają – wkrótce fantazja może stać się rzeczywistością. A wtedy kto wie – być może czeka nas los podobny do tego, który spotkał bohaterów filmu „Matrix”.

Jak się okazuje – pierwsze incydenty związane z buntem maszyn miały już miejsce. Kevin Fahey, odpowiedzialny w Armii USA za naziemne systemy bojowe ujawnił, że w 2008 roku w Iraku doszło do takiego właśnie wypadku z udziałem robotów bojowych zwanych SWORDS (Special Weapons Observation Reconneissance Direct-action System).
W pewnym momencie maszyny nagle zaczęły się obracać i kierować lufy swoich karabinów w kierunku amerykańskich żołnierzy. Fahey twierdzi, że broń zaczęła się poruszać w czasie kiedy absolutnie nie powinna tego robić. Nikomu nic się nie stało, ale wypadek był na tyle groźny, że armia amerykańska rozważa wycofanie SWORDS ze służby i zastąpienie ich innymi, nowocześniejszymi robotami.

Tymczasem koncern Lockheed Martin opracował technologię dającą maszynom jeszcze większą autonomię. System ICARUS (Intelligent Control and Autonomous Re-planning of Unmanned Systems) to samodzielny, zupełnie autonomiczny system kierowania robotami bojowymi. Innymi słowy – sztuczna inteligencja kierująca sztuczną inteligencją. Odpowiedzialny za rozwój projektu ICARUS tłumaczy co prawda, że „dzięki ICARUSOWI można zmniejszyć zaangażowanie ludzi, a jednocześnie sprawować kontrolę nad zespołem bezzałogowych urządzeń wykonujących złożone misje w dynamicznie zmieniającym się środowisku”. Ale takie tłumaczenie nie uspokaja bynajmniej obaw związanych z puszczeniem uzbrojonych robotów „samopas”.

Co prawda naukowcy od lat pracują również nad technologią, która mogłaby uchronić ludzkość przed buntem robotów. Chodzi o „etykę” maszyn, czyli zaprogramowanie sztucznej inteligencji czegoś w rodzaju „systemu winy”. Nad takim projektem pracował na zlecenie US Army m.in. Ronald Arkin z Georgia Institute of Technology. Naukowiec starał się wyposażyć maszyny w „moralność”, dzięki której na polach bitew zachowywały by się nawet bardziej humanitarnie niż ludzie.
W wywiadzie udzielonym serwisowi CNET Arkin tłumaczy: pracujemy nad systememi, które będą przestrzegały międzynarodowych przepisów dotyczących prowadzenia wojny, naszych własnych kodeksów etycznych i zasad oraz warunków przystąpienia do walki i jej prowadzenia.
Zdaniem naukowca roboty można wyposażyć w system poczucia winy automatycznie uruchamiający „karę” w postaci zmniejszenia zdolności bojowych. Innymi słowy – gdyby maszyny czyniły zniszczenia większe od dopuszczalnych, system automatycznie ograniczałby ich działanie. Arkin zastrzega jednak, że „etyka” dla robotów, to zupełnie co innego, niż etyka ludzka. To raczej system komend, które roboty są w stanie zrozumieć i wykonać. Nic dziwnego, że Noel Sharkey, jeden z czołowych ekspertów ds. robotyki, nie kryje przerażenia w związku z planami USA i innych krajów dotyczącymi robotów bojowych.

US Army w działaniach prowadzonych na całym świecie już teraz wykorzystuje kilka tysięcy półautonomicznych maszyn, a amerykański Departament Obrony wydał dotąd ponad 4 miliardy dolarów na rozwój tej tchnologii. W najbliższych latach amerykanie planują wydać na ten cel kolejne 20 miliardów dolarów.
Wkrótce powstaną zapewne roboty, które samodzielnie będą decydowały o tym kiedy i do kogo otworzyć ogień. Zdaniem Sharkeya zanim to nastąpi powinno się opracować międzynarodowe prawo regulujące ilość produkowanych maszyn i określające mechanizmy bezpieczeństwa, w które roboty będą musiały być wyposażone.

Wizja „buntu robotów” może być również niezłym źródłem dochodów. Milioner Ben Way jest właścicielem firmy WAR Defence (Weapons Against Robots), która produkuje broń do walki z robotami. Way również uważa, że sztuczna inteligencja może stać się dla nas realnym zagrożeniem. Zdaniem biznesmena w ciągu najbliższych lat roboty staną się stałym wyposażeniem wielu domów, a za kilka dziesięcioleci ich zdolności fizyczne dorównają ludzkim. Co jeśli wówczas dojdzie do awarii systemu, albo prawdziwego buntu maszyn? Firma WAR Demence chce produkować systemy obronne i zabezpieczające, ale też zaawansowane programy-wirusy, które mogłyby „zarażać” i niszczyć buntowane maszyny.

źródło: LZ, JEGOEGO.PL