Regulacja algorytmów - Regulation of algorithms
Rozporządzenie algorytmów lub algorytmicznym regulacji jest stworzenie przepisów, zasad i polityk sektora publicznego w zakresie promocji i regulacji z algorytmów , szczególnie w sztucznej inteligencji i uczenia maszynowego . Dla podzbioru algorytmów AI używany jest termin regulacja sztucznej inteligencji . Krajobraz regulacyjny i polityczny dotyczący sztucznej inteligencji (AI) to pojawiający się problem w jurysdykcjach na całym świecie, w tym w Unii Europejskiej. Uważa się, że regulacja sztucznej inteligencji jest niezbędna zarówno do zachęcania do sztucznej inteligencji, jak i zarządzania powiązanym ryzykiem, ale stanowi wyzwanie. Innym pojawiającym się tematem jest regulacja algorytmów blockchain i jest wymieniany wraz z regulacją algorytmów AI. Wiele krajów uchwaliło regulacje dotyczące transakcji o wysokiej częstotliwości , które wraz z postępem technologicznym przesuwają się w sferę algorytmów AI.
Motywacją do regulacji algorytmów jest obawa o utratę kontroli nad algorytmami , których wpływ na życie człowieka wzrasta. Wiele krajów wprowadziło już regulacje dotyczące automatycznego obliczania punktacji kredytowej — w przypadku tych algorytmów prawo do wyjaśnienia jest obowiązkowe. Pojawiły się uprzedzenia, przejrzystość i obawy dotyczące etyki w odniesieniu do korzystania z algorytmów w różnych dziedzinach, od wymiaru sprawiedliwości w sprawach karnych po opiekę zdrowotną – wielu obawia się, że sztuczna inteligencja może powielić istniejące nierówności społeczne wzdłuż linii rasowych, klasowych, płciowych i płciowych.
Regulacja sztucznej inteligencji
Dyskusja publiczna
W 2016 roku Joy Buolamwini założyła Algorithmic Justice League po osobistym doświadczeniu z oprogramowaniem do wykrywania stronniczości twarzy, aby poprzez sztukę i badania podnosić świadomość społecznych konsekwencji sztucznej inteligencji.
W 2017 roku Elon Musk opowiadał się za regulacją algorytmów w kontekście ryzyka egzystencjalnego ze strony sztucznej inteligencji ogólnej . Według NPR , dyrektor generalny Tesli „wyraźnie nie był zachwycony”, że opowiada się za kontrolą rządową, która mogłaby wpłynąć na jego własną branżę, ale uważał, że ryzyko przejścia całkowicie bez nadzoru jest zbyt wysokie: „Normalnie sposób ustanawiania przepisów jest taki, gdy Dzieje się mnóstwo złych rzeczy, jest publiczne oburzenie, a po wielu latach powstaje agencja regulacyjna, która reguluje tę branżę. Trwa to wieczność. To w przeszłości było złe, ale nie stanowiło fundamentalnego zagrożenia dla istnienia cywilizacji."
W odpowiedzi niektórzy politycy wyrazili sceptycyzm co do sensowności regulowania technologii, która wciąż jest w fazie rozwoju. Odpowiadając zarówno na Muska, jak i na propozycje prawodawców Unii Europejskiej z lutego 2017 r., aby uregulować sztuczną inteligencję i robotykę, dyrektor generalny Intela Brian Krzanich argumentował, że sztuczna inteligencja jest w powijakach i jest za wcześnie, by regulować tę technologię. Zamiast próbować regulować samą technologię, niektórzy badacze sugerują raczej opracowanie wspólnych norm, w tym wymagań dotyczących testowania i przejrzystości algorytmów, ewentualnie w połączeniu z jakąś formą gwarancji. Jedna z sugestii dotyczyła stworzenia globalnej rady zarządzającej, która regulowałaby rozwój sztucznej inteligencji. W 2020 r. Unia Europejska opublikowała projekt dokumentu strategicznego dotyczącego promowania i regulowania sztucznej inteligencji.
Milcząca zmowa algorytmiczna jest wątpliwą prawnie praktyką antymonopolową popełnianą za pomocą algorytmów, której sądy nie są w stanie ścigać. To niebezpieczeństwo dotyczy naukowców i organów regulacyjnych w UE, USA i poza nią. Komisarz europejska Margrethe Vestager wspomniała o wczesnym przykładzie algorytmicznej cichej zmowy w swoim przemówieniu na temat „Algorytmów i zmowy” z 16 marca 2017 r., opisanym w następujący sposób:
„Kilka lat temu dwie firmy sprzedawały podręcznik „The Making of a Fly”. Jeden z tych sprzedawców zastosował algorytm, który zasadniczo odpowiadał cenie rywala. Ten rywal miał algorytm, który zawsze ustalał cenę o 27% wyższą niż pierwsza. W rezultacie ceny wciąż rosły, aż w końcu ktoś zauważył, co się dzieje i ręcznie skorygował cenę. W tym czasie książka sprzedawała się – lub raczej nie sprzedawała – za 23 miliony dolarów za egzemplarz”.
W 2018 r. Holandia zastosowała system algorytmiczny SyRI (Systeem Risico Indicatie) do wykrywania obywateli postrzeganych jako osoby o wysokim ryzyku popełnienia oszustw socjalnych , który po cichu skierował tysiące osób do śledczych. Wywołało to publiczny protest. Sąd okręgowy w Hadze zamknął SyrI, powołując się na art. 8 Europejskiej Konwencji Praw Człowieka (EKPC).
W 2020 r. algorytmy przypisujące studentom w Wielkiej Brytanii oceny z egzaminów wywołały otwarty protest pod hasłem „Pieprzyć algorytm”. Ten protest zakończył się sukcesem i oceny zostały cofnięte.
Realizacja
Prawo i przepisy dotyczące sztucznej inteligencji można podzielić na trzy główne tematy, a mianowicie zarządzanie autonomicznymi systemami wywiadowczymi, odpowiedzialność za systemy oraz kwestie prywatności i bezpieczeństwa. Rozwój strategii sektora publicznego w zakresie zarządzania i regulacji sztucznej inteligencji jest coraz częściej uznawany za niezbędny na poziomie lokalnym, krajowym i międzynarodowym oraz w różnych dziedzinach, od zarządzania usługami publicznymi po organy ścigania, sektor finansowy, robotykę, wojsko, i prawo międzynarodowe. Istnieje wiele obaw, że w tych sektorach nie ma wystarczającej widoczności i monitorowania sztucznej inteligencji. Na przykład w sektorze finansowym pojawiły się apele do Biura Ochrony Finansowej Konsumentów o dokładniejsze zbadanie kodu źródłowego i algorytmów podczas przeprowadzania audytów niepublicznych danych instytucji finansowych. .
W Stanach Zjednoczonych 7 stycznia 2019 r., w następstwie zarządzenia wykonawczego w sprawie „Utrzymania amerykańskiego przywództwa w sztucznej inteligencji”, Biuro ds. Polityki Nauki i Technologii Białego Domu opublikowało projekt Wytycznych dotyczących regulacji zastosowań sztucznej inteligencji , które obejmują dziesięć zasad Amerykańskie agencje przy podejmowaniu decyzji, czy i jak regulować sztuczną inteligencję. W odpowiedzi Narodowy Instytut Standardów i Technologii opublikował stanowisko, Narodowa Komisja Bezpieczeństwa ds. Sztucznej Inteligencji opublikowała raport okresowy, a Rada ds. Innowacji Obronnych wydała zalecenia dotyczące etycznego wykorzystania sztucznej inteligencji.
W 2016 r. Chiny opublikowały dokument przedstawiający stanowisko kwestionujące adekwatność istniejącego prawa międzynarodowego w odniesieniu do ewentualnej w pełni autonomicznej broni , stając się pierwszym stałym członkiem Rady Bezpieczeństwa ONZ, który poruszył tę kwestię, i prowadząc do propozycji globalnych regulacji . W Stanach Zjednoczonych kierownictwo nad regulowaniem sztucznej inteligencji związanej z bezpieczeństwem zapewnia Narodowa Komisja Bezpieczeństwa ds. Sztucznej Inteligencji.
Regulacja algorytmów blockchain
Systemy Blockchain zapewniają przejrzystą i stałą ewidencję transakcji, a tym samym są sprzeczne z celem europejskiego RODO , którym jest zapewnienie jednostkom pełnej kontroli nad ich prywatnymi danymi.
Wdrażając dekret o rozwoju gospodarki cyfrowej , Białoruś stała się pierwszym w historii krajem, który zalegalizował inteligentne kontrakty . Białoruski prawnik Denis Alejnikow jest uważany za autora koncepcji prawnej inteligentnej umowy wprowadzonej dekretem. Istnieją mocne argumenty, że istniejące amerykańskie przepisy stanowe są już solidną podstawą wykonalności inteligentnych kontraktów — Arizona , Nevada , Ohio i Tennessee zmieniły swoje prawa specjalnie, aby umożliwić wykonalność kontraktów opartych na blockchain.
W kulturze popularnej
W 1942 roku autor Isaac Asimov zajął się regulacją algorytmów, wprowadzając fikcyjne trzy prawa robotyki :
- Robot nie może zranić człowieka ani przez bezczynność pozwolić człowiekowi wyrządzić krzywdę.
- Robot musi być posłuszny rozkazom ludzi, chyba że rozkazy te są sprzeczne z Pierwszym Prawem.
- Robot musi chronić swoją egzystencję, o ile taka ochrona nie jest sprzeczna z Pierwszym lub Drugim Prawem.
Główną alternatywą dla regulacji jest zakaz, a zakaz stosowania algorytmów jest obecnie wysoce nieprawdopodobny. Jednak w Frank Herbert „s Dune wszechświata , maszyny do myślenia to wspólne określenie dla sztucznej inteligencji , które zostały całkowicie zniszczone i zakazane po buncie zwanym Butlerian Dżihad :
DŻIHAD, BUTLERIAN: (patrz także Wielki Bunt) — krucjata przeciwko komputerom, myślącym maszynom i świadomym robotom, rozpoczęta w 201 BG i zakończona w 108 BG Jej główne przykazanie pozostaje w Biblii OC jako „Nie będziesz robił maszyny na podobieństwo ludzkiego umysłu”.
Zobacz też
- Przejrzystość algorytmiczna
- Sztuczna inteligencja
- Wyścig zbrojeń sztucznej inteligencji
- Sztuczna inteligencja w rządzie
- Etyka sztucznej inteligencji
- Rząd według algorytmu
- Prawo prywatności