Niedawno został opublikowany dokument, który może zmienić kierunek rozwoju nowych technologii. Nieoficjalnie Unia Europejska zamierza wprowadzić rozwiązanie prawne i zakazać wykorzystania sztucznej inteligencji do masowej inwigilacji i oceniania zachowań społecznych (Social Credit System).
81-stronicowy dokument niedawno opublikowany przez Politico, zawiera projekt ustawy, która miałaby ograniczyć wykorzystanie sztucznej inteligencji do niektórych celów na terenie Unii Europejskiej. Zgodnie z projektem wykorzystanie oprogramowania i algorytmów sztucznej inteligencji do masowej inwigilacji i zachowań społecznych może być odgórnie zakazane w całej Europie. W dokumencie pojawia się zapis, który mówi, że "masowy nadzór nad osobami fizycznymi powinien być zakazany, jeżeli jest stosowany w sposób ogólny wobec wszystkich bez różnicowania".
W dokumencie pojawiła się wzmianka o zakazie stosowania sztucznej inteligencji do oceny wiarygodności na podstawie zachowań społecznych lub cech osobowości. Nadzór miałby dotyczyć także rozwiązań z zakresu sztucznej inteligencji w autonomicznych samochodach oraz innych, które miałyby wpływ na ludzkie życie. Projekt zakłada także utworzenie Europejskiej Rady ds. Sztucznej Inteligencji, czyli organu składającego się z przedstawicieli każdego państwa członkowskiego, aby wspierać Komisję Europejską przy tworzeniu nowych rozwiązań prawnych, i opiniowanie, które systemy sztucznej inteligencji mogą zostać uznane za "wysokiego ryzyka". Niektóre rozwiązania podlegałyby nadzorowi Unii Europejskiej w podobny sposób jak regulacje dotyczące prywatności cyfrowej na mocy przepisów RODO. Nowe prawo miałoby zapewnić rozwój sztucznej inteligencji zgodnie z wysokimi standardami etycznymi.
Potencjalne systemy zaufania społecznego (ang. Social Credit System), które mogą powstać w przyszłości, mają zostać odgórnie zabronione. "Systemy sztucznej inteligencji wykorzystywane do ogólnej punktacji społecznej powinny być zakazane" - pojawia się taka rekomendacja w dokumencie. Obecnie system punktacji społecznej funkcjonuje w Chinach - niektórzy naukowcy twierdzą, że on jest zbyt inwazyjny i może zostać wykorzystany do przejęcia kontroli nad życiem obywateli przez rządzących. Niektóre rozwiązania z zakresu sztucznej inteligencji mogą być warunkowo dopuszczone. Takie systemy mają zostać poddane dokładnej kontroli, a właściciel ma obowiązek wykazać, że system został przeszkolony na obiektywnych zbiorach danych i nie będzie dyskryminować. Do takich rozwiązań należą m.in. zdalne systemy identyfikacji biometrycznej, które służą do identyfikacji twarzy w miejscach publicznych. Firmy, które rozwijałyby sztuczną inteligencję na terenie Unii Europejskiej bez odpowiedniej zgody i mogłyby zostać ukarane grzywną w wysokości 20 milionów euro (24 milionów dolarów) lub 4% światowych przychodów.
Propozycja oficjalnie zostanie złożona w tym tygodniu przez Komisję Europejską, organ wykonawczy UE. Obecnie Komisja Europejska stara się znaleźć właściwą równowagę i rozwiązania, które zarówno będą wspierać rozwój innowacji i nowych technologii, a także zapewnić korzyści dla ponad 500 milionów mieszkańców Unii Europejskiej. Państwa członkowskie byłyby zobowiązane do ustanowienia krajowych komisji, które miałyby za zadanie testowanie i walidację systemów sztucznej inteligencji wysokiego ryzyka. Dotychczas Stany Zjednoczone i Chiny nie wprowadziły żadnych poważnych regulacji dotyczących rozwoju sztucznej inteligencji - możliwe jest, że Unia Europejska będzie w tym zakresie liderem. W środowisku biznesowym i nauki zawrzało i propozycja regulacji spotkała się z krytyką. Niektórzy eksperci uważają, że bieżące opisy systemów sztucznej inteligencji są niejasne i stworzyłyby szerokie pole do interpretacji i karania firm. Przed wprowadzeniem tego rozwiązania jest długa droga - zapisy mogą ulec zmianom w wyniku poprawek zgłaszanych przez europosłów i jeżeli zostanie to przegłosowane to będzie wdrożone oddzielnie w każdym państwie członkowskim.