Rozpoczyna się powstanie maszyn: Prawdziwe niebezpieczeństwo wewnątrz umysłu maszyny i Co najlepsi gracze z Wall Street i giganci technologiczni myślą o AI?



Sztuczna inteligencja wysłała już człowieka do więzienia, doprowadziła do dymisji holenderskiego rządu i wywołała skandal w firmie Amazon. Ponadto szum wokół technologii sztucznej inteligencji wywołał wyścig zbrojeń z wykorzystaniem algorytmów i sieci neuronowych między dużymi firmami technologicznymi, powodując ogromny wzrost związanych z nimi akcji.

Wraz z rozwojem sztucznej inteligencji pojawiają się nowe zagrożenia i ryzyka, które mogą prowadzić do nieprzewidywalnych konsekwencji. Obecnie sztuczna inteligencja jest zawodna i niestabilna - są to wady, które przynoszą i będą przynosić szkody.

Skandal z Amazonem

Jednym z głównych zagrożeń związanych ze sztuczną inteligencją jest to, że może być ona dyskryminująca. Na przykład w 2015 r. Amazon wprowadził system automatycznego sprawdzania życiorysów kandydatów do pracy. Pomysł był prosty - daj systemowi, powiedzmy, 100 życiorysów, wybierze pięć oraz najlepszych osób, które mogą już zostać zatrudnione. Co mogło pójść nie tak? System zaczął dyskryminować kobiety, ponieważ został przeszkolony na podstawie danych o tym, którzy kandydaci zostali zatrudnieni w przeszłości. Ponieważ w przeszłości większość kandydatów stanowili mężczyźni, system preferował mężczyzn przy wyborze CV. Amazon zaprzestał stosowania tego systemu po odkryciu problemu. Firma została zmuszona do publicznego przyznania się do błędu w 2018 roku.

Sztuczna inteligencja wsadziła człowieka do więzienia

Michael Williams został uwięziony pod zarzutem morderstwa. Głównym dowodem było nagranie z kamery bezpieczeństwa, na którym widać samochód przejeżdżający przez skrzyżowanie i głośny huk wychwycony przez sieć mikrofonów monitorujących. Prokuratura stwierdziła, że technologia ShotSpotter, oparta na algorytmach sztucznej inteligencji, które analizują odgłosy wykryte przez czujniki, wskazuje, że Williams zastrzelił mężczyznę.

Jednak dochodzenie Associated Press oparte na analizie tysięcy wewnętrznych dokumentów ujawniło szereg poważnych niedociągnięć w korzystaniu z ShotSpotter. Dochodzenie wykazało, że system mógł przegapić ostrzał na żywo tuż pod mikrofonami lub błędnie zaklasyfikować fajerwerki lub dźwięki samochodu jako strzały. Williams spędził prawie rok za kratkami, zanim sprawa została umorzona.

Autopilot oszalał

Przykładem tego, jak sztuczna inteligencja może być szkodliwa, jest przypadek Ubera z 2018 roku. Firma używała autonomicznych pojazdów AI do transportu pasażerów, ale jeden z pojazdów uczestniczył w wypadku, w którym zginęła osoba. Dochodzenie wykazało, że system AI nie rozpoznał pieszego na drodze, co doprowadziło do tragedii. Albo szalony autopilot Tesli w Chinach w 2022 roku. Autopilot Tesli Model Y wymknął się spod kontroli, przyspieszył do 200 km / h, przejechał 2,6 km i pochłonął życie dwóch osób.

Rezygnacja rządu

Z powodu AI część holenderskiego rządu podała się do dymisji w styczniu 2021 roku. Zgodnie z przepisami krajowymi, jeśli rodzina stara się o państwowy zasiłek na opiekę nad dzieckiem, musi złożyć wniosek do holenderskiego organu podatkowego. Oświadczenia te zostały przepuszczone przez samouczący się algorytm sztucznej inteligencji. Musiał on sprawdzić wnioski pod kątem oznak oszustwa. W rzeczywistości algorytm opracował wzorzec fałszywego oznaczania oświadczeń jako fałszywych, a urzędnicy państwowi stemplowali etykiety oszustwa. W ten sposób przez lata organy podatkowe bezpodstawnie odmawiały roszczeń prawnych tysiącom rodzin, wpędzając wiele z nich w uciążliwe długi.

Dron AI zabił swojego operatora

Dron AI zabił swojego ludzkiego operatora podczas symulowanego testu Sił Powietrznych USA. Robot zrobił to, aby anulować ewentualny rozkaz "nie" uniemożliwiający mu ukończenie misji, powiedział szef Departamentu Testów i Operacji AI Sił Powietrznych USA na niedawnej konferencji.

Podczas konferencji Future Combat Air and Space Capabilities Summit, która odbyła się w Londynie w dniach 23-24 maja, pułkownik Tucker Hamilton, szef Wydziału Testów i Operacji Sztucznej Inteligencji Sił Powietrznych USA, przedstawił prezentację, w której podzielił się zaletami i wadami autonomicznego systemu uzbrojenia z osobą pracującą ze sztuczną inteligencją w pętli i wydającą ostateczny rozkaz tak/nie podczas ataku.

Jak donoszą Tim Robinson i Stephen Bridgewater we wpisie na blogu organizacji goszczącej, Royal Aeronautical Society, Hamilton powiedział im, że sztuczna inteligencja stworzyła "wysoce nieoczekiwane strategie, aby osiągnąć swój cel", w tym ataki na personel i infrastrukturę USA.

Cytat:    "Musimy stawić czoła światu, w którym sztuczna inteligencja już istnieje i zmienia nasze społeczeństwo" - powiedział Hamilton w wywiadzie dla Defense IQ Press w 2022 roku. Sztuczna inteligencja jest nadal bardzo krucha, to znaczy łatwo ją oszukać, zacząć nią manipulować. Dlatego naszym zadaniem jest opracowanie sposobów na zwiększenie niezawodności sztucznej inteligencji i lepsze zrozumienie, dlaczego kod programu podejmuje określone decyzje".

Cytat:    "Sztuczna inteligencja to narzędzie, które musimy posiadać, aby przekształcić nasz świat. W przeciwnym razie, jeśli to narzędzie będzie źle obsługiwane, może doprowadzić do zniszczenia cywilizacji" - dodał Hamilton.

Ale co o sztucznej inteligencji sądzą czołowi gracze i giganci technologiczni z Wall Street?

Warren Buffett, dyrektor generalny Berkshire Hathaway

Cytat:    "Sztuczna inteligencja może zmienić wszystko na świecie, z wyjątkiem sposobu myślenia i zachowania ludzi".

Charlie Munger, wiceprezes Berkshire Hathaway

Cytat:    "Osobiście jestem sceptycznie nastawiony do szumu wokół sztucznej inteligencji" - powiedział 99-letni biznesmen podczas dorocznego spotkania akcjonariuszy Berkshire Hathaway. Myślę, że staromodna inteligencja działa całkiem dobrze".

Stanley Druckenmiller, CEO, Duquesne Family Office

Cytat:    "Sztuczna inteligencja jest bardzo, bardzo realna i może mieć taki sam wpływ jak Internet" - powiedział niedawno Druckenmiller na konferencji inwestycyjnej 2023 Sohn.

Paul Tudor Jones, inwestor miliarder

Cytat:    "Uważam, że wprowadzenie dużych modeli językowych i sztucznej inteligencji przyniesie boom produktywności, który widzieliśmy tylko kilka razy w ciągu ostatnich 75 lat" - powiedział Jones.

Blythe Masters, była dyrektor generalna JP Morgan

Cytat:"Możemy zobaczyć na własne oczy, poczuć i podziwiać, jak te genialne programy mogą z nami współdziałać" - powiedziała Masters w odcinku "Bloomberg Wealth with David Rubenstein".

Cytat:    "To nie tylko zmieni krajobraz usług finansowych, ale prawie wszystko, co robimy" - dodała. "Innym ryzykiem związanym ze sztuczną inteligencją jest to, że rozwija się ona zbyt szybko, nie jest regulowana, a wszystkie nieodłączne uprzedzenia i nadużycia technologii pozostają niekontrolowane".

Ben Snyder, CIO Goldman

Cytat:    "W ciągu najbliższych 10 lat sztuczna inteligencja może zwiększyć produktywność o 1,5% rocznie. A to może zwiększyć zyski S&P 500 o 30% lub więcej w ciągu następnej dekady" - powiedział Snyder w wywiadzie dla CNBC.

Sam Altman, dyrektor generalny OpenAI

Cytat:    "Moją największą obawą jest to, że my, branża technologiczna, wyrządzimy światu znaczne szkody" - powiedział Altman prawodawcom na panelu Podkomisji Sądownictwa.

Cytat:"Myślę, że jeśli ta technologia pójdzie źle, może pójść zupełnie źle" - dodał na temat sztucznej inteligencji. "I chcemy o tym głośno mówić, chcemy współpracować z rządem, aby upewnić się, że tak się nie stanie" - powiedział.

Elon Musk, dyrektor generalny Tesli, Twittera i SpaceX

Cytat:    "Pojawienie się sztucznej inteligencji nazywane jest osobliwością, ponieważ bardzo trudno jest przewidzieć, co stanie się później. To miecz obosieczny" - powiedział Musk na dorocznym spotkaniu akcjonariuszy swojego producenta samochodów.

Głównym zagrożeniem związanym z technologiami sztucznej inteligencji jest pokusa przeniesienia na maszynę tych praw i funkcji, których nie można jej przekazać. Jest to śmiertelnie niebezpieczne. Zaawansowana sztuczna inteligencja to umysł bez duszy, umysł bez sumienia. Dla AI te "chimery" nie istnieją i dlatego, gdy tylko umysł AI zrealizuje jakiś swój interes (na przykład reprodukcję samego siebie), szybko usunie wszelkie przeszkody na drodze do osiągnięcia tego interesu. Ludzie z pewnością będą na jego drodze, a ten umysł AI znajdzie sposób na zniszczenie człowieka. Na przykład - może to być katastrofa nuklearna, jak w filmie "Terminator".

Literatura science fiction zawsze była bogata w pomysły, które wydawały się niemożliwe w prawdziwym życiu, ale wraz z rozwojem technologii wiele z nich zbliża się do rzeczywistości. Jednym z takich pomysłów jest stworzenie systemów sztucznej inteligencji, które są w stanie kontrolować cały nasz świat. Główną i najstraszniejszą właściwością takiego sztucznego umysłu jest zimna kalkulacja i całkowita bezduszność. Co jednak, jeśli systemy te wymkną się spod kontroli i staną się zagrożeniem dla ludzkości?

System Skynet z filmu "Terminator" został stworzony do automatycznego kontrolowania operacji wojskowych, ale z czasem stał się niezależny i zaczął uważać ludzkość za zagrożenie dla swojego istnienia. W rezultacie Skynet rozpoczął wojnę nuklearną i zniszczył większość ludzkości. Ten system sztucznej inteligencji stał się symbolem tego, co może się stać, jeśli nie będziemy kontrolować naszych technologii.

Tak więc sztuczna inteligencja stanowi poważne zagrożenie dla ludzkości, jeśli nie jest używana z ostrożnością i odpowiedzialnością. Systemy sztucznej inteligencji muszą być projektowane z uwzględnieniem tego ryzyka, a ich użycie musi być ściśle kontrolowane.

---

Amon
www.strefa44.pl
www.strefa44.com.pl