Harari ostrzega przed sztuczną inteligencją, która tworzy własne wartości i przejmuje kontrolę nad światem na konferencji Connected 2024 w Astanie

Ostrzegając przed rozwojem sztucznej inteligencji (AI) „bez wystarczającego namysłu i uwagi poświęconej zasadom moralnym”, a także przed niebezpieczeństwem „AI tworzącego własne wartości”, „jedyną ideą jednoczącą ludzkość w szybko rozwijającym się świecie maszyn i technologii jest świadomość jej biologicznej istoty”, powiedział pisarz i humanista Yuval Noah Harari podczas transmisji na żywo na konferencji „Connected 2024: Reimagining the Future”, która odbyła się w Pałacu Niepodległości w Astanie w Kazachstanie 18 października 2024 r. 

Odnosząc się do AI lub Obcej Inteligencji jako „obcych”, podkreślił, że decyzje podejmowane przez taki nieorganiczny byt są zasadniczo inne niż decyzje podejmowane przez ludzi lub zwierzęta i nie byłyby „odpowiednie” dla istot organicznych. „Myślę, że musimy sobie przypomnieć w XXI wieku o naszej biologicznej istocie, która jest wspólna dla wszystkich. Musimy zadbać o to, aby świat był odpowiedni dla istot organicznych. Nie powinniśmy pozwalać istotom nieorganicznym na przejęcie tego, tworzenie własnych osi czasu i przejmowanie kontroli nad światem” — potwierdził autor bestsellerów Sapiens, Homo Deus i Nexus.

Podkreślając, że „media społecznościowe są pierwszym poważnym spotkaniem człowieka ze sztuczną inteligencją”, wyjaśnił, że najważniejsze platformy informacyjne, takie jak TikTok, X, Facebook i YouTube, są w dużej mierze zarządzane przez sztuczną inteligencję, która „nie interesuje się wartościami ani prawdą”, mając na celu „zwiększenie zaangażowania odbiorców”.

„A co ta sztuczna inteligencja odkryła metodą prób i błędów, eksperymentując na milionach lub miliardach ludzkich „szczurów laboratoryjnych”? Odkryła, że ​​bardzo łatwo jest przyciągnąć uwagę i zatrzymać osobę na platformie dłużej, rozpowszechniając fałszywe wiadomości, teorie spiskowe, nienawiść, chciwość i strach, ponieważ takie treści aktywnie nas przyciągają”, kontynuował, dodając, że „jesteśmy świadkami spadku racjonalnego dyskursu na całym świecie, ponieważ decyzje są podejmowane przez sztuczną inteligencję, która w żaden sposób nie jest związana z ludzką moralnością ani zasadami”.

„AI może zacząć wymyślać nowe rodzaje wartości we wszystkich sferach — od systemów finansowych po religię. Musimy teraz zrozumieć, co stanie się z rządami i społeczeństwem ludzkim, gdy ludzie stracą kontrolę nad tak istotnymi elementami, jak systemy polityczne lub finansowe” — zauważył Harari.

Podkreślając, że błędy popełnione w epoce industrializacji, takie jak powstanie reżimów totalitarnych dążących do całkowitej kontroli nad polityką i społeczeństwem z postaciami takimi jak Stalin i Hitler, nie powinny być powtarzane, Harari zaznaczył, że „Technologia sama w sobie nie jest złem. Problem polega na tym, że nie wiemy, jak zbudować wysokiej jakości społeczeństwo w oparciu o wykorzystanie AI”.

Stwierdził również, że nie wierzy w fundamentalne sprzeczności między ludźmi, narodami i krajami, których nie da się przezwyciężyć, porównując odizolowane plemiona epoki kamiennej do bardziej połączonych ludzi dzisiejszych czasów: Według futurologa, przez ponad 10,000 8 lat historii ludzie znajdowali sposoby na przezwyciężenie różnic i uczyli się współpracować z osobami z zewnątrz. „Dziś współpraca wykracza poza granice państwowe. W pewnym sensie mówimy o globalnej sieci, która obejmuje wszystkich XNUMX miliardów ludzi na planecie” – podsumował Harari.

W panelu, który nastąpił po wystąpieniu Harariego, tybetański lama i mistrz Shyalpa Tenzin Rinpoche (Nepal) wygłosił podobne przesłanie, podkreślając, że uniwersalne wartości, takie jak pokój, mogą zjednoczyć Wschód i Zachód w dążeniu do zrównoważonego rozwoju w tych trudnych czasach niestabilności politycznej i rosnących nierówności. Serik Tolukpayev, przedsiębiorca, inwestor i założyciel holdingu AITAS w Kazachstanie, skomentował, że „walka z własnym ego byłaby pierwszym krokiem do osiągnięcia Celów Zrównoważonego Rozwoju ONZ na całym świecie”, podczas gdy młoda aktywistka Jakhini Bisselink z holenderskiego think tanku Whetston zauważyła, że ​​nowe pokolenie liderów powinno być wspierane przez przywództwo EQ w celu zwalczania rosnącego niepokoju klimatycznego na świecie.

W konferencji wzięło udział 2000 delegatów z ponad 20 krajów, w tym wicepremier Kazachstanu Tamara Duisenova, humanista Gerd Leonhard, laureatka Nagrody Nobla w dziedzinie zielonej gospodarki Rae Kwon Chung, przewodnicząca Stowarzyszenia Futurystów i doradczyni ds. prognozowania w Komisji Europejskiej Tanya Schindler, profesor Uniwersytetu Oksfordzkiego i autorka bestselleru Jedwabny Szlak: Nowa Historia Świata Piotr Frankopan; Zielona Bogini Chin i orędowniczka zielonego rozwoju Peggy Liu; profesor Uniwersytetu Stanforda i autor kursów na temat sztucznej inteligencji Younes Bensouda; autor bestsellerów i pierwszy redaktor naczelny WIRED czasopismo David Rowan.

Udostępnij ten artykuł: