Jeśli maszynom zezwoli się na podejmowanie samodzielnych decyzji, nie sposób domniemać rezultatów, ponieważ nie wiadomo jak owe maszyny mogą się zachować. Wskazujemy tylko, że ludzki los będzie spoczywał w łasce maszyn. Można argumentować, że rodzaj ludzki nigdy nie byłby tak głupi na tyle głupi, by oddać całą władzę maszynom. Jednakże nie sugerujemy, że człowiek zrobi to ochotniczo czy też padnie ofiarą przejęcia władzy przez maszyny. Sugerujemy, że rodzaj ludzki łatwo mógłby pozwolić na doprowadzenie się do takiej zależności od maszyn, że nie miałby praktycznie żadnego wyboru, jak tylko zaakceptować ich decyzje. W miarę jak społeczeństwo i trapiące je problemy stawać będą się coraz bardziej złożone a maszyny coraz inteligentniejsze, ludzie złożą większą część decyzji w ręce maszyn, gdyż one radzić będą sobie lepiej niż człowiek. Ostatecznie, możemy dojść do poziomu, na którym decyzje konieczne dla utrzymania systemu będą tak złożone, iż istoty ludzkie nie będą zdolne ich inteligentnie pojąć. Na tym poziomie maszyny uzyskają kontrolę. Ludzie nie będą mogli ich po prostu wyłączyć, gdyż będą od nich tak zależni, że wyłączenie równałoby się z samobójstwem. Z drugiej strony możliwe jest, że ludzka kontrola nad maszynami zostanie utrzymana. W takim przypadku przeciętny człowiek będzie mógł mieć kontrolę nad niektórymi ze swoich maszyn, jak samochód czy komputer osobisty, lecz kontrola nad dużymi systemami maszyn spoczywać będzie w rękach wąskiej elity – dokładnie tak jak wygląda to dzisiaj, jednak z dwiema różnicami. W wyniku udoskonalonych technik elita uzyska większą kontrolę nad masami, a ponieważ ludzka praca nie będzie już potrzebna, masy staną się zbędnym, bezużytecznym ciężarem dla systemu. Jeżeli elita będzie bezwzględna, może po prostu zdecydować się na eksterminację masy ludzkości. Jeżeli będzie humanitarna, może użyć propagandy lub innych psychologicznych bądź biologicznych technik w celu redukowania liczby urodzin aż do wymarcia ludzkości, pozostawiając świat elicie. Jeżeli elita składać się będzie z liberałów o miękkich sercach, może zdecydować się na odgrywanie roli dobrego pasterza dla pozostałej części ludzkiej rasy. Będzie im się wydawać, że potrzeby fizyczne każdego zostały zaspokojone, wszystkie dzieci dorastają w odpowiednich psychologicznie warunkach, każdy ma swoje hobby, które go zajmuje, a każdy kto może stać się niezadowolony przechodzi “leczenie” eliminujące jego “problem”. Oczywiście życie będzie tak pozbawione celu, że ludzie będą musieli być poddawani biologicznej bądź psychologicznej inżynierii usuwającej potrzebę procesu władzy lub przekształcającej ją w jakieś nieszkodliwe hobby. Te wyinżynierowane istoty ludzkie mogą być w takim społeczeństwie szczęśliwe, lecz z całą pewnością nie będą wolne. Ich status zostanie zredukowany do statusu zwierząt domowych. Przypuśćmy teraz, że naukowcom komputerowym nie uda się rozwinięcie sztucznej inteligencji, a więc ludzka praca pozostanie potrzebna. Nawet wtedy maszyny przyjmować będą coraz więcej zadań, tak że nastąpi wzrost nadwyżki pracowników o niższym poziomie zdolności (Obserwujemy to już dzisiaj. Jest wiele osób, dla których trudne lub niemożliwe jest znalezienie pracy, gdyż z intelektualnych bądź psychologicznych powodów nie są w stanie osiągnąć poziomu szkolenia, koniecznego by stali się użyteczni w obecnym systemie). Na tych, którzy pracują nakładane będą wciąż rosnące wymagania. Będą musieli przechodzić coraz nowsze szkolenia, zyskiwać coraz więcej zdolności i będą musieli być jeszcze bardziej konformistyczni i ulegli, ponieważ w coraz większym stopniu stawać się będą komórkami gigantycznego organizmu. Ich zadania będą podlegać dalszej specjalizacji, a więc ich praca będzie w pewnym sensie oderwana od realnego świata, ponieważ koncentrować się będzie na małych wycinkach rzeczywistości. System będzie musiał użyć wszystkich dostępnych mu środków, psychologicznych bądź biologicznych, w celu uczynienia ludzi uległymi, kształcenia zdolności których system wymaga oraz popychania ich pędu w jakieś wyspecjalizowane zadanie. Stwierdzenie, że ludzie w takim społeczeństwie będą musieli być ulegli, wymaga pewnego wyjaśnienia. Społeczeństwo może uznać rywalizację za użyteczną, jeżeli wynalezione zostaną sposoby kierowania rywalizacją w kanały służące potrzebom systemu. Możemy sobie wyobrazić przyszłe społeczeństwo, w którym istnieje ciągła rywalizacja o pozycję prestiżu i władzy. Jednakże tylko garstka ludzi osiągnie szczyt, na którym spoczywać będzie prawdziwa władza. Bardzo odpychającym jest społeczeństwo, w którym osoba może zaspokoić swą potrzebę władzy tylko przez wypieranie szeregu innych ludzi lub pozbawianie ich WŁASNEJ okazji osiągnięcia władzy.
Mr.Z
Jeśli maszynom zezwoli się na podejmowanie samodzielnych decyzji, nie sposób domniemać rezultatów, ponieważ nie wiadomo jak owe maszyny mogą się zachować. Wskazujemy tylko, że ludzki los będzie spoczywał w łasce maszyn. Można argumentować, że rodzaj ludzki nigdy nie byłby tak głupi na tyle głupi, by oddać całą władzę maszynom. Jednakże nie sugerujemy, że człowiek zrobi to ochotniczo czy też padnie ofiarą przejęcia władzy przez maszyny. Sugerujemy, że rodzaj ludzki łatwo mógłby pozwolić na doprowadzenie się do takiej zależności od maszyn, że nie miałby praktycznie żadnego wyboru, jak tylko zaakceptować ich decyzje. W miarę jak społeczeństwo i trapiące je problemy stawać będą się coraz bardziej złożone a maszyny coraz inteligentniejsze, ludzie złożą większą część decyzji w ręce maszyn, gdyż one radzić będą sobie lepiej niż człowiek. Ostatecznie, możemy dojść do poziomu, na którym decyzje konieczne dla utrzymania systemu będą tak złożone, iż istoty ludzkie nie będą zdolne ich inteligentnie pojąć. Na tym poziomie maszyny uzyskają kontrolę. Ludzie nie będą mogli ich po prostu wyłączyć, gdyż będą od nich tak zależni, że wyłączenie równałoby się z samobójstwem. Z drugiej strony możliwe jest, że ludzka kontrola nad maszynami zostanie utrzymana. W takim przypadku przeciętny człowiek będzie mógł mieć kontrolę nad niektórymi ze swoich maszyn, jak samochód czy komputer osobisty, lecz kontrola nad dużymi systemami maszyn spoczywać będzie w rękach wąskiej elity – dokładnie tak jak wygląda to dzisiaj, jednak z dwiema różnicami. W wyniku udoskonalonych technik elita uzyska większą kontrolę nad masami, a ponieważ ludzka praca nie będzie już potrzebna, masy staną się zbędnym, bezużytecznym ciężarem dla systemu. Jeżeli elita będzie bezwzględna, może po prostu zdecydować się na eksterminację masy ludzkości. Jeżeli będzie humanitarna, może użyć propagandy lub innych psychologicznych bądź biologicznych technik w celu redukowania liczby urodzin aż do wymarcia ludzkości, pozostawiając świat elicie. Jeżeli elita składać się będzie z liberałów o miękkich sercach, może zdecydować się na odgrywanie roli dobrego pasterza dla pozostałej części ludzkiej rasy. Będzie im się wydawać, że potrzeby fizyczne każdego zostały zaspokojone, wszystkie dzieci dorastają w odpowiednich psychologicznie warunkach, każdy ma swoje hobby, które go zajmuje, a każdy kto może stać się niezadowolony przechodzi “leczenie” eliminujące jego “problem”. Oczywiście życie będzie tak pozbawione celu, że ludzie będą musieli być poddawani biologicznej bądź psychologicznej inżynierii usuwającej potrzebę procesu władzy lub przekształcającej ją w jakieś nieszkodliwe hobby. Te wyinżynierowane istoty ludzkie mogą być w takim społeczeństwie szczęśliwe, lecz z całą pewnością nie będą wolne. Ich status zostanie zredukowany do statusu zwierząt domowych. Przypuśćmy teraz, że naukowcom komputerowym nie uda się rozwinięcie sztucznej inteligencji, a więc ludzka praca pozostanie potrzebna. Nawet wtedy maszyny przyjmować będą coraz więcej zadań, tak że nastąpi wzrost nadwyżki pracowników o niższym poziomie zdolności (Obserwujemy to już dzisiaj. Jest wiele osób, dla których trudne lub niemożliwe jest znalezienie pracy, gdyż z intelektualnych bądź psychologicznych powodów nie są w stanie osiągnąć poziomu szkolenia, koniecznego by stali się użyteczni w obecnym systemie). Na tych, którzy pracują nakładane będą wciąż rosnące wymagania. Będą musieli przechodzić coraz nowsze szkolenia, zyskiwać coraz więcej zdolności i będą musieli być jeszcze bardziej konformistyczni i ulegli, ponieważ w coraz większym stopniu stawać się będą komórkami gigantycznego organizmu. Ich zadania będą podlegać dalszej specjalizacji, a więc ich praca będzie w pewnym sensie oderwana od realnego świata, ponieważ koncentrować się będzie na małych wycinkach rzeczywistości. System będzie musiał użyć wszystkich dostępnych mu środków, psychologicznych bądź biologicznych, w celu uczynienia ludzi uległymi, kształcenia zdolności których system wymaga oraz popychania ich pędu w jakieś wyspecjalizowane zadanie. Stwierdzenie, że ludzie w takim społeczeństwie będą musieli być ulegli, wymaga pewnego wyjaśnienia. Społeczeństwo może uznać rywalizację za użyteczną, jeżeli wynalezione zostaną sposoby kierowania rywalizacją w kanały służące potrzebom systemu. Możemy sobie wyobrazić przyszłe społeczeństwo, w którym istnieje ciągła rywalizacja o pozycję prestiżu i władzy. Jednakże tylko garstka ludzi osiągnie szczyt, na którym spoczywać będzie prawdziwa władza. Bardzo odpychającym jest społeczeństwo, w którym osoba może zaspokoić swą potrzebę władzy tylko przez wypieranie szeregu innych ludzi lub pozbawianie ich WŁASNEJ okazji osiągnięcia władzy.