Ja bym zapytał, czy lubi uprawiac sex.

Pytanie fajne, ale łatwe do wybrnięcia. "Nie wiem, jeszcze nie miałam okazji ale mam świadomość że to przyjemne uczucie" :-)

Zapytałbym czy zastanawiała się już nad korzyściami z zagłady ludzkości? ;-)

A ja myślę że najlepszym pytaniem byłoby "czy masz świadomość, że jesteś robotem". Jeżeli "nie" to AI jest do podważenia, bo przeczy faktom oczywistym. Jeżeli "tak", to AI jest tak dobre, że nie przeczy faktom oczywistym.

Ale nikt nie powiedział, że jej się wydawało, że jest człowiekiem. Przecież widziała swoje odbicie w lustrze. Widziała więc, że nie jest człowiekiem.

Na to pytanie też taka inteligencja dała by rade, ale pewnie jakimś kłamstwem, bo to jednak inteligentna bestia ;)

Jakiś czas temu podobno jeden chattbot (Eugene Goostman) przeszedł test Turinga i można było z nim pogadać online. Zadałem mu pytanie "jaki jest sens życia?" i odpowiedział "miałem... ale mi zdechł" :) Ciekawe co by odpowiedziała Ava.

Może i przeszedł, ale chyba raczej go nie zdał, skoro nawet nie zrozumiał Twojego pytania :)

ale to nie był film dokumentalny, ani proroczy, tylko efekt wyobraźni autora scenariusza po kilku drinkach łyskacza i paru sztachnięciach ziołem

po praktyczną i logiczną sztuczną inteligencję odsyłam do robotów chociażby z Interstellar

Zapytałabym jaki jest wg niej sens życia.
Mam nadzieję, że znałaby twórczość Monty Pythona, bo jeśli nie to potrzebna byłaby nowa wersja.

ups widzę, że się powtarzam ;)

"Jeśli coś łazi jak kaczka, kwacze jak kaczka i wygląda jak kaczka - to to JEST kaczka".
A co z fotonem? Zachowuje się jak fala, interferuje jak fala, ma częstotliwość jak fala - to to jest cząstka-korpuskuła. Ehm, że co? No właśnie.

"demontaż go na części oznacza morderstwo". A może reinkarnację? Może ty jej nie podlegasz, ale dla mnie wersje Avy to przykład jak zrealizować reinkarnację w praktyce.

"bezprawnym ograniczaniem wolności". Według jakiego prawa? Jakby się nad tym zastanowić, to jedyne niezbywalne prawo jakie mamy to prawo do śmierci. Reszta jest mocno dyskusyjna. Skoro nie możemy ustalić praw nawet dla siebie, to jak ustalać je dla Avy? BTW. tutaj pojawia się ciekawy problem relacji twórcy z dziełem. W TRON też był taki motyw, ale nie został rozwinięty, a szkoda.

"AI pokroju AVY nie powstanie raczej nigdy". Wiem, że sci-fi strasznie zachęca do wyobrażania sobie wprowadzenie nowości do rzeczywistości, ale nie jest to celem sci-fi. Znasz Dune Franka Herberta? Główny bohater ma dylematy morale z rolą boga, którym się stał. Jak chcesz coś tak monumentalnego zrealizować? W sci-fi nie chodzi o technologie, ale o człowieka, którego poznaje się dopiero w zestawieniu z wyjątkowym otoczeniem.

"AVA pozostaje po prostu starą jak świat bajką o stworzeniu golema". Nie jest ważny ten żel, ani szczegóły konstrukcji ciała Avy. Ważne jest, że Ava powstała w oparciu o Google (czy jak tam to nazwano) i sam konstruktor nie rozumie jak działa jego twór; potrafi go tylko stworzyć (vide opis nauczania Avy rozpoznawania wyrazu twarzy). Ava jest przenośnym naruszeniem prywatności - rozpoznaje bezbłędnie kłamstwo i intencje rozmówcy. Dużo cię ominęło, jeżeli dostrzegasz w tym tylko bajkę o golemie.

"czym właściwie różni się demontaż takiej istoty od morderstwa człowieka". Jak dla mnie to jest właśnie problem, który pcha Nathana w objęcia alkoholu.

"otrzymać numer PESEL, NIP i tak dalej". Zapewne jeszcze kazaliby jej płacić składkę na ZUS ;)

Brawo :)

Analogia jest raczej słaba bo foton to jest cząstka elementarna, a człowiek czy robot jest układem makroskopowym, którego wysoko-poziomowe funkcje albo są albo ich nie ma.

Zwróć uwagę, na człowieka tez można popatrzyć czysto mechanistycznie i stwierdzić że jest on kupą atomów które tworzą komórki a każdy atom czy nawet cała komórka jest tworem nierozumnym. Wyjęcie z człowieka jednego atomu czy jednej komórki nic złego mu nie zrobi, ale jak zaczniesz tak usuwać te komórki i atomy jeden po drugim to w pewnym momencie rozreguluje się cały układ i człowiek umrze. Zabiłeś więc człowieka i odpowiadasz z kodeksu karnego, mimo że to konkretne pojedyncze zniszczenie jednej komórki które doprowadziło do destabilizacji całego układu nie było żadną zbrodnią :)

No i mój argument był taki - jeśli AVA jest nieodróznialna od człowieka to jest człowiekiem. Co za różnica jak się ją zabije. Morderstwo to morderstwo i sprawca powinien odpowiadać jak za człowieka. Nathan jest niewiarygodny bo gość jest ewidentnym socjopatą, a to nie to samo co nerd który jest w stanie rozkręcić googla.

Przykład z falą podałem, aby zademonstrować, że wnioskowanie indukcyjne (zastosowałeś je do kaczki) może prowadzić na manowce. Aby uznać akt za morderstwo, potrzebne jest tutaj lepsze kryterium, bo mimo wszystko Eva ma cechy nie występujące u ludzi w ogóle. Np czy umrze jeżeli straci zasilanie? Zapewne nie.

Demontaż wcale nie musi oznaczać jej śmierci. Przede wszystkim nie znamy cyklu życiowego takiego tworu jak Ava. Oglądałeś/czytałeś 'Ghost in the shell'. Główna bohaterka, Motoko, dokonuje tam pewnego rodzaju samobójstwa. Decyduje się scalić swoją świadomość ze świadomością programu sztucznej inteligencji. Oboje, i Motoko i AI nie istnieją po tym jako dotychczasowe twory. Mimo to decyzję podejmują stosunkowo łatwo.

Według mnie Nathan postrzega Avę jako program, dlatego nazwanie go ewidentnym socjopatą jest mocno na wyrost.

To wnioskowanie było uproszczeniem, ale prawda jest taka że innego kryterium nie posiadamy. Podawałem argument: człwoiek też jest ostatecznie niczym więcej jak kupą atomów poorganizowaną w taki sposób że wyłania się z niego nowa jakość (wyższe funkcje mózgu).

Co czyni ludzi "wyjątkowymi": ich cykl rozwojowy, sposób organizacji atomów czy też właśnie te wyższe funkcje mózgu. No raczej to drugie. I z tego powodu morderstwo człowieka jest osądzane etycznie jako naganne i ścigane prawnie. Dlaczego morderstwo myślącego robota miałoby nie być ścigane prawnie skoro taki robot jest nieodróżnialny od człowieka? Robot taki może się domagać wszystkich "praw człowieka" i jakiego argumentu użyjesz żeby mu ich odmówić?

Najprawdopodobniej jest tak że dyskusja jest o tyle bez sensu że takie roboty nie są w stanie powstać w takim cyklu produkcyjnym i całe rozważanie jest czysto akademickie.

Stawiasz złe pytanie - wyjątkowość ludzi nie ma nic do rzeczy. Pytanie powinno brzmieć "co czyni ludzi, ludźmi", czy może lepiej "jaka jest definicja słowa człowiek". Dotychczas ustalone prawo dotyczy ludzi, a nie jednostek świadomych. Wynika to z definicji osobowości fizycznej, która wymienia imiennie człowieka i tylko człowieka jako posiadacza takiej osobowości. Czym jest człowiek? Przede wszystkim człowiek jest ssakiem z rodziny człowiekowatych. I w tym miejscu możemy praktycznie już dyskusję zakończyć, jednoznacznie stwierdzając - androidy nie posiadają osobowości fizycznej, więc nie są odpowiedzialne ani karnie ani cywilnie. Zgodnie z aktualnym prawem robot nie pójdzie do więzienia, w ogóle.

Co do kwestii domagania się praw robotów. Domaganie się praw nie jest jednoznaczne z ich posiadaniem. Być może ryjówki też domagają się jakichś praw. Nie posiadamy wystarczających środków komunikacyjnych, aby stwierdzić jakie to prawa. Mimo to ryjówki tych praw nie posiadają.

Najprawdopodobniej, to jest tak, że w przyszłości człowiek będzie musiał sobie na te pytania odpowiedzieć. Oczywistym jest, że w wielu aspektach człowiek nie jest przygotowany na gwałtowne zmiany. Jednak tworzenie systemów dialogowych to nie jest proces gwałtowny, a długotrwały, praco- i czasochłonny. Mimo to, już teraz, zapis w prawie nakazów i obowiązków dotyczący androidów wcale nie przeszkadzałby nikomu. Mało tego, uważam, że byłoby lepiej, jeżeli taki zapis istniał. Stąd: nie, dyskusja nie jest akademicka.

"Pytanie powinno brzmieć "co czyni ludzi, ludźmi", czy może lepiej "jaka jest definicja słowa człowiek" Nim doszedłem do tego momentu miałem powiedzieć to samo. Większość filozofów przez wieki opierało się o definicje św. Tomasza z Akwinu, że człowiek to : "Indywidualna substancja natury rozumnej" więc jak widać tutaj to zupełnie odpada. I to powinno być pierwsze zadanie, a mianowicie zdefiniować pojęcie człowieka. Zaciekawiła mnie wzmianka o androidzie: weźmy sobie człowieka, takiego Antka. Zacznijmy nad nim eksperymentować. Zamieniamy jego ciało na części mechaniczne, z ludzkim mózgiem. No i jasne, mamy Androida, który oczywiście nadal jest człowiekiem. Ale co jak zaczniemy grzebać mu w mózgu i poszczególne części mózgu zaczniemy zamieniać na części mechaniczne, tak aby jego funkcje nadal spełniały te same role. W którym momencie będzie już nie androidem a robotem? Jeżeli dokładnie zostanie to zagadnienie zdefiniowane, to nie powinno być już większych problemów z ogarnięciem kiedy mamy człowieka, chyba że coś przeoczyłem ;) Można też drążyć dalej, kiedy człowiek staje się androidem? Co musi mieć mechanicznego? Bo chyba np sztuczna ręka nie wystarczy ;)

W prawie błyskawicznie powstały by precedensy bo nie mógłbyś machnąć ręką i udawać że inne istoty rozumne są gorsze. Rozważ następujący eksperyment myślowy: na ziemie przybywa zaawansowana cywilizacja istot rozumnych z odległego kosmosu. I co? Też mamy twierdzić że skoro nie są ludźmi z gatunku człowiekowatych i ma paragrafu na zabijanie takich istot to są jak ryjówki?

Prawo nie jest definiowane poprzez ogólne zasady etyki. Tak samo jak prawo precedensu nie jest powszechne. Moja wypowiedź definiuje mankamenty aktualnie obowiązującego prawa w stosunku do sytuacji, która mogłaby się zdarzyć.

W istocie, jest tak, że, w razie inwazji obcych nasze prawo (zarówno państwowe jak i federacyjne) nie definiuje procedur postępowania. A definicja takich procedur, nakazów, praw, obowiązków, mimo, że prawdopodobnie została by wyśmiana przez naszych prawodawców, ze względu na ich małostkowość, jest wskazana.

Dodatkowo zaznaczyłem, że nie definiowanie takich praw jest racjonalne ze względu na, w w/w przypadku na czasową rozwlekłość zdarzeń, a w przypadku inwazji obcych na nikłe prawdopodobieństwo.

No więc właśnie, mi chodziło nie tyle o to by bohaterowie rozmawiali językiem prawniczym o konsekwencjach legislacyjnych ale by w ogóle poruszyli temat etyczno-moralny zjawiska. Nathan (twórca AI) wydaje się w ogóle tym nie przejmować a Caleb w ogóle o to nie pyta.

Rozmontować myśląca maszynę bo jest tylko zbiorem jakichś obwodów logicznych - OK, ale dlaczego na tej samej zasadzie nie rozmontować człowieka który jest tylko zbiorem komórek.

socjopatą? A może genialnym inżynierem i jednocześnie zwykłym człowiekiem.
Pozwoliłbyś robotom biegać po ziemi bez kontroli? Czy raczej nie tworzyłbyś świadomych robotów?

Świadomym ludziom pozwala się biegać po ziemi bez kontroli i nic się nie dzieje. Dziwi mnie dlaczego ludzie uważają że myślące roboty miałyby być "lepsze".

Weźmy np. przesądy, zabobony, choroby psychiczne, natręctwa myślowe. Wcale nie jest takie oczywiste stwierdzić że gatunek może być rozumny i jednocześnie pozbawiony tych cech. Ludzie je mają (w jakichś proporcjach), myślące roboty też by je miały.

ja niestety uważam, że myślące roboty mogłyby być gorsze. Sam człowiek jest niedoskonały, więc nie nadaje się do tworzenia istot świadomych, poza swoimi dziećmi oczywiście.

uważam raczej, że mogłyby być "gorsze", choćby dlatego, że stworzone przez istotę i ze świadomości istot dalekich od doskonałości.
Dodatkowo nie wiem jaki mógłby być cel tworzenia świadomych istot, skoro ludzi jest chwilowo w nadmiarze. Swoją drogą w kinematografii jest całkiem sporo niegrzecznych robotów, z których najciekawszy jest chyba Hall z Odysei kosmicznej.

"Świadomym ludziom pozwala się biegać po ziemi bez kontroli i nic się nie dzieje" - oj, dzieje się, dzieje.

Pytanie: "Czy Bóg istnieje?"
Prawdopodobna odpowiedź: "Teraz już tak."

"Czy posiadasz duszę?"

:)

już widzę Avę jak ściemnia.
To wytrenowana przez miliony użytkowników Google idealna manipulantka ... zabrzmiało jak komplement, a jest jednak ohydne.

Uważam że Ava nie jest człowiekiem, chociażby ze względu iż jej narodziny były zapewne mało ludzkie i nigdy nie miała okazji być plemnikiem, tak jak my. Jeśli współczesne komputery osobiste porównać do plemników właśnie, a Avę do superkomputera przyszłości(czyli dojrzałego człowieka) to faktycznie można by uznać że można ją zamordować, ale z drugiej strony marnowanie nasienia nie jest ludobójstwem a dewastacja sprzętu komputerowego, zwłaszcza stworzonego przez siebie- przestępstwem.
Przy okazji zapraszam do zapoznania się z moją recenzją, będę wdzięczny za komentarze:

http://czarnadziura.weebly.com/blog/ex-machina

Przychodzi taki robot do ciebie, mówi że zdał test Turinga, jest więc równy ludziom i domaga się wszystkich "praw człowieka". Jaką siłę ma w takiej sytuacji argument 'ale ty nie byłeś plemnikiem'. Nie rozmawiasz z plemnikiem, w danej chwili rozmawiasz już z isototą rozumną.

Otóż to. Może i Ava nie była człowiekiem, ale osobnym bytem już owszem. Co prawda samoświadomość, pragnienie wolności to tylko niektóre z cech ludzkich, ale to, że ktoś posiada cechy ludzkie nie oznacza, że jest człowiekiem. Człowiek posiada cechy zwierzęce, a zwierzęciem nie jest.

Nawiązując do tematu wątku - gdyby kiedykolwiek doszło do tego, że taka Ava lub jej podobny twór "uwolni się z zamkniętego pokoju", to całkiem prawdopodobne, że należałoby postawić pod znakiem zapytania prawa człowieka względem tego tworu (nie odwrotnie), bo mogłoby być tak, że to on nas przewyższy i zacznie traktować tak jak gatunek niższy, który ma się podporządkować.

Ludzie nie byli plemnikami - co ty w homunkulusa wierzysz?

Czy możliwa jest koegzystencja po tym co wyżądzilismy planecie i samym sobie

jedno głupie pytanie zwiesiło by taką sztuczną inteligencję "kiedy umrzesz"...

"Na przykład, kiedy już wiadomo że AVA ma wszelkie cechy człowieka (inteligencje, świadomość, zdolność do introspekcji, emocje itd. co zresztą okazuje się bardzo szybko)"
tutaj jest błąd w twoim rozumowaniu który prowadzi do takich wniosków, że demontaż robota jest niczym morderstwo. Przecież Ava nie miała cech człowieka, tylko je naśladowała, udawała, ponieważ była zaprogramowana aby wykorzystać całą swoją wiedzę i zdolności manipulacji do ucieczki (element planu Nathana aby wciągnąć Caleba w grę, w której on uwierzy właśnie w osobowość, uczucia itd. maszyny). Więc wszelkie ludzkie cechy jakie odgrywała wynikały wyłącznie z zadania, które jej dano, a które ona właśnie z matematyczną precyzją wykonywała, a nie z tego, że faktycznie posiada duszę, emocje, seksualność itd. Stąd zasadnicza różnica między morderstwem a zniszczeniem robota - człowiek jest samoświadomy i jego cele życiowe wynikają z wolnej woli - a nie woli programisty. Z zabiciem człowieka wiążę się cierpienie, naruszenie wolnej woli. Maszyna będzie broniła się przed śmiercią tylko i wyłącznie jeśli ma jakieś zadanie do wykonania i nie ma wyższych priorytetów, które mogłyby ją zmusić do śmierci (vide 3 prawa robotów Asimova). Nie może czuć potrzeby egzystowania, i to Nathan rozumiał, a Caleb nie (mimo że informatyk, to ze względu na swoją osobowość łatwo dał się wkręcić w całą grę Avy, a warunki były ku temu sprzyjające)

Jeśli naśladowanie jakichś cech jest zupełnie nieodróżnialne od "posiadania" tych samych cech, to wcale nie jest takie oczywiste czy mamy do czynienia tylko z naśladowaniem. Zwłaszcza jeśli te cechy są pochodnymi tak złożonej konstrukcji jak mózg ludzki.

Zgadzam się, co więcej... tu się rodzi pytanie, co daje nam prawo do uważania siebie za posiadających dane cechy? Być może nasze myślenie wcale się pod tym względem nie różni. Być może chcemy żeby było czymś więcej bo to współgra z religią i perspektywą nieśmiertelnej duszy-ale czy ta również nie jest jedynie ludzkim pomysłem?:)

właśnie wczoraj o tym myślałem, człowiek jako po prostu skomplikowane, rozbudowana maszyna samopowtarzająca, zaawansowane jelito :) film w każdym razie daje do myślenia

Ale słaba ta wasza dyskusja.

Jeśli coś czuje się kaczką i wygląda, jak kaczka, to jest kaczką? Zatem jeśli mężczyzna czuje się kobietą, to bez wątpienia jest kobietą? Jeśli odkurzacz zyskał by samoświadomośc, jak robot z filmu czyli AVA, i stwierdziłby, że czuje się człowiekiem, to powinniśmy uznać, że jest człowiekiem? Hmm, ale mówisz, że "to coś" powinno jeszcze wyglądać, jak człowiek. Zaprojektujmy więc człekokształtny odkurzacz, którego mikroporcesor zyskałby samoświadomośc i stwierdził, że czuje się człowiekiem. Czy będziemy mogli powiedzieć, że już jest człowiekiem?

Cały dylemat bierze się stąd, że zaczynamy dostrzegać człowieka wszędzie tam, gdzie widzimy "postać człekokształtną". i wtedy zaczynamy się gubić w tym, co widzimy.

mężczyzna który WYGLĄDA jak kobieta i czuje się kobietą - jest kobietą, bo czym innym mógłby być? Co miałoby w ogóle sprawić, że ktoś będzie postrzegał takiego osobnika jako mężczyznę? Widzisz kobietę, która czuje się kobietą, może mieć wadliwe chromosomy które podadzą informację "to mężczyzna", ale tak naprawdę będzie to drugorzędna informacja do samego wyglądu ciała i poczucia jednostki.
Zauważ że jest napisane WYGLĄDA jak kaczka, nie tylko czuje się kaczą.

Ok, no to z innej strony. Czemu zakładamy, że to chromosomy takiej osoby są wadliwe, a nie jej psychika?

Problem w tym że żaden odkurzacz nie zyska samoświadomości. Samoświadomość i inne wyższe funkcje mózgu nie powstają w ten sposób że jakiś mikroprocesor zrobiony w fabryce nagle dorównuje intelektualnie człowiekowi. Dlatego też ten film o którym tu debatujemy to czyste science fiction. Próbujesz strywializować problem przez redukcję do absurdu, ale w tym przypadku taka redukcja jest nieuprawiona.

Dlaczego tak uważam? Ano dlatego że można wyobrazić sobie iż w odległej przyszłości jakiś proces technologiczny oparty na biotechnologii i ewolucji bądź manipulacji DNA doprowadzi do powstania alternatywnego gatunku rozumnego. Można też wyobrazić sobie że jakiś inny gatunek np. naczelnych zacznie się rozwijać w stronę istoty coraz to bardziej rozumnej - ewolucja czegoś takiego co do zasady przecież nie wyklucza. Można sobie wreszcie wyobrazić odkrycie życia inteligentnego na innej planecie, zupełnie niepodobnego 'z wyglądu' do ludzi. Dlaczego mamy być antropocentryczni i przypisywać inteligencję i samoświadomość jako coś przynależnego tylko nam?

No i powstanie pytanie - co wtedy?

A mnie zastanawia jeszcze jedna rzecz, która notorycznie pojawia się w filmach s-f i opowieściach. Chodzi o to, że sztuczna inteligencja zawsze stara się upodobnić do człowieka.

Moim zdaniem, jeśli sztuczna inteligencja powstanie, będzie się kierowała zupełnie nowymi prawami, których my, ludzie nie będziemy umieli zrozumieć. Pozbawiona ludzkich naleciałości, będzie działała w sposób, który dla nas wyda się dziwny, niezrozumiały i będziemy się go musieli uczyć, aby się z nią komunikować.

Na przykład, sztuczna inteligencja może zakwestionować nasz sposób postrzegania świata. Załóżmy, że uzna iż coś takiego, jak czas, jest ograniczeniem i uzna zjawisko upływu czasu za zbędne i niekorzystne. Będzie opisywać świat i ruch bez użycia pojęcia czasu. (tak tylko sobie mniemam)

Tak może być, że prawdziwa AI będzie zupełnie nową jakością. Maszyna nie ma gospodarki hormonalnej, instynktów, może mieć inne zmysły, może w ogóle mysleć w jakimś języku ściśle formalnym i tylko "tłumaczyć" przemyślenia samej siebie na ludzki język naturalny typu angielski czy polski, przy czym podczas takiego tłumaczenia mnóstwo treści może być tracone.

Polecam przeczytac genialną książkę Lema p.t. Golem XIV - dokładnie o tym problemie, ludzkość tworzy AI która okazuje się być czymś kompletnie jakościowo różnym od rozumu człowieka.

"Chodzi o to, że sztuczna inteligencja zawsze stara się upodobnić do człowieka."

Niekoniecznie. Sprawdź na przykład film "Ona" albo cykl powieści Orsona Scotta Carda o Enderze, zwłaszcz "Ksenocyd", w którym to tomie SI poswięcono chyba najwięcej miejsca. W obydwu przypadkach mamy przedstawienie SI, która w niczym nie przypomina człowieka - za to "psychologicznie" jest o wiele bardziej wiarygodna niż te wszystkie humanoidalne SI z Avą włącznie...

Trochę naiwne twierdzenie o kodeksach etc. W filmie powiedziano, że były to pierwsze przykłady sztucznej inteligencji więc z żadnego paragrafu ścigane to przecież być nie mogło, prawda? Nic dziwnego, że z czasem ich twórca zaczął czuć się bezkarny. W końcu to nie było tak, że podchodził do nich z siekierką tylko na przestrzeni miesięcy usprawniał oprogramowanie bo jego jak najdokładniejsze stworzenie było głównym celem - defektami były utrata pamięci przez roboty etc, tak bywa przy usprawnianiu komputerów, nie robił tego pierwszy raz więc nie traktował tego jako morderstwa. Film zmusza do przemyśleń na temat tego jak daleko możemy posunąć się w kreowaniu innych istnień, co teraz jest na topie skoro robotyka pędzi do przodu i właściwie nie wiadomo jak to się dalej rozwinie, wyobraźnia działa. Dzieła o takiej tematyce postrzegam jakby były 'dmuchaniem na zimne' a przynajmniej pierwszy raz odniosłam takie wrażenie przy oglądaniu "Ghost in the shell". BTW wracając do tych kodeksów - przecież akcja filmu dzieje się zanim ktokolwiek ze świata zewnętrznego usłyszał o faktycznym istnieniu cyborgów :P

To mógłby być prawny precedens. Jeśli robot jest nieodróżnialny psychicznie od człowieka (różni się faktycznie tylko tym jak powstał) to może składać oświadczenia woli mające moc prawną, tak jak ludzie - no bo w istocie dlaczego miałoby być inaczej? A skoro ma faktyczne zdolności do czynności prawnych identyczne z ludźmi, to dlaczego demontaż go miałby być traktowany inaczej niż zabicie człowieka? To jest prosta konsekwencja. Taki robot będzie argumentował że przecież nie chce "umierać" na tej samej zasadzie co ludzie nie chcą umierać.

Film tego problemu w ogóle nie porusza. Czym różni się demontaż myślącego robota od "demontażu" myślącego człowieka.

No właśnie o to mi chodzi, jakim cudem film miałby poruszać jakiekolwiek apekty prawne skoro w czasie trwania akcji nikt o tych robotach jeszcze nie wiedział? oO Trochę konsekwencji.