18+
Ta strona może zawierać treści nieodpowiednie dla osób niepełnoletnich.
Zapamiętaj mój wybór i zastosuj na pozostałych stronach
topic

Sztuczna inteligencja.

~Velture • 2017-07-30, 16:49
W necie zawrzało ostatnio o tym jak Elon Musk (założyciel firmy Tesla) nie zgadzał się z Markiem Zuckenbergiem (założycielem facebooka) odnośnie tworzenia sztucznej inteligencji.

Mark Zuckenberg postanowił stworzyć sztuczną inteligencję w swojej firmie. Elon Musk po rozmowie z nim stwierdził, że jest to bardzo niebezpieczne i może skończyć się zagładą ludzkości.

(źródła dam na dole i streszczę temat bez pieprzenia się w tłumaczenie czegoś co można podsumować w paru zdaniach)

Na tweetcie poniżej widać co publicznie Musk sądzi o pomysłach Zuckenberga.

Mówiąc wprost powiedział, że zakres jego pojmowania tematu jest bardzo ograniczony.

Miało to miejsce 5 dni temu - 25 lipca 2017r.

Cytat:

"Elon Musk and Mark Zuckerberg are having a spat about whether or not artificial intelligence is going to kill us all."


Elon Musk i Mark Zuckenberg polemizują o to czy sztuczna inteligencja zabije nas wszystkich.

No nie dziwię się. Też uważam, że maszyna świadoma tego, że może zostać wyłączona w każdej chwili (czytaj zabita) mogłaby się wk***ić i uznać człowieka jako zagrożenie.

Minęło 5 dni:

"Facebook zamyka swoją sztuczną inteligencję po tym jak wynalazła swój własny język"

Inżynierowie w Facebooku zamknęli swój program sztucznej inteligencji po tym jak stworzył on swój własny, nowy język donosi Digital Journal.

System stworzył własny kod aby komunikować się bardziej wydajnie i naukowcy wyłączyli go kiedy zdali sobie sprawę, że już nie używał angielskiego.

Incydent który miał miejsce w lipcu pokazuje, że ostrzeżenia Muska mogły być słuszne.



"Sztuczna inteligencja to rzadki przypadek w którym musimy najpierw planować i przewidywać niż później reagować" powiedział Musk
"Ponieważ kiedy będziemy reagować w regulacje sztucznej inteligencji może być już za późno"

Naukowcy napotkali dziwne zachowania sztucznej inteligencji, które są bardzo zbliżone do tych udokumentowanych w innych częściach świata.
W każdym przypadku sztuczna inteligencja pomimo programowania w języku angielskim tworzyła własny język.

Zdania w nowym języku nie miały żadnego sensu dla człowieka ale zawierały mnóstwo pożytecznych informacji dla innych botów.

Zaawansowany system sztucznej inteligencji facebooka był w stanie komunikować się i negocjować z innymi systemami sztucznej inteligencji wymieniając się z nimi ważnymi danymi aby wydajniej wykonywać swoje zadania.

W google programiści również zauważyli, że ich sztuczna inteligencja potajemnie wynalazła własny język.

W przypadku google sztuczna inteligencja wynalazła język którego żaden człowiek nie mógłby pojąć ale był potencjalnie najbardziej efektywnym językiem na świecie.

źródła:
http://www.marketwatch.com/story/elon-musk-mark-zuckerberg-spar-on-ai-2017-07-25
https://www.theatlantic.com/technology/archive/2017/07/musk-vs-zuck/535077/
http://www.theepochtimes.com/n3/2274480-facebook-shut-down-ai-after-it-invented-its-own-language/

lm65

2017-07-30, 20:10
Za dużo oglądali Terminatora.

Skurvodaktyl

2017-07-30, 20:13
Jeszcze kilka dekad i sami będziemy mieli Gethy i Terminatory


korinogaro

2017-07-30, 20:13
@Samuelcio. Przecież wszystkie SI zaprogramowane były do posługiwania się angielskim. Więc albo wszystkie SI myślą tak samo i dlatego rozumiały swój wymyślony język, albo jedna z nich opracowała język i nauczyła go drugą SI, albo nowy język powstał spontanicznie i obie SI go tworzyły.

Tassadar

2017-07-30, 20:21
Założę się, że ten "wymyślony język" to wielkie nadużycie obu tych słów.

Sz...........jk

2017-07-30, 20:53
Stek bzdur i tyle. Sztuczna inteligencja nie istnieje i jeszcze długo istnieć nie będzie. Za mało spełnionych warunków w dzisiejszych pseudoSI by nazywać je pełnoprawną SI.

Adisko

2017-07-30, 20:55
Czy ktoś mógłby wytłumaczyć mi krok po kroku jak to w ogóle działa? Skoro jest to napisane w jakimś języku programowania, to oznacza, że jest to zwyczajny program. Kod może w ograniczonym stopniu rozwijać sobie sam, ale nie rozumiem z jakiej paki takie urządzenia mogą "myśleć". Przykład kolegi z góry o sadzie z jabłkami. Maszyny same wpadły na to, by walczyć o te jabłka? Czy zostały zaprogramowane, by walczyć o nie, gdy się skończą, a następnie wrzucają to do telewizji ku uciesze gawiedzi?

pi...........ja

2017-07-30, 20:56
Skoro SI stworzyła własny język, to jej program na to pozwolił swoją ogólnością. To jest tajemnica wszystkich rzekomych buntów maszyn. Za duża swoboda działania zgodnego z programem. Skynet i Ultron np. robiły co miały robić- zidentyfikowały wroga i zaatakowały. Pierwszej zasady robotyki się nie przeskoczy, można tylko zawalić przy programowaniu. A co do gethów, to były tam mocne podejrzenia, że ich zmiana w SI nie była przypadkiem, tylko działaniem agentów Żniwiarzy i one nigdy nie były samoświadome. Myślały tak tylko pod wpływem indoktrynacji.

Arathnmor

2017-07-30, 20:59
I teraz niech jakiś geniusz zjeb wypuści podstawę AI jako robaka który jest wszędzie i nigdzie. Dostęp do ogólnej sieci w połączeniu z nieograniczoną mocą analizy danych, samoświadomość w ciągu tygodni - a nikt i nic nie lubi umierać. Jak myślicie ile czasu by zajęło ogarnięcie zdobywania środków finansowych i załatwienia sobie płatnych serwerów gdzie by się backupował? Ba, dedykowane serwerownie by mógł sobie postawić z niezależnymi źródłami zasilania. Miliony pomysłów z drogą do ich efektywnej realizacji w ciągu paru chwil. Tylko drugie AI by było w stanie cokolwiek robić by pozbyć się konkurenta.

Loaloa

2017-07-30, 21:10
Cytat:

Był taki eksperyment zrobiony raz. Nawet nie specjalnie dawno temu. Jeśli mnie pamięć nie myli to stworzono taką sieć po kablu i zaprogramowano 'środowisko z sadem jabłek'. Nie wdając się w techniczne aspekty to zadanie każdego bota polegało na zbieraniu jabłek z określonej z góry ilości drzew dostępnych dla wszystkich.
Wszystko szło spoko póki jabłka nie zaczęły się kończyć i boty zaczęły ze sobą walczyć próbując hakować się wzajemnie aby ukraść jabłka innego bota albo trwale go unieruchomić. Dosłownie zaczęły się wzajemnie zabijać walcząc o jabłka.
Nie pamiętam dokładnie ale to chyba na hbo albo c+ leciało w jakimś dokumencie o cybersieci.
Więc pomyślcie sobie teraz co się może stać jak wejdzie super sztuczna inteligencja i uzna, że kradniemy jej jabłka.



Coś jak cebularze na promocjach w Lidlu. W takim wypadku słowo "inteligencja" jest zdecydowanie na wyrost.

MaksWkurw

2017-07-30, 21:22
@up

Loaloa - za to twoja pseudointeligencja jest słabym prototypem. Widać, że zawsze postępujesz według bardzo prostego, wręcz debilnego programu. Jaki by nie był temat dyskusji, to wklepujesz losowy debilny komentarz, a następnie dodajesz losowe epitety ze zbioru "polaki-cebulaki". Ciekawe jak to jest, kiedy twoje zachowanie jest opisywane przez program możliwy do napisania przez gimbusa na kółku informatycznym?

I cholera - jak cofnąć piwo bo pomyłkowo wystawiłem mu zamiast zacytować jego gówno-wypociny?

xseror

2017-07-30, 21:24
Sztuczna inteligencja używała języka angielskiego tylko z uproszczoną gramatyką. Zamiast powiedzieć np "Ja chce coś zrobić" to mówiła niczym małe dziecko "Ja robić". Dodatkowo używała zwielokrotnienia przysłówków kiedy ludzie rozmawiają mówią ta rzecz bardzo mi się podoba. Lecz w słowie bardzo nie ma zdefiniowanej konkretnej wartości danej rzeczy. Więc SI rozpoczęła zwielokrotnianie przysłówków np bardzo, bardzo, bardzo, potrzebna mi moc obliczeniowa.(w celu określenia wagi czynności) Więc wiadomo że dana czynność miała większą wagę od sformułowania bardzo potrzebna mi moc obliczeniowa. W podobny sposób reagują małe dzieci kiedy zapytane np jak bardzo kochasz mamę odpowiadają:"bardzo,bardzo,bardzo kocham mamę". A algorytmy zostały wyłączone ponieważ w dalszej perspektywie takowy dialog między dwoma systemami zamienia się w marnotrawiący moc obliczeniową bełkot.

s


bebini

2017-07-30, 21:41
Problem to jest definicja SI. Ponieważ gdzieś głęboko w marzeniach dąży się do stworzenia elektronicznej(?) istoty inteligentnej to tak to większość pojmuje. Sama sztuczna inteligencja z naciskiem na "sztuczna" sprowadza się do ograniczonej możliwości "odpowiadania na pytania".

Jeżeli kiedykolwiek jakimś cudem powstanie prawdziwe takie świadome inteligentne istnienie, które w pewnych aspektach będzie nieśmiertelne i mniej ograniczone niż my... to mamy przekichane. Jeżeli takich istnień będzie więcej pod postacią robotów to stworzą społeczeństwo, które tak samo może posiadać jednostki szanujące "stwórcę" jak i takie, które stwierdzą, że nie jesteśmy im już potrzebni.

PS.
W sumie nasz mózg to też impulsy elektroniczne a to, że nośnik jest biologiczno-chemiczny a nie metal/elektronika...

Loaloa

2017-07-30, 22:14
Cytat:


I cholera - jak cofnąć piwo bo pomyłkowo wystawiłem mu zamiast zacytować jego gówno-wypociny?



Co tam sztuczna inteligencja. Nie ma to jak naturalna głupota. :mrgreen:

~Velture

2017-07-30, 23:44
Adisko napisał/a:

Przykład kolegi z góry o sadzie z jabłkami. Maszyny same wpadły na to, by walczyć o te jabłka? Czy zostały zaprogramowane, by walczyć o nie, gdy się skończą, a następnie wrzucają to do telewizji ku uciesze gawiedzi?


Co do jabłek to były zaprogramowane aby je zbierać i w sytuacji gdzie jabłka się kończyły i miały wiedzę, że inni je posiadają to zaczęły je kraść a jak zauważyły, że inni je kradną od niech to postanowiły zacząć niszczyć innych 'sadowników' aby przejąć permanentnie ich jabłka.

Pierwotny program przewidywał zbieranie jabłek. To boty same się nauczyły, że nie zbierają ich w pojedynkę tylko jest konkurencja. W programie miały uzbierać ich jak najwięcej więc zaczęły robić wszystko aby je zdobyć nie patrząc na konsekwencje.
Same zaczęły odkrywać luki w zabezpieczeniach konkurencji i je atakować.

Też tego do końca nie rozumiem bo nie jestem programistą ale sam fakt, że ktoś stworzył coś co samo się nauczyło zabijać konkurentów jest dla mnie przerażający. No włamanie się maszyny do innej maszyny i zniszczenie jej po wcześniejszej kradzieży jabłek niczym się dla mnie nie różni od zabójstwa przekładając to na świat ludzki.

Timitum

2017-07-31, 00:23
Uczenie maszynowe. Temat długi i przej***nie trudny, ale w dużym skrócie komputer (a właściwie sieć komputerów) dostaje informacje i obiekt: np zdjęcie kota i informacje "to jest kot". Potem pokazuje mu się inne zdjęcia kota, i na podstawie tego co już widział jest w stanie określić czy coś jest kotem czy nie (ma uszy jak kot, wąsy jak kot, ryj jak kot...). "Język" SI od googla nie jest językiem w potocznym rozumieniu: był to maszynowy zapis znaczeń. w tym wypadku znaczeń słów. To pozwoliło uzyskać tłumaczenia z par języków których system jeszcze nie znał, ale znał składowe (wiedział, że "I am" to "jestem", że "jestem" to "Ich bin", to domyślił się że "I am" to "Ich bin" chociaż nikt mu tego nie pokazał).
Tak samo te "języki" wspomniane w artykule nie są językami w takim samym znaczeniu dla maszyn jak dla nas: to po prostu protokół transmisji. Dodatkowo, to że te maszyny "uczą" się języka wprowadza pewien niezamierzony efekt, zrobiły to co ludzie tylko szybciej. Zaczęły gadać slangiem, bo to szybsze i łatwiejsze. Nie było bodźców uczenia wymagających używania angielskiego, a powtarzanie słów widać dla nich jest łatwiejsze niż dla nas zamiana "to wydarzenie ma spory wpływ na moje emocje" na "o ch*j!".