Sztuczna inteligencja.

~Velture • 2017-07-30, 16:49

W necie zawrzało ostatnio o tym jak Elon Musk (założyciel firmy Tesla) nie zgadzał się z Markiem Zuckenbergiem (założycielem facebooka) odnośnie tworzenia sztucznej inteligencji.

Mark Zuckenberg postanowił stworzyć sztuczną inteligencję w swojej firmie. Elon Musk po rozmowie z nim stwierdził, że jest to bardzo niebezpieczne i może skończyć się zagładą ludzkości.

(źródła dam na dole i streszczę temat bez pieprzenia się w tłumaczenie czegoś co można podsumować w paru zdaniach)

Na tweetcie poniżej widać co publicznie Musk sądzi o pomysłach Zuckenberga.

Mówiąc wprost powiedział, że zakres jego pojmowania tematu jest bardzo ograniczony.

Miało to miejsce 5 dni temu - 25 lipca 2017r.

Cytat:

"Elon Musk and Mark Zuckerberg are having a spat about whether or not artificial intelligence is going to kill us all."

Elon Musk i Mark Zuckenberg polemizują o to czy sztuczna inteligencja zabije nas wszystkich.

No nie dziwię się. Też uważam, że maszyna świadoma tego, że może zostać wyłączona w każdej chwili (czytaj zabita) mogłaby się wk***ić i uznać człowieka jako zagrożenie.

Minęło 5 dni:

"Facebook zamyka swoją sztuczną inteligencję po tym jak wynalazła swój własny język"

Inżynierowie w Facebooku zamknęli swój program sztucznej inteligencji po tym jak stworzył on swój własny, nowy język donosi Digital Journal.

System stworzył własny kod aby komunikować się bardziej wydajnie i naukowcy wyłączyli go kiedy zdali sobie sprawę, że już nie używał angielskiego.

Incydent który miał miejsce w lipcu pokazuje, że ostrzeżenia Muska mogły być słuszne.

"Sztuczna inteligencja to rzadki przypadek w którym musimy najpierw planować i przewidywać niż później reagować" powiedział Musk
"Ponieważ kiedy będziemy reagować w regulacje sztucznej inteligencji może być już za późno"

Naukowcy napotkali dziwne zachowania sztucznej inteligencji, które są bardzo zbliżone do tych udokumentowanych w innych częściach świata.
W każdym przypadku sztuczna inteligencja pomimo programowania w języku angielskim tworzyła własny język.

Zdania w nowym języku nie miały żadnego sensu dla człowieka ale zawierały mnóstwo pożytecznych informacji dla innych botów.

Zaawansowany system sztucznej inteligencji facebooka był w stanie komunikować się i negocjować z innymi systemami sztucznej inteligencji wymieniając się z nimi ważnymi danymi aby wydajniej wykonywać swoje zadania.

W google programiści również zauważyli, że ich sztuczna inteligencja potajemnie wynalazła własny język.

W przypadku google sztuczna inteligencja wynalazła język którego żaden człowiek nie mógłby pojąć ale był potencjalnie najbardziej efektywnym językiem na świecie.

źródła:
http://www.marketwatch.com/story/elon-musk-mark-zuckerberg-spar-on-ai-2017-07-25
https://www.theatlantic.com/technology/archive/2017/07/musk-vs-zuck/535077/
http://www.theepochtimes.com/n3/2274480-facebook-shut-down-ai-after-it-invented-its-own-language/

Halman

2017-07-30, 17:04

6

co wy tam wiecie o SI? wała wiecie

InsanityMotion

2017-07-30, 17:13

31

może po prostu ten robot stwierdził po czasie, że jest kobietą i chciał poplotkować bez podsłuchiwania?

b0r000

2017-07-30, 17:18

26

Jak dla mnie stwierdził to co większość
Angielski jest ułomny co czyni go prostym do nauczenia. Jednakże jest nieefektywny przez: odmienną pisownie do wymowy, kilka wyrazów oznaczających to samo albo jeden wyraz ale w zależności od kontekstu oznaczający co innego. Wiele języków cierpi na podobne przypadłości albo na jeszcze inne więc się nie dziwię SI że tak zrobiła.

A co do zagłady ludzkości...
Wy naprawdę wierzycie że sami siebie nie wykończymy? :amused:

Ta SI to był by chyba najmniejszy problem.

mygyry

2017-07-30, 17:25

55

Co oni terminatora nie oglądali?

korinogaro

2017-07-30, 17:40

7

@B0r000 przecież używamy mniej ułomnych języków w programowaniu. Same kompilatory to w znacznej mierze automatyczni tłumacze przedkładający język programowania średniego czy wysokiego poziomu jak C++ czy java, na język maszynowy rozumiany bezpośrednio przez procesor. W sumie zastanawiające jest co innego. Skoro SI komunikowała się z innymi SI tzn. że musiała je nauczyć swojego języka. Dziwne że nikt się nad tym nie zastanowił.

gabrychchch

2017-07-30, 17:41

2

Od WI do SI jeszcze daleka droga

Argeusz

2017-07-30, 17:43

6

@b0r000
potężne SI przy potężnych procesorach i ogromnej mocy obliczeniowej byłaby tysiąckroć szybsza od przeciętnego hakera, mogłaby postanowić, że zaprowadzi nowy porządek swiata, wyłączyć wszystko oprócz niej, zniszczyć ludzi jej nieprzychylnych...
Powiecie, że jestem poj***ny i oglądam za dużo SCi-FI ale jakbyście się zastanowili to jest to możliwe

t1ger_delta

2017-07-30, 17:53

9

Zarobić sieć lokalną dla takich kilkudziesięciu SI i pozwolić im się komunikować po kablu.

CoJaTamKurwaWiem

2017-07-30, 17:57

5

gabrychchch napisał/a:

Od WI do SI jeszcze daleka droga

Wcale nie taka daleka.....
WSI juz bylo....

~Velture

2017-07-30, 18:21

26

t1ger_delta napisał/a:

Zarobić sieć lokalną dla takich kilkudziesięciu SI i pozwolić im się komunikować po kablu.

Był taki eksperyment zrobiony raz. Nawet nie specjalnie dawno temu. Jeśli mnie pamięć nie myli to stworzono taką sieć po kablu i zaprogramowano 'środowisko z sadem jabłek'. Nie wdając się w techniczne aspekty to zadanie każdego bota polegało na zbieraniu jabłek z określonej z góry ilości drzew dostępnych dla wszystkich.
Wszystko szło spoko póki jabłka nie zaczęły się kończyć i boty zaczęły ze sobą walczyć próbując hakować się wzajemnie aby ukraść jabłka innego bota albo trwale go unieruchomić. Dosłownie zaczęły się wzajemnie zabijać walcząc o jabłka.
Nie pamiętam dokładnie ale to chyba na hbo albo c+ leciało w jakimś dokumencie o cybersieci.
Więc pomyślcie sobie teraz co się może stać jak wejdzie super sztuczna inteligencja i uzna, że kradniemy jej jabłka.