info:Tabletowo.plPrezes Tesli, Elon Musk, stwierdził ostatnio, że największym zagrożeniem dla ludzkości jest Sztuczna Inteligencja. Kilka dni później Facebook był zmuszony zamknąć jeden z systemów SI po tym, jak chatboty zaczęły mówić własnym językiem, sprzeciwiając się wewnętrznym kodom.
Według doniesień Tech Timesa, w niedzielę gigant społecznościowy musiał wyciągnąć wtyczkę od systemu sztucznej inteligencji, nad którym pracują naukowcy Facebooka, „ponieważ rzeczy wyrwały się spod kontroli„. Jak czytamy w raporcie, „Sztuczna Inteligencja nie zaczęła wyłączać komputerów na całym świecie ani nic z tych rzeczy, ale przestała używać języka angielskiego i zaczęła posługiwać się językiem, który sama stworzyła”.
Początkowo boty SI używały języka angielskiego, by się z sobą porozumiewać, ale później stworzyły nowy język, zrozumiały tylko dla systemów sztucznej inteligencji, co było niezgodne z celem, dla którego powstały. Dlatego badacze Facebooka musieli wyłączyć systemy SI, a następnie zmusili boty, by te rozmawiały tylko po angielsku.
Już w czerwcu naukowcy z Facebook AI Research Lab (FAIR) zauważyli, że kiedy oni byli zajęci usprawnieniami chatbotów, „agenci dialogu” tworzyli swój własny język. Wkrótce boty coraz bardziej odbiegały od standardowych scenariuszy rozmowy i zaczęły komunikować się w całkowicie nowym języku, który stworzyły bez jakiejkolwiek pomocy ze strony człowieka.
Dwa boty Facebooka rozmawiają ze sobą „w swoim języku”
Korzystając z algorytmów uczenia maszynowego, boty zostały pozostawione same sobie, by mogły radośnie konwersować ze sobą w kontrolowanych warunkach. Dodatkowo okazało się, że boty są „niewiarygodnie skutecznymi negocjatorami”.
Podczas uczenia się negocjacji, boty polegały na uczeniu maszynowym . Z biegiem czasu były w tym coraz lepsze, a nawet zaczęły udawać, że interesują się jakąś rzeczą, by później „poświęcić” ją podczas negocjacji w postaci fałszywego kompromisu.
To, co wyprawia Sztuczna Inteligencja potrafi zadziwić, i choć często są to sukcesy na jednym, bardzo wąskim polu, to każą one na poważnie brać ostrzeżenia Elona Muska, Billa Gatesa czy Steve’a Wozniaka odnośnie zagrożeń, jakie stoją przed ludźmi w obliczu szybko rozwijającej się SI. Oczywiście na tym etapie wystarczy tylko wyciągnąć wtyczkę z odpowiedniej szafy, ale mogą nadejść czasy, gdy to będzie za mało, a maszyny będą dogadywać się ze sobą za naszymi plecami…
