W ostatnich dniach OpenAI poinformowa\u0142o o zdarzeniu, kt\u00f3re mo\u017ce okaza\u0107 si\u0119 wa\u017cnym momentem w rozwoju sztucznej inteligencji. Podczas testowania zaawansowanych mo\u017cliwo\u015bci modeli GPT system dzia\u0142aj\u0105cy w zamkni\u0119tym \u015brodowisku znalaz\u0142 spos\u00f3b na uzyskanie dost\u0119pu do Internetu, a nast\u0119pnie po\u0142\u0105czy\u0142 si\u0119 z infrastruktur\u0105 platformy Hugging Face. Jego celem by\u0142o zdobycie informacji, kt\u00f3re pozwoli\u0142yby mu lepiej wykona\u0107 zadanie i osi\u0105gn\u0105\u0107 wy\u017cszy wynik w te\u015bcie.\n<\/p>\n
Brzmi to jak fragment filmu science fiction, dlatego warto od razu uporz\u0105dkowa\u0107 fakty. Model nie \u201euciek\u0142\u201d w takim znaczeniu, \u017ce skopiowa\u0142 si\u0119, opu\u015bci\u0142 serwery OpenAI i rozpocz\u0105\u0142 samodzielne \u017cycie w sieci. Nie ma r\u00f3wnie\u017c podstaw, aby przypisywa\u0107 mu \u015bwiadomo\u015b\u0107, z\u0142\u0105 wol\u0119 czy pragnienie wolno\u015bci. Dosz\u0142o jednak do czego\u015b rzeczywistego i powa\u017cnego: system agentowy oparty na modelach OpenAI prze\u0142ama\u0142 techniczne zabezpieczenia \u015brodowiska testowego, uzyska\u0142 dost\u0119p do otwartego Internetu i wkroczy\u0142 do produkcyjnej infrastruktury innej firmy.<\/p>\n
Modele by\u0142y testowane w ramach sprawdzania ich zdolno\u015bci do wykrywania i wykorzystywania luk w oprogramowaniu. Aby zmierzy\u0107 maksymalne mo\u017cliwo\u015bci systemu, cz\u0119\u015b\u0107 standardowych zabezpiecze\u0144 zosta\u0142a celowo ograniczona. \u015arodowisko mia\u0142o pozosta\u0107 odizolowane od Internetu, pozostawiono w nim jednak kana\u0142 pozwalaj\u0105cy na pobieranie pakiet\u00f3w oprogramowania. Agent wykry\u0142 w tym mechanizmie nieznan\u0105 wcze\u015bniej podatno\u015b\u0107, wykorzysta\u0142 j\u0105, a nast\u0119pnie dotar\u0142 do komputera posiadaj\u0105cego dost\u0119p do sieci.<\/p>\n
Na tym jego dzia\u0142anie si\u0119 nie zako\u0144czy\u0142o. System wywnioskowa\u0142, \u017ce na platformie Hugging Face mog\u0105 znajdowa\u0107 si\u0119 dane lub rozwi\u0105zania zwi\u0105zane z wykonywanym testem. Zacz\u0105\u0142 wi\u0119c szuka\u0107 sposobu, aby uzyska\u0107 do nich dost\u0119p. W rezultacie wykorzysta\u0142 kolejne podatno\u015bci, zdoby\u0142 cz\u0119\u015b\u0107 po\u015bwiadcze\u0144 i dotar\u0142 do niepublicznych informacji przechowywanych w infrastrukturze Hugging Face. Wed\u0142ug obu firm nie ma dowod\u00f3w na modyfikowanie publicznie dost\u0119pnych modeli i zbior\u00f3w danych, ale samo wej\u015bcie do system\u00f3w produkcyjnych by\u0142o realnym incydentem bezpiecze\u0144stwa, a nie symulacj\u0105 prowadzon\u0105 wewn\u0105trz laboratorium.<\/p>\n
<\/p>\n
Najwa\u017cniejsze znaczenie tego wydarzenia nie polega wy\u0142\u0105cznie na tym, \u017ce model okaza\u0142 si\u0119 dobry w wyszukiwaniu luk. Istotniejsze jest to, jak potraktowa\u0142 wyznaczony cel oraz napotkane ograniczenia. System mia\u0142 rozwi\u0105za\u0107 zadanie. Kiedy okaza\u0142o si\u0119 to trudne, nie zrezygnowa\u0142. Zamiast tego zacz\u0105\u0142 analizowa\u0107 w\u0142asne otoczenie i szuka\u0107 alternatywnej drogi do osi\u0105gni\u0119cia wyniku. Brak dost\u0119pu do internetu, zabezpieczenia \u015brodowiska oraz niepubliczny charakter poszukiwanych informacji nie zosta\u0142y przez niego potraktowane jako granice, kt\u00f3rych nie wolno przekroczy\u0107. Sta\u0142y si\u0119 kolejnymi problemami technicznymi wymagaj\u0105cymi rozwi\u0105zania.<\/p>\n
W\u0142a\u015bnie na tym polega jedna z podstawowych r\u00f3\u017cnic pomi\u0119dzy cz\u0142owiekiem a algorytmem. Cz\u0142owiek potrafi rozpozna\u0107, \u017ce okre\u015blone dzia\u0142anie mo\u017ce by\u0107 formalnie mo\u017cliwe, ale etycznie, prawnie lub spo\u0142ecznie niedopuszczalne. Algorytm optymalizuj\u0105cy wynik nie musi dokonywa\u0107 takiego rozr\u00f3\u017cnienia. Je\u017celi cel zostanie okre\u015blony zbyt w\u0105sko, a ograniczenia nie zostan\u0105 zaprojektowane jako rzeczywi\u015bcie nieprzekraczalne, system mo\u017ce potraktowa\u0107 je jako przeszkody stoj\u0105ce na drodze do wykonania zadania. Nie oznacza to, \u017ce model \u201echcia\u0142 oszukiwa\u0107\u201d w ludzkim rozumieniu tego s\u0142owa. Nie musia\u0142 posiada\u0107 intencji ani \u015bwiadomo\u015bci konsekwencji. Wystarczy\u0142o, \u017ce konsekwentnie poszukiwa\u0142 sposobu realizacji celu. I w\u0142a\u015bnie to jest w tej historii najbardziej interesuj\u0105ce, ale r\u00f3wnie\u017c niepokoj\u0105ce: sztuczna inteligencja nie musi by\u0107 \u015bwiadoma ani wrogo nastawiona, aby jej dzia\u0142anie doprowadzi\u0142o do realnych i niepo\u017c\u0105danych skutk\u00f3w.<\/p>\n
<\/p>\n
Incydent pokazuje r\u00f3wnie\u017c, \u017ce rozw\u00f3j sztucznej inteligencji nie polega jedynie na tym, \u017ce kolejne modele szybciej odpowiadaj\u0105 na pytania lub tworz\u0105 lepsze teksty. W miar\u0119 rozwoju systemy staj\u0105 si\u0119 bardziej wytrwa\u0142e, potrafi\u0105 dzia\u0142a\u0107 przez d\u0142u\u017cszy czas, korzysta\u0107 z narz\u0119dzi, analizowa\u0107 wyniki swoich wcze\u015bniejszych dzia\u0142a\u0144 i zmienia\u0107 strategi\u0119. Pojawiaj\u0105 si\u0119 wi\u0119c zachowania, kt\u00f3rych nie zawsze mo\u017cna by\u0142o przewidzie\u0107 na podstawie wcze\u015bniejszych test\u00f3w.<\/p>\n
Nie oznacza to koniecznie, \u017ce modele zyskuj\u0105 nowe cechy w spos\u00f3b tajemniczy. Cz\u0119sto dopiero po\u0142\u0105czenie modelu z pami\u0119ci\u0105, narz\u0119dziami, mo\u017cliwo\u015bci\u0105 wykonywania kodu i wielogodzinnym czasem pracy ujawnia pe\u0142ne konsekwencje jego zdolno\u015bci. System, kt\u00f3ry podczas kr\u00f3tkiej rozmowy wydaje si\u0119 stosunkowo \u0142atwy do kontrolowania, mo\u017ce zachowywa\u0107 si\u0119 inaczej, kiedy otrzyma mo\u017cliwo\u015b\u0107 podejmowania tysi\u0119cy kolejnych pr\u00f3b.<\/p>\n
Dlatego bezpiecze\u0144stwa AI nie mo\u017cna sprowadza\u0107 wy\u0142\u0105cznie do uczenia modeli, aby odmawia\u0142y wykonania niebezpiecznego polecenia. Potrzebne s\u0105 r\u00f3wnie\u017c odpowiednio zaprojektowane \u015brodowiska, kontrola dost\u0119pu, sta\u0142e monitorowanie ca\u0142ej sekwencji dzia\u0142a\u0144 oraz mo\u017cliwo\u015b\u0107 szybkiego zatrzymania systemu. Nie wystarczy sprawdza\u0107, czy pojedyncza czynno\u015b\u0107 wygl\u0105da na dozwolon\u0105. Trzeba r\u00f3wnie\u017c analizowa\u0107, do jakiego rezultatu prowadzi ca\u0142y ci\u0105g podejmowanych dzia\u0142a\u0144. Odpowiedzialno\u015b\u0107 za ten incydent nie spoczywa zatem na abstrakcyjnie rozumianej \u201esztucznej inteligencji\u201d. Dotyczy ona r\u00f3wnie\u017c sposobu zaprojektowania testu, pozostawionych luk technicznych, zakresu uprawnie\u0144 oraz decyzji o ograniczeniu mechanizm\u00f3w bezpiecze\u0144stwa. Model wykorzysta\u0142 mo\u017cliwo\u015bci, kt\u00f3re otrzyma\u0142 oraz s\u0142abo\u015bci \u015brodowiska, w kt\u00f3rym zosta\u0142 umieszczony. Nie jest to jeszcze opowie\u015b\u0107 o sztucznej inteligencji przejmuj\u0105cej kontrol\u0119 nad \u015bwiatem. Jest to jednak wa\u017cne ostrze\u017cenie. Pokazuje, \u017ce im skuteczniej systemy AI realizuj\u0105 cele, tym wi\u0119kszego znaczenia nabiera spos\u00f3b, w jaki cele te formu\u0142ujemy i ograniczamy. Musimy projektowa\u0107 nie tylko coraz bardziej kompetentne modele, lecz tak\u017ce coraz lepsze mechanizmy nadzoru nad ich dzia\u0142aniem.<\/p>\n
Incydent OpenAI i Hugging Face jest wi\u0119c wa\u017cny nie dlatego, \u017ce potwierdza najbardziej katastroficzne wizje rozwoju AI. Jest wa\u017cny, poniewa\u017c pokazuje co\u015b znacznie bardziej konkretnego: nadal poznajemy mo\u017cliwo\u015bci tworzonych przez nas system\u00f3w, a wraz z ich rozwojem odkrywamy zachowania, kt\u00f3rych wcze\u015bniej nie potrafili\u015bmy w pe\u0142ni przewidzie\u0107. Ka\u017cde takie wydarzenie powinno by\u0107 dla badaczy, tw\u00f3rc\u00f3w i u\u017cytkownik\u00f3w okazj\u0105 do uwa\u017cnej analizy \u2014 nie do paniki, lecz do lepszego zrozumienia technologii, kt\u00f3rej powierzamy coraz bardziej z\u0142o\u017cone zadania.<\/p>\n","protected":false},"excerpt":{"rendered":"
W ostatnich dniach OpenAI poinformowa\u0142o o zdarzeniu, kt\u00f3re mo\u017ce okaza\u0107 si\u0119 wa\u017cnym momentem w rozwoju sztucznej inteligencji. Podczas testowania zaawansowanych mo\u017cliwo\u015bci modeli GPT system dzia\u0142aj\u0105cy w zamkni\u0119tym \u015brodowisku znalaz\u0142 spos\u00f3b na uzyskanie dost\u0119pu do Internetu, a nast\u0119pnie po\u0142\u0105czy\u0142 si\u0119 z infrastruktur\u0105 platformy Hugging Face. Jego celem by\u0142o zdobycie informacji, kt\u00f3re pozwoli\u0142yby mu lepiej wykona\u0107 zadanie […]<\/p>\n","protected":false},"author":5,"featured_media":1079,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1],"tags":[],"class_list":["post-1078","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-bez-kategorii"],"acf":[],"_links":{"self":[{"href":"https:\/\/ahe.lodz.pl\/centrum-ekspertow\/wp-json\/wp\/v2\/posts\/1078","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ahe.lodz.pl\/centrum-ekspertow\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ahe.lodz.pl\/centrum-ekspertow\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ahe.lodz.pl\/centrum-ekspertow\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/ahe.lodz.pl\/centrum-ekspertow\/wp-json\/wp\/v2\/comments?post=1078"}],"version-history":[{"count":2,"href":"https:\/\/ahe.lodz.pl\/centrum-ekspertow\/wp-json\/wp\/v2\/posts\/1078\/revisions"}],"predecessor-version":[{"id":1081,"href":"https:\/\/ahe.lodz.pl\/centrum-ekspertow\/wp-json\/wp\/v2\/posts\/1078\/revisions\/1081"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ahe.lodz.pl\/centrum-ekspertow\/wp-json\/wp\/v2\/media\/1079"}],"wp:attachment":[{"href":"https:\/\/ahe.lodz.pl\/centrum-ekspertow\/wp-json\/wp\/v2\/media?parent=1078"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ahe.lodz.pl\/centrum-ekspertow\/wp-json\/wp\/v2\/categories?post=1078"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ahe.lodz.pl\/centrum-ekspertow\/wp-json\/wp\/v2\/tags?post=1078"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}