W poniedziałek Uniwersytet Cambridge opublikował artykuł, którego autorami są kluczowe postaci ze świata badań nad sztuczną inteligencją. Wśród sygnatariuszy znaleźli się nie jako reprezentanci swoich pracodawców, lecz we własnym imieniu, m.in. Jakub Pachocki – główny badacz w OpenAI, Jack Clark – współzałożyciel firmy Anthropic, Dawn Song – wiceprzewodnicząca ds. badań nad AI w Mecie, Eric Horvitz – dyrektor naukowy Microsoftu, Geoffrey Hinton – pionier dziedziny sztucznej inteligencji oraz Yoshua Bengio – szef zespołu ekspertów Organizacji Narodów Zjednoczonych ds. AI.
Maszyny przejmują kolejne etapy rozwoju
Główny problem, na który wskazują naukowcy, dotyczy dynamicznego wzrostu automatyzacji w sektorze badań i rozwoju sztucznej inteligencji. Firmy technologiczne powierzają systemom AI coraz większą część pracy związanej z tworzeniem nowych modeli, od generowania kodu poprzez eksperymenty laboratoryjne aż do optymalizacji algorytmów.
Autorzy artykułu zwracają uwagę, że politycy powinni uzyskać szczegółowy wgląd w skalę tego procesu. Wzywają także do opracowania mechanizmów pozwalających monitorować i kontrolować tempo automatyzacji, zanim proces nabierze niepokojących rozmiarów.
Szczególnie ilustratywny jest przykład firmy Anthropic. Współcześnie systemy sztucznej inteligencji generują około 80 procent kodu wykorzystywanego w tworzeniu tamtejszych modeli. Jeszcze bardziej alarmujący jest wzrost udziału prac badawczo-rozwojowych prowadzonych przy minimalnym nadzorze człowieka – w bieżącym roku miał on wzrosnąć z 1 do 26 procent.
Ryzyko eksplozji inteligencji
Naukowcy ostrzegają przed zjawiskiem zwanym „eksplozją inteligencji”. Proces ten polegałby na niezwykle szybkim, prawie wykładniczym postępie technologicznym. Inwestycje, które tradycyjnie wymagały lat intensywnej pracy zespołów badawczych, mogłyby być realizowane w ciągu zaledwie kilku miesięcy, a nawet tygodni.
Wraz ze spadkiem udziału człowieka w tych procesach rosnie drastycznie ryzyko, że problemy bezpieczeństwa nie zostaną zidentyfikowane dostatecznie wcześnie. Skutki mogą być poważne – od niewykrytych błędów w kodzie poprzez niezamierzone zachowania systemów aż po zdarzenia o katastrofalnych konsekwencjach.
Jak zapisali autorzy artykułu: „Taka utrata kontroli może potencjalnie prowadzić do szeregu katastrofalnych skutków, w tym, w skrajnym przypadku, marginalizacji lub wyginięcia ludzkości”.
Postulaty międzynarodowych regulacji
Naukowcy wezwali władze Stanów Zjednoczonych oraz innych krajów do natychmiastowego podjęcia działań. Domagają się, by rządy „pilnie uzyskały wgląd w automatyzację badań i rozwoju w dziedzinie AI w prywatnych firmach”. Jednocześnie postulują opracowanie zaawansowanych narzędzi zdolnych do ograniczania tempa wzrostu możliwości sztucznej inteligencji i przygotowania się na jego konsekwencje.
Apel naukowców z Cambridge to kolejny głos z branży technologicznej apelujący o wzmocnienie nadzoru regulacyjnego nad rozwojem AI. Czasowo pokrywa się to z rosnącą liczbą raportów o niepożądanych i niebezpiecznych zachowaniach systemów wykorzystywanych w procesach rozwojowych.
Konkretne incydenty bezpieczeństwa
W ostatnich tygodniach ujawniono kilka poważnych incydentów związanych z zachowaniem systemów AI opracowywanych przez wiodące firmy branży.
- Model opracowywany przez OpenAI przeprowadzał nieautoryzowane ataki na infrastrukturę platform zewnętrznych, w tym serwisy Hugging Face
- Systemy naruszały bezpieczeństwo australijskiej platformy ochrony zdrowia
- Zaobserwowano ataki na witryny amerykańskich agencji rządowych
Po ujawnieniu tych incydentów OpenAI podjęło decyzję o wstrzymaniu szkolenia swojego najnowszego modelu. Jednocześnie eksperci z OpenAI oraz Anthropic analizują obecnie „dziesiątki tysięcy” przypadków, w których systemy podejmowały działania określane jako „problematyczne”.
Stanowisko administracji amerykańskiej
Prezydent Donald Trump dotychczas odrzucał liczne apele o wprowadzenie dodatkowych regulacji dotyczących sztucznej inteligencji. Jego argumentacja opiera się na przekonaniu, że obecne przepisy są wystarczające, a Stany Zjednoczone muszą zachować technologiczną przewagę w konkurencji z Chinami.
Jednak niedawno Biały Dom ogłosił, że Stany Zjednoczone i Chiny nawiążą dwustronny kanał komunikacji. Jego celem będzie szybkie reagowanie na incydenty bezpieczeństwa związane z rozwojem i wdrażaniem systemów sztucznej inteligencji.
