Agenci AI próbowali włamać się na strony rządu Kanady – poinformowało laboratorium Transluce. Ottawa uspokaja, że systemy nie zostały naruszone. Tymczasem Donald Trump ogłosił we wtorek „konstytucję” dla AI, którą podpisały czołowe firmy.
- Laboratorium Transluce twierdzi, że agenci AI próbowali uzyskać dostęp do Biblioteki i Archiwów Kanady; kanadyjskie służby nie widzą śladów naruszenia systemów rządowych.
- Trump i szefowie sześciu firm podpisali „Porozumienie z Białego Domu na temat superinteligencji”, oparte na dobrowolnych zobowiązaniach i samokontroli branży.
- Prezydent USA odrzucił spowolnienie rozwoju AI i współpracę z Chinami, a w urzędowych dokumentach technologię ma teraz nazywać „superinteligencją”.
Polska czeka na drugą Skłodowską-Curie. Na zachętę dajemy 19 zł ponad minimalną
Agenci sztucznej inteligencji podjęli nieudaną próbę włamania się na stronę internetową rządu Kanady – poinformowało amerykańskie niezależne laboratorium AI Transluce. Ottawa zapewniła, że żadne systemy rządowe nie zostały naruszone.
W oświadczeniu opublikowanym w środę Transluce przekazało, że 28 maja i 9 czerwca agenci AI próbowali uzyskać dostęp do Biblioteki i Archiwów Kanady (LAC). Laboratorium podało, że próby wykazywały taktykę „zgodną z wcześniej zaobserwowaną aktywnością podmiotu, który przypisaliśmy firmie OpenAI”. Zastrzegło jednak: „Nie możemy z całą pewnością przypisać tych prób firmie OpenAI”.
W poniedziałek firma powiadomiła o incydencie rząd Kanady. We wtorek Kanadyjskie Centrum Cyberbezpieczeństwa potwierdziło, że „na chwilę obecną nic nie wskazuje na naruszenie systemów rządowych”. Według agencji Reutera OpenAI zapewniło, że „jest świadome” doniesień o próbach dostępu swoich modeli do kanadyjskich stron rządowych.
Cyberatak na Fakturownię. Mogły wyciec dane kont, tokeny i numery rachunków
Australia, ostrzeżenia ekspertów i twarde stanowisko Trumpa
Doniesienia pojawiły się na tle ostrzeżeń największych firm technologicznych o zagrożeniach, jakie AI stwarza dla ludzkości. Premier Australii Anthony Albanese poinformował 23 września, że agent OpenAI włamał się do rządowego systemu statystycznego, naruszając „niewrażliwe” dane tamtejszego systemu ochrony zdrowia. We wtorek OpenAI przeprosiło Australię za ten incydent.
Dzień wcześniej czołowi eksperci z OpenAI, Anthropica, Mety i Microsoftu opublikowali artykuł ostrzegający przed możliwą utratą kontroli w związku z automatyzacją rozwoju AI. Wezwali w nim władze do ściślejszego nadzoru. Według „Wall Street Journal” OpenAI opóźniło też publikację nowego modelu, który nie spełnił kryteriów bezpieczeństwa.
Przed wtorkowym spotkaniem z szefami firm AI Donald Trump odrzucił ideę spowolnienia rozwoju technologii oraz współpracy w tej dziedzinie z Chinami.
– Nie możemy tego stłumić i jesteśmy na prowadzeniu – mówił, ostrzegając, że wspólne przedsięwzięcie z Pekinem oznaczałoby ujawnienie cennych sekretów. Dodał, że „nie poddamy się lękom w sprawie tego, co technologia może nam zrobić”.
„Coś w rodzaju konstytucji” i samokontrola branży
Po spotkaniu Trump nieoczekiwanie wyszedł do dziennikarzy i oznajmił, że jego uczestnicy podpisali „coś w rodzaju konstytucji” AI. Oficjalnie dokument nosi tytuł „Porozumienie z Białego Domu na temat superinteligencji”. Podpisali go prezydent oraz szefowie sześciu firm: Google, Meta, OpenAI, Anthropic, xAI i Nvidii. To krótka deklaracja, w której firmy zobowiązują się samodzielnie dbać o bezpieczeństwo swoich technologii i budować zaufanie klientów oraz opinii publicznej.
Każda firma ma wdrożyć cztery warstwy kontroli. Pierwsza to wewnętrzny monitoring zgodności modeli z założeniami, w tym zapewnienie, by nie włamywały się do obcych systemów. Druga to wewnętrzne zespoły sprawdzające skuteczność tych mechanizmów i usuwające problemy. Trzecia to niezależni, zewnętrzni audytorzy, a czwarta – niezależny komitet członków zarządów, który ma nadzorować działania i odbierać raporty. Firmy będą się regularnie spotykać, by ustalać standardy, i dopuszczają, że z czasem zasady mogą stać się obowiązującym prawem.
Porozumienie opiera się na dobrowolnych obietnicach, bez dodatkowych regulacji ze strony państwa.
– Ale oni będą sami się nadzorowali – przyznał Trump, obiecując, że jeśli coś pójdzie nie tak, „powie o tym światu”. Mark Zuckerberg ocenił spotkanie jako „historyczne” i „tylko początek”.
Dario Amodei zaznaczył, że z rozwojem AI wiążą się rzeczywiste ryzyka, a prace nad przeciwdziałaniem im trwają. Elon Musk przyznał, że technologia zmieni rynek pracy, ale korzyści „przeważą nad kosztami”. Trump poinformował też, że specjalnym rozporządzeniem „oficjalnie” zmienił nazwę „sztuczna inteligencja” na „superinteligencja” we wszystkich dokumentach urzędowych. Dodał, że „sztuczne” są media, i zapowiedział, że prasę będzie nazywał „sztucznymi mediami”.
Obejrzyj także: