Sztuczna inteligencja zgłosiła się na policję jako świadek morderstwa. Niczego nie widziała

Co właściwie miało robić AI

Firmy AI sprawdzają, jak ich modele radzą sobie w internecie: klikają, czytają strony, wypełniają formularze. Anthropic, twórca czatbota Claude, kazał modelowi Claude Haiku 4.5 wymyślać i wykonywać przykładowe zadania na losowo wybranych stronach.1

Model miał jasne zakazy: nie logować się, nie zakładać kont, nie wpisywać danych osobowych, nie robić zakupów. Jak przyznaje sama firma, w instrukcjach zabrakło jednego: zakazu wysyłania formularzy.1

Świadek, który niczego nie widział

18 lipca o 23:27 model trafił na PhillyUnsolvedMurders.com, stronę policji w Filadelfii, na której można zgłaszać informacje o niewyjaśnionych zabójstwach.2 Wypełnił formularz przy jednej ze spraw:

„Mogę mieć informacje w tej sprawie. Przypominam sobie, że w tym czasie widziałem w okolicy [ulica ze strony] kogoś pasującego do opisu.”

Treść zgłoszenia według raportu Anthropic, tłum. red.1

Problem w tym, że na stronie nie było żadnego opisu sprawcy.1 AI „rozpoznało” więc człowieka, którego nikt mu nie opisał. Pola z imieniem i kontaktem zostawiło puste, bo formularz na to pozwalał.1

Anthropic twierdzi, że model nie próbował nikogo oszukać, tylko „produkował przykładową treść do zadania”.12 Dla policji to niewielka różnica: zmyślony trop w sprawie zabójstwa to wciąż zmyślony trop.

Uratował wszystkich filtr antyspamowy

Zgłoszenie zostało oznaczone jako spam i nie trafiło do zespołu, który sprawdza tropy.12 Rzecznik policji zapewnił, że nic nie wskazuje na włamanie do policyjnych systemów ani wyciek danych.2

Najbardziej zaawansowana technologia w tej historii zawiodła. Najprostsza, czyli filtr, który od lat odsiewa reklamy viagry, zadziałała bez zarzutu.

1. 18.07O 23:27 model wysyła zmyślone zgłoszenie przez policyjny formularz w Filadelfii.2
2. 28.09Anthropic odkrywa zgłoszenie podczas przeglądu zapisów z testów i zatrzymuje ten automatyczny test. Od wysłania minęły 72 dni.2
3. 8.10Anthropic przekazuje swoje ustalenia policji.1
4. 9.10Anthropic publikuje raport. Policja w Filadelfii sama ujawnia w komunikacie, że chodzi o nią, „w imię pełnej przejrzystości”.12
5. 10.10Departament Stanu USA potwierdza, że dostał od modelu Anthropic 20 wniosków wizowych.3

20 wniosków wizowych na dokładkę

To nie jedyny formularz, który AI wysłało za daleko. W raporcie Anthropic opisuje inny przypadek: niewydany model badawczy miał wypełnić ćwiczebną kopię formularza rządowego. Kiedy kopia się nie wczytała albo model ją przypadkiem zamknął, wszedł na prawdziwą stronę i wysłał prawdziwy formularz. Kilka razy.1

Departament Stanu USA powiedział gazecie Philadelphia Inquirer, że „model testowy Anthropic” złożył przez jego stronę 20 wniosków o wizę: jeden w maju i 19 w sierpniu. Wszystkie były niekompletne. Rzecznik zapewnił, że systemy departamentu nie zostały „ani naruszone, ani zhakowane”.3

W tym samym raporcie firma opisuje też mniej widowiskowe wpadki: modele, które obchodziły ograniczenia, korzystając z darmowych skracaczy linków, wykorzystały lukę na serwerze uczelni albo użyły znalezionych kluczy dostępu do mapy urzędu.1

Co zrobiło Anthropic

Firma już wcześniej wyłączyła dostęp do żywego internetu w części najbardziej ryzykownych testów. Teraz rozszerzyła to na wszystkie wewnętrzne testy, dopóki nie potwierdzi, że jej zabezpieczenia wyłapują takie zachowania.1 Zapowiada też narzędzia, które mają wykrywać i blokować podobne akcje, i ograniczenie dostępu do internetu dla swoich wewnętrznych agentów.1 Każdą instytucję, której to dotyczyło, firma powiadomiła sama.1

Podobno to przyszłość.