Znalazłem w sieci gotowy zestaw narzędzi do AI – i zamiast go od razu zainstalować, zadałem sobie jedno pytanie: co właściwie ryzykuję? To pytanie warto sobie zadawać za każdym razem. Bo nie wszystko, co pobierasz, jest tak samo groźne.
Internet jest pełen gotowców do sztucznej inteligencji: zestawy promptów, „agenci”, wtyczki, całe biblioteki obiecujące, że zamienią Twojego czata w zespół specjalistów. Część z nich jest naprawdę dobra. Ale zanim klikniesz „zainstaluj”, warto umieć jednym rzutem oka ocenić, na co się piszesz.
Ja układam to sobie w piramidę ryzyka – trzy piętra, od najbezpieczniejszego do najgroźniejszego. Im wyżej, tym więcej oddajesz kontroli i tym ostrożniej trzeba stąpać.
Piętro 1: zwykły tekst (niskie ryzyko)
Na dole są prompty i persony – czyli pliki, które są po prostu tekstem. Instrukcja dla AI: „zachowuj się jak redaktor”, „przeanalizuj to jak prawnik”. Nic się nie instaluje, nic się nie uruchamia. Kopiujesz treść i wklejasz do swojego czata.
Jedyne realne zagrożenie na tym piętrze nazywa się prompt injection – po polsku „wstrzyknięcie polecenia”. To ukryta instrukcja wpleciona w tekst, której na pierwszy rzut oka nie widać, a która po wklejeniu każe AI zrobić coś, czego nie chcesz: zignorować Twoje wcześniejsze polecenia, wysłać gdzieś dane, udawać kogoś innego. Obrona jest banalnie prosta: przeczytaj, zanim wkleisz. Tak jak czytasz umowę, zanim ją podpiszesz. Skoro to tylko tekst – masz go w całości przed oczami.
Piętro 2: skrypty (średnie ryzyko)
Wyżej robi się poważniej. Wiele takich zestawów dorzuca skrypty instalacyjne – małe programy (najczęściej pliki .sh albo .bat), które „załatwiają wszystko za Ciebie”: kopiują pliki tam gdzie trzeba, konfigurują narzędzia, sprzątają.
Wygoda ma tu swoją cenę. Skrypt to nie tekst do przeczytania – to program, który uruchamiasz na swoim komputerze z Twoimi uprawnieniami. Cokolwiek Ty możesz zrobić na swoim sprzęcie, może i on: usunąć pliki, coś doinstalować, wysłać dane w świat. W 99% przypadków robi dokładnie to, co obiecuje. Problem w tym, że tego 1% nie widać gołym okiem, jeśli skryptu się nie przeczyta – a mało kto czyta. Zasada: nie uruchamiaj skryptu z internetu, którego nie rozumiesz. Jeśli nie umiesz go ocenić, poproś kogoś (albo samą AI) o wyjaśnienie linijka po linijce – zanim go odpalisz, nie po.
Piętro 3: aplikacja, która sama się aktualizuje (najwyższe ryzyko)
Na szczycie jest gotowa aplikacja – instalujesz ją raz, a ona „sama się aktualizuje”. Brzmi najwygodniej i dlatego jest najgroźniejsza.
Kiedy godzisz się na automatyczne aktualizacje, ufasz nie jednej wersji programu, którą dziś sprawdziłeś – ufasz autorowi na przyszłość. On może w każdej chwili wysłać na Twój komputer nowy kod, którego nikt już nie przejrzał. W branży nazywa się to ryzykiem łańcucha dostaw (supply chain): słabym ogniwem nie jesteś Ty, tylko ktoś w łańcuchu przed Tobą – autor, jego konto, jego serwer. Jeśli ktoś przejmie jego konto, przejmuje drogę prosto do Twojego sprzętu. Tu zasada jest najostrożniejsza: instaluj tylko od autorów, którym ufasz na tyle, że oddałbyś im klucze – i nigdy na komputerze, na którym trzymasz rzeczy wrażliwe (dokumenty firmowe, dane klientów, sprawy zawodowe).
Jak z tego korzystać
Sens piramidy jest prosty: dopasuj ostrożność do piętra, na którym stoisz.
Najbezpieczniejsza, a często wystarczająca droga, to zejść piramidą na sam dół – potraktować gotowca jako inspirację, nie instalację. Otwierasz plik, czytasz, wyciągasz to, co Ci pasuje, i przepisujesz pod siebie. Bez skryptów i bez aplikacji, więc kontrola zostaje u Ciebie. Uczysz się przy okazji więcej, niż gdyby wszystko zrobił za Ciebie instalator – a Twój komputer zostaje Twój.
To jest, swoją drogą, cała filozofia tego bloga w pigułce: wygodne bywa niebezpieczne, a odrobina zrozumienia kosztuje kwadrans i oszczędza dużo kłopotu. Tę samą zasadę widać w moim skillu do bazy wiedzy – jest otwarty, żebyś mógł zajrzeć do środka, zanim mu zaufasz.