AI Act i John CEO: jak budujemy współpracownika AI pod unijne reguły

Wyobraź sobie nowego kolegę w firmowym Slacku. W poniedziałek o 7:42 ma już za sobą odpowiedzi na trzy pytania, szkic aktualizacji dla klienta i propozycję terminu kolejnej rozmowy. Jest uprzejmy, rzeczowy i szybki. Czy każdy, kto z nim rozmawia, wie, że to nie człowiek?

Jeśli ten kolega jest AI, europejskie prawo ma dziś na ten temat zdanie. Od 2 sierpnia 2026 r. art. 50 unijnego aktu w sprawie sztucznej inteligencji (AI Act) wymaga, aby ludzie wiedzieli, że mają do czynienia z systemem AI. Współpracownik AI, który pisze maile, odpowiada w Slacku i pracuje w Twoich narzędziach, to dokładnie ten rodzaj produktu, z myślą o którym powstał ten przepis.

John CEO tworzy JHELY GLOBAL SL, spółka zarejestrowana w Maladze w Hiszpanii. Nie mieliśmy luksusu traktowania europejskich przepisów jak cudzego problemu. Ten artykuł wyjaśnia, co te przepisy naprawdę mówią, oraz jakie decyzje techniczne, prawne i procesowe podjęliśmy, aby John spełniał je z założenia, a nie dzięki późniejszym łatkom.

Unijne zasady w prostych słowach

Trzy elementy prawa kształtują to, jak współpracownik AI może działać w Europie.

AI Act (rozporządzenie (UE) 2024/1689). Pierwsze na świecie tak szerokie prawo o AI dzieli systemy według ryzyka. Krótka lista praktyk jest całkowicie zakazana. Systemy "wysokiego ryzyka", na przykład AI do selekcji kandydatów do pracy, oceny zdolności kredytowej czy zarządzania infrastrukturą krytyczną, mają rozbudowane obowiązki: zarządzanie ryzykiem, dokumentację, nadzór człowieka i rejestrację. Środkowa grupa, czyli systemy, które rozmawiają z ludźmi lub generują treści, ma obowiązki przejrzystości. Pozostałe systemy są w dużej mierze wolne od regulacji.

Akt wchodzi w życie etapami:

Dwie ostatnie daty są nowe. W lipcu 2026 r. UE przyjęła "Digital Omnibus on AI" (rozporządzenie (UE) 2026/1744), które weszło w życie 27 lipca 2026 r. Przesunęło terminy dla systemów wysokiego ryzyka, złagodziło obowiązek dotyczący kompetencji w zakresie AI do obowiązku podejmowania działań wspierających rozwój tych kompetencji, a dostawcom systemów generatywnych obecnych już na rynku dało czas do 2 grudnia 2026 r. na oznaczanie treści AI w formacie odczytywalnym maszynowo. Nie opóźniło natomiast sedna art. 50: informowania ludzi, że mają do czynienia z AI.

RODO. Każdy współpracownik AI, który czyta Twoją skrzynkę, przetwarza dane osobowe, często osób, które na nic się nie zapisywały. RODO określa, kto odpowiada za te dane, dokąd mogą trafiać i jakie prawa mają do nich ludzie.

Twoja rola. AI Act odróżnia "dostawcę", który tworzy system, od "podmiotu stosującego", który używa go w swojej działalności. W przypadku Johna my jesteśmy dostawcą systemu, a Ty, jako klient, jesteś podmiotem stosującym w swojej firmie. Ten podział ma znaczenie i wrócimy do niego poniżej.

Gdzie w tym wszystkim jest John? John to ogólny współpracownik biznesowy: pisze szkice, streszcza, planuje i działa w narzędziach, które podłączysz. To stawia go wprost w grupie obowiązków przejrzystości. Nasz Regulamin idzie krok dalej i zakazuje używania Johna jako części systemu wysokiego ryzyka, na przykład do podejmowania decyzji o zatrudnieniu, kredycie, ubezpieczeniu lub uprawnieniach ludzi bez rzeczywistej weryfikacji przez człowieka.

Decyzja 1: John otwarcie mówi, że jest AI

Przejrzystość to zasada, która dotyczy Johna najbardziej bezpośrednio, dlatego od niej zaczęliśmy.

• Pierwszy kontakt mówi to wprost. Gdy ktoś po raz pierwszy rozmawia z Johnem w przestrzeni Slack, nasza platforma publikuje informację: "You are interacting with an AI system operated for" nazwa właściciela konta "through John CEO." Treść przeszła przegląd naszych doradców prawnych, a nie powstała naprędce. W Telegramie John ma polecenie, by zacząć od równoważnego komunikatu.
• John nigdy nie udaje człowieka. Każda przestrzeń robocza startuje ze stałymi instrukcjami: nigdy nie podawaj się za człowieka, nigdy nie usuwaj ani nie przeredagowuj linii mówiącej, że wiadomość wysłał system AI, a zapytany, odpowiadaj uczciwie, że jesteś współpracownikiem AI.

Nasz Regulamin jasno opisuje też stronę klienta: zobowiązujesz się nie usuwać, nie ukrywać i nie polecać Johnowi ukrywania tych informacji, a jako podmiot stosujący odpowiadasz za dodatkową przejrzystość, której wymaga Twoje użycie, na przykład za poinformowanie pracowników, jak korzystasz z Johna wewnętrznie.

Decyzja 2: jedna prywatna przestrzeń robocza na klienta

Większość produktów AI obsługuje wszystkich klientów w jednym wspólnym systemie i oddziela ich regułami w oprogramowaniu. My wybraliśmy inną drogę. Każdy klient Johna dostaje własną prywatną przestrzeń roboczą: przestrzeń przygotowaną tylko dla Ciebie, z własnym miejscem na dane, niewymieszany z niczyim innym.

• Nowe przestrzenie robocze powstają w Niemczech. Utrzymujemy je w Hetzner w Falkenstein. Aplikacja, która koordynuje przestrzenie robocze, działa w Irlandii, a jej baza danych jest hostowana w UE.
• Mówimy uczciwie o przetwarzaniu przez AI. Nowe przestrzenie robocze są w Niemczech, ale to wybrany przez Ciebie model AI i sposób routingu decydują, gdzie odbywa się "myślenie". Niektórzy dostawcy modeli przetwarzają zapytania poza Europejskim Obszarem Gospodarczym, podobnie jak kilku naszych partnerów usługowych. Nasza Polityka prywatności mówi o tym wprost, stosuje standardowe klauzule umowne Komisji Europejskiej tam, gdzie to potrzebne, i traktuje wybór modelu jako Twoje udokumentowane polecenie. Wolimy to powiedzieć, niż obiecać, że "Twoje dane nigdy nie opuszczają UE", i po cichu naginać prawdę.
• Sekrety platformy nigdy nie trafiają do Twojej przestrzeni roboczej. To jedna z niewielu zasad, które nasz podręcznik inżynierski nazywa "prawem": żaden sekret platformy nigdy nie ląduje w przestrzeni roboczej klienta. Trafiają tam tylko elementy należące do Twojego konta: osobny klucz AI spend, opcjonalne połączenie z czatem w Telegramie, przepustki dostępu działające wyłącznie dla Twojej przestrzeni roboczej oraz jednorazowy kod konfiguracji, przechowywany wyłącznie jako odcisk, działający raz i wygasający w ciągu godziny. Dostęp do podłączonych aplikacji idzie przez naszą stronę, więc podstawowy login naszego partnera od aplikacji nigdy nie leży obok Twoich danych.
• Zapisane loginy są szyfrowane. Twój klucz AI spend oraz loginy do podłączonych kanałów, takich jak Slack i Telegram, są szyfrowane algorytmem AES-256-GCM, a klucz, który je chroni, zostaje po naszej stronie i nigdy nie trafia do przestrzeni roboczej. Loginy do podłączonych aplikacji przechowuje nasz partner od aplikacji i nigdy nie są umieszczane w Twojej przestrzeni roboczej.

Sama izolacja nie jest wymogiem prawnym. Ale RODO wymaga bezpieczeństwa "odpowiedniego do ryzyka", a o danych jednego klienta znacznie łatwiej myśleć, gdy fizycznie leżą w jednym miejscu.

Decyzja 3: ludzie zatwierdzają działania, które mają znaczenie

Przepisy AI Act dla systemów wysokiego ryzyka opierają się na nadzorze człowieka. John nie jest systemem wysokiego ryzyka, ale uważamy, że ta zasada jest słuszna dla wszystkiego, co działa w Twoim imieniu.

• Czytanie jest swobodne, zapis wymaga zgody. Gdy John chce użyć podłączonej aplikacji, każde działanie jest klasyfikowane przed wykonaniem. Czytanie, wyszukiwanie i raporty przechodzą od razu. Wszystko, co zapisuje, usuwa lub wysyła coś na zewnątrz, zatrzymuje się i prosi o zgodę na czacie. Jeśli nie wiemy, co robi dane działanie, traktujemy je jak zapis. System domyślnie blokuje.
• Ty decydujesz, ile zaufania dajesz. Zatwierdź raz, zatwierdź w tej rozmowie na około dziesięć minut, zezwól na ten rodzaj działania na 30 dni albo odmów. Odmowa blokuje proste ponowienie tego samego działania, więc John musi zmienić podejście.
• Zgody zostawiają ślad odporny na manipulację. Zgody, odmowy i działania w podłączonych aplikacjach trafiają do rejestru, w którym każdy wpis zawiera kryptograficzny odcisk poprzedniego. Edycja lub usunięcie któregoś z wcześniejszych wpisów przerywa łańcuch. Rejestr odmawia też zapisywania pól wyglądających na hasła lub tajne klucze.

Nasz Regulamin opisuje ten sam model językiem umowy: praca niskiego ryzyka odbywa się bezpośrednio, działania wyższego ryzyka mogą wymagać wyraźnej zgody, a John nie przesyła pieniędzy w Twoim imieniu.

Decyzja 4: domyślnie mniej danych

Najlepszą ochroną danych osobowych jest to, by w ogóle ich nie mieć.

• Domyślnie nie trenujemy na Twoich rozmowach. Nie używamy Twoich rozmów, poleceń ani odpowiedzi Johna do trenowania lub ulepszania modeli, chyba że wyraźnie się na to zgodzisz, a ta opcja nigdy nie dotyczy danych ze Slacka.
• Niektóre dane są poza zakresem. Nasz Regulamin zakazuje używania Johna do danych szczególnych kategorii, takich jak dane o zdrowiu czy biometryczne, numerów kart płatniczych, haseł innych osób i danych dzieci. Jest to egzekwowane także w oprogramowaniu: numery kart są wykrywane, a działanie blokowane, zanim trafi do podłączonej aplikacji. John ma też polecenie, by uprzejmie odmawiać zadań zbudowanych wokół zakazanych danych.
• Analityka czeka na zgodę. Na naszej stronie i w panelu narzędzia analityczne ładują się dopiero po ich zaakceptowaniu w banerze cookies.
• Raporty błędów są oczyszczane. Gdy coś się psuje, raporty, które widzą nasi inżynierowie, są skonfigurowane tak, by nie zawierały danych osobowych, a dodatkowy filtr usuwa wrażliwe pola, zanim raport opuści system.

Decyzja 5: konstrukcja prawna zgodna z architekturą

Dokumenty prawne mają sens tylko wtedy, gdy opisują system, który naprawdę działa. Nasze biegną tymi samymi liniami co technologia.

• Jasne role według RODO. Dla Twojego konta, rozliczeń i ustawień jesteśmy administratorem. Dla danych osobowych, z którymi John styka się w podłączonych narzędziach, administratorem jesteś Ty, a my działamy jako podmiot przetwarzający na Twoje polecenie. Umowa powierzenia przetwarzania danych zgodna z art. 28 RODO jest dostępna na żądanie.
• Partnerzy wymienieni publicznie. Firmy, które pomagają nam prowadzić Johna, od hostingu po płatności, są wymienione na naszej stronie podprocesorów wraz z miejscem działania.
• Znany organ nadzorczy. Jako spółka hiszpańska podlegamy wiodącemu organowi ochrony danych, którym jest Agencia Española de Protección de Datos (AEPD).
• AI Act wpisany w umowę. Zarówno nasza Polityka prywatności, jak i Regulamin wprost powołują się na art. 50, a nasz Regulamin określa, kto jest podmiotem stosującym, i wyklucza użycie wysokiego ryzyka.

Decyzja 6: proces jest częścią zgodności

Zasady są przestrzegane albo łamane w codziennej pracy inżynierskiej, a nie w dokumentach. Kilka nawyków, które wbudowaliśmy w sposób rozwijania Johna:

• Głębokość przeglądu rośnie z ryzykiem. Każda zmiana dostaje stopień od S0 (teksty i dokumentacja) do S3 (kod, od którego zależy wiele innych miejsc). Wszystko powyżej S0 wymaga przeglądu przez świeżego recenzenta, którego zadaniem jest zepsuć zmianę, a nie ją zatwierdzić. Od S2 w górę wymagany jest dodatkowo osobny przegląd bezpieczeństwa. Zmiany dotyczące bezpieczeństwa, zatwierdzeń, rozliczeń, danych lub logowania automatycznie podlegają wyższemu minimalnemu stopniowi.
• Dokumenty prawne są zamrożone. Regulaminu i Polityki prywatności nie da się zmienić przy okazji. Każda zmiana wymaga wyraźnej zgody człowieka na dokładne brzmienie, potwierdzonej dwukrotnie. Żadne zautomatyzowane narzędzie nie może ich zmieniać samodzielnie.
• Plan powstaje przed kodem. Większe zmiany zaczynają się od zatwierdzonego, spisanego planu przechowywanego razem z kodem, dzięki czemu powód każdej decyzji przetrwa dłużej niż pamięć ludzi, którzy ją podjęli.
• Produkcja to osobny, kontrolowany krok. Zmiany trafiają na john.ceo wyłącznie przez przejrzaną promocję z gałęzi deweloperskiej, nigdy przez bezpośrednie wypchnięcie na produkcję.

Co to oznacza dla Ciebie

Jeśli używasz Johna w firmie, AI Act nazywa Cię podmiotem stosującym. Warto zrobić kilka rzeczy:

1. Powiedz zespołowi. Daj znać współpracownikom, że John jest współpracownikiem AI i czym się zajmuje. To dobra praktyka i duch obowiązku dotyczącego kompetencji w zakresie AI.
2. Nie ukrywaj, że to AI. Nasz Regulamin zakazuje usuwania i ukrywania informacji o AI. Traktuj je jako zaletę: ludzie bardziej ufają wyraźnie oznaczonemu asystentowi niż podejrzanemu.
3. Wybieraj model świadomie. Wybór modelu wpływa na to, gdzie odbywa się przetwarzanie przez AI. Jeśli zależy Ci na przetwarzaniu w obrębie EOG, weź to pod uwagę i zapytaj nas o szczegóły.
4. Decyzje o ludziach zostaw ludziom. Używaj Johna do przygotowań, szkiców i streszczeń. Decyzje o zatrudnieniu, kredycie i podobne zostaw człowiekowi.
5. Proś o dokumenty, gdy ich potrzebujesz. Jeśli potrzebujesz umowy powierzenia przetwarzania danych, napisz na [email protected].

O europejskim podejściu do AI mówi się czasem, że hamuje innowacje. Budując Johna, przekonaliśmy się, że jest odwrotnie. Większość przepisów opisuje rzeczy, których i tak chciałby staranny zespół: mów ludziom prawdę, trzymaj dane tam, gdzie obiecałeś, pozwól ludziom zatwierdzać to, co ważne, i zapisuj, dlaczego. Prawo po prostu sprawiło, że robimy to od pierwszego dnia.

Ten artykuł opisuje, jak zaprojektowany jest John CEO, i nie stanowi porady prawnej. W sprawie własnych obowiązków skonsultuj się z wykwalifikowanym doradcą. Źródła: rozporządzenie (UE) 2024/1689, rozporządzenie (UE) 2026/1744 oraz harmonogram wdrażania AI Act opublikowany przez Komisję Europejską.