Dlaczego w firmie powstaje shadow AI
Shadow AI rzadko powstaje ze złej woli.
Najczęściej powstaje, bo pracownicy chcą rozwiązać problem. E-mail ma brzmieć lepiej. Ofertę trzeba napisać szybciej. Tabela ma być bardziej zrozumiała. Prezentacja potrzebuje struktury. Aplikacja ma zostać podsumowana. Protokół ma stać się czytelny.
AI pomaga.
Ale często pomaga szybciej, niż firma formułuje reguły.
Wtedy każdy decyduje sam: jakie narzędzie jest używane, jakie dane są wprowadzane, które wyniki są przejmowane, które źródła są sprawdzane i co pozostaje poufne.
To jest punkt krytyczny.
Nie samo korzystanie z AI jest właściwym problemem. Problemem jest korzystanie nieuregulowane.
1. Korzystanie z AI to temat pracodawcy
Korzystanie z AI przez pracowników to nie tylko IT.
Dotyczy obowiązków pracodawcy, organizacji pracy, ochrony danych, tajemnic przedsiębiorstwa, rady zakładowej, prawa autorskiego, ochrony klientów, odpowiedzialności i zarządzania.
Do wyjaśnienia są w szczególności:
- -Z jakich narzędzi AI już się korzysta?
- -Które działy korzystają z AI?
- -Które cele są dozwolone?
- -Które cele są zakazane?
- -Jakie dane można wprowadzać?
- -Jakich danych nie wolno nigdy wprowadzać?
- -Kto sprawdza wyniki?
- -Kto odpowiada za wyniki pracy?
- -Jakie zatwierdzenia są wymagane?
- -Kto dokumentuje użycie narzędzi i decyzje?
- -Kto szkoli pracowników?
Pracodawcy nie muszą porządkować AI dopiero wtedy, gdy zdarzy się błąd.
Wtedy z potrzeby regulacji najczęściej zrobiło się już ograniczanie szkód.
2. Dozwolone i zakazane przypadki użycia
Dobra wewnętrzna reguła AI nie rozróżnia tylko między dozwolone a zakazane. Rozróżnia według ryzyka.
Niektóre zastosowania mogą być mniej problematyczne, np. ogólna pomoc w formułowaniu bez poufnych informacji. Inne zastosowania mogą być ryzykowne, np. wprowadzanie danych klientów, danych pracowników, tajemnic przedsiębiorstwa, projektów umów, kalkulacji, danych o zdrowiu lub danych osobowych o wydajności.
Do uregulowania są w szczególności:
- -Które narzędzia są zatwierdzone?
- -Które narzędzia są zakazane?
- -Które cele są dozwolone?
- -Które cele wymagają wcześniejszego zatwierdzenia?
- -Które cele są wykluczone?
- -Jakie istnieją klasy danych?
- -Jakich treści nie wolno wprowadzać?
- -Które wyniki muszą zostać sprawdzone merytorycznie?
- -Których wyników nie wolno przejmować automatycznie?
- -Które zastosowania są dopuszczalne tylko po sprawdzeniu przez ochronę danych, IT lub dział prawny?
Reguła AI, która wszystko zakazuje, jest na co dzień obchodzona.
Reguła AI, która wszystko dozwala, nie jest regułą.
Sztuka leży w użytecznej granicy.
3. Ochrona danych i dane pracowników
Korzystanie z AI może wywołać kwestie ochrony danych, gdy przetwarzane są dane osobowe.
Dotyczy to nie tylko danych klientów. Mogą być dotknięte także dane pracowników: dokumenty aplikacyjne, dane o chorobie, notatki o wydajności, protokoły rozmów, realizacja celów, czas pracy, akta osobowe, feedback, e-maile lub konflikty wewnętrzne.
W zależności od przetwarzania istotne mogą stać się RODO, art. 88 RODO oraz § 26 BDSG (niemiecka ustawa o ochronie danych). § 26 BDSG reguluje przetwarzanie danych w celach stosunku pracy. Art. 28 RODO może stać się istotny przy powierzeniu przetwarzania. Art. 32 RODO dotyczy bezpieczeństwa przetwarzania.
Do zbadania są w szczególności:
- -Jakie dane osobowe są wprowadzane?
- -Czy dotyczy to danych pracowników?
- -W jakim celu odbywa się przetwarzanie?
- -Czy istnieje podstawa prawna?
- -Czy zachowana jest minimalizacja danych?
- -Kto jest administratorem?
- -Czy występuje powierzenie przetwarzania?
- -Czy występują transfery do państw trzecich?
- -Jakie istnieją środki techniczne i organizacyjne?
- -Jak usuwane są dane wejściowe i wyniki?
- -Którzy pracownicy muszą zostać poinformowani?
Zdanie „tylko szybko coś skopiowałem do AU" rzadko jest dobrą obroną z perspektywy ochrony danych.
Szybko nie jest celem. Praktycznie nie jest podstawą prawną.
Źródła: RODO, art. 28 RODO, art. 32 RODO, art. 88 RODO, § 26 BDSG
4. Tajemnice przedsiębiorstwa i informacje poufne
Narzędzia AI są szczególnie chętnie karmione informacjami, które właściwie powinny być szczególnie chronione.
Kalkulacje. Listy klientów. Dokumenty strategiczne. Projekty umów. Pomysły produktowe. Dokumentacje techniczne. Kod źródłowy. Dokumenty M&A. Profile kandydatów. Wewnętrzne notatki o konfliktach. Oferty. Cenniki. Wiedza procesowa.
§ 2 GeschGehG definiuje tajemnice przedsiębiorstwa m.in. jako informacje, które są poufne, mają wartość gospodarczą, są przedmiotem odpowiednich środków zachowania poufności i przy których istnieje uzasadniony interes w zachowaniu poufności.
Dla pracodawców oznacza to: wewnętrzne reguły AI mogą być częścią odpowiednich środków ochrony. Bez jasnych wytycznych trudniej będzie wyjaśnić, jak chronione są informacje poufne.
- -Które informacje uznaje się za poufne?
- -Które informacje są tajemnicami przedsiębiorstwa?
- -Których informacji nigdy nie wolno wprowadzać do zewnętrznych narzędzi AI?
- -Które narzędzia są zatwierdzone dla treści poufnych?
- -Jakie obowiązki poufności obowiązują pracowników?
- -Jak szkoleni są pracownicy?
- -Jak kontrolowany jest dostęp?
- -Jak dokumentowane i traktowane są naruszenia?
Tajemnice przedsiębiorstwa nie tracą ochrony dopiero wtedy, gdy ktoś je sprzeda.
Czasem problem zaczyna się od dobrze pomyślanego promptu.
Źródło: § 2 GeschGehG (prawo niemieckie)
5. Prawo autorskie, źródła i wyniki pracy
AI jest często używana do tekstów, obrazów, prezentacji, kodu, tłumaczeń, koncepcji, materiałów marketingowych, materiałów szkoleniowych lub komunikacji z klientami.
Mogą przy tym powstać kwestie z zakresu prawa autorskiego i praw użytkowania.
Do zbadania są w szczególności:
- -Jakie treści są wprowadzane do narzędzia AI?
- -Czy istnieją prawa osób trzecich do tych treści?
- -Czy pracownicy mogą zlecić przetwarzanie tych treści?
- -Jakie prawa obowiązują do wyników wygenerowanych przez AI?
- -Czy wyniki wolno wykorzystywać dla klientów lub publicznie?
- -Czy źródła muszą być sprawdzane?
- -Czy istnieje ryzyko błędnych cytatów lub zmyślonych treści?
- -Kto zatwierdza treści?
- -Jakie reguły obowiązują dla kodu, obrazów, znaków towarowych, sloganów i tekstów fachowych?
Wynik AI może brzmieć przekonująco i mimo to być błędny, niesprawdzony lub ryzykowny prawnie.
Ładny język nie jest wyjaśnieniem praw.
6. Rada zakładowa i współdecydowanie
Jeśli istnieje rada zakładowa, prawa współdecydowania należy zbadać wcześnie.
§ 87 ust. 1 nr 6 BetrVG może stać się istotny, gdy wprowadza się lub stosuje urządzenia techniczne przeznaczone do monitorowania zachowania lub wydajności pracowników. W zależności od narzędzia dotknięte mogą być również inne przesłanki współdecydowania, np. porządek zakładu lub kwestie czasu pracy.
Nie oznacza to, że każde korzystanie z AI automatycznie podlega współdecydowaniu. Oznacza: firmy powinny zbadać konkretny sposób użycia.
Do wyjaśnienia są w szczególności:
- -Czy istnieje rada zakładowa?
- -Które narzędzie AI ma być używane?
- -Kto korzysta z narzędzia?
- -Jakie dane są przetwarzane?
- -Czy można analizować zachowanie lub wydajność?
- -Czy zapisywane są protokoły, prompty lub wyniki?
- -Czy istnieją statystyki użycia?
- -Czy wymagane jest porozumienie zakładowe?
- -Jak rada zakładowa jest włączana w odpowiednim czasie?
Rada zakładowa nie staje się niewłaściwa przez to, że narzędzie wygląda nowocześnie.
Nowoczesność nie zastępuje badania współdecydowania.
Źródło: § 87 BetrVG (prawo niemieckie)
7. AI Literacy, szkolenia i uwrażliwienie
Art. 4 AI Act dotyczący kompetencji w zakresie AI obowiązuje według informacji Komisji Europejskiej od 2 lutego 2025 r. Dostawcy i operatorzy systemów AI muszą według niego dołożyć wszelkich starań, by zapewnić wystarczający poziom kompetencji w zakresie AI u swojego personelu i innych osób, które na ich zlecenie mają do czynienia z systemami AI. Komisja Europejska wskazuje ponadto, że reguły nadzoru i egzekwowania w tym zakresie obowiązują od 3 sierpnia 2026 r.
Dla pracodawców oznacza to: szkolenie nie jest tylko miłym dodatkiem do wprowadzenia AI. Jest centralnym elementem odpowiedzialnego korzystania.
Do wyjaśnienia są w szczególności:
- -Którzy pracownicy korzystają z AI?
- -Do jakich zadań wykorzystywana jest AI?
- -Jakiej wiedzy potrzebują pracownicy?
- -Jakie ryzyka muszą zostać zrozumiane?
- -Jakich danych nie wolno wprowadzać?
- -Jak sprawdzane są wyniki AI?
- -Jak wyjaśniana jest halucynacja lub podatność na błędy?
- -Jak dokumentowane jest szkolenie?
- -Jak wiedza jest utrzymywana w aktualności?
- -Jak włączani są menedżerowie?
Kompetencja w zakresie AI nie oznacza, że wszyscy zostaną artystami promptów.
Oznacza, że pracownicy rozumieją, kiedy AI pomaga, kiedy się myli i kiedy staje się niebezpiecznie praktyczna.
Źródło: art. 4 AI Act, Komisja Europejska w zakresie AI Literacy
8. Kontrola, odpowiedzialność i odpowiedzialność prawna
AI tworzy wyniki. Odpowiedzialna pozostaje firma.
Gdy pracownicy używają wyników AI bez sprawdzenia, błędy mogą powstać w komunikacji z klientami, tekstach fachowych, umowach, ofertach, decyzjach kadrowych, analizach danych lub procesach wewnętrznych.
Do wyjaśnienia są w szczególności:
- -Które wyniki AI wolno używać tylko po sprawdzeniu?
- -Kto sprawdza poprawność merytoryczną?
- -Kto sprawdza ryzyka prawne?
- -Kto zatwierdza komunikację z klientami?
- -Czy AI wolno stosować przy decyzjach kadrowych?
- -Których wyników nie wolno przejmować automatycznie?
- -Jak zgłaszane są błędy?
- -Jak dokumentowane są prompty i wyniki?
- -Kto ponosi odpowiedzialność w procesie?
- -Kiedy należy poinformować zarząd?
AI nie odpowiada.
Być może formułuje przekonująco. Czasem przeprasza bardzo uprzejmie. Ale nie siedzi na sali sądowej i nie tłumaczy, dlaczego firma przejęła błędny wynik.
9. Polecenie służbowe, polityka i sankcje
Pracodawcy mogą co do zasady porządkować korzystanie z narzędzi pracy poprzez polecenia służbowe i wewnętrzne polityki. § 106 GewO (niemiecka ustawa o działalności gospodarczej) może stać się istotny jako punkt wyjścia dla prawa polecenia pracodawcy.
Polityka AI nie powinna jednak tylko zakazywać. Musi być zrozumiała na co dzień.
Do uregulowania są w szczególności:
- -Zakres obowiązywania
- -Dozwolone narzędzia
- -Zakazane narzędzia
- -Dozwolone przypadki użycia
- -Zakazane przypadki użycia
- -Klasy danych
- -Procesy zatwierdzania
- -Obowiązki kontroli
- -Obowiązki oznaczania
- -Dokumentacja
- -Szkolenia
- -Kwestie rady zakładowej
- -Postępowanie z naruszeniami
- -Aktualizacja
Wewnętrzna reguła AI nie musi być obszerna.
Musi być tylko na tyle jasna, by nikt nie mógł twierdzić, że poważnie ją źle zrozumiał.
Źródło: § 106 GewO (prawo niemieckie)
10. Wybór narzędzi i warunki dostawcy
Nie każde narzędzie AI nadaje się do użytku firmowego.
Pracodawcy powinni sprawdzić, jakie warunki dostawcy obowiązują, czy dane wejściowe są wykorzystywane do treningu, gdzie przetwarzane są dane, jakie istnieją standardy bezpieczeństwa, czy włączeni są podwykonawcy i jakie prawa do wyników są przyznawane.
Do zbadania są w szczególności:
- -Kto jest dostawcą narzędzia?
- -Do jakich celów narzędzie jest zatwierdzone?
- -Jakie dane są przetwarzane?
- -Czy dane wejściowe są wykorzystywane do treningu?
- -Gdzie przechowywane są dane?
- -Czy występują transfery do państw trzecich?
- -Czy istotne jest powierzenie przetwarzania?
- -Jacy istnieją podwykonawcy?
- -Jakie obowiązują terminy usuwania?
- -Jakie prawa użytkowania wyników istnieją?
- -Jakie ograniczenia odpowiedzialności obowiązują?
- -Kto regularnie sprawdza warunki dostawcy?
Narzędzie nie jest odpowiednie tylko dlatego, że szybko dostarcza dobrych odpowiedzi.
Odpowiednie staje się dopiero wtedy, gdy wydajność, umowa, dane i odpowiedzialność do siebie pasują.
11. Typowe błędy przy korzystaniu z AI przez pracowników
Z perspektywy adwokackiej powtarzają się określone wzorce.
Pracownicy już dawno korzystają z AI, ale firma nie ma reguły.
AI traktuje się jako temat IT, a nie jako temat pracodawcy.
Dane osobowe są wprowadzane do niezatwierdzonych narzędzi.
Tajemnice przedsiębiorstwa nie są wykluczone z wprowadzania do AI.
Rada zakładowa jest włączana zbyt późno.
Wyniki AI są przejmowane bez sprawdzenia.
Prawo autorskie i weryfikacja źródeł są niedoceniane.
Szkolenia i AI Literacy są traktowane tylko jako formalność.
Warunki narzędzi nie są sprawdzane.
Polityki są zbyt abstrakcyjne, zbyt długie lub praktycznie bezużyteczne.
Menedżerowie nie wiedzą, jak kontrolować korzystanie z AI.
Firma myli korzystanie ze sterowaniem.
Ostatni błąd jest decydujący.
To, że wszyscy korzystają z AI, nie oznacza jeszcze, że firma ma praktykę AI. Ma najpierw tylko wiele pojedynczych decyzji ze wspólnym ryzykiem.
Analiza Lutza Färbera
Z mojej perspektywy AI w firmach jest często źle ujmowana.
Jedni traktują ją jak magię. Inni jak materiał niebezpieczny.
Jedno i drugie nie pomaga.
AI jest narzędziem pracy o szczególnych ryzykach. Nic więcej. Ale i nic mniej.
Gdy pracownicy korzystają z AI, powstaje odpowiedzialność. Za dane. Za wyniki. Za tajemnice. Za prawa. Za decyzje. Za pytanie, czy narzędzie w firmie jest tylko używane, czy faktycznie sterowane.
Mało cenię reguły, które powstają tylko ze strachu. Takie reguły są na co dzień obchodzone. Ale równie mało cenię firmy, które pozwalają AI po prostu biec, bo akurat wydaje się to nowoczesne.
Zadaniem pracodawcy nie jest uniemożliwienie każdego użycia.
Zadaniem jest stworzenie porządku: co jest dozwolone? Co jest zakazane? Co wymaga zatwierdzenia? Które dane pozostają na zewnątrz? Kto sprawdza wyniki? Kto jest szkolony? Kiedy włączana jest rada zakładowa? I kiedy użycie jest dla firmy po prostu zbyt ryzykowne?
AI nie potrzebuje romantyzmu.
AI potrzebuje odpowiedzialności, która działa w codziennej pracy.
Lista kontrolna dla pracodawców, zarządów i HR
Kiedy wsparcie prawne jest sensowne
Wsparcie prawne jest szczególnie sensowne, gdy korzystanie z AI nie jest tylko punktowo testowane, lecz staje się częścią organizacji pracy.
Lepszym momentem na wsparcie prawne nie jest chwila, w której błąd AI już się zdarzył.
Lepszym momentem jest czas przedtem. Wtedy, gdy korzystanie, dane, wybór narzędzi, rada zakładowa, szkolenia i odpowiedzialność można jeszcze uporządkować.
Podsumowanie
Korzystanie z AI przez pracowników jest już dawno rzeczywistością.
Pytanie nie brzmi, czy firmy lubią ten rozwój. Pytanie brzmi, czy go porządkują.
Z perspektywy adwokackiej kluczowe pytanie nie brzmi więc: czy pracownicy mogą korzystać z AI?
Lepsze pytanie brzmi: jakich reguł firma potrzebuje, by korzystanie z AI w codziennej pracy pozostało stabilne prawnie, organizacyjnie i ludzko?
W tym celu narzędzia, dane, tajemnice przedsiębiorstwa, rada zakładowa, ochrona danych, prawo autorskie, szkolenia, kontrola i odpowiedzialność muszą zostać wcześnie wyjaśnione.
AI nie trzeba dramatyzować.
Ale nie powinna też bez nadzoru spacerować po aktach osobowych, umowie z klientem i kalkulacji.
Najczęstsze pytania
Czy pracownicy mogą korzystać z narzędzi AI takich jak ChatGPT w firmie?
Zależy to od wewnętrznych reguł pracodawcy, narzędzia, celu i wprowadzanych danych. Pracodawcy powinni określić, które narzędzia AI są dozwolone, jakich danych nie wolno wprowadzać, które wyniki muszą zostać sprawdzone i kiedy wymagane są zatwierdzenia.
Dlaczego pracodawca potrzebuje reguł korzystania z AI?
Reguły korzystania z AI pomagają uporządkować ochronę danych, tajemnice przedsiębiorstwa, prawo autorskie, radę zakładową, odpowiedzialność, wybór narzędzi, szkolenia i kontrolę wyników. Bez takich reguł szybko powstaje shadow AI, w której pracownicy sami decydują, jakich narzędzi i danych używają.
Jakich danych pracownicy nie mogą wprowadzać do narzędzi AI?
Szczególnie wrażliwe są dane osobowe, dane pracowników, dane klientów, dane o zdrowiu, dane umowne, tajemnice przedsiębiorstwa, wewnętrzne kalkulacje, kod źródłowy, dokumenty strategiczne i niepublikowane materiały. To, które dane są konkretnie wykluczone, powinna regulować wewnętrzna polityka AI.
Czy rada zakładowa musi być włączona przy narzędziach AI?
Jeśli istnieje rada zakładowa, istotne mogą stać się prawa współdecydowania. Dotyczy to w szczególności sytuacji, gdy wprowadza się lub stosuje urządzenia techniczne mogące monitorować zachowanie lub wydajność pracowników. To, czy ma to zastosowanie w danym przypadku, zależy od konkretnego narzędzia i sposobu jego użycia.
Co AI Literacy oznacza dla pracodawców?
Art. 4 AI Act wymaga od dostawców i operatorów systemów AI wystarczającego poziomu kompetencji w zakresie AI u personelu i innych osób, które na ich zlecenie mają do czynienia z systemami AI. Pracodawcy powinni więc sprawdzić, jakie szkolenia i uwrażliwienie pracowników są wymagane.
Kto odpowiada, gdy pracownicy błędnie wykorzystają wyniki AI?
AI sama nie ponosi odpowiedzialności. Firma pozostaje odpowiedzialna za wyniki pracy, komunikację z klientami, decyzje kadrowe, treści i procesy. W zależności od stanu faktycznego istotne mogą stać się kwestie z zakresu prawa pracy, ochrony danych, umowne lub odpowiedzialności.
Czy AI wolno wykorzystywać do decyzji kadrowych?
AI w procesach kadrowych jest szczególnie wrażliwa. Należy zbadać ochronę danych, ryzyka dyskryminacji, przejrzystość, radę zakładową, AI Act, kontrolę człowieka i wewnętrzne zatwierdzenie. Odpowiedź ogólna nie jest możliwa. Decyzje kadrowe nie powinny być automatyzowane bez sprawdzenia.
Czy wystarczy krótka polityka AI?
Krótka polityka AI może być sensowna, jeśli jest konkretna i zrozumiała. Decydująca jest nie długość, lecz to, czy w sposób praktyczny reguluje dozwolone narzędzia, zakazane dane, zatwierdzenia, obowiązki kontroli, radę zakładową, szkolenia, dokumentację i sankcje.
Czym jest shadow AI?
Shadow AI (AI w cieniu) opisuje korzystanie z narzędzi AI przez pracowników bez oficjalnego zatwierdzenia, regulacji lub kontroli ze strony firmy. Powstaje często z pragmatyzmu, ale może dotykać ochrony danych, tajemnic przedsiębiorstwa, prawa autorskiego i odpowiedzialności.
Kiedy należy włączyć prawnika?
Wsparcie prawne jest sensowne, gdy ma zostać uregulowane korzystanie z AI przez pracowników, w szczególności przy danych osobowych, danych pracowników, tajemnicach przedsiębiorstwa, radzie zakładowej, umowach na narzędzia, powierzeniu przetwarzania, AI Act, wewnętrznej polityce AI lub przypadkach użycia o podwyższonym ryzyku.
Źródła i punkty odniesienia
- Komisja Europejska - AI Literacy Questions & Answers
- Komisja Europejska - harmonogram stosowania AI Act
- EUR-Lex - Rozporządzenie (UE) 2024/1689 Artificial Intelligence Act
- Gesetze im Internet - § 87 BetrVG prawa współdecydowania (prawo niemieckie)
- Gesetze im Internet - § 26 BDSG przetwarzanie danych w celach stosunku pracy (prawo niemieckie)
- EUR-Lex - Ogólne rozporządzenie o ochronie danych UE 2016/679 (RODO)
- Gesetze im Internet - § 2 GeschGehG definicje (prawo niemieckie)
- Gesetze im Internet - niemiecka ustawa o prawie autorskim (UrhG)
- Gesetze im Internet - § 106 GewO prawo polecenia pracodawcy (prawo niemieckie)
- Gesetze im Internet - § 43 GmbHG odpowiedzialność zarządu (prawo niemieckie)
- Gesetze im Internet - § 93 AktG obowiązek staranności i odpowiedzialność (prawo niemieckie)
O autorze

Lutz Färber
Adwokat (Rechtsanwalt) i Senior Legal Advisor
Lutz Färber wspiera przedsiębiorców, firmy, wspólników, członków zarządu i organy kierownicze w kwestiach prawnych i strategicznych. Jego specjalizacja leży na styku prawa gospodarczego, prawa pracy pracodawcy, AI, compliance i odpowiedzialności biznesowej.
