Sztuczna inteligencja trafia do szkół jako czaty, generatory zadań, systemy oceniające i narzędzia do obróbki materiałów — bez jasnych zasad korzystania uczniowie i szkoły narażają dane osobowe na przetwarzanie poza kontrolą administratora.
Dlaczego prywatność ucznia wobec AI to problem praktyczny
Pojawienie się narzędzi AI w codziennej dydaktyce zmienia sposób, w jaki powstają i przepływają dane szkolne. Wiele usług działa w chmurze dostawców komercyjnych i stosuje model, w którym dane użytkowników mogą być wykorzystywane do trenowania modeli. W odpowiedzi na to UODO i ORE prowadzą szkolenia i publikują rekomendacje, a od września 2025 r. zagadnienia ochrony danych mają być wprowadzone do podstawy programowej w Polsce, co pokazuje, że problem staje się priorytetem polityki edukacyjnej.
Jakie dane ucznia trafiają do narzędzi AI i dlaczego to ryzyko
AI „widzi” i przetwarza znacznie więcej niż wyraźnie wpisane imię i nazwisko; w praktyce niemal każda konkretna informacja opisująca ucznia może zostać potraktowana jako dane osobowe. Poniżej najczęstsze kategorie danych przesyłanych do serwerów AI:
- dane identyfikacyjne: imię i nazwisko, klasa, login, adres e‑mail, PESEL,
- dane wrażliwe zawarte w opisach przypadków: stan zdrowia, trudności psychologiczne, sytuacja rodzinna,
- materiały multimedialne: zdjęcia, nagrania głosu, skany prac domowych,
- dane techniczne i kontowe: identyfikatory z systemów szkolnych, tokeny integracyjne, logi aktywności.
Usunięcie nazwiska to zwykle pseudonimizacja, a nie bezpieczna anonimizacja — jeżeli istnieje możliwość odtworzenia powiązania z osobą, dane nadal są osobowe. Dodatkowe ryzyko tworzy integracja narzędzi AI z dziennikami elektronicznymi lub Google Workspace/Microsoft 365, bo wtedy identyfikatory kont trafiają do zewnętrznych systemów.
Ramy prawne: RODO, wiek zgody w Polsce, Art. 35 (DPIA) i relacja z AI Act
RODO traktuje dziecko jako osobę poniżej 18. roku życia, a Polska przyjęła granicę wieku 16 lat jako dolny próg zgody w usługach cyfrowych — to oznacza, że poniżej 16. roku rodzic/ opiekun musi wyrazić zgodę na założenie konta w typowych usługach online. Art. 35 RODO wymaga przeprowadzenia oceny skutków dla ochrony danych (DPIA) w przypadku przetwarzania, które „może powodować wysokie ryzyko” dla praw i wolności osób fizycznych — typowe przykłady to profilowanie uczniów, przetwarzanie danych zdrowotnych czy szerokie udostępnianie treści poza kontrolą szkoły.
AI Act (UE) wprowadza dodatkowe wymogi dotyczące bezpieczeństwa, transparentności i ograniczeń dla systemów AI o różnym poziomie ryzyka. AI Act nie zastępuje RODO – obie regulacje obowiązują równolegle, dlatego projektując użycie AI w szkole trzeba brać pod uwagę zarówno ochronę danych, jak i wymogi dotyczące projektowania bezpiecznych i przejrzystych systemów.
Co oznacza to dla szkoły w praktyce
Szkoła jako administrator danych musi stosować zasadę minimalizacji, privacy by design i privacy by default, dokumentować podstawy prawne przetwarzania, a przed wdrożeniem każdego narzędzia AI ocenić konieczność DPIA. Jeśli DPIA wskaże ryzyko, szkoła powinna wdrożyć środki ograniczające lub zrezygnować z usługi.
Pseudonimizacja vs anonimizacja — techniki ochrony danych
W praktyce szkolnej pełna, prawnie skuteczna anonimizacja jest trudna do osiągnięcia ręcznie. Najważniejsze techniki i ich ograniczenia:
– pseudonimizacja: zastąpienie identyfikatorów tokenami; proces odwracalny przy użyciu klucza, więc nadal mieści się w obszarze RODO,
– anonimizacja: nieodwracalna transformacja danych, brak możliwości powiązania z konkretną osobą — wymaga metod takich jak k‑anonimowość, agregacja, randomizacja, syntetyczne dane, differential privacy,
– differential privacy: dodawanie kontrolowanego „szumu” do zestawów danych, by utrudnić rekonstrukcję pojedynczych rekordów,
– dane syntetyczne: generowanie modeli danych, które zachowują statystyczne właściwości zbioru bez ujawniania rzeczywistych rekordów.
W praktyce: jeśli nie można zagwarantować nieodwracalnej anonimizacji z użyciem technologii, nie należy przesyłać danych rzeczywistych uczniów do zewnętrznych modeli AI.
Checklista dla szkół — polityki, umowy, konfiguracje techniczne
- opracuj i przyjmij wewnętrzną politykę korzystania z AI, zapisując zakaz wpisywania danych osobowych do publicznych czatów AI,
- przeprowadź DPIA przed wdrożeniem każdego narzędzia AI,
- zawrzyj umowę powierzenia przetwarzania danych (DPA) z dostawcą i sprawdź listę podprocesorów oraz miejsce przetwarzania danych,
- preferuj hosting w UE lub rozwiązania on‑premise, a w przypadku transferu poza UE zweryfikuj podstawy transferu (SCC, decyzja adekwatności),
- wyłącz opcję „używaj moich danych do treningu modelu”, jeśli taka funkcja istnieje,
- wprowadź zasady publikacji wizerunku i prac uczniów oraz uzyskuj świadome zgody rodziców z określonym okresem retencji,
- ogranicz dostęp do kont administracyjnych, stosuj dwuetapową weryfikację i SSO,
- szyfruj transmisję i dane w spoczynku oraz ustal procedury automatycznego usuwania po zakończeniu retencji,
- przeprowadzaj szkolenia dla kadry w zakresie rozpoznawania danych osobowych i zasad minimalizacji,
- monitoruj systemy AI pod kątem błędów i uprzedzeń oraz dokumentuj przypadki negatywnego wpływu na uczniów.
Kroki wdrożeniowe — przykładowy scenariusz bezpiecznego użycia AI w klasie
- przeprowadź DPIA i wprowadź środki ograniczające, jeśli pojawi się wysokie ryzyko,
- zawrzyj DPA z dostawcą i zweryfikuj miejsce przetwarzania danych oraz użycie podprocesorów,
- wprowadź zakaz wpisywania danych osobowych w promptach i naucz uczniów stosowania fikcyjnych scenariuszy,
- wyłącz opcję treningu modeli na danych szkoły lub zrezygnuj z usługi, jeśli nie ma takiej możliwości,
- wdroż kontrole dostępu, szyfrowanie, audyty bezpieczeństwa i procedury retencji oraz usuwania danych.
Checklist dla rodziców i uczniów — proste zasady i kontrola ustawień
- nie wpisywać do czatów AI danych osobowych ani opisów, które identyfikują konkretną osobę,
- nie udostępniać zdjęć szkolnych bez świadomej zgody rodzica lub opiekuna prawnego,
- sprawdzać ustawienia prywatności aplikacji edukacyjnych i odbierać niepotrzebne zgody (np. lokalizacja, mikrofon),
- prosić szkołę o informację, jakie narzędzia AI są używane i gdzie przechowywane są dane,
- używać pseudonimów w zadaniach testowych, jeśli nauczyciel na to pozwala.
Techniczne i organizacyjne rozwiązania: hosting, szyfrowanie, retencja
Wybór technologii i konfiguracja ma kluczowe znaczenie. Preferuj rozwiązania hostowane w UE lub instalowane lokalnie (on‑premise), co ułatwia spełnienie wymogów RODO i ogranicza konieczność stosowania mechanizmów transferu danych poza UE. Jeśli transfer poza UE jest konieczny, wymagane są odpowiednie podstawy prawne: standardowe klauzule umowne (SCC) lub decyzja o adekwatności.
Szyfrowanie transmisji (TLS) i szyfrowanie danych w spoczynku to podstawowy wymóg. Dodatkowe rekomendacje:
– stosuj minimalne uprawnienia dostępu i separację ról między kontami uczniów, nauczycieli i administratorów,
– wdrażaj dwuetapową weryfikację dla kont administracyjnych i integracji SSO z centralnym systemem szkoły,
– prowadz audyt logów dostępu i zmian, wykonuj regularne testy penetracyjne i audyty bezpieczeństwa,
– definiuj jasne polityki retencji: np. materiały ćwiczeniowe – retencja 1 rok; oceny i dokumenty administracyjne – zgodnie z przepisami archiwizacji,
– automatyzuj procedury usuwania danych po upływie okresu retencji i dokumentuj wykonanie usunięcia.
Etyka i uprzedzenia algorytmiczne — jak monitorować wpływ AI na uczniów
Systemy AI mogą wzmacniać istniejące uprzedzenia lub tworzyć nowe formy dyskryminacji — przykład: automatyczna ocena prac pisemnych może gorzej oceniać eseje uczniów piszących w specyficznym stylu lub z różnym użyciem języka. Monitorowanie wyników i korekta decyzji przez człowieka są konieczne przy ocenianiu uczniów oraz przy podejmowaniu działań na podstawie wyników AI.
Praktyczne mechanizmy nadzoru:
– prowadź rejestr decyzji algorytmicznych i udokumentuj każde użycie AI wpływające na ocenę lub dostęp do usług,
– mierzyć wskaźniki wpływu algorytmu na różne grupy uczniów (np. wskaźniki błędów, różnice w wynikach między grupami),
– stosować procedury odwoławcze i możliwość weryfikacji decyzji przez wykwalifikowaną osobę,
– raportować i dokumentować przypadki dyskryminacji zgodnie z procedurami szkolnymi i zgłaszać do organów ochrony danych, jeśli to konieczne.
FAQ — krótkie odpowiedzi praktyczne
Czy szkoła może korzystać z ChatGPT z danymi uczniów?
Tak, ale tylko jeśli spełnione są wymogi RODO: DPIA gdy występuje wysokie ryzyko, umowa DPA z dostawcą oraz zasada minimalizacji danych. Jeśli te warunki nie są spełnione, nie używaj narzędzia z danymi uczniów.
Jak zanonimizować dane uczniów przed wysłaniem do AI?
Usuwanie nazwisk to niewystarczające. Stosuj agregację, pseudonimy, usunięcie cech identyfikujących i techniki takie jak differential privacy lub dane syntetyczne, jeśli narzędzie to wspiera. Jeśli nie możesz zagwarantować nieodwracalnej anonimizacji, nie przesyłaj danych.
Czy wyłączenie opcji „użyj moich danych do trenowania modelu” wystarczy?
To ważny krok, ale nie wystarczy sam w sobie. Nadal potrzebna jest umowa DPA, kontrola miejsca przetwarzania i stosowanie innych środków bezpieczeństwa.
Jaki okres retencji ustawić dla materiałów uczniów?
Okres powinien wynikać z celu przetwarzania: np. materiały ćwiczeniowe – retencja 1 rok; dokumenty oceniające – retencja zgodna z przepisami o archiwizacji. Każdy okres zapisz w polityce i egzekwuj automatyczne usuwanie.
Źródła i dowody
Rekomendacje i podstawy prawne pochodzą z przepisów RODO (w tym Art. 35) oraz z materiałów i działań UODO i ORE dotyczących AI w edukacji. Dodatkowo AI Act wprowadza nowe wymogi dotyczące systemów AI, które szkoły powinny uwzględnić razem z RODO. Praktyczne wskazówki opierają się na zaleceniach eksperckich dotyczących anonimizacji, DPIA i minimalizacji danych.
Najpilniejsze działania do wdrożenia od zaraz: wprowadź zakaz wpisywania danych osobowych uczniów do publicznych narzędzi AI; wyłącz opcję treningu modeli u dostawcy, jeśli dostępna jest taka funkcja; przeprowadź DPIA dla każdego narzędzia AI planowanego do użytku z uczniami; zawrzyj DPA i sprawdź lokalizację przetwarzania; przeszkol kadrę i uczniów w zasadach minimalizacji danych.
Przeczytaj również:
- http://tygodniowe.pl/wplyw-suplementow-na-zdrowie-i-kondycje-fizyczna-co-warto-wiedziec/
- http://tygodniowe.pl/zdrowe-przekaski-na-droge-co-zabrac-ze-soba-na-camping/
- http://tygodniowe.pl/chianti-wino-ktore-warto-znac/
- http://tygodniowe.pl/jak-budowac-pozytywne-skojarzenia-z-woda-od-najmlodszych-lat/
- https://tygodniowe.pl/mikrobiom-gleby-kontra-kryzys-klimatyczny-co-laczy-zdrowa-ziemie-i-nasze-jelita/
- https://tygodniowe.pl/uchwyty-do-lazienki-w-mieszkaniach-wielopokoleniowych-praktyczne-wskazowki/
- https://tygodniowe.pl/praca-za-granica-kto-wyjezdza-kto-zostaje-i-dlaczego/
- https://tygodniowe.pl/porownanie-szkla-i-poliweglanu-w-nowoczesnych-aluminiowych-zadaszeniach-tarasowych/