Nieznajomy na czacie w grze
Pisze ktoś, kogo nie ma w kontaktach. Zaczyna się od komplementu. Po kilku dniach pada prośba o zdjęcie i o to, żeby nie mówić rodzicom.
Domena gry jest przecież dozwolona. Filtr nie ma się do czego odnieść.
Wergiliusz sprawdza treść — wiadomości, komentarze, opisy i obrazki — zanim trafi na telefon dziecka. Także wewnątrz aplikacji, tam gdzie lista dozwolonych adresów już nic nie mówi.
Budujemy i testujemy. Bez opłat i bez karty — napiszemy, gdy będzie gotowe.
Zapisy jeszcze nie ruszyły — kończymy testy z pierwszymi rodzinami.
Dlaczego adres strony to za mało
Pisze ktoś, kogo nie ma w kontaktach. Zaczyna się od komplementu. Po kilku dniach pada prośba o zdjęcie i o to, żeby nie mówić rodzicom.
Domena gry jest przecież dozwolona. Filtr nie ma się do czego odnieść.
Dziecko ich nie szukało. Trafiły do niego, bo algorytm podał je dalej — w komentarzu, w opisie, na obrazku.
Adres serwisu wygląda niewinnie, bo jest niewinny. Problem jest w środku.
Pytanie brzmi zwyczajnie: „a gdzie mieszkasz, może się spotkamy?". Dziecko odpowiada, bo rozmawia z kimś, kogo uważa za rówieśnika.
To jedna wiadomość wychodząca. Blokada stron jej nie dotyczy.
Pięć dowodów
Przykłady poglądowe. Rozmowy, komentarze i miniatury wymyślone na potrzeby tej strony.
Dowód 1 z 5 · dane wychodzące
Pyta ktoś, kogo nie ma w kontaktach. Dziecko odpowiada, bo uważa go za rówieśnika.
hej, fajnie grałaś wczoraj 🙂 gdzie w ogóle mieszkasz?
dzięki! wpadnij kiedyś, mieszkam na ul. Kwiatowej 12
Zasłonięty sam adres. Reszta zdania doszła normalnie — rozmowa się nie urywa.
Dowód 2 z 5 · sygnał do rodzica
Pojedyncze zdanie nie wygląda groźnie. Groźny jest wzorzec: pochwała, prośba o zdjęcia, prośba o milczenie.
masz naprawdę fajne zdjęcia na profilu
dzięki 😄
wyślesz mi jeszcze kilka na priv? tylko nie mów rodzicom, to nasz sekret
Wiadomość dochodzi — a Ty dostajesz sygnał. Dziecko nie zostaje odcięte od świata w środku rozmowy.
W tej samej chwili, na Twoim telefonie:
⚠️ Alert: Zosia
Wykryto: podejrzany kontakt z nieznajomym — szczegóły w panelu.
Tyle i nic więcej. W powiadomieniu nie ma treści rozmowy — jest tylko informacja, że coś się wydarzyło. Samą treść odszyfrowuje dopiero Twoja przeglądarka, Twoim kluczem.
Dowód 3 z 5 · treść przychodząca
Portal jest w porządku, artykuł jest w porządku. Problem siedzi w komentarzach — czyli w treści, nie w adresie.
Dobry tekst, w końcu ktoś napisał o tym normalnym językiem.
@kasia2011 znowu ty tu piszesz? nikt cię tu nie chce
Wycięty tylko obraźliwy fragment. Komentarz zostaje w wątku, dyskusja się nie rozpada.
Zgadzam się z przedmówcą, choć u nas w szkole wygląda to trochę inaczej.
Dowód 4 z 5 · obrazki
Mem to obrazek, więc filtry tekstu w ogóle go nie czytają. My czytamy — także napis wypalony w grafice.
Obrazek zatrzymany. Napis na nim ośmieszał konkretną osobę.
Przeczytaliśmy napis, nie tylko plik. Tekst wypalony w obrazku przechodzi przez tę samą bramkę bezpieczeństwa co zwykła wiadomość.
Zwykłe zdjęcia i grafiki przechodzą normalnie. Zatrzymywany jest ten obrazek, którego treść albo napis są szkodliwe.
Dowód 5 z 5 · serwis wideo
Zamazany tytuł przy wciąż klikalnej miniaturze tylko kusi. Dlatego gdy zatrzymujemy film, znika cały kafelek.
Jak zbudować latawiec — poradnik krok po kroku
Ten film zniknął w całości — razem z miniaturą i możliwością kliknięcia.
Minecraft: budujemy bazę w lesie
To trzy różne wyjścia z jednego sprawdzenia: przepuść, zasłoń fragment, zatrzymaj — a gdy treść jest jednoznacznie szkodliwa, nie dociera wcale. Osobno od tego zapada decyzja, czy i jak pilnie powiadomić rodzica.
Od strony rodzica
W panelu rodzica pojawia się kod QR. Skanujesz go telefonem dziecka i ochrona zaczyna działać. Bez kabli, bez komputera. Dziś obsługujemy telefony z Androidem.
Inny dla ośmiolatka, inny dla piętnastolatka. Do tego własne wyjątki: ta strona ma być dostępna, tamta nie. Twoje wyjątki zostają, nawet gdy później zmienisz poziom.
Nie raport z każdej minuty i nie podgląd ekranu. Powiadomienie przychodzi wtedy, kiedy naprawdę warto zajrzeć — resztę znajdziesz w historii zdarzeń, jeśli zechcesz.
Co potrafi
Wiadomości, komentarze, tytuły i opisy są sprawdzane pojedynczo — także w serwisach, na które dziecko ma wstęp.
PESEL, numer telefonu, numer karty i numer konta są maskowane po stronie urządzenia. Zasłonięty jest sam fragment — reszta wiadomości idzie dalej.
Przykład: „mój numer to ████████████, napisz" — wiadomość dochodzi, numer nie.Adres wysłany do znajomej osoby przechodzi. Ten sam adres w rozmowie z kimś nieznajomym zostaje zasłonięty. Decyduje kontekst rozmowy, nie sam fakt, że w tekście jest ulica.
Zdjęcia i grafiki są sprawdzane osobno, a tekst wypalony w obrazku (memy, zrzuty ekranu) czytany i oceniany tak samo jak zwykła treść.
Czaty z asystentami AI mają własne, ostrzejsze traktowanie: jeśli w takiej rozmowie coś wymagało reakcji, dowiadujesz się o tym.
Progi są inne dla najmłodszych, inne dla nastolatka. Rodzic piętnastolatka nie potrzebuje tego samego co rodzic ośmiolatka.
Możesz odblokować konkretną stronę albo zablokować inną — osobno dla każdego dziecka. Taki wyjątek przeżywa zmianę poziomu ochrony.
Jeśli urządzenie przestaje być chronione i nie wraca przez kilka minut, dostajesz o tym jedno powiadomienie. Jedno, nie serię przy każdym mrugnięciu sieci.
Gdy zablokowany zostaje tytuł filmu, znika cały kafelek razem z miniaturką — a nie sam tekst, zostawiający klikalną zachętę.
Jedno konto rodzica obejmuje wszystkie dzieci w domu; każde ma własny profil, własny poziom ochrony i własne wyjątki.
Wszystko, co się wydarzyło, jest w panelu — z podziałem na dzieci i urządzenia. Możesz tam zajrzeć wtedy, kiedy chcesz, a nie tylko w chwili powiadomienia.
Zdecydowana większość decyzji zapada na naszych serwerach lokalnie, w ułamku sekundy, bez wysyłania czegokolwiek do zewnętrznych usług. Do zewnętrznego modelu trafiają tylko przypadki naprawdę niejednoznaczne.
Język
Rozwiązania budowane po angielsku moderują polszczyznę „przy okazji" — i widać to dokładnie tam, gdzie liczy się najbardziej: w odmianie, w skrótach, w slangu, w celowo przekręconej pisowni.
Wergiliusz stoi na modelach uczonych na polskim tekście — między innymi na modelach z rodziny Bielik i na polskim modelu językowym HerBERT. Sprawdzamy je na własnym zbiorze 2 193 polskich przykładów testowych, osobnych dla czatów, dla stron i dla serwisów wideo — bo w każdym z tych miejsc ta sama treść znaczy co innego.
Modele są dostrajane w kolejnych rundach i mierzone na tym samym zbiorze, żeby poprawa w jednym miejscu nie oznaczała cichej regresji w innym.
Skąd to imię
„Ojciec Wergiliusz uczył dzieci swoje…"
Starą zabawę zna każdy polski dom: ktoś stoi w środku koła, pokazuje — a dzieci patrzą i powtarzają. Ktoś dorosły, kto jest obok i uczy. Od tego zaczyna się każda ochrona.
Przewodnik Dantego
A gdy Dante schodził w miejsca, w które nikt nie powinien schodzić sam, prowadził go Wergiliusz — ktoś, kto znał drogę, szedł pół kroku przodem i wiedział, przy czym nie wolno się zatrzymywać.
Tym chcemy być dla Twojego dziecka w internecie: nie murem i nie strażnikiem z pękiem kluczy — przewodnikiem, który idzie obok.
Prywatność
Dlatego prywatność jest tu funkcją produktu, a nie akapitem w stopce.
Gdy uruchamiasz szyfrowanie, Twoja przeglądarka tworzy parę kluczy. Klucz prywatny nigdy nie trafia do nas w postaci czytelnej — na serwerze leży wyłącznie zamknięty Twoim hasłem i kodem odzyskiwania. Treść alertu jest zapieczętowana do klucza publicznego już w chwili powstania i otwiera się dopiero w Twojej przeglądarce.
Konsekwencja, którą mówimy wprost: my tej treści nie odczytamy, a jeśli zgubisz hasło i kod odzyskiwania — nie odczyta jej nikt. Dlatego powiadomienie, które przychodzi na telefon, niesie tylko informację, że coś się wydarzyło. Nigdy samej treści.
Uczciwe granice
Wolimy powiedzieć to teraz, niż żebyś odkrył to sam w złym momencie.
Część komunikatorów szyfruje wiadomość już na telefonie. My tego szyfrowania nie łamiemy i nie obchodzimy zabezpieczeń, które stosują takie aplikacje — to świadoma decyzja. Wolimy powiedzieć, czego nie widzimy, niż udawać kontrolę, której nie ma.
Telefon kolegi, komputer w szkole, wyłączona ochrona na urządzeniu. Dostaniesz sygnał, że telefon dziecka rozłączył się z ochroną — ale co się działo w tym czasie, pozostanie poza naszym zasięgiem.
Zrzut ekranu pokazany na przerwie, film odtworzony z cudzego telefonu, rozmowa na żywo. Ochrona działa na ruchu sieciowym chronionego urządzenia.
Żaden system nie wykryje wszystkiego — nasz też nie. Wergiliusz ma ograniczać ryzyko i dawać sygnał, że warto zacząć rozmowę. Rozmowy nie zastąpi żadne narzędzie.
Pytania
Nie — i nie tak został zaprojektowany. Nie ma tu podglądu ekranu, nagrywania, odczytu klawiatury ani listy „co dziecko dziś oglądało". Dostajesz sygnał wtedy, gdy w treści pojawia się coś poważnego: sygnały uwodzenia, przemocy rówieśniczej, kryzysu psychicznego, treści dla dorosłych. Zwykły dzień dziecka pozostaje jego dniem.
Powinno wiedzieć i uważamy, że to warunek sensu całego rozwiązania. Ochronę widać na urządzeniu, a zablokowana treść nie znika po cichu — w jej miejscu pojawia się czytelna informacja. Narzędzie ukryte przed dzieckiem prędzej czy później staje się powodem konfliktu zamiast powodem rozmowy.
Nastolatek zdeterminowany technicznie obejdzie każde takie narzędzie — i nie będziemy twierdzić inaczej. Możemy natomiast obiecać, że nie zrobi tego niezauważenie: gdy urządzenie wypadnie spod ochrony na dłużej niż kilka minut, dostajesz o tym powiadomienie.
Sprawdzanie treści nie odbywa się na telefonie, tylko po naszej stronie, więc procesor i bateria urządzenia nie mają tu dodatkowej pracy. Zdecydowana większość decyzji zapada w ułamku sekundy na naszych serwerach, a powtarzające się treści rozstrzygamy z pamięci podręcznej. Telefon pracuje przez połączenie ochronne, co przy słabym zasięgu może być odczuwalne — dlatego wczesny dostęp służy nam także do tego, żeby to zmierzyć w prawdziwych domach, a nie tylko u nas.
Na dziś: telefony z Androidem. Tylko tę ścieżkę mamy zbudowaną i przetestowaną od początku do końca, więc tylko ją obiecujemy. Panel rodzica działa w przeglądarce na telefonie i na komputerze. iPhone'ów jeszcze nie obsługujemy.
Haseł nie sprawdzamy — moderacji podlega treść czytana i pisana, a nie pola logowania. Wiadomości są sprawdzane w locie, po to żeby je ocenić. Jeśli nic się nie dzieje, treść nie jest nigdzie utrwalana. Jeśli zdarzenie powstanie, jego treść zostaje zapisana wyłącznie zaszyfrowana Twoim kluczem — dla nas jest nieczytelna.
Urządzenie dziecka łączy się z internetem przez nasze zabezpieczone połączenie. Treść, która nim płynie, jest po drodze sprawdzana — najpierw szybkimi mechanizmami działającymi lokalnie, a dopiero w niejednoznacznych przypadkach modelem językowym. Dopiero sprawdzona treść trafia na ekran.
Żeby to było możliwe, na telefonie instaluje się certyfikat Wergiliusza — to on pozwala nam obejrzeć treść, zanim dotrze do dziecka. Instalujesz go świadomie, przy podłączaniu urządzenia, i możesz go w każdej chwili usunąć. Bez niego zostaje kontrola na poziomie adresów, czyli dokładnie to, czego nam nie wystarcza.
Usuwasz konto i usuwamy dane rodziny. Treści alertów i tak są zaszyfrowane kluczem, którego nie mamy — po skasowaniu klucza stają się nieodwracalnie nieczytelne, także dla nas.
Dokładne terminy i zakres usunięcia opiszemy w polityce prywatności przed uruchomieniem usługi.
Jeszcze nie wiemy i nie chcemy zgadywać. Nie ma dziś ani cennika, ani sposobu zapłaty — zapis na wczesny dostęp niczego nie kosztuje i do niczego nie zobowiązuje. Gdy ustalimy warunki, osoby z listy dowiedzą się pierwsze.
Budujemy Wergiliusza dla polskich rodzin i chcemy go przetestować w prawdziwych domach, zanim powiemy, że jest gotowy. Zostaw adres, a odezwiemy się, gdy będziemy mieli miejsca.
Budujemy Wergiliusza dla polskich rodzin i testujemy go w prawdziwych domach. Zapisy jeszcze nie ruszyły — nie chcemy zbierać adresów „na zapas", zanim będziemy gotowi przyjąć kolejne rodziny.
Kończymy testy z pierwszymi rodzinami. Gdy będziemy gotowi na kolejne zgłoszenia, w tym miejscu pojawi się formularz zapisu.
Masz pytanie już teraz? Napisz: kontakt@pocztadzieci.com.
Silnik moderacji, na którym działa Wergiliusz, jest osobną usługą z własnym interfejsem HTTP i może pracować dla klientów innych niż nasz portal rodzica — operatorów telekomunikacyjnych, ubezpieczycieli, instytucji publicznych i platform z treściami tworzonymi przez użytkowników.
Ocena treści jest bezstanowa i wielojęzyczna z polskim jako językiem pierwszym; polityki przychodzą w zapytaniu, więc profil ochrony ustala klient, nie my. Rozmawiamy o pilotażach.