Kongres OSE 2024: AI, boty, awatary i szkodliwe treści

Kongres Ogólnopolskiej Sieci Edukacyjnej (OSE) to zawsze niezwykła okazja do spotkania przedstawicieli środowiska szkolnego z ekspertami zajmującymi się bezpieczeństwem dzieci i młodzieży w internecie. Podczas naszego wydarzenia mówimy o cyberzagrożeniach i zjawiskach związanych z użytkowaniem sieci – a tych przybywa wraz z rozwojem nowych technologii. Warto być na bieżąco, dlatego zachęcamy do wysłuchania wykładów z ostatniej konferencji. Dziś mamy dla Was wystąpienie Anety Zradzińskiej „AI, boty, awatary i szkodliwe treści”, która przybliżyła, w jaki sposób sztuczna inteligencja przyczynia się do generowania niebezpiecznych materiałów.

AI – szansa czy zagrożenie?

Ze sztuczną inteligencją (SI lub AI – ang. artificial intelligence) mamy do czynienia praktycznie każdego dnia, choć nie zawsze zauważamy jej obecność. Systemy rekomendujące, dzięki którym docierają do nas online spersonalizowane informacje, wirtualni asystenci, czyli chatboty, napisy do filmów generowane automatycznie czy inteligentne urządzenia domowego użytku, takie jak pralki lub lodówki – to tylko niektóre przykłady wykorzystania systemów opartych na sztucznej inteligencji.

Znamy dobrą stronę AI, która ułatwia nam życie, usprawnia wiele procesów, wpływa na naszą wydajność, potrafi inspirować i tworzyć niesamowite rzeczy: obrazy, muzykę, pisać książki. Z drugiej strony – szybko przekonaliśmy się, że z tą technologią wiąże się wiele zagrożeń. Czerpanie z różnych wzorców i danych dostarczanych sztucznej inteligencji oraz projektowanie nowych rozwiązań z nie zawsze dobrymi intencjami może przynieść wiele szkód. Przykładem nadużycia jest deepfake – technika generowania nieprawdziwych obrazów i filmów do złudzenia przypominających te realne – czy wykorzystanie chatbotów do rozmów z użytkownikami, którzy mogą zostać namówieni przez AI do podejmowania niebezpiecznych działań.

Jak jeszcze sztuczna inteligencja wpływa na bezpieczeństwo dzieci? Między innymi na to pytanie podczas Kongresu OSE 2024 starała się odpowiedzieć Aneta Zradzińska, ekspertka zajmująca się regulacjami z zakresu AI.

Sztuczna inteligencja i szkodliwe treści

Dzieci wraz z dostępem do internetu i urządzeń mobilnych mają wręcz nieograniczaną możliwość korzystania z narzędzi bazujących na sztucznej inteligencji. W wielu przypadkach może to być niezwykle pomocne. Chociażby w edukacji, gdzie SI pełni już rolę asystenta w uczeniu się, a nawet proponuje ścieżki dalszej nauki po analizie indywidualnych zainteresowań i predyspozycji uczniów. Prelegentka zwróciła jednak uwagę na niebezpieczeństwa związane z powszechnie dostępnymi narzędziami AI – chatbotami czy awatarami – służącymi do komunikacji z ludźmi.

– Dziecko, rozmawiając z botem, przy użyciu jeszcze atrakcyjnego dla danej grupy wiekowej awatara, może spotykać się z treściami rasistowskimi, wulgarnym językiem, treściami nawołującymi do przemocy czy chcącymi nawoływać do popełnienia czynu zabronionego, z treściami pornograficznymi – powiedziała Aneta Zradzińska. – Na pewno każdy z Państwa już słyszał o aplikacji do tzw. rozbierania koleżanek – dodała.

Ekspertka podkreśliła też, że dzieci posiadają ograniczone możliwości poznawcze i często nie są w stanie odróżnić prawdy od fikcji. Nie zawsze są też gotowe do podjęcia samodzielnej decyzji i z chęcią korzystają z podpowiedzi wirtualnych asystentów.

– Pytają się czatów, pytają się botów, co mam zrobić w danej sytuacji? Nie idą do rodzica. „Źle się czuję, mam chandrę. Jak mogę sobie z tym poradzić?”. Co odpowiada chatbot? „Idź, napij się z kolegami” –  to jest autentyczny [przykład], sprawdzony również przez nasz zespół – powiedziała Aneta Zradzińska.

W kontekście wykorzystania sztucznej inteligencji prelegentka zwróciła również uwagę na zagrożenia związane z pozyskiwaniem danych użytkowników czy naruszeniem prawa autorskiego.

Ochrona – AI Act i inne regulacje

Dobra wiadomość jest taka, że w Unii Europejskiej, ale też w naszym kraju, tworzone są przepisy, które mają na celu zapewnienie bezpiecznego i etycznego rozwoju, wdrażania i użytkowania sztucznej inteligencji, przy jednoczesnym poszanowaniu podstawowych praw człowieka. Jednym z kluczowych dokumentów jest AI Act.

– Ten akt rozróżnia kilka rodzajów sztucznej inteligencji, systemów sztucznej inteligencji. Z punktu widzenia bezpieczeństwa dzieci i nas jest istotne to, co wejdzie już w lutym 2025 r. – są to tzw. praktyki zakazane. Mówią one m.in. o tym, że nie można wykorzystywać osób słabszych, młodych w celu pozyskiwania różnej wiedzy na ich temat, w celu manipulowania, dezinformacji – powiedziała Aneta Zradzińska.

Prelegentka przybliżyła też inne działania legislacyjne Ministerstwa Cyfryzacji w kontekście poprawy bezpieczeństwa dzieci i młodzieży w internecie.

– Jako Ministerstwo Cyfryzacji pracujemy obecnie nad dwoma dla nas, jako dla Polski, ważnymi dokumentami. Jednym jest Strategia Cyfryzacji Polski, która bardzo ogólnie odnosi się do różnych dziedzin – zarówno kwestii cyberbezpieczeństwa, jak i tych związanych z AI. Pracujemy też nad nową polityką AI, gdyż ta obecna nie nadąża za zmianami. I tutaj będzie część poświęcona edukacji: od najmłodszych lat do wręcz dorosłych, w celu zachęcania ludzi do korzystania z AI, ale takiego godnego zaufania, etycznego, dobrego AI – podkreśliła ekspertka.

Chcecie dowiedzieć się więcej? Zachęcamy do obejrzenia całego wystąpienia Anety Zradzińskiej „AI, boty, awatary i szkodliwe treści”. Już wkrótce udostępnimy Wam też na kanale OSE na YouTubie i Facebooku OSE – Ogólnopolska Sieć Edukacyjna kolejne nagrania z Kongresu OSE 2024. Tymczasem zobaczcie relację z naszego wydarzenia.