Stručni seminar: “Rizici korištenja AI tehnologije, zakonska regulativa i međunarodni standardi”

Pozivamo Vas na stručni seminar “Rizici korištenja AI tehnologije, zakonska regulativa i međunarodni standardi” koji će se održati dana 29.5.2025. u Hotelu Aristos, Cebini ul. 33,Buzin Zagreb.

Tema seminara je upravljanje rizicima korištenja AI tehnologije, važeća zakonska regulativa na području EU te pripadajući standardi, posebice standard ISO/IEC 42001:2023

Obradit ćemo sljedeća poglavlja:

Europska zakonska regulativa i međunarodni standardi

Uvod u AI regulaciju

• Kratko objašnjenje potrebe za regulacijom AI tehnologija: zaštita temeljnih prava, sigurnost, transparentnost.

Pregled AI Acta (EU AI Act)

• Osnovne značajke prijedloga: kategorizacija rizika (minimalni, ograničeni, visoki, neprihvatljivi), zabrane, obveze proizvođača.

Kategorizacija rizika

• Objašnjenje četiri razine rizika i što one znače za razvoj i uporabu AI sustava (npr. biometrijska identifikacija, obrazovni sustavi, zapošljavanje itd.).

Obveze za visokorizične AI sustave

• Dokumentacija, ljudski nadzor, robusnost, upravljanje podacima – objašnjenje što se sve traži.

Zabrane određenih praksi

• Primjeri neprihvatljivih AI sustava (npr. socijalno bodovanje, manipulativne tehnike).

Uloga tijela za ocjenjivanje sukladnosti

• Tko nadzire provedbu? Uloga nacionalnih tijela i Europskog odbora za umjetnu inteligenciju.

Povezanost s Općom uredbom o zaštiti podataka (GDPR)

• Kako se AI Act nadopunjuje s GDPR-om, osobito kod automatiziranog odlučivanja i obrade osobnih podataka.

Međunarodni standardi (ISO, IEEE, OECD), Pregled najvažnijih međunarodnih normi:

• ISO/IEC 42001 (upravljanje AI sustavima)
• IEEE etičke smjernice za dizajn
• OECD AI principi

Harmonizacija EU i međunarodnih pristupa

• Prednosti i izazovi usklađivanja EU zakonodavstva sa standardima SAD-a, Kine, i globalnih tijela.

Praktične posljedice za poduzeća i javni sektor

• Što subjekti moraju poduzeti: procjene rizika, audit sustava, upravljanje podacima, dokumentacija i edukacija zaposlenika.

Rizici povezani s upotrebom AI tehnologija

Halucinacije
Kada LLM-ovi (Large Language Models)samouvjereno daju netočne ili izmišljene informacije. Problem je posebno ozbiljan u područjima poput zdravstva i prava, gdje dezinformacije mogu imati ozbiljne posljedice. Naučit ćemo prepoznati uzroke i načine provjere točnosti odgovora.

Jailbreaking
Namjerno zaobilaženje sigurnosnih mjera LLM-ova kako bi se generirali neprimjereni ili zabranjeni sadržaji. Ova praksa otkriva ranjivosti modela i otvara etička i sigurnosna pitanja.

Prompt Injection
Napadi u kojima napadači ubacuju zlonamjerne upute u korisničke upite kako bi model izvršio neželjene radnje. Posebno je opasno za aplikacije koje rade s vanjskim sadržajem.

Primjeri hakiranja popularnih modela
Podijelit ćemo stvarne primjere trikova i pokušaja probijanja zaštita

Indirect Prompt Injection
Ubacivanje skrivenih uputa u sadržaje koje LLM-ovi obrađuju (npr. sažimanje web stranica), što može izazvati neočekivana ponašanja modela.

Sistem Prompt Leakage
Tehnike kojima napadači mogu natjerati modele da otkriju skrivene interne upute, čime izlažu osjetljive informacije.

Pretjerana autonomija LLM-ova
Kada LLM-ovi, osobito kao agenti ili s pluginovima, djeluju previše samostalno bez dovoljnog nadzora, povećava se rizik od neželjenih akcija.

Data Poisoning
Namjerno unošenje štetnih podataka u skupove za treniranje modela, što može dovesti do pristranih ili pogrešnih odgovora.

Ranjivosti u opskrbnom lancu (Supply Chain Vulnerabilities)
Upoznavanje s rizicima koji nastaju tijekom svih faza razvoja i implementacije LLM-ova, posebno pri korištenju agenata

Predavači

Nikola Greb je podatkovni znanstvenik certificiran kao Senior Data Scientist od Data Science Council of America te je koautor dva znanstvena rada. Posljednje četiri godine proveo je baveći se primjenom umjetne inteligencije u kontekstu jezičnih podataka. Po formalnom obrazovanju je psiholog.

Ivo Ritz, dipl inž el. je konzultant na području informacijske sigurnosti s dugogodišnjim iskustvom. Radi na implementacijama sustava upravljanja informacijskom sigurnošću po standardu ISO27001, sustava upravljanja održanjem kontinuiteta poslovanja po standardu ISO22301 te sustavima upravljanja umjetnom inteligencijom po standardu ISO42001.

Opće informacije o seminaru

Seminari počinju registracijom polaznika seminara 29.5.2025. u 9:30 . Radni dio seminara traje od 10:00 do 16:30 s pauzama  za kavu u 11:00 i 15:00 te pauzom za ručak od 12:30-13:30.

Cijena seminara

Cijena seminara izražena je po pojedinačnom polazniku i iznosi 200 EUR + PDV.

Za prijavu tri ili više polaznika iz iste organizacije cijena seminara po polazniku se smanjuje za 10%.

Kontaktne informacije

Za sve informacije kontaktirajte nas na: Tel/fax: +385-1-3838-302, GSM:+385-91-180-4632 ili pošaljite mail na  ir@naps.hr