Pravice, tveganja in obveznosti šole pri rabi generativne umetne inteligence v izobraževanju

Uporaba generativne umetne inteligence (Gen-UI) v izobraževanju šolam in drugim dele­žnikom prinaša nove možnosti za učenje, poučevanje in administrativno podporo, hkra­ti pa odpira pomembna etična in pravna vprašanja. Prispevek sistematično obravnava ključna pravna tveganja, obveznosti izobraževalnih institucij ter priporočila za oblikova­nje zakonitih in odgovornih praks uporabe UI v šolskem okolju. Šola kot »uvajalec ume­tne inteligence« mora delovati znotraj pravnega okvira, ki ga določajo Splošna uredba o varstvu podatkov (GDPR), Akt o umetni inteligenci (EU AI Act) in ZVOP-2. EU AI Act siste­me razvršča glede na tveganje, pri čemer šola izrecno prepoveduje visoko tvegane siste­me, kot sta analiza čustvenih odzivov učencev in socialno točkovanje. Za visoko tvegane aplikacije, denimo samodejno ocenjevanje ali profiliranje, šola uvaja stroge zaščitne me­hanizme, kot so obvezna presoja tveganj (DPIA/FRIA), dokumentacija in zagotavljanje človeškega posredovanja v procesu odločanja. Pri vključevanju UI v izobraževanje ugo­tavljamo, da obstajajo resna tveganja, vključno z »halucinacijami« (generiranje netočnih informacij) ter preveliko odvisnostjo učencev, kar zmanjšuje samozavest in kritično mi­šljenje. Zato učitelj prevzema vlogo mentorja in usmerjevalca, ki prilagaja stopnjo nad­zora in samostojnosti glede na starost učencev – od popolnega nadzora v nižjih razredih do poučevanja akademske integritete v srednjem in visokem šolstvu. Za uravnoteženo in varno integracijo UI je smiselno oblikovati transparentne notranje politike, ki naj jasno opredeljujejo dovoljeno rabo (npr. lektoriranje, generiranje idej) in prepovedi (npr. la­stna avtorska produkcija) ter zahtevajo označevanje uporabe UI v izdelkih učencev. Šola s tem zagotavlja transparentnost in ustrezno usposabljanje osebja ter obvešča starše o pravilih za varno rabo doma. Le s celovitim razumevanjem zakonodajnih in pedagoških omejitev bo uporaba UI prispevala k uspešnejšemu in kritičnemu učenju.