Από τις 2 Αυγούστου, οι νέες υποχρεώσεις διαφάνειας του ευρωπαϊκού AI Act απαιτούν από τους παρόχους συστημάτων generative AI να διασφαλίζουν ότι το περιεχόμενο που παράγεται από τα μοντέλα τους μπορεί να αναγνωρίζεται ως AI-generated.
Στην πράξη, αυτό σημαίνει ότι οι εταιρείες καλούνται να ενσωματώνουν “ενδείξεις προέλευσης”, όπως ψηφιακά watermarks ή metadata, σε κείμενα, εικόνες, βίντεο και ήχο. Οι ενδείξεις αυτές δεν είναι απαραίτητα ορατές στον χρήστη, αλλά μπορούν να λειτουργούν ως “σήμα” που επιτρέπει σε άλλες πλατφόρμες να εξακριβώνουν ότι το περιεχόμενο δημιουργήθηκε ή τροποποιήθηκε με τη χρήση τεχνητής νοημοσύνης.
Το επόμενο κρίσιμο βήμα αφορά τις πλατφόρμες όπου διακινείται το περιεχόμενο, όπως τα social media. Εφόσον μπορούν να ανιχνεύσουν το ενσωματωμένο watermark, θα είναι σε θέση να εμφανίζουν σχετική ένδειξη στον χρήστη.
Χαρακτηριστικά η Anthropic ανακοίνωσε ότι ενσωματώνει αόρατο watermark στα κείμενα του Claude, ώστε να διατηρείται ακόμη και μετά από copy-paste.
Ήδη μεγάλες εταιρείες προσαρμόζουν τα συστήματά τους στις νέες απαιτήσεις. Η Anthropic, για παράδειγμα, έχει ανακοινώσει ότι ενσωματώνει αόρατο watermark στα κείμενα του Claude, σχεδιασμένο ώστε να διατηρείται ακόμη και όταν το κείμενο αντιγράφεται και επικολλάται αλλού.
Η ευρωπαϊκή ρύθμιση δεν αποσκοπεί μόνο στην αντιμετώπιση παραπλανητικού περιεχομένου, αλλά στη δημιουργία ενός πιο διαφανούς συστήματος ψηφιακής προέλευσης, όπου ο χρήστης θα μπορεί να γνωρίζει με μεγαλύτερη βεβαιότητα πότε αλληλεπιδρά με περιεχόμενο που έχει παραχθεί από AI.
Πηγή: Politico
Γιατί Υπάρχουμε
