Ο δήμαρχος του Λονδίνου Sadiq Khan εξέφρασε την απογοήτευση αλλάκαι την ανησυχία του για ένα deepfake ηχητικό που παραλίγο να προκαλέσει «σοβαρή αναταραχή».
Το ηχητικό, στο οποίο ακουγόταν ο δήμαρχος να κάνει εμπρηστικά σχόλια πριν από την Ημέρα της Εκεχειρίας (Armistice Day), έγινε viral στις πλατφόρμες των μέσων κοινωνικής δικτύωσης. Ωστόσο, ο κ. Khan δηλώνει ότι ήταν μια κατασκευή και όχι η πραγματική φωνή του.
Η τεχνολογία deepfake που χρησιμοποιήθηκε σε αυτό το περιστατικό χρησιμοποίησε τεχνητή νοημοσύνη για να μιμηθεί τη φωνή του Khan, προκαλώντας τη διάδοση ψευδών και απαξιωτικών σχολίων σχετικά με το Σαββατοκύριακο Μνήμης και τις φιλοπαλαιστινιακές πορείες. Ακροδεξιές ομάδες άδραξαν την ευκαιρία να διαδώσουν προσβλητικά διαδικτυακά σχόλια κατά του Δημάρχου, επιδεινώνοντας περαιτέρω την κατάσταση.
Σε μια συνέντευξη του σε podcast στο BBC Radio 4, ο κ. Khan περιέγραψε τον αντίκτυπο αυτού του περιστατικού στην προσωπική του ζωή. Εξέφρασε πόσο βαθιά αναστατώνει για τους φίλους και την οικογένειά του να βλέπουν τέτοιο συκοφαντικό περιεχόμενο. Ο χρόνος της διαμάχης, που συμπίπτει με ευαίσθητα γεγονότα και χρησιμοποιώντας μια πειστική πλαστοπροσωπία της φωνής του, είχε τη δυνατότητα να σπείρει δυσαρμονία και να προκαλέσει προβλήματα.
Το κύριο μέλημα του Δημάρχου του Λονδίνου δεν ήταν μόνο η βλάβη που προκλήθηκε στη φήμη του αλλά και οι ευρύτερες επιπτώσεις της τεχνολογίας deepfake . Ο κ. Khan προειδοποίησε ότι η χρήση της τεχνητής νοημοσύνης για την κατασκευή ψεμάτων θα μπορούσε να έχει σοβαρές συνέπειες, ιδιαίτερα σε κρίσιμες στιγμές όπως εκλογές, δημοψηφίσματα ή κοινοτικές αναταραχές.
Ευτυχώς, η διαμάχη δεν κλιμακώθηκε σε σημαντική αναταραχή. Ωστόσο, το περιστατικό χρησιμεύει ως έντονη υπενθύμιση των κινδύνων που συνδέονται με την τεχνολογία deepfake και της ανάγκης να αντιμετωπιστούν αποτελεσματικά αυτά τα ζητήματα. Ο κ. Khan προέτρεψε για ισχυρότερους νόμους και κανονισμούς για την καταπολέμηση των deepfakes και τη διασφάλιση λογοδοσίας για όσους δημιουργούν και διαδίδουν τέτοιο παραπλανητικό περιεχόμενο.
Καθώς η κοινωνία παλεύει με τις εξελισσόμενες προκλήσεις της παραπληροφόρησης και των ψεύτικων ειδήσεων , είναι απαραίτητο να παραμείνουμε σε επαγρύπνηση και κριτική απέναντι στο περιεχόμενο που συναντάμε στο διαδίκτυο. Το περιστατικό στο οποίο εμπλέκεται ο Sadiq Khan υπογραμμίζει τη σημασία της επαλήθευσης πληροφοριών, ειδικά όταν θα μπορούσε να διαταράξει τη δημόσια αρμονία και εμπιστοσύνη.
– Deepfake: Η χρήση της τεχνητής νοημοσύνης για τη δημιουργία ή την αλλαγή περιεχομένου βίντεο ή ήχου με τρόπο που το κάνει να φαίνεται πραγματικό, αλλά στην πραγματικότητα είναι παραποιημένο ή κατασκευασμένο.
Πηγή: ai2.news
by
NewsEdit
