Εφαρμογές AI σε Apple και Google Stores μετατρέπουν φωτογραφίες σε ψεύτικες γυμνές εικόνες

Νέα έρευνα φέρνει στο φως σοβαρά ερωτήματα για τον έλεγχο περιεχομένου στα ψηφιακά καταστήματα εφαρμογών της Apple και της Google.
Σύμφωνα με την έκθεση, και οι δύο πλατφόρμες συνεχίζουν να φιλοξενούν αλλά και να προωθούν εφαρμογές τεχνητής νοημοσύνης που μπορούν να τροποποιούν φωτογραφίες πραγματικών ανθρώπων με τρόπο που τις γδύνει ψηφιακά, παρά το γεγονός ότι τέτοιες πρακτικές απαγορεύονται από τις ίδιες τις πολιτικές τους.

Εντοπισμός δεκάδων εφαρμογών

Η οργάνωση Tech Transparency Project (TTP) είχε ήδη από τις αρχές του έτους εντοπίσει τέτοιου είδους εφαρμογές τόσο στο App Store όσο και στο Google Play. Ωστόσο, σύμφωνα με τα νεότερα ευρήματα, αρκετές από αυτές όχι μόνο παραμένουν διαθέσιμες αλλά και προωθούνται μέσω διαφημιστικών μηχανισμών.

Μάλιστα, ορισμένες εμφανίζονται με ένδειξη καταλληλότητας για όλους (“E”), γεγονός που σημαίνει ότι μπορούν να εγκατασταθούν ακόμη και από ανήλικους χρήστες.

Πώς λειτουργούν οι εφαρμογές

Αναζητήσεις με όρους που σχετίζονται με “nudify” ή “undress” οδηγούν σε εφαρμογές που αξιοποιούν τεχνητή νοημοσύνη για να δημιουργούν ψευδείς γυμνές εικόνες ή να τοποθετούν πρόσωπα σε πορνογραφικό περιεχόμενο.

Η έκθεση επισημαίνει ότι οι συγκεκριμένες πλατφόρμες συμβάλλουν στη διάδοση εργαλείων που μετατρέπουν πραγματικά άτομα σε σεξουαλικοποιημένες ψηφιακές απεικονίσεις, χωρίς τη συναίνεσή τους.

Έσοδα και απήχηση

Σύμφωνα με τα στοιχεία του TTP, έχουν εντοπιστεί συνολικά δεκάδες τέτοιες εφαρμογές,18 στο οικοσύστημα της Apple και 20 στο Google Play. Ορισμένες από αυτές προωθούνται ανοιχτά με σεξουαλικό περιεχόμενο, ενώ άλλες εμφανίζονται πιο ουδέτερες αλλά επιτρέπουν παρόμοιες λειτουργίες.

Οι ίδιες εφαρμογές φέρονται να έχουν συγκεντρώσει εκατοντάδες εκατομμύρια λήψεις και σημαντικά έσοδα που ξεπερνούν τα 100 εκατομμύρια δολάρια.

Κριτική για ανεπαρκή έλεγχο

Η διευθύντρια της οργάνωσης, Katie Paul, υποστηρίζει ότι το πρόβλημα δεν αφορά μόνο την ανεπαρκή εποπτεία, αλλά και τον τρόπο με τον οποίο οι ίδιες οι πλατφόρμες καθοδηγούν έμμεσα τους χρήστες προς τέτοιου είδους εφαρμογές μέσω συστάσεων και προβολών.

Αντιδράσεις από τις εταιρείες

Η Apple δήλωσε ότι προχώρησε στην αφαίρεση δεκαπέντε εφαρμογών που αναφέρονταν στην έκθεση, ενώ η Google ανέφερε ότι έχει αναστείλει ή περιορίσει τη λειτουργία ορισμένων αντίστοιχων εργαλείων.

Παραδείγματα εφαρμογών και ανησυχίες

Μεταξύ των εφαρμογών που εξετάστηκαν περιλαμβάνεται εργαλείο επεξεργασίας εικόνας με τεχνητή νοημοσύνη, το οποίο επέτρεπε την εναλλαγή προσώπων σε φωτογραφίες και τη δημιουργία ψευδών σεναρίων με ελάχιστο ή καθόλου ρούχο. Παρά τις δυνατότητές του, είχε χαρακτηριστεί ως κατάλληλο για γενικό κοινό, γεγονός που ενίσχυσε τις ανησυχίες για πρόσβαση ανηλίκων.

Παγκόσμια κινητοποίηση

Η εξάπλωση τέτοιων εφαρμογών έχει ήδη προκαλέσει αντιδράσεις σε διεθνές επίπεδο. Σε χώρες όπως το Ηνωμένο Βασίλειο, οι αρχές εξετάζουν περιορισμούς ή απαγορεύσεις σε εργαλεία που παράγουν σεξουαλικοποιημένες εικόνες μέσω τεχνητής νοημοσύνης, ενώ και στις Ηνωμένες Πολιτείες προωθούνται νομοθετικές πρωτοβουλίες για την αντιμετώπιση των deepfake πορνογραφικών περιεχομένων.

Ένα ζήτημα που ξεπερνά την τεχνολογία

Η υπόθεση αναδεικνύει ένα ευρύτερο πρόβλημα γύρω από τη χρήση της τεχνητής νοημοσύνης: τη δυσκολία ελέγχου της κακόβουλης αξιοποίησής της, αλλά και την ευθύνη των πλατφορμών που τη διανέμουν.

Καθώς η τεχνολογία εξελίσσεται, το ερώτημα που παραμένει ανοιχτό είναι πώς μπορεί να διασφαλιστεί ότι δεν θα χρησιμοποιείται εις βάρος της ιδιωτικότητας και της αξιοπρέπειας των ανθρώπων.

alfavita.gr

Ads