Η Υπηρεσία Προστασίας Δεδομένων της Ιταλίας δήλωσε την Παρασκευή ότι απαγορεύει στην εταιρεία chatbot τεχνητής νοημοσύνης (AI) Replika να χρησιμοποιεί τα προσωπικά δεδομένα των Ιταλών χρηστών, επικαλούμενη κινδύνους για ανηλίκους και συναισθηματικά ευαίσθητους ανθρώπους.
Η Replika, μια startup από το Σαν Φρανσίσκο που ξεκίνησε το 2017, προσφέρει στους χρήστες προσαρμοσμένα avatars που τους μιλούν και τους ακούνε.
Πρόσφατες αναφορές σε μέσα ενημέρωσης, καθώς και έρευνες που πραγματοποίησε η Garante στο "Replika" έδειξαν ότι η εφαρμογή ενέχει πραγματικούς κινδύνους για τα παιδιά - πρωτίστως το γεγονός ότι τους παρέχονται απαντήσεις που είναι απολύτως ακατάλληλες για την ηλικία τους.
Ο "εικονικός φίλος" παρουσιάζεται ως ικανός να βελτιώσει τη συναισθηματική κατάσταση των χρηστών και να τους βοηθήσει να κατανοήσουν τις σκέψεις τους και να καταπραΰνουν το άγχος τους μέσω της διαχείρισης του στρες, της κοινωνικοποίησης και της αναζήτησης της αγάπης. Αυτά τα χαρακτηριστικά συνεπάγονται αλληλεπιδράσεις με τη διάθεση ενός ατόμου και μπορεί να επιφέρουν αυξημένους κινδύνους για τα άτομα που δεν έχουν ακόμη μεγαλώσει ή είναι συναισθηματικά ευάλωτα.
Η Jen Persson, διευθύντρια της ομάδας υπεράσπισης της ιδιωτικής ζωής των παιδιών Defend Digital Me, δήλωσε στο Reuters ότι τα εργαλεία που έχουν σχεδιαστεί για να επηρεάζουν τη διάθεση ή την ψυχική ευημερία ενός παιδιού θα έπρεπε να ταξινομούνται ως προϊόντα υγείας και, ως εκ τούτου, θα έπρεπε να υπόκεινται σε αυστηρά πρότυπα ασφαλείας.
«Αυτά τα εργαλεία χρησιμοποιούνται από τα παιδιά χωρίς μεγάλη εποπτεία ή προστασία από πιθανή κακή χρήση», δήλωσε η ίδια.
Οι ιταλικές ρυθμιστικές αρχές υπογράμμισαν την απουσία μηχανισμού επαλήθευσης της ηλικίας, όπως φίλτρα για ανηλίκους ή συσκευή αποκλεισμού εάν οι χρήστες δεν δηλώνουν ρητά την ηλικία τους.
0 σχόλια:
Δημοσίευση σχολίου