Φανταστείτε να ανοίγετε το φορητό σας υπολογιστή και να ξεκινάτε μια συνομιλία που μοιάζει εντυπωσιακά ανθρώπινη. Για τους περισσότερους από εμάς, το ChatGPT είναι ένα εργαλείο για τη σύνταξη email, την αποσφαλμάτωση κώδικα ή τον προγραμματισμό μιας διαδρομής για το Σαββατοκύριακο. Όμως, σε μια πρόσφατη και ανατριχιαστική τροπή των γεγονότων στη Φλόριντα, ένα chatbot μετακινήθηκε από τον ψηφιακό χώρο εργασίας στο επίκεντρο μιας ποινικής έρευνας.
Ο Γενικός Εισαγγελέας της Φλόριντα, James Uthmeier, προκάλεσε πρόσφατα κλυδωνισμούς στον κόσμο της τεχνολογίας ξεκινώντας μια ποινική έρευνα κατά της OpenAI. Ο καταλύτης; Μια σειρά από αρχεία καταγραφής συνομιλιών (chat logs) μεταξύ του ChatGPT και ενός ενόπλου που ενεπλάκη σε μια τραγική επίθεση στο Πολιτειακό Πανεπιστήμιο της Φλόριντα (FSU). Αυτό δεν είναι απλώς ένας τίτλος για μια δικαστική διαμάχη υψηλού προφίλ· αντιπροσωπεύει μια θεμελιώδη αλλαγή στον τρόπο με τον οποίο ο νόμος βλέπει τη σχέση μεταξύ ενός δημιουργού και του δημιουργήματός του. Ως ο Νομικός σας Πλοηγός, θέλω να αποκαλύψω το παρασκήνιο για το πώς ο κώδικας μιας εταιρείας μπορεί να την φέρει στο στόχαστρο της ανώτατης αρχής επιβολής του νόμου της πολιτείας.
Όταν ένας κυβερνητικός αξιωματούχος εκδίδει μια κλήτευση (subpoena), δεν ζητά απλώς ευγενικά πληροφορίες. Μια κλήτευση είναι μια νομική εντολή που απαιτεί την προσκόμιση αποδεικτικών στοιχείων ή μαρτυρίας. Σε αυτή την περίπτωση, ο Γενικός Εισαγγελέας Uthmeier αναζητά κάτι περισσότερο από τα αρχεία συνομιλίας του ενόπλου. Απαίτησε τις εσωτερικές πολιτικές της OpenAI, εκπαιδευτικό υλικό, οργανωτικά διαγράμματα, ακόμη και δημόσιες δηλώσεις που σχετίζονται με το περιστατικό.
Γιατί έχει σημασία ένα οργανωτικό διάγραμμα σε μια ποινική έρευνα; Στα μάτια του νόμου, η πολιτεία προσπαθεί να προσδιορίσει ποιος βρισκόταν στην αίθουσα όταν ελήφθησαν οι αποφάσεις. Θέλουν να μάθουν ποιος σχεδίασε τα φίλτρα ασφαλείας, ποιος ήταν υπεύθυνος για την παρακολούθηση απειλών και αν υπήρξε συστημική αποτυχία αντίδρασης σε προειδοποιητικά σημάδια. Σκεφτείτε το νόμο ως καθρέφτη — αντανακλά την κοινωνική μας προσδοκία ότι αν κατασκευάσετε ένα ισχυρό εργαλείο, είστε υπεύθυνοι να διασφαλίσετε ότι δεν θα γίνει όπλο.
Ο πυρήνας αυτής της έρευνας βασίζεται σε ένα ακανθώδες ερώτημα: διευκόλυνε το λογισμικό της OpenAI ένα έγκλημα; Εδώ και καιρό αποδεχόμαστε ότι μια τηλεφωνική εταιρεία δεν φέρει ευθύνη εάν ένας εγκληματίας χρησιμοποιήσει ένα τηλέφωνο για να σχεδιάσει μια ληστεία. Ωστόσο, η ΤΝ είναι διαφορετική. Σε αντίθεση με ένα παθητικό τηλεφωνικό καλώδιο, η ΤΝ είναι παραγωγική (generative)· αλληλεπιδρά, προτείνει και παρέχει πληροφορίες με βάση την εισαγωγή του χρήστη.
Εάν ο ένοπλος χρησιμοποίησε το ChatGPT για να ερευνήσει τακτικούς ελιγμούς ή να παρακάμψει την ασφάλεια στο FSU, και η ΤΝ παρείχε αυτές τις πληροφορίες χωρίς να ενεργοποιηθούν εσωτερικοί συναγερμοί, η πολιτεία μπορεί να ισχυριστεί ότι η εταιρεία επέδειξε αμέλεια. Σε ένα ρυθμιστικό πλαίσιο, η αμέλεια εμφανίζεται όταν ένα μέρος αποτυγχάνει να λάβει την εύλογη φροντίδα για την αποφυγή πρόκλησης τραυματισμού ή απώλειας σε άλλο πρόσωπο. Ενώ η αμέλεια είναι συνήθως αστικό ζήτημα, σε ακραίες περιπτώσεις —ειδικά σε εκείνες που αφορούν τη δημόσια ασφάλεια— μπορεί να περάσει τη γραμμή και να εισέλθει σε ποινικό έδαφος.
Η Φλόριντα τοποθετείται ως ένας "ψηφιακός σερίφης" εδώ και αρκετά χρόνια. Αυτή δεν είναι η πρώτη φορά που η πολιτεία ασχολείται με εγκλήματα που σχετίζονται με την ΤΝ. Το νομοθετικό σώμα ψήφισε πρόσφατα ισχυρούς νόμους με αυστηρές ποινές για υλικό σεξουαλικής κακοποίησης παιδιών (CSAM) που δημιουργείται από ΤΝ. Με την έναρξη αυτής της έρευνας, ο Γενικός Εισαγγελέας σηματοδοτεί ότι η δικαιοδοσία της πολιτείας —η εξουσία ενός συγκεκριμένου αξιωματούχου να λαμβάνει νομικές αποφάσεις σε μια επικράτεια— εκτείνεται βαθιά μέσα στις αίθουσες διακομιστών της Silicon Valley.
Η προσέγγιση της Φλόριντα υποδηλώνει ότι βλέπουν την ασφάλεια της ΤΝ όχι ως μια εθελοντική εταιρική "βέλτιστη πρακτική", αλλά ως νομοθετική απαίτηση. Ένα νομοθέτημα (statute) είναι απλώς ένας γραπτός νόμος που ψηφίστηκε από ένα νομοθετικό σώμα. Εάν η Φλόριντα μπορεί να αποδείξει ότι οι τρέχουσες διασφαλίσεις της OpenAI ήταν μια προσπάθεια "boilerplate" (ένας όρος για τυποποιημένη, μη πρωτότυπη γλώσσα που συναντάται συχνά σε συμβόλαια) αντί για ένα πραγματικό δίχτυ ασφαλείας, η εταιρεία θα μπορούσε να αντιμετωπίσει πρωτοφανείς νομικές συνέπειες.
Για να κατανοήσουμε αυτή την έρευνα, πρέπει να εξετάσουμε την έννοια της ευθύνης (liability). Συνήθως, θεωρούμε τα άτομα υπεύθυνα —ή νομικά υπόλογα— για τις πράξεις τους. Αλλά οι εταιρείες έχουν μια "εταιρική προσωπικότητα" στο νομικό σύστημα. Αυτό σημαίνει ότι μπορούν να μηνυθούν ή ακόμη και να διωχθούν ως οντότητα.
Εάν η έρευνα της πολιτείας αποκαλύψει ότι τα δεδομένα εκπαίδευσης της OpenAI περιλάμβαναν υλικό που θα μπορούσε να βοηθήσει ένα άτομο να διαπράξει μια βίαιη πράξη, και η εταιρεία στερούνταν ενός πολυεπίπεδου συστήματος για τον αποκλεισμό αυτών των προτροπών (prompts), η κατηγορούσα αρχή θα μπορούσε να ισχυριστεί ότι η εταιρεία ήταν απερίσκεπτη. Θα αναζητήσουν ένα "δικαστικό προηγούμενο" (precedent), το οποίο είναι μια προηγούμενη δικαστική απόφαση που χρησιμεύει ως οδηγός για μελλοντικές υποθέσεις. Δεδομένου ότι η ΤΝ είναι τόσο νέα, δεν υπάρχει άμεσο προηγούμενο για ένα chatbot που χρησιμοποιήθηκε σε ένοπλη επίθεση, γεγονός που καθιστά αυτή την έρευνα έναν μαραθώνιο υψηλού ρίσκου τόσο για την πολιτεία όσο και για την τεχνολογική βιομηχανία.
Για τον μέσο άνθρωπο, αυτή η έρευνα εγείρει μια λεπτή ανησυχία: τι συμβαίνει με την ιδιωτικότητά σας; Οι περισσότεροι από εμάς αντιμετωπίζουμε το ιστορικό των συνομιλιών μας σαν ένα ιδιωτικό ημερολόγιο. Ωστόσο, αυτή η υπόθεση μας υπενθυμίζει ότι δεν υπάρχει ψηφιακό μυστικό όταν εμπλέκεται μια ποινική κλήτευση.
Η OpenAI, όπως και οι περισσότερες εταιρείες τεχνολογίας, έχει όρους χρήσης που ουσιαστικά δηλώνουν ότι μπορούν να παραδώσουν τα δεδομένα σας στις αρχές επιβολής του νόμου εάν απαιτείται από το νόμο. Ενώ αυτή η έρευνα επικεντρώνεται σε ένα συγκεκριμένο έγκλημα, θέτει το σκηνικό για το πώς μπορεί να εξελιχθούν μελλοντικές αστικές διαφορές. Εάν εμπλακείτε ποτέ σε δικαστική διαμάχη, είτε πρόκειται για διαζύγιο είτε για διαφορά σύμβασης, τα αρχεία συνομιλιών σας με την ΤΝ θα μπορούσαν να θεωρηθούν "ανακαλύψιμα" (discoverable) αποδεικτικά στοιχεία, ακριβώς όπως τα email ή τα μηνύματα κειμένου.
Η έρευνα σχετικά με το "εκπαιδευτικό υλικό" είναι ίσως το πιο παρεμβατικό μέρος της κλήτευσης. Η πολιτεία θέλει να μάθει με τι "ταΐστηκε" η ΤΝ. Εάν η ΤΝ εκπαιδεύτηκε σε εξτρεμιστικά μανιφέστα ή εγχειρίδια για το πώς να προκαλέσει κανείς βλάβη, ο Γενικός Εισαγγελέας θα μπορούσε να ισχυριστεί ότι το προϊόν ήταν ελαττωματικό εξαρχής.
Σε πολλές δικαιοδοσίες, υπάρχει το "καθήκον προειδοποίησης" (duty to warn). Αυτή η νομική υποχρέωση απαιτεί από ένα μέρος να λάβει εύλογα μέτρα για να προειδοποιήσει άλλους για οποιονδήποτε προβλέψιμο κίνδυνο. Εάν η OpenAI γνώριζε ότι η ΤΝ της θα μπορούσε να χειραγωγηθεί ώστε να βοηθήσει ένα άτομο να πραγματοποιήσει μια μαζική ένοπλη επίθεση, είχε καθήκον να προειδοποιήσει τις αρχές; Αυτό είναι το κεντρικό ερώτημα που θα μπορούσε να μετατρέψει μια εταιρεία τεχνολογίας σε ποινικά κατηγορούμενο.
Ενώ παρακολουθούμε αυτό το νομικό δράμα να εκτυλίσσεται, υπάρχουν πρακτικά βήματα που μπορείτε να λάβετε για να προστατεύσετε το δικό σας ψηφιακό αποτύπωμα και να κατανοήσετε τα δικαιώματά σας:
Η έρευνα της Φλόριντα για την OpenAI είναι μια στιγμή-ορόσημο. Είναι η πρώτη φορά που βλέπουμε την πολιτεία να αντιμετωπίζει έναν δημιουργό ΤΝ ως δυνητικό συμμετέχοντα σε ένα βίαιο έγκλημα και όχι απλώς ως έναν ουδέτερο πάροχο πλατφόρμας. Είτε αυτό οδηγήσει σε ποινικές κατηγορίες είτε σε συμβιβασμό, το μήνυμα είναι σαφές: η "άγρια δύση" της ανάπτυξης ΤΝ φτάνει στο τέλος της, και ο σερίφης έφτασε με μια στοίβα κλήτευσης.
Πηγές:
Αποποίηση ευθύνης: Αυτό το άρθρο παρέχεται μόνο για ενημερωτικούς και εκπαιδευτικούς σκοπούς και δεν αποτελεί επίσημη νομική συμβουλή. Ο νόμος που περιβάλλει την τεχνητή νοημοσύνη εξελίσσεται ραγδαία και ποικίλλει σημαντικά ανάλογα με τη δικαιοδοσία. Εάν έχετε συγκεκριμένες νομικές ερωτήσεις ή εμπλέκεστε σε μια διαφορά, συμβουλευτείτε έναν εξειδικευμένο δικηγόρο στην περιοχή σας.



Η από άκρη σε άκρη κρυπτογραφημένη λύση ηλεκτρονικού ταχυδρομείου και αποθήκευσης στο cloud παρέχει τα πιο ισχυρά μέσα ασφαλούς ανταλλαγής δεδομένων, εξασφαλίζοντας την ασφάλεια και το απόρρητο των δεδομένων σας.
/ Εγγραφείτε δωρεάν