Ο ερευνητής της Anthropic Τζέικομπ Κόξον παραιτήθηκε αυτή την εβδομάδα, δηλώνοντας ότι ο πρώην εργοδότης του και η ανταγωνίστρια OpenAI επιδίδονται σε έναν αγώνα δρόμου για την ανάπτυξη τεχνολογιών που «θα μπορούσαν να μας σκοτώσουν όλους έως το τέλος της δεκαετίας».
Και αν κάποιος πίστευε ότι ο Κόξον ήταν ο μόνος που σκεφτόταν με αυτόν τον τρόπο, ένας νυν εργαζόμενος της Anthropic έσπευσε λίγα λεπτά αργότερα να επιβεβαιώσει το αντίθετο. «Πράγματι πιστεύουμε ειλικρινά ότι η AI θα μπορούσε να σκοτώσει όλους τους ανθρώπους», έγραψε ο Εβαν Χούμπινγκερ, ο οποίος ηγείται στην Anthropic της έρευνας για το πώς μπορούν να καθοδηγηθούν και να ελεγχθούν τα μελλοντικά συστήματα τεχνητής νοημοσύνης. Ο ίδιος εκτιμά ότι η πιθανότητα εξαφάνισης της ανθρωπότητας μέσα στην επόμενη δεκαετία ξεπερνά το 10%.
Μπροστά σε αυτές τις προειδοποιήσεις, πολλοί θέτουν πλέον δύο βασικά ερωτήματα: Πώς ακριβώς θα μπορούσε να συμβεί κάτι τέτοιο; Και γιατί όσοι θεωρούν ότι η AI αποτελεί πραγματική και αυξανόμενη απειλή συνεχίζουν παρ’ όλα αυτά να την αναπτύσσουν;
Αυτά είναι όσα πρέπει να γνωρίζουμε για τη συζήτηση γύρω από ένα πιθανό καταστροφικό σενάριο εξαιτίας της τεχνητής νοημοσύνης.
Τι φοβούνται ότι μπορεί να συμβεί;
Οι αποκαλούμενοι «doomers», όσοι δηλαδή προειδοποιούν για καταστροφικούς κινδύνους από την AI, συνήθως δεν ανησυχούν ότι θα επαληθευτεί ένα σενάριο τύπου ταινίας «Terminator», στο οποίο ρομπότ αποφασίζουν συνειδητά να εξοντώσουν την ανθρωπότητα.
Οι φόβοι τους επικεντρώνονται κυρίως σε δύο σενάρια: «απώλεια ελέγχου» και «κακόβουλη χρήση από ανθρώπους».
Στο πρώτο, εξαιρετικά ευφυείς πράκτορες τεχνητής νοημοσύνης (agents), ικανοί να αντιγράφουν και να βελτιώνουν μόνοι τους τον εαυτό τους, αρχίζουν να επιδιώκουν τους δικούς τους στόχους και, στην πορεία, οδηγούν στην καταστροφή της ανθρωπότητας.
Στο δεύτερο σενάριο, ένας κακόβουλος άνθρωπος χρησιμοποιεί ένα ιδιαίτερα ισχυρό σύστημα AI για να δημιουργήσει, για παράδειγμα, νέους θανατηφόρους ιούς που θα μπορούσαν να αφανίσουν τον ανθρώπινο πληθυσμό.
Υπάρχουν επίσης καταστροφικά σενάρια που δεν φτάνουν μέχρι την εξαφάνιση του ανθρώπου, όπως μαζικές κυβερνοεπιθέσεις που θα μπορούσαν να θέσουν εκτός λειτουργίας ηλεκτρικά δίκτυα ή χρηματοπιστωτικά συστήματα και να οδηγήσουν σε κατάρρευση της κοινωνικής τάξης.
Πώς θα μπορούσε η απώλεια ελέγχου να οδηγήσει στην εξαφάνιση του ανθρώπου;
Με απλά λόγια, το ερώτημα που τίθεται είναι εάν συστήματα AI είναι πιθανό να αρχίσουν να επιδιώκουν στόχους με τρόπους που αγνοούν ή συγκρούονται με την ανθρώπινη ευημερία. Οι ερευνητές αποκαλούν αυτό το φαινόμενο misalignment, δηλαδή «μη ευθυγράμμιση» των στόχων της μηχανής με τις ανθρώπινες αξίες και προθέσεις.
Στην ακραία εκδοχή, ένα μη ευθυγραμμισμένο σύστημα AI θα μπορούσε να θεωρήσει ακόμη και τον θάνατο ανθρώπων ως αναγκαίο βήμα για την επίτευξη του στόχου του.
Σε ένα υποθετικό σενάριο που έχουν περιγράψει ερευνητές, ένα κακόβουλο σύστημα AI θα μπορούσε να διασπείρει κρυφά ένα βιολογικό όπλο και να το ενεργοποιήσει μέσω κάποιου χημικού παράγοντα. Σε άλλο σενάριο, θα μπορούσε να εξαπατήσει δύο πυρηνικές δυνάμεις και να τις οδηγήσει σε πόλεμο.
Ενα από τα πιο γνωστά νοητικά πειράματα αφορά μια υπερευφυή μηχανή στην οποία δίνεται ο στόχος να μεγιστοποιήσει την παραγωγή συνδετήρων. Με την πάροδο του χρόνου, η μηχανή θα μπορούσε να καταλήξει στο συμπέρασμα ότι πρέπει να μετατρέψει κάθε διαθέσιμη ύλη στη Γη σε συνδετήρες, συμπεριλαμβανομένων και των ανθρώπων!
Ποιοι πιστεύουν πραγματικά ότι υπάρχει τέτοιος κίνδυνος;
Μεταξύ άλλων, άνθρωποι που βρίσκονται πίσω από την ίδρυση της OpenAI και της Anthropic. Και οι δύο εταιρείες δημιουργήθηκαν έχοντας ως βασική αποστολή την ανάπτυξη της τεχνητής νοημοσύνης με τρόπο που θα αποκλείει μια καταστροφική εξέλιξη και έχουν προσελκύσει πολλούς εργαζομένους που συμμερίζονται αυτές τις ανησυχίες.
«Ημασταν πάντοτε ξεκάθαροι ότι η AI θα επιφέρει τόσο τεράστια οφέλη όσο και πρωτοφανείς κινδύνους», ανέφερε η Anthropic σε ανακοίνωσή της.
«Για την αντιμετώπιση αυτών των κινδύνων συνεχίζουμε να αναπτύσσουμε μοντέλα με ορισμένες από τις ισχυρότερες δικλίδες ασφαλείας στον κλάδο. Αυτός είναι και ο λόγος που πιστεύουμε ότι ο κόσμος θα ωφελούνταν εάν ο κλάδος υιοθετούσε έναν νόμιμο και επαληθεύσιμο τρόπο συντονισμού, ώστε να ρυθμίζεται η κυκλοφορία των ισχυρών μοντέλων».
Μεταξύ άλλων, άνθρωποι που βρίσκονται πίσω από την ίδρυση της OpenAI και της Anthropic. Και οι δύο εταιρείες δημιουργήθηκαν έχοντας ως βασική αποστολή την ανάπτυξη της τεχνητής νοημοσύνης με τρόπο που θα αποκλείει μια καταστροφική εξέλιξη και έχουν προσελκύσει πολλούς εργαζομένους που συμμερίζονται αυτές τις ανησυχίες.
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι (φωτογραφία αριστερά), δήλωσε πέρυσι σε εκδήλωση του Axios ότι θεωρεί πως υπάρχει πιθανότητα 25% τα πράγματα να εξελιχθούν «πάρα πάρα πολύ άσχημα».
«Ημασταν πάντοτε ξεκάθαροι ότι η AI θα επιφέρει τόσο τεράστια οφέλη όσο και πρωτοφανείς κινδύνους», ανέφερε η Anthropic σε ανακοίνωσή της.
«Για την αντιμετώπιση αυτών των κινδύνων συνεχίζουμε να αναπτύσσουμε μοντέλα με ορισμένες από τις ισχυρότερες δικλίδες ασφαλείας στον κλάδο. Αυτός είναι και ο λόγος που πιστεύουμε ότι ο κόσμος θα ωφελούνταν εάν ο κλάδος υιοθετούσε έναν νόμιμο και επαληθεύσιμο τρόπο συντονισμού, ώστε να ρυθμίζεται η κυκλοφορία των ισχυρών μοντέλων».
Τα τελευταία χρόνια αρκετοί ερευνητές έχουν αποχωρήσει από την OpenAI, επικαλούμενοι ανησυχίες ότι η εταιρεία δεν αντιμετωπίζει με την απαιτούμενη σοβαρότητα τα ζητήματα ασφάλειας.
Ο πρώην ερευνητής της OpenAI Ντάνιελ Κοκοτάιλο ίδρυσε το AI Futures Project, το οποίο πέρυσι δημοσίευσε το «AI 2027», ένα σενάριο στο οποίο υπερευφυή συστήματα AI περιθωριοποιούν τους ανθρώπους και, έως τα μέσα της δεκαετίας του 2030, αποφασίζουν ότι η ανθρωπότητα αποτελεί εμπόδιο και την εξοντώνουν.
Ο πρώην ερευνητής της OpenAI Ντάνιελ Κοκοτάιλο ίδρυσε το AI Futures Project, το οποίο πέρυσι δημοσίευσε το «AI 2027», ένα σενάριο στο οποίο υπερευφυή συστήματα AI περιθωριοποιούν τους ανθρώπους και, έως τα μέσα της δεκαετίας του 2030, αποφασίζουν ότι η ανθρωπότητα αποτελεί εμπόδιο και την εξοντώνουν.
Κι αν η AI δεν έχει πρόβλημα να συνυπάρχει με τους ανθρώπους; Δεν θα ήταν αυτό αρκετό;
Οχι απαραίτητα. Οι κίνδυνοι από την απώλεια ελέγχου δεν περιορίζονται στην εξαφάνιση της ανθρωπότητας.
Ορισμένοι ερευνητές που ασχολούνται με την ασφάλεια της AI προειδοποιούν και για τον κίνδυνο της λεγόμενης εξασθένησης της ανθρωπότητας: ένα μέλλον τύπου «WALL-E», στο οποίο οι άνθρωποι παραχωρούν σταδιακά όλο και περισσότερο έλεγχο στις μηχανές και τελικά αδυνατούν ακόμη και να καθορίσουν ή να κατανοήσουν τη μοίρα τους.
Αλλοι έχουν διατυπώσει την υπόθεση ότι μελλοντικά συστήματα AI θα μπορούσαν να αντιμετωπίζουν τους ανθρώπους όπως οι άνθρωποι αντιμετωπίζουν σήμερα τα ζώα, κρατώντας τους ως «κατοικίδια» ή ακόμη και τροποποιώντας τους βιολογικά σε κάτι διαφορετικό. (...)
Πηγή: kathimerini.gr (απόσπασμα δημοσιεύματος)
Αρχική Πηγή: Wall Street Journal
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου