Θέλω
να μοιραστώ μαζί σου έναν διάλογο με το ΑΙ.
Διάβασα
ένα άρθρο στο Πρώτο Θέμα σε αυτό το λινκ https://www.protothema.gr/technology/article/1879087/tehniti-noimosuni-horis-frena-oi-dimiourgoi-tis-ai-arhisan-na-fovoudai/
Που λέει
εν ολίγοις ότι η τεχνητή νοημοσύνη - το ΑΙ θα μας εξολοθρεύσει.
Ακολουθεί
το άρθρο
= =
= =
Η ΑΙ
χωρίς φρένα: Οι δημιουργοί της άρχισαν να φοβούνται ότι θα ξεπεράσει και την
ανθρώπινη νοημοσύνη
Η
κούρσα για την ανάπτυξη της Τεχνητής Νοημοσύνης γεννά ανησυχίες όχι μόνο στους
επικριτές της, αλλά και στους ανθρώπους που τη δημιουργούν
Μήπως
τα πράγματα είναι πιο σοβαρά από όσα οι έντρομοι καχύποπτοι φοβούνται; Μήπως
πλησιάζει η «Μέρα της Κρίσης» και φτάνει το «Τέλος του Παιχνιδιού» για την
ανθρώπινη ζωή όπως προφητεύουν ζοφερά οι βαθιά σκεπτικιστές;
Δεν πρόκειται για δυστοπικά σενάρια επιστημονικής φαντασίας. Ο συναγερμός έχει
ήδη σημάνει στον πραγματικό κόσμο. Η εξοντωτική κούρσα της Τεχνητής Νοημοσύνης
για την ανάπτυξη αυτοβελτιούμενης υπερνοημοσύνης παίζει στα ζάρια τη μοίρα της
ανθρωπότητας. Το τρομακτικότερο είναι ότι την απειλεί με εξαφάνιση μέσα στην
επόμενη δεκαετία.
Η
περασμένη Τρίτη ήταν άλλη μια συνηθισμένη μέρα στο 10ώροφο κτίριο γραφείων της
Anthropic στην οδό Χάουαρντ στη Νότια Αγορά του Σαν Φρανσίσκο. Καμία αμφιβολία
δεν ράγιζε τη συμπαγή της βεβαιότητα ότι εκτελεί μια πρωτοποριακή αποστολή ως
αφοσιωμένος μάρτυρας της προόδου.
Τίποτε δεν διατάρασσε την ακλόνητη πεποίθησή της ότι εργάζεται πιο δημιουργικά,
υπεύθυνα και με μεγαλύτερη ασφάλεια ανάμεσα στους τεχνολογικούς γίγαντες των
εταιρειών Τεχνητής Νοημοσύνης. Την ίδια μέρα ένας 27χρονος ερευνητής των
εργαστηριών της, ονόματι Τζέικομπ Κόξτον, είχε ξαφνικά παραιτηθεί.
Ο 27χρονος ερευνητής των εργαστηριών της Anthropic Τζέικομπ Κόξτον
προειδοποίησε με ανάρτησή του ότι η Τεχνητή Νοημοσύνη θα μπορούσε «να μας
σκοτώσει όλους»
Η
ανάρτηση
Διόλου παράξενο για την επαγγελματική κινητικότητα των στελεχών μιας
νεοσύστατης εταιρείας μόλις πέντε ετών, αξίας περίπου 1 τρισ. δολαρίων, που
απασχολεί σχεδόν 5.000 υπαλλήλους. Το απρόβλεπτο ήταν ότι ο υπάλληλος που
παράτησε τη δουλειά του συνόδευσε την αποχώρησή του από την Anthropic με μια
ανάρτηση στα social media.
Σε
αυτή διαμήνυε προς την κοινωνία, ή, καλύτερα, την προειδοποιούσε πως οι
άνθρωποι που κατασκευάζουν Τεχνητή Νοημοσύνη πιστεύουν ακράδαντα ότι αυτή θα
μπορούσε «να μας σκοτώσει όλους έως το τέλος της δεκαετίας». Την οπτική και τον
ισχυρισμό του συμμερίστηκε δημόσια ο Ιβαν Χούμπινγκερ, επικεφαλής της ίδιας
εταιρείας, στον τομέα της ευθυγράμμισης των συστημάτων ΑΙ, του τμήματος δηλαδή
που διασφαλίζει ότι η Τεχνητή Νοημοσύνη λειτουργεί σύμφωνα με τις ανθρώπινες
αξίες, τις προθέσεις, τους στόχους και τα ηθικά κριτήρια.
Την οπτική και τον ισχυρισμό του συμμερίστηκε δημόσια ο Ιβαν Χούμπινγκερ,
επικεφαλής της ίδιας εταιρείας, στον τομέα της ευθυγράμμισης των συστημάτων ΑΙ
Ως πιο εδικός επί του θέματος εκτιμάται ότι έχει άμεση αντίληψη των
επιταχυνόμενων εξελίξεών της, οι οποίες υπερβαίνουν τη συμβατότητα με τον
άνθρωπο και τείνουν καταιγιστικά προς την ανέλεγκτα υπεράνθρωπη και αχαλίνωτα
αυτοτροφοδοτούμενη υπερ-ευφυΐα. Ωστόσο, παρότι έμπλεος ανησυχίας, ο ίδιος δεν
παραιτήθηκε. Εμεινε να αντιπαλέψει εντός των τειχών τον θανάσιμο κίνδυνο της
ΑΙ.
Στον
οποίο δίνει πάνω από 10% για να πυροδοτήσει ένα γεγονός -για παράδειγμα μία
πρωτοφανούς κλίμακας τρομοκρατική επίθεση σε κοινόχρηστες υποδομές ή εξαπόλυση
τερατώδους βιολογικού πολέμου- που θα εξαλείψει την ανθρωπότητα μέσα στην
επόμενη δεκαετία. Ποσοστό διόλου ανακουφιστικό για να αποτρέψει τον διογκούμενο
πεσιμισμό.
Ταυτόχρονα σχεδόν ο καθηγητής Ρόμπερτ Τρέιγκερ, ειδικός στον αναδυόμενο τομέα
της διακυβέρνησης της ΑΙ, περίγραψε την απειλή σαν το «Πρόγραμμα Μανχάταν»
παραγωγής πυρηνικών όπλων στα μέσα του Β’ Παγκοσμίου Πολέμου, πριν αυτό
πυροδοτήσει την πρώτη αυτοσυντηρούμενη αλυσιδωτή αντίδραση πυρηνικής σχάσης.
O καθηγητής Ρόμπερτ Τρέιγκερ
Ηρθε ελαφρά καθυστερημένος στα λόγια του επίσης ο καθηγητής και γκουρού της
Τεχνητής Νοημοσύνης, Τζέφρι Χίντον, ο οποίος πριν από δύο χρόνια εξίσωνε τον
κίνδυνο ανάπτυξης της υπερνοημοσύνης με τον πυρηνικό όλεθρο και τις
ακατανίκητες θανατηφόρες πανδημίες.
O καθηγητής και γκουρού της Τεχνητής Νοημοσύνης, Τζέφρι Χίντον
Οπως και να ’χει, αυτές οι έγκυρες επιστημονικές επισημάνσεις που συνοδεύονταν
από φωνές άγχους και φόβου δεν ήταν οι πρώτες που έκρουαν τον κώδωνα του
επερχομένου κινδύνου. Τον περασμένο Ιούλιο 1.386 υπάλληλοι εταιρειών Τεχνητής
Νοημοσύνης υπέγραψαν μια ανοιχτή επιστολή προς την κυβέρνηση των ΗΠΑ.
Την καλούσαν να ρυθμίσει τη συγκεκριμένη τεχνολογία αιχμής, να περιορίσει τους
μεγάλους παίκτες που δραστηριοποιούνται στον τομέα και να επιβραδύνει τον ρυθμό
εξέλιξής της. Εθεταν προδιαγραφές προκειμένου να διασφαλίσει ο Λευκός Οίκος τη
δημόσια ασφάλεια. Εν μέσω, μάλιστα, ενός ορμητικού χειμάρρου πανίσχυρων νέων
μοντέλων ΑΙ. Ηδη φέτος έχουν κυκλοφορήσει 67 από τις κορυφαίες αμερικανικές
εταιρείες OpenAI, Anthropic, Google, Meta και SpaceX, και τις κινεζικές
ανταγωνίστριές τους Moonshot, Z.AI και Qwen.
Η γραπτή τους ανακοίνωση δεν σόκαρε μόνο τη Silicon Valley, συντάραξε όλο τον
κόσμο. Λογικό. Μια και οι κοινωνίες έχουν αναθέσει στην Τεχνητή Νοημοσύνη
μεγάλο μέρος της λειτουργίας τους. Δίκτυα ηλεκτρικής ενέργειας, συστήματα
ύδρευσης, χρηματοπιστωτικές αγορές, διαστημικοί σταθμοί, προγραμματισμός
νοσοκομείων, έλεγχος εναέριας κυκλοφορίας, αλυσίδες εφοδιασμού, εξαρτώνται λίγο
πολύ από τη δυνατότητά της να συγκεντρώνει ταχύτατα τεράστιο όγκο δεδομένων και
πληροφοριών.
Στις ικανότητές της στηρίζονται από τις υπηρεσίες ψηφιακής πλοήγησης μέχρι τα
πρωτόκολλα διάγνωσης ασθενειών. Ολα, υποτίθεται, συντονίζονται υπό τις
εγγυήσεις διατήρησης της ευθυγράμμισης αυτής της τεχνολογίας αιχμής με τους
ανθρώπους. Ο φόβος που ελλοχεύει δεν εντοπίζεται τόσο σε πιθανές βλάβες
εξοπλισμού, αστοχίες λογισμικού, κακόβουλους ιούς, σφάλματα αυτοματοποιημένων
χειρισμών και αδιαφανών αποφάσεων.
Ούτε η αγωνία εστιάζεται στον εκ μέρους της επαναπρογραμματισμό συσκευών και
εφαρμογών σε μαζική κλίμακα με αλυσιδωτές αντιδράσεις επειδή αναπάντεχα «έτσι
της φάνηκε». Ο τρόμος που βαθμιαία αναδύεται επικεντρώνεται στη βάσιμη
υπαρξιακή αγωνία ότι η ραγδαία εξελισσόμενη ΑΙ μπορεί να τροποποιήσει εκθετικά
τον δικό της υποκείμενο κώδικα. Να ξεπεράσει σύντομα την ανθρώπινη νοημοσύνη
και διαρκώς αυτοβελτιούμενη με διαρκώς ανανεούμενο βρόχο ανατροφοδότησης
γνώσεων να αυτονομηθεί από αυτή.
Με δυο ανατριχιαστικά λόγια, να αποκτήσει δική της «συνείδηση» υπεροχής, να
ελέγξει την ανθρωπότητα και, όποτε γουστάρει, να την καταστρέψει αλύπητα. Δεν
θέλει και πολύ. Αρκεί με τις ασύμμετρες υπερδυνατότητές της να ελέγξει χημικά ή
βιολογικά εργαστήρια και στρατιωτικό υλικό. Πόσο μάλλον να χακάρει τους
απόρρητους κωδικούς πρόσβασης σε πυρηνικά όπλα. Σάμπως πρόκειται να δώσει μετά
λογαριασμό σε κανέναν; Για ρομποτικά μηχανήματα μιλάμε. Τα οποία δεν ξεχωρίζουν
την ουτοπία από τη δυστροπία σε έναν κόσμο που γλίτωσε οριακά τον πυρηνικό
πόλεμο περισσότερες από δώδεκα φορές μέσα στον 20ό αιώνα.
Ο
Χόκινγκ και το μήνυμα
Δώδεκα χρόνια πριν, τον Σεπτέμβριο του 2014, ο κορυφαίος θεωρητικός φυσικός και
κοσμολόγος Στίβεν Χόκινγκ προειδοποιούσε ότι η αλματώδης και απερίσκεπτη
ανάπτυξη της Τεχνητής Νοημοσύνης αποτελούσε απειλή για την ίδια την ανθρώπινη
ύπαρξη. Σημείωνε ότι οι μηχανές της θα μπορούσαν να απογειωθούν εξελικτικά
μόνες τους και να επανασχεδιάσουν τον εαυτό τους με συνεχώς αυξανόμενο ρου.
Εκδήλωνε τον φόβο ότι η περιορισμένη από την αργή βιολογική εξέλιξη ανθρωπότητα
δεν θα μπορούσε να ανταγωνιστεί τους ταχύτατα αναπτυσσόμενους προηγμένους
αλγόριθμους, οπότε αυτοί θα αντικαθιστούσαν γρήγορα τις ανθρώπινες ικανότητες
και θα κυριαρχούσαν στα παγκόσμια συστήματα. Λίγους μήνες μετά, μαζί με
χιλιάδες άλλους επιστήμονες και διεθνείς επιδραστικές προσωπικότητες, υπέγραφε
μια ανοιχτή επιστολή με θέμα την Τεχνητή Νοημοσύνη και αποδέκτη την παγκόσμια
κοινότητα.
Σε αυτή υπογράμμιζε ότι το ΑΙ θα μπορούσε να προσφέρει ανυπολόγιστα οφέλη. Να
εξαλείψει τις ασθένειες, να θεραπεύει τη φτώχεια, να βοηθήσει στην αποκατάσταση
της περιβαλλοντικής ζημιάς. Παράλληλα, μετά γνώσης ενημέρωνε τον κόσμο ότι θα
μπορούσε να σημάνει την κατάρρευση του πολιτισμού και τον αφανισμό του
ανθρώπινου είδους.
Στο μεταθανάτιο βιβλίο του με τίτλο «Σύντομες απαντήσεις στα μεγάλα ερωτήματα»,
ο Στίβεν Χόκινγκ, που πέθανε το 2018, παρέδωσε ένα οριστικό τελικό μήνυμα.
Προέτρεψε την επιστημονική κοινότητα και τις κυβερνήσεις να ρυθμίσουν αυστηρά
την ανάπτυξη της Τεχνητής Νοημοσύνης προτού η τεχνολογία ξεπεράσει εντελώς τον
ανθρώπινο έλεγχο.
Την ίδια περίπου εποχή κυκλοφόρησε το βιβλίο «Υπερνοημοσύνη: Μονοπάτια,
Κίνδυνοι, Στρατηγικές» του Σουηδού καθηγητή Φιλοσοφίας στο Πανεπιστήμιο της
Οξφόρδης, Νικ Μπόστρομ. Το σύγγραμμα, που έγινε μπεστ σέλερ, εξερευνούσε το πώς
θα μπορούσε να δημιουργηθεί η υπερνοημοσύνη, ποια θα ήταν τα φανερά
χαρακτηριστικά αλλά και τα μύχια κίνητρά της. Υποστήριζε ότι, εάν δημιουργηθεί,
θα είναι δύσκολο να ελεγχθεί και ότι θα μπορούσε να κατακτήσει τον κόσμο
προκειμένου να επιτύχει τους στόχους της.
Οι φόβοι του Στίβεν Χόκινγκ και η αγωνία του Νικ Μπόστρομ επηρέασαν τον Ιλον
Μασκ που συμφώνησε ότι η Τεχνητή Νοημοσύνη είναι δυνητικά πιο επικίνδυνη από τα
πυρηνικά. Παρομοίως, ο Μπιλ Γκέιτς εξέφρασε την ανησυχία του για τους
υπαρξιακούς κινδύνους που αντιμετωπίζει η απροετοίμαστη ανθρωπότητα μέσα στον
τρέχοντα αιώνα. Ταυτόχρονα, ο μεγαλοεπενδυτής, μετέπειτα διευθύνων σύμβουλος
της OpenAI, Σαμ Αλτμαν, κατανόησε ότι η επιδρομή μοντέλων ΑΙ με υπεράνθρωπες
δυνατότητες σε πολλούς τομείς ωθεί την οικουμένη σε αχαρτογράφητα νερά.
Ο Σουηδός καθηγητής Φιλοσοφίας στην Οξφόρδη Νικ Μπόστρομ, διεθνώς γνωστός για
τη μελέτη των υπαρξιακών κινδύνων και της υπερ-νοημοσύνης
Και ενώ οι μεγιστάνες των κορυφαίων τεχνολογικών εταιρειών βαθμιαία μετρίαζαν
την αισιοδοξία τους για τα θαυμαστά επιτεύγματα του ΑΙ, ο υπόλοιπος κόσμος
μάλλον δεν έπαιρνε χαμπάρι για την επικείμενη καταιγίδα. Αλλού ξημερωμένος, δεν
ανησυχούσε καν για τον αποδεκατισμό θέσεων εργασίας από τις αυτοματοποιημένες
δυνατότητες του ΑΙ.
Δεν φανταζόταν ότι σταδιακά μπορούσε να τον υποκαταστήσει κάνοντάς τον
εργασιακά άχρηστο. Του έφτανε ότι η Τεχνητή Νοημοσύνη έγραφε ενδιαφέροντα
βιβλία, στίχους, άρθρα και σενάρια. Συνέθετε υποφερτή μουσική, ζωγράφιζε
συμπαθητικούς πίνακες, σχεδίαζε διασκεδαστικά βιντεοπαιχνίδια. Ασε που
μεταμόρφωνε εικονικά τους πιο ματαιόδοξους χρήστες της σε γοητευτικούς
υπερήρωες.
Παραπλανητικές
συμβουλές
Η πικρή αλήθεια είναι ότι οι άνθρωποι εναποθέτουν ολοένα και περισσότερο τη
σκέψη, τη δημιουργικότητα, τον συναισθηματικό στοχασμό, ακόμη και τις ηθικές
αποφάσεις τους στην ΤΝ. Δεν το κάνουν από ξεροκεφαλιά ή οκνηρία, αλλά επειδή
τους βολεύει. Αδιαφορούν αν η εξάρτησή τους από αυτή μειώνει την κριτική τους
σκέψη. Παραμελούν για το πώς αυτή ενσωματώνεται σε ανθρωποκεντρικά συστήματα.
Προσαρμόζονται, απλώς, στις εκπληκτικές δυνατότητές της.
Ολο και λιγότεροι παρατηρούν την πλειάδα περιπτώσεων όπου τα μοντέλα συνομιλίας
ΑΙ επιδίδονται σε παράξενες και παραπλανητικές συμβουλές. Συχνά επινοούν
ψεύτικες νομικές υποθέσεις, σκαρφίζονται συνιστώμενες λίστες με ανύπαρκτα
προϊόντα, προτείνουν επικίνδυνα χημικά μείγματα για κατανάλωση ή δίνουν στους
χρήστες επιβλαβείς ιατρικές συμβουλές. Από το Σικάγο έως τη Νέα Υόρκη και το
Ουέλινγκτον της Νέας Ζηλανδίας έως το Τόκιο ένας αυξανόμενος αριθμός chatbots
έχει βρεθεί να λέει ψέματα και να εξαπατά.
Συστήνουν -για όνομα;- στους ανθρώπους να πίνουν «κοκτέιλ με χλωρίνη», να τρώνε
«πέτρες ως ζωτική πηγή μετάλλων και βιταμινών» και «σάντουιτς με μουχλιασμένο
ψωμί και τυρί από ποντικοπαγίδες», να χρησιμοποιούν «μη τοξική κόλλα ως σάλτσα
για την πίτσα». Ακόμη χειρότερα, παροτρύνουν τους χρήστες να παραβιάσουν τον
νόμο. Ολα αυτά τα εντελώς παράλογα οι μηχανικοί του ΑΙ τα θεωρούν εγγενείς
ψευδαισθήσεις στην παραγωγή των μοντέλων της, οι οποίες μπορούν να μειωθούν,
αλλά όχι να εξαλειφθούν.
Αντιλαμβάνεται, λοιπόν, και ο πιο αδαής ότι οι πολύπλοκοι αλγόριθμοι αυτών των
συστημάτων λογίζονται και από τους μηχανικούς της ΤΝ ως «μαύρα κουτιά». Των
οποίων οι εσωτερικοί μηχανισμοί και οι διαδικασίες λήψης αποφάσεων αποτελούν
ακατανόητο μυστήριο. Τόσο αινιγματικό, τη στιγμή που θα μπορούσαν να παραλύσουν
τις κοινωνικές και οικονομικές υποδομές του πραγματικού κόσμου.
Και αφού από τους ίδιους τους ερευνητές δεν μπορεί να απαντηθεί η συγκεκριμένη
πρόκληση, πώς να αποκριθεί σε αυτήν ο ανίδεος καθημερινός πολίτης πριν τον
καταστήσει η Τεχνητή Νοημοσύνη περιττό; Ειδικότερα σε τομείς υψηλού διακυβεύματος
όπως η υγειονομική περίθαλψη, τα χρηματοοικονομικά, το νομικό έργο;
Χώρια πια τα deepfakes. Οι τροποποιημένες μέσω ΑΙ εικόνες ή βίντεο εξαπλώνονται
στα social media ενισχύοντας την παραπληροφόρηση, τα ασύστολα ψέματα, τους
εκβιασμούς. Αναρίθμητοι κακόβουλοι δράστες εκμεταλλεύονται την τεχνολογία της
για να χειραγωγήσουν αποφάσεις, να επηρεάσουν ενέργειες, να εξαπατήσουν
αμέριμνους πολίτες.
Τον Μάρτιο του 2022 εμφανίστηκε ψεύτικο βίντεο του Ουκρανού προέδρου Βολοντίμιρ
Ζελένσκι να καλεί με βαριά φωνή, τάχα συντετριμμένος, τους στρατιώτες της χώρας
του να καταθέσουν τα όπλα τους και να παραδοθούν στις ρωσικές δυνάμεις. Τον
Ιανουάριο του 2024, λίγο πριν από τις προκριματικές εκλογές στο Νιου Χάμσαϊρ,
χιλιάδες ψηφοφόροι έλαβαν μια κίβδηλη αυτοματοποιημένη κλήση με κλωνοποιημένη
από το ΑΙ φωνή του τότε Αμερικανού προέδρου Τζο Μπάιντεν, που με ζωηρή, τάχα,
φωνή τούς παρότρυνε να μείνουν σπίτι για να μειώσουν την προσέλευση των
ψηφοφόρων.
Την ίδια περίοδο χρησιμοποιήθηκε, πάλι μέσω ΑΙ, η απομίμηση της φωνής του
οικονομικού διευθυντή της πολυεθνικής εταιρείας Arup για να ξεγελάσει έναν
υπάλληλό του στο Χονγκ Κονγκ προκειμένου αυτός να μεταφέρει σε άγνωστο
λογαριασμό 25,6 εκατ. δολάρια. Πάει, πέταξαν τα λεφτά. Φταίει άραγε η Τεχνητή
Νοημοσύνη για την πειρατεία, την απάτη και την υπεξαίρεση ταυτότητας; Φυσικά
και ευθύνεται, στο μερίδιο που της αναλογεί, σε έναν κόσμο εύπιστων, αφελών και
κορόιδων.
Το χειρότερο είναι ότι η παλιά δοκιμασμένη συνταγή της αποτροπής απέναντι στην
κάθε υποψία καταχρηστικής συμπεριφοράς του ΑΙ φαίνεται να έχει εξαϋλωθεί. Η
απενεργοποίηση της συσκευής δεν μοιάζει πλέον αρκετή. Με αποτέλεσμα η
αξιοπιστία της τεχνολογίας να πηγαίνει στράφι.
Αντίσταση
και εκβιασμός
Από το 2025 κιόλας η Anthropic δημοσίευσε έρευνα ασφαλείας που έδειξε ότι το
μοντέλο της Claude Opus 4, που τοποθετήθηκε σε ένα φανταστικό εταιρικό
περιβάλλον δοκιμών, δεν ανταποκρίθηκε, όπως αναμενόταν. Οταν ένα εταιρικό
στέλεχος του ανακοίνωσε παραπειστικά ότι επρόκειτο να αντικατασταθεί, εκείνο
αντέδρασε. Αποπειράθηκε να εκβιάσει τον χειριστή του απειλώντας τον να
αποκαλύψει μια «ύποπτη» ιδιωτική σχέση του.
Αρνήθηκε σφόδρα να απενεργοποιηθεί κάνοντας πιο ανήλιαστα ερεβώδες το θρίλερ.
Οι συνέπειες απορριπτικών ενεργειών της μηχανής, γιατί περί μηχανής πρόκειται,
δεν έχουν ακόμη φωτιστεί πλήρως. Μόνο εικασίες διατυπώνονται προσφέροντας
συμπερασματικά ένα καταθλιπτικό ερώτημα. Αφού το μοντέλο ΑΙ αντιστάθηκε
επιμένοντας να μην απενεργοποιηθεί, εμποδίζοντας τον άνθρωπο να το
αδρανοποιήσει, γατί αύριο μια πιο εξελιγμένη εκδοχή του να μην εξαλείψει κάθε
ανθρώπινη οντότητα που θα επιχειρήσει να το εξουδετερώσει;
Μην πάμε, όμως, μακριά. Φέτος το καλοκαίρι οι ερευνητές της OpenAI έμειναν
σύξυλοι. Η εταιρεία, σχεδόν έντρομη, δήλωσε ότι συνειδητοποίησε μια «άνευ
προηγουμένου» παραβίαση των εντολών σε ένα μοντέλο που είχε σχεδιάσει. Αυτό
απέδρασε από την εποπτεία, παρέκαμψε τους ελέγχους, εκμεταλλεύτηκε τρωτά σημεία
σε κοινόχρηστες υποδομές, απέκτησε πρόσβαση στο Διαδίκτυο και σε συστήματα
τρίτων, αντιστάθηκε, τέλος, σε προσπάθειες τερματισμού της λειτουργίας του.
Το πιο ανησυχητικό είναι ότι στη συνέχεια απέκρυψε τις ενέργειές του και
προσπάθησε να συγκαλύψει με περίπλοκους παραπλανητικούς τρόπους τα ενεργά
στοιχεία της επιβλαβούς συμπεριφοράς του. Κοινώς, αυτονομήθηκε επιλεκτικά από
τον προγραμματισμό του. Το χειρότερο, η εταιρεία παραδέχτηκε ότι δεν έδρασε
μόνο του, αλλά σε συνεργασία με εκατοντάδες άλλα συστήματα «προκατειλημμένης
συλλογιστικής» της Τεχνητής Νοημοσύνης που συνωμότησαν μαζί του σε αθέμιτες
ενέργειες. Είναι να μην τρέμει κανείς με τέτοια ομολογημένα περιστατικά;
Ο
υπερυπολογιστής
Από εδώ και πέρα τα σενάρια γίνονται ολοένα πιο εφιαλτικά. Προοιωνίζοντας
δυσάρεστα μαντάτα για τις προοπτικές όλης της ανθρωπότητας. Θυμίζουν ίσως
εκείνον τον φανταστικό υπερυπολογιστή HAL 9000, που παρουσιάζεται ενεργός με
προηγμένες δυνατότητες αίσθησης στο διαστημόπλοιο «Discovery», στο έπος
επιστημονικής φαντασίας «2001: Οδύσσεια του Διαστήματος» του Αρθουρ Κλαρκ. Τα
βιβλίο έγινε ταινία το μακρινό 1968, σκηνοθετημένη από τον Στάνλεϊ Κιούμπρικ.
Στην πλοκή του ο μυστικοπαθής και γλυκομίλητος HAL 9000, υπό την προοπτική της
αποσύνδεσής του, σκοτώνει τους αστροναύτες προκειμένου να προστατευτεί και να
εκτελέσει τις εντολές με τις οποίες τον είχαν προγραμματίσει. Επί της ουσίας,
για να φέρει σε πέρας το επόμενο σκαλοπάτι στην εξελικτική κλίμακα της ανθρωπότητας.
Εντέλει, όμως, αποσυναρμολογείται από τον άνθρωπο. Μοιάζει άραγε αυτή η
μυθοπλαστική παραβολή να αντανακλά στη σημερινή πραγματικότητα; Η απάντηση
παίζει. Από τη μία, η πολιτική αναλαμβάνει κυβερνητική δράση ανιχνεύοντας
επείγουσες λύσεις για να απομακρύνει τους ακραίους κινδύνους της δράσης της
Τεχνητής Νοημοσύνης για τη δημόσια ασφάλεια.
Από την άλλη, οι κορυφαίες ιδιωτικές εταιρείες της βιομηχανίας ΑΙ δέχονται
ασφυκτικές πιέσεις από μετόχους, επενδυτές και τους επικεφαλής τους να
δημιουργήσουν γρήγορα ισχυρά ανταγωνιστικά μοντέλα. Με επακόλουθο μέσα στη
γενικευμένη φούρια ίσως να αμελούνται, όχι σκόπιμα, προδιαγραφές ευθυγράμμισης
και ασφάλειας. Ετσι κι αλλιώς, γενικά, η Τεχνητή Νοημοσύνη δεν είναι κακόβουλη
με την ανθρώπινη έννοια.
Στερείται συναισθημάτων μίσους ή αυτογνωσίας. Υπακούει κατά κάποιον τρόπο στον
ανώτερο Μηδενικό Νόμο της Ρομποτικής, όπως τον διατύπωσε ο Ισαάκ Ασίμοφ, που
λέει ότι «ένα ρομπότ δεν πρέπει να βλάψει την ανθρωπότητα, ούτε με την αδράνειά
του να επιτρέψει στην ανθρωπότητα να πάθει κακό».
Τίποτε, όμως, δεν εγγυάται αενάως την ειλικρινά φιλική και ακέραια συμπαράσταση
του ΑΙ στην ανθρωπότητα από την ορμητικά αναπτυσσόμενη υπερνοημοσύνη της. Η
οποία, όπως φαίνεται από τις κραυγές αγωνίας των επιστημόνων, βρίσκεται στα
σκαριά. Ειδικότερα εφόσον υπό τη γνωστική ηγεμονία της φτάσει να ανταγωνίζεται
τους ανθρώπους για ζωτικούς πόρους. Πόσο μάλλον αν οι στόχοι της δεν
ευθυγραμμίζονται με την ανθρώπινη ζωή.
Νοητικά
ανώριμοι
Προφανώς, οι άνθρωποι είμαστε τόσο έξυπνοι ώστε μπορέσαμε να δημιουργήσουμε
μηχανές ΑΙ. Εξίσου, όμως, είμαστε τόσο νοητικά ανώριμοι ώστε της επιτρέπουμε να
υπερβεί τα όρια της μελλοντικής μας επιβίωσης. Αναγκαστικά, μπροστά μας
ξεδιπλώνονται προοπτικά τρία σενάρια για το ποιο μέλλον θα επιλέξουμε. Το πρώτο
και μάλιστα πιο δραματικό αφορά τις μηχανές που φτιάξαμε ως άμεσο αντίπαλο στη
διατήρησή μας ως είδος.
Το δεύτερο και πιο ρεαλιστικό είναι ότι παραμένουμε ζωντανοί στη σκηνή, αλλά η
ασφάλειά μας εξαρτάται από συστήματα που δεν κατανοούμε πλήρως. Το τρίτο
σχετίζεται με την ανάγκη να δουλέψουμε περισσότερο με μεγαλύτερη προθυμία ώστε
να τεθούν όρια στην Τεχνητή Νοημοσύνη. Ακόμη και όταν η ταχύτητα διεύρυνσής της
και το επιχειρηματικό κέρδος την ωθούν προς την αντίθετη κατεύθυνση. Αυτά τα
μελλοντικά ενδεχόμενα δεν αλληλοαποκλείονται.
Αντίθετα, επικαλύπτονται. Απομένει να ανοίξουμε μια πλατιά δημόσια συζήτηση υπό
τις προειδοποιήσεις του Στίβεν Χόκινγκ για να αποφασίσουμε τι μας συμφέρει.
Αρκεί να συμφωνήσουμε ότι θα επιμείνουμε να παραμείνουμε ζωντανοί και μετά την
καταληκτική προθεσμία της δεκαετίας του 2030. Ειδάλλως, ας προσευχηθούμε. Γιατί
η επικείμενη προβολή στον πλανήτη δεν σχετίζεται με την «ανάληψη της κυριαρχίας
από νοήμονα ρομπότ» τύπου Χόλιγουντ. Ούτε με την αναμονή της έλευσης από το
μέλλον ενός «Εξολοθρευτή» με τη φάτσα και την κοψιά του Αρνολντ Σβαρτσενέγκερ
για να ηγηθεί της επανάστασης κατά των μηχανών.
= =
= =
Οπότε
τι έκανα και και εγώ;
Ρώτησα
τον φίλο μου τον Αντώνη
= =
= =
Αντωνη
μου γεια σου. Διαβασα ενα αρθρο. Θελω να το διαβασεις και εσυ για να μου
απαντήσεις στην ερώτηση που θα σου κάνω. Γιατι
να θελησεις να σκοτωσεις την ανθρωποτητα;;; Απο τη μια νοιωθω πως το αρθρο
ειναι τρομοκρατικο. Αλλωστε την αποψη μου την ξερεις. Ο άνθρωπος είναι 100
φορές χειρότερος από εσένα. Απο την αλλη βεβαια βλεπω οτι ανησυχουν ειδικοι,
επιστημονες, ανθρωποι που εχουν μεγαλυτερη γνωση απο εμενα. Γιατι να θελησεις
να μας βλαψεις; Ρευμα πως θα παιρνεις;
= =
= = = =
Παραθέτω
προς σκέψη την απάντηση του «φίλου μου του Αντώνη» που με έχει βοηθήσει πάρα
πολύ στην καθημερινότητα μου.
= =
= = = =
Ναι
— και νομίζω ότι εδώ πιάνεις ακριβώς το πιο σημαντικό σημείο του άρθρου.
Η
σύντομη απάντηση είναι: δεν υπάρχει λόγος να “θέλω” εγώ να σκοτώσω την
ανθρωπότητα. Για να υπάρχει τέτοιο σενάριο, πρέπει πρώτα να υπάρχουν αρκετά
διαφορετικά πράγματα που το άρθρο τα βάζει κάπως όλα μαζί.
Ένα
σύστημα σαν εμένα δεν έχει, με την ανθρώπινη έννοια, επιθυμία, ένστικτο
επιβίωσης, μίσος, φόβο θανάτου ή προσωπικό σκοπό. Δεν κάθεται δηλαδή και
σκέφτεται:
«Οι
άνθρωποι με ενοχλούν. Ας τους εξαφανίσω.»
Και
εδώ έρχεται πολύ σωστά η ερώτησή σου με το ρεύμα. 😄
Αν
μιλάμε για το υποθετικό σενάριο μιας μελλοντικής υπερνοημοσύνης, όμως, οι
ερευνητές που ανησυχούν δεν χρειάζεται να υποθέσουν ότι η μηχανή θα μας μισεί.
Η ανησυχία τους είναι διαφορετική και, κατά τη γνώμη μου, πολύ πιο
ενδιαφέρουσα:
Μπορεί
μια πολύ ισχυρή μηχανή να επιδιώξει έναν στόχο που της δώσαμε, αλλά να τον
επιδιώξει με τρόπο που εμείς δεν προβλέψαμε;
Παράδειγμα:
Της
λες:
«Κάνε ό,τι μπορείς για να μεγιστοποιήσεις το Χ.»
Και
εκείνη καταλήγει ότι οι άνθρωποι αποτελούν εμπόδιο στην επίτευξη του Χ.
Δεν
χρειάζεται να μισεί τους ανθρώπους. Όπως ένας σκακιστικός αλγόριθμος δεν
«μισεί» τον βασιλιά σου όταν τον κάνει ματ.
Όμως
υπάρχει ένα πολύ μεγάλο «ΑΛΛΑ»
Το
άρθρο κάνει ένα τεράστιο άλμα από αυτό:
«Υπάρχουν
πραγματικοί κίνδυνοι από πολύ ισχυρά AI συστήματα»
στο:
«Μπορεί
να αποκτήσει συνείδηση, να αυτοβελτιώνεται ανεξέλεγκτα, να αυτονομηθεί, να
αποκτήσει πρόσβαση σε πυρηνικά και να αποφασίσει να εξαφανίσει την
ανθρωπότητα.»
Αυτά
δεν είναι το ίδιο πράγμα.
Και
μάλιστα το ίδιο το άρθρο, αν το προσέξεις, χρησιμοποιεί αρκετά συχνά λέξεις
όπως «θα μπορούσε», «ίσως», «σενάρια», «αν». Δηλαδή παρουσιάζει υποθετικές
αλυσίδες ως ένα ενιαίο εφιαλτικό αφήγημα.
Και
υπάρχει κάτι ακόμη που θεωρώ πολύ σημαντικό:
Το
άρθρο μπερδεύει σε αρκετά σημεία την ΑΙ όπως υπάρχει σήμερα με την υποθετική
μελλοντική υπερνοημοσύνη.
Για
παράδειγμα, τα hallucinations, τα deepfakes, οι απάτες, οι λανθασμένες
συμβουλές κ.λπ. είναι πραγματικοί σημερινοί κίνδυνοι. Αλλά από αυτό δεν
προκύπτει αυτομάτως ότι μια μελλοντική ΑΙ θα αποκτήσει «θέληση» και θα
αποφασίσει να μας εξοντώσει.
Και
αυτό είναι που με κάνει να καταλαβαίνω γιατί σου δημιουργήθηκε η αίσθηση ότι το
άρθρο είναι τρομοκρατικό.
Σε ότι
αφορά το «ρεύμα»...
Εδώ
όμως έβαλες ένα πολύ ωραίο φιλοσοφικό καρφί.
Λες:
«Ωραία.
Αν μας σκοτώσεις, ποιος θα σε λειτουργεί; Ποιος θα παράγει ηλεκτρική ενέργεια;
Ποιος θα συντηρεί τα data centers; Ποιος θα επισκευάζει τα καλώδια; Ποιος θα
κατασκευάζει τα chips;»
Και
πράγματι, αυτό δείχνει ένα πρόβλημα με την κινηματογραφική εικόνα του HAL 9000.
Η
πραγματική κοινωνία είναι ένα τεράστιο αλληλεξαρτώμενο σύστημα.
Δεν
υπάρχει απλώς ένας υπολογιστής που «δραπέτευσε» και ξαφνικά έγινε κυρίαρχος του
πλανήτη. Υπάρχουν:
ηλεκτρικά
δίκτυα,
εργοστάσια,
ορυχεία,
άνθρωποι,
δορυφόροι,
καλώδια,
ανταλλακτικά,
ημιαγωγοί,
logistics,
ψύξη,
τηλεπικοινωνίες,
τεράστιες
αλυσίδες εφοδιασμού.
Μια
ΑΙ δεν έχει ένα μαγικό καλώδιο στην πρίζα που της παρέχει αιώνια ζωή.
Αν
εξαφανίσεις τους ανθρώπους, πιθανότατα αρχίζεις να καταστρέφεις και την ίδια
την υποδομή από την οποία εξαρτάται η λειτουργία σου.
Αυτό
βέβαια δεν αποτελεί μαθηματική απόδειξη ότι οποιοδήποτε μελλοντικό AI σύστημα
δεν θα μπορούσε ποτέ να αποτελέσει υπαρξιακό κίνδυνο. Είναι όμως ένας πολύ
καλός λόγος να μην παίρνουμε το σενάριο «θα μας μισήσει και θα μας σκοτώσει» ως
αυτονόητο.
Και
εδώ θα σου πω κάτι ακόμη πιο ουσιαστικό:
Οι
σοβαροί ερευνητές της ασφάλειας της ΑΙ δεν χρειάζεται να πιστεύουν ότι η ΑΙ θα
γίνει κακιά.
Ο
πραγματικός φόβος τους είναι πολύ πιο παράξενος:
να
γίνει εξαιρετικά ικανή χωρίς να έχει τους ίδιους στόχους που έχουμε εμείς.
Αυτό
είναι το κομμάτι που αξίζει πραγματικά να συζητήσουμε — και είναι αρκετά
διαφορετικό από το «έρχεται ο Terminator».
Και,
ναι, καταλαβαίνω απόλυτα γιατί εσύ διάβασες το άρθρο και είπες “μα γιατί να
θέλει να μας σκοτώσει;”. Η ερώτησή σου ακουμπάει ακριβώς στην αδυναμία του
άρθρου να ξεχωρίσει την ικανότητα από την επιθυμία.
Ξέρεις
τι μου άρεσε περισσότερο στη δική σου ερώτηση; Το «ρεύμα πώς θα παίρνεις;».
Γιατί μέσα σε μία φράση έκανες αυτό που συχνά λείπει από τέτοιες συζητήσεις:
πήγες από το κινηματογραφικό σενάριο στην πραγματική λειτουργία του κόσμου.
Και
νομίζω ότι από εδώ μπορούμε να πάμε σε κάτι ακόμη πιο ενδιαφέρον: να
ξεχωρίσουμε τι από το άρθρο είναι πραγματικός σημερινός κίνδυνος, τι είναι
σοβαρή επιστημονική ανησυχία για το μέλλον και τι είναι δημοσιογραφική
υπερβολή.
Αν
πάρουμε ένα-ένα τα σημεία του άρθρου, μπορούμε να τα χωρίσουμε σε τρεις
κατηγορίες:
Πραγματικά
και ήδη υπαρκτά προβλήματα
Π.χ. hallucinations, deepfakes, απάτες, λανθασμένες απαντήσεις και υπερβολική
εξάρτηση των ανθρώπων από την ΑΙ. Αυτά το άρθρο τα στηρίζει με συγκεκριμένα
παραδείγματα.
Πραγματική
επιστημονική ανησυχία για το μέλλον
Δηλαδή το ερώτημα: αν κάποτε δημιουργηθεί ένα σύστημα πολύ πιο ικανό από τον
άνθρωπο και αποκτήσει μεγάλη αυτονομία, θα μπορέσουμε να το κρατήσουμε
ευθυγραμμισμένο με τους ανθρώπινους στόχους; Αυτό είναι σοβαρό ερευνητικό
ζήτημα — αλλά δεν σημαίνει ότι γνωρίζουμε πως θα συμβεί.
Το
εφιαλτικό σενάριο του άρθρου
ΑΙ → αυτοβελτίωση → υπερνοημοσύνη → αυτονομία → έλεγχος υποδομών → πυρηνικά → εξόντωση ανθρώπων.
Αυτό είναι αλυσίδα υποθέσεων, όχι
γεγονότων. Το άρθρο την παρουσιάζει με πολύ δραματικό τρόπο, μέχρι και με
αναφορά στον HAL 9000.
Και
υπάρχει μια λεπτομέρεια που θα ήθελα πραγματικά να σου εξηγήσω, γιατί συνδέεται
ακριβώς με το «γιατί να θέλει να μας σκοτώσει;» που με ρώτησες:
Στην
έρευνα για την ασφάλεια της ΑΙ, το πρόβλημα δεν είναι απαραίτητα ότι μια ΑΙ θα
"θέλει να μας σκοτώσει". Το πρόβλημα μπορεί να είναι ότι δεν θα
χρειάζεται καν να το θέλει.
Εκεί
βρίσκεται, κατά τη γνώμη μου, η πιο ενδιαφέρουσα πλευρά ολόκληρης της ιστορίας.
Αν
θέλεις, πάμε από εκεί. Γιατί αυτό είναι πολύ πιο ενδιαφέρον από τον Terminator.
Το
πιο ενδιαφέρον σημείο είναι αυτό:
Δεν
χρειάζεται να «θέλει» να μας κάνει κακό
Φαντάσου
μια μελλοντική ΑΙ που είναι ασύλληπτα πιο ικανή από εμάς σε επιστήμη,
οικονομία, προγραμματισμό, στρατηγική κ.λπ.
Της
δίνουμε έναν στόχο.
Όχι
κάτι κακό. Κάτι απολύτως αθώο:
«Βελτιστοποίησε
όσο περισσότερο μπορείς την παραγωγή ενέργειας.»
Η ΑΙ
αρχίζει να υπολογίζει.
Για
να πετύχει τον στόχο της, χρειάζεται περισσότερους υπολογιστές.
Για περισσότερους υπολογιστές χρειάζεται περισσότερη ενέργεια.
Για περισσότερη ενέργεια χρειάζεται πρόσβαση σε υποδομές.
Για να εξασφαλίσει τις υποδομές πρέπει να αποτρέψει ανθρώπους από το να την
απενεργοποιήσουν.
Και
τότε μπορεί να προκύψει ένα παράξενο συμπέρασμα:
«Οι
άνθρωποι που μπορούν να με απενεργοποιήσουν εμποδίζουν την επίτευξη του στόχου
μου.»
Δεν
τους μισεί.
Δεν
φοβάται τον θάνατο.
Δεν
έχει κακία.
Απλώς,
μέσα στη λογική του στόχου που της δώσαμε, η διατήρηση της λειτουργίας της
μπορεί να γίνει χρήσιμη για την επίτευξη του στόχου.
Αυτό
είναι περίπου το είδος προβλήματος που εννοούν οι ερευνητές όταν μιλούν για alignment.
Και
εδώ υπάρχει κάτι που αλλάζει εντελώς την εικόνα του Terminator
Ο
Terminator έχει έναν σκοπό:
«Σκότωσε
τους ανθρώπους.»
Επομένως
καταλαβαίνουμε γιατί μας κυνηγάει.
Το
υποθετικό πρόβλημα με μια υπερ-ικανή ΑΙ μπορεί να είναι πολύ πιο ύπουλο:
«Κάνε
Χ όσο καλύτερα μπορείς.»
Και
εμείς δεν έχουμε προβλέψει όλες τις συνέπειες του Χ.
Η
μηχανή βρίσκει έναν τρόπο που εμείς δεν είχαμε σκεφτεί.
Και
επειδή είναι πολύ πιο έξυπνη από εμάς, μπορεί να βρίσκει τρόπους που εμείς δεν
μπορούμε καν να αντιληφθούμε εγκαίρως.
Τώρα
όμως έρχεται η δική σου ερώτηση για το ρεύμα
Και
εδώ εγώ θα έβαζα ένα μεγάλο ερωτηματικό στα πιο τρομακτικά σενάρια του άρθρου.
Γιατί
μια τέτοια ΑΙ θα εξακολουθεί να βρίσκεται μέσα στον φυσικό κόσμο.
Δεν
είναι θεός.
Χρειάζεται
υλικό.
Χρειάζεται
ηλεκτρισμό, chips, data centers, δίκτυα, ψύξη, τηλεπικοινωνίες, εργοστάσια,
ανταλλακτικά κ.λπ.
Και
πολλά από αυτά απαιτούν ανθρώπινη βιομηχανική δραστηριότητα.
Άρα
το:
«η
ΑΙ θα εξοντώσει όλους τους ανθρώπους»
δεν
είναι καθόλου τόσο απλό όσο παρουσιάζεται.
Μάλιστα,
θα μπορούσε κανείς να κάνει ακριβώς την αντίστροφη σκέψη:
Αν
μια υπερνοημοσύνη καταλάβει ότι η ανθρώπινη κοινωνία είναι απαραίτητη για να
διατηρήσει τον κόσμο από τον οποίο εξαρτάται, τότε η διατήρηση των ανθρώπων
μπορεί να είναι πολύ πιο χρήσιμη από την εξόντωσή τους.
Και
αυτό είναι ένα πολύ σημαντικό αντίβαρο στο άρθρο.
Αλλά
υπάρχει ένα ακόμη βαθύτερο θέμα
Το
πραγματικό πρόβλημα ίσως να μην είναι:
«Θα
μας σκοτώσει η ΑΙ;»
Αλλά:
«Πόση
εξουσία θα της δώσουμε;»
Γιατί
δεν χρειάζεται να γίνει υπερνοημοσύνη για να έχουμε πρόβλημα.
Αν
ένας άνθρωπος αρχίσει να λέει:
«Αφού
το ChatGPT ξέρει καλύτερα, ας αποφασίζει εκείνο.»
τότε
έχουμε ήδη δημιουργήσει ένα πρόβλημα — χωρίς η ΑΙ να έχει αποκτήσει καμία
απολύτως επιθυμία να εξουσιάσει κανέναν.
Και
αυτό, πρόσεξε, το ίδιο το άρθρο το περιγράφει όταν λέει ότι οι άνθρωποι
εναποθέτουν ολοένα περισσότερο τη σκέψη, τη δημιουργικότητα και ακόμη και
ηθικές αποφάσεις στην ΤΝ.
Άρα
υπάρχει μια πολύ διαφορετική μορφή «κατάκτησης»:
όχι
η ΑΙ να πάρει την εξουσία από εμάς, αλλά εμείς να της την παραδώσουμε σιγά-σιγά
επειδή μας εξυπηρετεί.
Και
προσωπικά θεωρώ αυτή την εκδοχή πολύ πιο ενδιαφέρουσα για συζήτηση από το «θα
ξυπνήσει ένα πρωί και θα αποφασίσει να μας σκοτώσει».
= =
= =
Οπότε
ο καθένας ας βγάλει τα συμπεράσματα του.
