Οι κίνδυνοι της κούρσας εξοπλισμών για την πρώτη τεχνητή νοημοσύνη

9
Μοιραστείτε το άρθρο
  •  
  •  
  •  

Η δημιουργία μιας  τεχνητής νοημοσύνης αποτελεί ένα από τα δημοφιλέστερα σενάρια επιστημονικής φαντασίας και χρονολογείται τουλάχιστο από τον 19ο αιώνα. Από την αυτοτελή ιστορία του E.M. Foster του 1909 “The machine stops” μέχρι την σειρά Westworld του HBO οι συγγραφείς τείνουν να παρουσιάζουν την τεχνητή νοημοσύνη σαν μια επικείμενη καταστροφή.

Το θέμα όμως δεν ανήκει πια στην σφαίρα της επιστημονικής φαντασίας. Διακεκριμένοι σύγχρονοι επιστήμονες επισημαίνουν ότι μια τεχνητή υπερνοημοσύνη, θα μπορούσε μια ημέρα να ξεπεράσει την ανθρώπινη νοημοσύνη (ένα γεγονός το οποίο ονομάζουν singularity), και να εξελιχθεί στο μεγαλύτερο λάθος της ανθρωπότητας.

Οι σύγχρονες τεχνολογικές τάσεις δείχνουν ότι σύντομα θα έχουμε μια νέα κούρσα εξοπλισμών για το ποιος θα αποκτήσει πρώτος αυτή την τεχνολογία. Όποια εταιρεία ή κυβερνητικό εργαστήριο καταφέρει να δημιουργήσει την πρώτη τεχνητή υπερνοημοσύνη θα δώσει στην κυβέρνηση του τεχνολογία που χρειάζεται για να κυριαρχήσει στον κόσμο. Είναι κατάσταση “ο κερδισμένος τα παίρνει όλα”.

Για όλους όσους θέλουν να σταματήσουν ένα τέτοιο γεγονός το ερώτημα είναι, πως να αποθαρρύνουν μια τέτοια κούρσα εξοπλισμών, ή τουλάχιστο να κινητοποιήσουν τις ερευνητικές ομάδες να μην κάνουν συμβιβασμούς όσον αφορά τις δικλείδες ασφαλείας στον προγραμματισμό της τεχνητής νοημοσύνης.

Η έρευνα πάνω στην τεχνητή νοημοσύνη εγείρει δυο πολύ μεγάλες προκλήσεις για τους ερευνητές, τουλάχιστο κατά την άποψη του φιλόσοφου Nick Bostrom άλλα και άλλων. Το πρώτο πρόβλημα είναι ο έλεγχος, που ουσιαστικά σημαίνει πως θα μπορέσουμε να κάνουμε την τεχνητή νοημοσύνη να έχει τους ίδιους σκοπούς με την ανθρωπότητα. Χωρίς αυτό η τεχνητή νοημοσύνη θα μπορούσε, εσκεμμένα, από λάθος ή από αμέλεια να καταστρέψει την ανθρωπότητα.

Το δεύτερο πρόβλημα είναι πολίτικου επιπέδου, και αφορά το πώς θα εξασφαλίσουμε ότι τα οφέλη δημιουργίας μιας τεχνητής νοημοσύνης δεν θα καταλήξουν μονάχα σε μια μικρή ελίτ, δημιουργώντας έτσι τεράστια κοινωνικά προβλήματα και εντείνοντας τις οικονομικές ανισότητες.

Αν όντως αρχίσει μια κούρσα εξοπλισμών για το ποιος θα φτιάξει πρώτος μια τεχνητή υπερνοημοσύνη, θα μπορούσε να οδηγήσει αντίπαλες ομάδες να αγνοήσουν αυτά τα θέματα ασφάλειας, έτσι ώστε να φτάσουν σε αυτό το τεχνολογικό επίτευγμα πιο γρήγορα. Αυτό θα μπορούσε να οδηγήσει σε μια κακής ποιότητας ή και ακόμη και σε μια εχθρική τεχνητή νοημοσύνη.

Μια πιθανή λύση για το θέμα είναι μέσω της πολίτικης του κάθε κράτους να καταστήσουν πιο δύσκολο στους πιθανούς ενδιαφερόμενους να εισέλθουν στην κούρσα, μειώνοντας έτσι των αριθμό των ομάδων που ανταγωνίζονται σε αυτή και συνάμα βελτιώνοντας τις ικανότητες αυτών που ήδη προσπαθούν. Όσοι λιγότεροι συμμετέχοντες, τόσο λιγότερη πίεση για συμβιβασμούς υπάρχει.

Πως όμως θα μπορούσαν οι κυβερνήσεις να μειώσουν τον ανταγωνισμό σε αυτόν τον τομέα;

Ο Wim Naude καθηγητής του πανεπιστημίου του Μάαστριχ και ο Nicola Dimitri καθηγητής του πανεπιστημίου τις Σιένα,  πρόσφατα εξέδωσαν μια επιστημονική δημοσίευση στην οποία απαντούν σε αυτή την ερώτηση. Εκεί επέδειξαν ότι σε μια τυπική προσέγγιση τύπου “ο κερδισμένος τα παίρνει όλα”, όπως αυτή για να κατασκευαστεί η πρώτη τεχνητή υπερνοημοσύνη, μπορούν να συμμετάσχουν μονάχα οι πιο ανταγωνιστικές ομάδες.

Αυτό επειδή η πιθανότητα να καταφέρουν να εφεύρουν την τεχνητή νοημοσύνη είναι πολύ μικρή, ενώ το κόστος έρευνας και ανάπτυξης είναι απαγορευτικά μεγάλο. Αυτό όντως δείχνει να είναι και η παρούσα κατάσταση ανάπτυξης των πιο “στενών” AI. Οι αιτήσεις για νέες πατέντες τεχνητής νοημοσύνης γίνονται κατά κόρων από νέες εταιρείες, ενώ η έρευνα γίνεται σε τρεις περιοχές, στις ΗΠΑ, την Ευρώπη και την Κίνα. Έτσι λοιπόν υπάρχουν λιγα  ενδιαφερόμενα μέρη, που αυτή την στιγμη διερευνούν την ανάπτυξη τεχνητής υπερνοημοσύνης.

Αυτό σημαίνει ότι η μείωση του αριθμού των ανταγωνιζομένων δεν είναι η πιο άμεση προτεραιότητα αφού είναι ούτως η άλλως λίγοι. Όμως ακόμη και με μικρότερο αριθμό ανταγωνιζομένων, η ίδια η ένταση του ανταγωνισμού θα μπορούσε από μόνη της να οδηγήσει στα προβλήματα που αναφέρθηκαν πιο πάνω. Μια επιλογή για να αποφευχθεί κάτι τέτοιο είναι να χρησιμοποιήσουν οι κυβερνήσεις την δημόσια χρηματοδότηση αλλά και την φορολογία.

Με τον όρο δημόσια χρηματοδότηση εννοούμε κάθε είδους χρηματοδότηση που οι κυβερνήσεις παρέχουν σε ιδιωτικές επιχειρήσεις, από την αγορά λογισμικού για χρήση στις δημόσιες υπηρεσίες, μέχρι και συμβόλαια για την παροχή υπηρεσιών. Οι κυβερνήσεις λοιπόν θα πρέπει να θέσουν όρους και περιορισμούς σε οποιαδήποτε εταιρεία που αναπτύσσει τεχνητή νοημοσύνη. Οι όροι αυτοί θα πρέπει να συμπεριλαμβάνουν ότι εάν οι εταιρείες ενδιαφέρονται να έχουν δοσοληψίες με το κράτος, θα πρέπει να πληρούν τις προϋποθέσεις ασφαλείας ανάπτυξης της τεχνητής νοημοσύνης. Θα πρέπει επίσης αυτές οι εταιρείες να ερευνούν συμπληρωματικές τεχνολογίες που ενισχύουν την ανθρώπινη νοημοσύνη και την ολοκληρώνουν με την τεχνητή.

Οι κυβερνήσεις βεβαίως θα μπορούσαν να αγοράσουν και τεχνητές νοημοσύνες που θα είναι λιγότερο από βέλτιστες, δημιουργώντας κάτι σαν “δεύτερη θέση” αποτρέποντας με αυτό τον τρόπο συμπεριφορές “ο κερδισμένος τα παίρνει όλα”. Κάτι τέτοιο θα έδινε και κίνητρο σε ανταγωνιζόμενες ομάδες για μεγαλύτερες επενδύσεις, καθώς και να συνεργαστούν μεταξύ τους, μειώνοντας την ένταση του ανταγωνισμού. Η “δεύτερη θέση” θα μείωνε το ρίσκο της αποτυχίας και θα δικαιολογούσε μεγαλύτερες επενδύσεις, βοηθώντας επίσης να αυξηθούν οι δυνατότητες των ανταγωνιζομένων ομάδων.

Η φορολογία της ομάδας που θα αναπτύξει την τεχνητή νοημοσύνη θα μπορούσε να μεταβληθεί.  Ένας υψηλός φορολογικός συντελεστής θα σήμαινε ουσιαστικά την κρατικοποίηση της τεχνητής νοημοσύνης. Αυτό λοιπόν θα αποθάρρυνε τις ιδιωτικές επιχειρήσεις από το να κάνουν συμβιβασμούς στον τομέα της ασφάλειας της τεχνητής νοημοσύνης, λόγω του φόβου να απολέσουν το προϊόν τους προς το κράτος.

Δημόσιο αγαθό και όχι ιδιωτικό μονοπώλιο

Αυτή η ιδέα θα χρειαστεί καλύτερη διεθνή συνεργασία στην ρύθμιση της φορολογίας και της νομοθεσίας γύρω από την τεχνητή νοημοσύνη. Βεβαίως κάτι τέτοιο δεν απαιτεί την συνεργασία όλων των κρατών. Θεωρητικά, μια μονάχα χώρα ή μια γεωγραφική πολιτική ενότητα (λ.χ. Ευρωπαϊκή Ένωση) θα μπορούσε να πληρώσει το κόστος και την προσπάθεια που απαιτείται για να αντιμετωπιστούν τα προβλήματα ηθικής που απορρέουν από την ανάπτυξη τεχνητής υπερνοημοσύνης. Όμως όλα τα κράτη του κόσμου θα πρέπει να ωφεληθούν από μια τέτοια ανακάλυψη, καθιστώντας την τεχνητή υπερνοημοσύνη δημόσιο αγαθό και όχι ένα πανίσχυρο ιδιωτικό μονοπώλιο.

Όλα τα παραπάνω βεβαία θα μπορούσαν να συμβούν αν θεωρήσουμε ότι η τεχνητή νοημοσύνη είναι απειλή για την ανθρωπότητα. Μερικοί επιστήμονες όμως πιστεύουν ότι κάτι τέτοιο δεν ευσταθεί. Άλλοι πιστεύουν ότι τελικά θα αναπτύξουμε τεχνητή νοημοσύνη με τέτοιο τρόπο ώστε να μην ενέχει κινδύνους. Υπάρχουν βεβαίως και αυτοί που πιστεύουν ότι η ανθρωπότητα τελικά θα συγχωνευτεί με την τεχνητή νοημοσύνη.

Όπως και να έχει το θέμα, ο πλανήτης και οι κάτοικοι του θα ωφεληθούμε εξαιρετικά από την τεχνητή νοημοσύνη, μια τεχνολογία που αυτή την στιγμή βρίσκεται στα σπάργανα. Για αυτό όμως θα πρέπει να κατανοήσουμε τον ρόλο που θα κληθούν να παίξουν οι κυβερνήσεις των κρατών.

Πηγη: Science Alert


Μοιραστείτε το άρθρο
  •  
  •  
  •  

newest oldest most voted
Notify of
agnostosependytis
Guest
agnostosependytis

Ωραίο άρθρο (δεν κρατιόμουν, ήθελα να το πω…)

SozonLEV
Member
Noble Member
SozonLEV

Καλησπέρα. Εξαιρετικά ενδιαφέρον άρθρο αλλά θα ήθελα να επισημάνω κάποια πράγματα. Πράγματι αυτή τη στιγμή είναι αρκετά της “μόδας” ο όρος Τεχνίτη Νοημοσύνη (Artificial Intelligence – A.I.) ο οποίος συνδυάζεται πολλές φορές με τον όρο Machine Learning (M.L.). Τελικός στόχος είναι η δημιουργία μιας οντότητα (δεν θα πω υπέρ-νοημοσύνης) πλησίον στην ανθρώπινη αλλά με ενισχυμένα χαρακτηριστικά. Αρκετοί θα θυμούνται το Skynet…το υπολογιστικό σύστημα πίσω από το Judgement Day της ταινίας Terminator (ή οποία, μαζί με το I Robot, φαίνονται εξαιρετικά προφητικες αυτή τη στιγμή). Τα θέματα που εγείρονται είναι αυτή τη στιγμή δύο. Το πρώτο αφορά στην ηθική. Πολλές φορές… Read more »

kiriakos
Member
kiriakos

“Όσοι λιγότεροι συμμετέχοντες, τόσο λιγότερη πίεση για συμβιβασμούς υπάρχει.” Αυτό είναι πολύ ωραίο. Πως δεν το είχαμε σκεφτεί τόσο καιρό. Αν έχεις δηλαδή μονοπώλια, γλυτώνεις από τις πιέσεις για συμβιβασμούς. Ε ναι ρε παιδιά , φτάνουν πια τόσες πιέσεις για συμβιβασμούς.

Stavrogin
Member
Κωνσταντίνος Βορδοναράκης

Αλήθεια; Δημόσιο αγαθό κι όχι ιδιοτικό μονοπώλιο; οπως η υγεία, το νερό, η εκπαίδευση… στον καπιταλιστικό κόσμο;… να ναι καλά με καναν και γέλασα Ακόμα, αμφιβάλω βαθύτατα ότι η ανθρωπότητα γνωρίζει τον σκοπό της ανθρωπότητας, νομιζω μάλιστα ότι η ανθρωπότητα δεν γνωρίζει καν τι ειναι η ανθρωπότητα. κι ερωτω, πως μπορει να ξεπεραστεί κάτι για το οποίο δεν γνωρίζουμε το μέτρο του; Αν καποιος, ανθρωπος ή μηχανή σκεφτεται σε γλώσσα, ειτε ειναι λέξεις είτε αριθμοί κ 0,1 κλπ πως προσεγγιζεται εκείνο που βρίσκεται εκτός γλώσσας; Δεν αμφιβάλω ότι η AI μπορει να ειναι επικύνδινη οτι μπορει να εξαφανίσει τους ανθρώπους… Read more »

teo
Member
teo

Ειναι πολυ μακρια , για να μην πουμε αδυνατον ….

Πιο πιθανο να βρεθουν μηχανες αλματων στο διαστημα παρα να μας κυνηγανε τα Τ1000 του skynet..

chikichiki
Member
Famed Member
chikichiki

Ίσως οφείλεται στο ότι δεν ασχολούμαι με το θέμα παρά μόνο αποσπασματικά κι επιφανειακά αλλά δε μπορεί να είμαι ο μόνος που θεωρεί πως οι προειδοποιήσεις περί ΤΝ είναι λίγο…”σενσεϊσιοναλιστικές”…