Δευτέρα, 2 Ιουνίου, 2025
ΑρχικήΑπόψειςOταν τα ρομπότ αρνούνται να υποταχθούν

Oταν τα ρομπότ αρνούνται να υποταχθούν

|

Μπορεί ένα χολιγουντιανό φιλμ της σειράς να μας βοηθήσει στην αντιμετώπιση των μεγάλων προκλήσεων που μας θέτει η τεχνολογία της τεχνητής νοημοσύνης; Το κοινό και οι κριτικοί της Ελλάδας συμφώνησαν ότι η ταινία «M3GAN» είναι ένα μάλλον αδιάφορο θρίλερ. Αν ωστόσο βάλει κάποιος στην άκρη τα τεχνάσματα της ταινίας τρόμου και το πολυπαιγμένο σενάριο, θα έρθει αντιμέτωπος με μερικά απ’ τα πιο σημαντικά προβλήματα επίτευξης της υπερνοημοσύνης, για δεκαετίες ολόκληρες, τα οποία πρέπει να μην ξεχνάμε.

Μπορεί η ταινία να μην τα διαπραγματεύεται σε βάθος και να μην αντιστέκεται στα θέλγητρα της εντυπωσιοθηρίας, αλλά οι προθέσεις του σκηνοθέτη Τζέραρντ Τζόνστοουν να θέσει μερικά απ’ τα πιο κλασικά προβλήματα της τεχνητής νοημοσύνης στο φορμάτ μιας ποπ εκδοχής μαζικής κουλτούρας, είναι αξιοσημείωτες.

Η μικρή πρωταγωνίστρια της ταινίας χάνει τους γονείς της σε τροχαίο. Μέχρι να αποκτήσουμε αυτο-οδηγούμενα οχήματα, τα οποία θα εξαλείψουν το ανθρώπινο λάθος, η ανθρωπότητα θα συνεχίσει να θρηνεί θύματα στην άσφαλτο. Ο τρόπος με τον οποίο γίνεται η σύγκρουση από μόνος του είναι δηλωτικός. Το αυτοκίνητο βρίσκεται σε μια συνθήκη που ό,τι κι αν κάνει ο οδηγός, το αποτέλεσμα θα είναι το ίδιο. Η τεχνολογία δεν είναι ουδέτερη, μοιάζει να λέει η ταινία. Είναι δέσμια των συνθηκών. Αυτό πρέπει να το θυμόμαστε πριν προχωρήσουμε με την υπερνοημοσύνη. Την κηδεμονία της μικρής αναλαμβάνει η αδελφή της μητέρας της, μια επιτυχημένη υπάλληλος εταιρείας προηγμένων παιχνιδιών.

Oταν η νέα κηδεμόνας καταλαβαίνει ότι η μικρή δυσκολεύεται να προσαρμοστεί στις νέες συνθήκες, της δωρίζει μια δική της εφεύρεση, τη ρομποτική κούκλα M3GAN, η οποία γίνεται η καλύτερή της φίλη. Ο εργοδότης της ενθουσιάζεται και θέλει να βγάλει την κούκλα στην αγορά, καθώς είναι βέβαιος ότι θα κάνει θραύση. Στην ταινία αποκαλύπτεται σκόπιμα η συναισθηματική ανωριμότητα της καινούργιας μαμάς.

Με το ρομπότ δεν λύνει μόνο το πρόβλημα της δουλειάς της, αλλά και το πρόβλημα της γονεϊκότητας. Η ρομποτική κούκλα είναι η λογική συνέχεια της νταντάς-iPad. Σταδιακά, όμως, ανακαλύπτουμε ότι η λύση ήταν παροδική. Η κούκλα-ρομπότ αποκτάει δική της ζωή. Ο επικαιροποιημένος μύθος του Φρανκενστάιν επιστρέφει, αυτή τη φορά στο παιδικό δωμάτιο. Τα εξελιγμένα ρομπότ τεχνητής νοημοσύνης αποκτούν κάποιο είδος συνείδησης, θέλησης και λογικής. Το αποτέλεσμα είναι ότι η M3GAN αρνείται να υποταχθεί.

Oταν πρέπει να παρέμβει ο ανθρώπινος παράγοντας, εκείνη κάνει του κεφαλιού της, βάσει των αρχικών υποδείξεων που έχει λάβει. Αναβιώνει έτσι, για άλλη μια φορά, ο εφιάλτης του HAL στο «2001: η Οδύσσεια του Διαστήματος» του Κιούμπρικ και πραγματώνεται η αγωνία του Στίβεν Χόκινγκ. Η εντολή που έχει πάρει η έξυπνη μηχανή είναι να μεγιστοποιήσει την ικανοποίηση της μικρής και να την προστατεύσει. Oταν η μικρή δέχεται μια απειλή, η M3GAN φτάνει να διαπράξει εγκλήματα. Η ταινία, εκτός των άλλων, διαπραγματεύεται τη λεγόμενη «θεωρία του συνδετήρα». Αν δίναμε σε μια υπερνοημοσύνη τον στόχο να μεγιστοποιήσει την παραγωγή συνδετήρων, η μηχανή θα εκλάμβανε κυριολεκτικά τον σκοπό της και θα εξαντλούσε κάθε πόρο γεμίζοντας τον πλανήτη με συνδετήρες.

Επομένως, το να είμαστε σε θέση να τερματίζουμε τη λειτουργία της όταν το κρίνουμε εμείς οι άνθρωποι σωστό, είναι θεμελιώδους σημασίας. Εκτός της αναγκαιότητας να μπορούμε να πατήσουμε το off, η ταινία μάς θυμίζει αυτό που οι ειδήμονες της τεχνητής νοημοσύνης έχουν ονομάσει «πρόβλημα της ευθυγράμμισης». Αν δεν κατορθώσουμε να διδάξουμε στις μηχανές τους δικούς μας ηθικούς κώδικες, τις δικές μας περίπλοκες ηθικές επιταγές, θα βρεθούμε μπροστά από ανάλογες ιστορίες ρομποτικών Μπάρτλεμπι. Ακόμη κι αν βρούμε τρόπο να αντιμετωπίσουμε την άρνηση συμμόρφωσης των μηχανών, όμως, δεν αποκλείεται οι κακόβουλοι να εκμεταλλευτούν κενά ασφαλείας ή και να προχωρήσουν σε δικές τους κατασκευές ανεξέλεγκτων και ανήθικων αυτομάτων.

Το τέλος της M3GAN, ωστόσο, είναι ίσως το πιο ανησυχητικό στοιχείο του φιλμ. Ενώ έχουμε ανακουφιστεί απ’ την πορεία της δράσης κι αφού έχει επέλθει η κάθαρση, το τελευταίο κάδρο εστιάζει στη συσκευή εικονικού βοηθού που ζει στην οικογενειακή κουζίνα. Θα μπορούσε να είναι η συσκευή της Amazon, της Apple ή της Google. Η συσκευή αυτή είναι σήμερα εδώ και ήδη γνωρίζει πολλά. Σε λίγο θα γνωρίζει πολύ περισσότερα. Εχει παρακολουθήσει την πλοκή της ιστορίας, ξέρει τα πάντα, ακόμη κι αυτό το κείμενο θα γίνει κάποια στιγμή δικό της κτήμα, γι’ αυτό και ο σκηνοθέτης της αφιερώνει το τελευταίο του πλάνο, λέγοντάς μας ότι η τεχνητή νοημοσύνη είναι ήδη εδώ και διδάσκεται καθημερινά απ’ τους τεράστιους όγκους πληροφοριών που της διαθέτουμε εθελοντικά.

Οι εικονικοί βοηθοί συγκεντρώνουν ένα θησαυρό γνώσης και δεδομένων, με αποτέλεσμα να κάνουν τα μοντέλα της μηχανικής μάθησης όλο και πιο αποτελεσματικά. Το ερώτημα είναι κατά πόσο έχουμε προλάβει να ρυθμίσουμε αυτή την πανίσχυρη τεχνολογία.

Το καταστροφικό σενάριο της M3GAN δεν είναι ακραίο. Οποιος έχει δει τα ρομπότ της Boston Dynamics καταλαβαίνει ότι η δυνατότητα κατασκευής μηχανών σαν τη ρομποτική κούκλα είναι δεδομένη. Μένει να τελειοποιηθεί το λογισμικό. Ελπίζει κανείς ότι όταν τεθεί το ζήτημα της κυκλοφορίας στην αγορά τέτοιων μηχανών, τα αντανακλαστικά μας θα είναι ισχυρά κι ότι θα έχουμε κάνει ήδη τις απαραίτητες προνοητικές κινήσεις. Διαφορετικά, κινδυνεύουμε μια φθηνή ταινία τρόμου να γίνει το κεντρικό μας αφήγημα.

Αρθρο του Μανώλη Ανδριωτάκη (Kathimerini.gr)


Διαβάστε όλες τις τελευταίες ειδήσεις από τις σελίδες του Naxos Press - τώρα και στο Google News

ΔΙΑΒΑΣΤΕ ΑΚΟΜΗ
Τελευταία νέα
Δημοφιλή

Β. Φλεριανός: “Η διατήρηση των Κούρων στο Φλεριό δεν αφορά μόνο την ιστορία, αφορά και το παρόν και το μέλλον του τόπου μας”

Ο Βασίλης Φλεριανός μιλά δημόσια για την αξία της αυθεντικότητας και της ιστορικής συνέχειας, προτείνοντας in situ ανάδειξη αντί της απομάκρυνσης των μνημείων από τον τόπο τους.

Νάξος: Η μουσική στήνει σκηνή στο Χαλκί, η Ευρωπαϊκή Γιορτή επιστρέφει για 12η χρονιά!

Ρυθμοί, χαμόγελα και παλμός στο πιο μελωδικό διήμερο του καλοκαιριού – 21 & 22 Ιουνίου, το Χαλκί γίνεται η καρδιά της μουσικής στη Νάξο.

Θαλάσσια Πάρκα: Η Ελλάδα ετοιμάζεται να χαρτογραφήσει την προστασία της θάλασσας

Λίγες ημέρες πριν από τη Διάσκεψη του ΟΗΕ για τους Ωκεανούς στη Νίκαια, η κυβέρνηση αναμένεται να ανακοινώσει δύο μεγάλες ζώνες προστασίας στο Αιγαίο και το Ιόνιο, με στόχο την ουσιαστική διαχείριση και τον έλεγχο των θαλάσσιων οικοσυστημάτων.

Νάξος – Μέλανες: Δύο (από τους τρείς) Κούρους αναμένεται να πάρουν το δρόμο για την υπό κατασκευή Νησίδα Μουσείων

Η απόφαση για τη μεταφορά δύο εκ των τριών ημίεργων Κούρων της Νάξου σε μουσειακό χώρο ανοίγει τον δρόμο για την προστασία και ανάδειξη μοναδικών μνημείων του αρχαίου ελληνικού κόσμου.

Κτικάδος Τήνου: Συγκίνηση στην ανάληψη καθηκόντων του νέου Εφημέριου π. Γεωργίου Παλαμάρη

Με βαθιά ανθρώπινη συγκίνηση, η ενορία του Τιμίου Σταυρού αποχαιρέτησε τον π. Γεώργιο Ανδριώτη και υποδέχτηκε τον νέο της εφημέριο, π. Γεώργιο Παλαμάρη, με τιμή, δάκρυα και ελπίδα.

Πανελλαδικές 2025: Συνεχίζονται τη Δευτέρα με μαθήματα προσανατολισμού

Αρχαία, Μαθηματικά και Βιολογία εξετάζονται αύριο στα ΓΕΛ – Με αισιοδοξία ξεκίνησε η φετινή εξεταστική περίοδος, σύμφωνα με τη Σοφία Ζαχαράκη

Σαντορίνη: Έκτακτη διαφημιστική καμπάνια στο Sky TV για την αποκατάσταση της εικόνας του νησιού

Η Περιφέρεια Νοτίου Αιγαίου επενδύει 30.000 ευρώ σε καμπάνια στο Ηνωμένο Βασίλειο, εν μέσω προκλήσεων λόγω των σεισμικών φαινομένων

Σύρος: Μπαράζ δικών για τα αιολικά με επίκεντρο κατοίκους και αιρετούς της Τήνου

Περί τους 130 πολίτες, ανάμεσά τους ο δήμαρχος κι η έπαρχος, θα καθίσουν στο εδώλιο, αρχής γενομένης από την προσεχή Δευτέρα, επειδή αντιστάθηκαν με ειρηνικές διαμαρτυρίες στην ετσιθελική εγκατάσταση ανεμογεννητριών στο νησί και αντιμετωπίστηκαν με ξυλοδαρμούς από τα ΜΑΤ και μαζική αγωγή SLAPP

Φολέγανδρος: Αναβαθμισμένο και 24ωρης λειτουργίας το ελικοδρόμιο του νησιού

Ολοκληρώθηκαν οι εργασίες αναβάθμισης – Ένα από τα καλύτερα ελικοδρόμια στη νησιωτική Ελλάδα, σύμφωνα με τους πιλότους

Mission (Not) Possible: Νορβηγοί, με ενοικιαζόμενο αυτοκίνητο από Νάξο “πιάστηκαν” στα σύνορα

ζευγάρι τουριστών αποφάσισε να... κάνει εξαγωγή ενοικιαζόμενου αυτοκινήτου, αλλά το ταξίδι τους σταμάτησε λίγο πριν τη "μεγάλη έξοδο".

Πάρος: «Κλείνουμε πριν μας κλείσουν», η εστίαση σε απεργία στις 5 Ιουνίου

Σε συμβολικό λουκέτο προχωρούν οι παραλιακές επιχειρήσεις του νησιού – Αντίδραση απέναντι σε τιμωρητικές πολιτικές και κρατική απουσία - Το σχόλιο του Γιάννη Παπαδόπουλου

Νάξος: Έτοιμος ο νέος δρόμος που ενώνει Αγιο Προκόπιο με Κάπαρες (Πλάκα – Αγία Αννα)

Παραδόθηκε στην κυκλοφορία ο νέος οδικός άξονας που συνδέει τον Άγιο Προκόπιο με τις Κάπαρες, μειώνοντας τον χρόνο διαδρομής και αυξάνοντας την οδική ασφάλεια – Ευχαριστίες από τον πρόεδρο της κοινότητας Αγίου Αρσενίου

Νάξος – Μέλανες: Δύο (από τους τρείς) Κούρους αναμένεται να πάρουν το δρόμο για την υπό κατασκευή Νησίδα Μουσείων

Η απόφαση για τη μεταφορά δύο εκ των τριών ημίεργων Κούρων της Νάξου σε μουσειακό χώρο ανοίγει τον δρόμο για την προστασία και ανάδειξη μοναδικών μνημείων του αρχαίου ελληνικού κόσμου.

Νάξος – Σύλλογος Μηχανικών: “Όχι σε οριζόντιους περιορισμούς, Ναι, σε στοχευμένο πλαίσιο για τις θερινές οικοδομικές εργασίες”

Ο Σύλλογος εκφράζει έντονο προβληματισμό για την αιφνιδιαστική πρόθεση του Δήμου να επιβάλει οριζόντιους περιορισμούς, χωρίς επαρκή διαβούλευση – Προτείνει στοχευμένο και ρεαλιστικό πλαίσιο που προστατεύει τόσο τον τουρισμό όσο και τον κατασκευαστικό κλάδο.

Κυκλάδες – Blue Star Ferries: Ξεκινούν τα θερινά δρομολόγια του “Blue Star 1”, πρωινό το “Blue Star Naxos”

Από την Κυριακή 1 Ιουνίου, το "Blue Star 1" αναλαμβάνει τη βραδινή αναχώρηση από Πειραιά, ενώ από Δευτέρα 2 Ιουνίου, το "Blue Star Naxos" ξεκινάει τα καθημερινά πρωινά του δρομολόγια προς Πάρο, Νάξο, Μικρές Κυκλάδες, Αμοργό και Αστυπάλαια.

Νάξος: Αναβολή στη συζήτηση για τις θερινές οικοδομικές εργασίες, παράταση διαβούλευσης έως 10 Ιουνίου

Δεν θα ισχύσει από φέτος η ρύθμιση για περιορισμούς στις κατασκευαστικές δραστηριότητες. Συνάντηση διαβούλευσης με οικοδόμους και νέα προθεσμία για προτάσεις.

Νάξος – Αεροδρόμιο: Πραγματοποιήθηκε νυχτερινή αεροδιακομιδή με τα νέα φορητά φώτα

Ένα 24ωρο μετά την τοποθέτηση του προσωρινού φωτισμού, το νησί απέκτησε ξανά τη δυνατότητα νυχτερινής αερομεταφοράς ασθενών με ελικόπτερα AW-109

Νάξος: «Πώς ένα δημόσιο ακίνητο έγινε ιδιωτική “πλατεία”, η αλήθεια πίσω από την περίφραξη στον Λυώνα»

Σαφές μήνυμα από τον Δήμο Νάξου και Μικρών Κυκλάδων για την περίφραξη στον Λυώνα: παράνομη αυθαίρετη χρήση του χώρου, περίφραξη για λόγους ασφάλειας και αποκατάσταση της νομιμότητας

Νάξος – Λυώνας: Ανοιχτή επιστολή-καταγγελία για το συρματόπλεγμα

Τρεις επιστήμονες με βαθιά προσωπική σχέση με τον Λυώνα αντιδρούν στη νέα εικόνα του οικισμού και καταγγέλλουν τη Δημοτική Αρχή για «επένδυση στον διχασμό» και «αισθητική βαρβαρότητα»

Άγιος Προκόπιος: Ο δρόμος των θαυμάτων (και των κορναρισμάτων)

Όταν η ελληνική φιλοξενία συναντά τον αστικό σουρεαλισμό – το οδικό χάος γίνεται εμπειρία ζωής στην πιο πολυσύχναστη τουριστική γωνιά της Νάξου.