Σάββατο, 19 Απριλίου, 2025
ΑρχικήΑπόψειςOταν τα ρομπότ αρνούνται να υποταχθούν

Oταν τα ρομπότ αρνούνται να υποταχθούν

|

Μπορεί ένα χολιγουντιανό φιλμ της σειράς να μας βοηθήσει στην αντιμετώπιση των μεγάλων προκλήσεων που μας θέτει η τεχνολογία της τεχνητής νοημοσύνης; Το κοινό και οι κριτικοί της Ελλάδας συμφώνησαν ότι η ταινία «M3GAN» είναι ένα μάλλον αδιάφορο θρίλερ. Αν ωστόσο βάλει κάποιος στην άκρη τα τεχνάσματα της ταινίας τρόμου και το πολυπαιγμένο σενάριο, θα έρθει αντιμέτωπος με μερικά απ’ τα πιο σημαντικά προβλήματα επίτευξης της υπερνοημοσύνης, για δεκαετίες ολόκληρες, τα οποία πρέπει να μην ξεχνάμε.

Μπορεί η ταινία να μην τα διαπραγματεύεται σε βάθος και να μην αντιστέκεται στα θέλγητρα της εντυπωσιοθηρίας, αλλά οι προθέσεις του σκηνοθέτη Τζέραρντ Τζόνστοουν να θέσει μερικά απ’ τα πιο κλασικά προβλήματα της τεχνητής νοημοσύνης στο φορμάτ μιας ποπ εκδοχής μαζικής κουλτούρας, είναι αξιοσημείωτες.

Η μικρή πρωταγωνίστρια της ταινίας χάνει τους γονείς της σε τροχαίο. Μέχρι να αποκτήσουμε αυτο-οδηγούμενα οχήματα, τα οποία θα εξαλείψουν το ανθρώπινο λάθος, η ανθρωπότητα θα συνεχίσει να θρηνεί θύματα στην άσφαλτο. Ο τρόπος με τον οποίο γίνεται η σύγκρουση από μόνος του είναι δηλωτικός. Το αυτοκίνητο βρίσκεται σε μια συνθήκη που ό,τι κι αν κάνει ο οδηγός, το αποτέλεσμα θα είναι το ίδιο. Η τεχνολογία δεν είναι ουδέτερη, μοιάζει να λέει η ταινία. Είναι δέσμια των συνθηκών. Αυτό πρέπει να το θυμόμαστε πριν προχωρήσουμε με την υπερνοημοσύνη. Την κηδεμονία της μικρής αναλαμβάνει η αδελφή της μητέρας της, μια επιτυχημένη υπάλληλος εταιρείας προηγμένων παιχνιδιών.

Oταν η νέα κηδεμόνας καταλαβαίνει ότι η μικρή δυσκολεύεται να προσαρμοστεί στις νέες συνθήκες, της δωρίζει μια δική της εφεύρεση, τη ρομποτική κούκλα M3GAN, η οποία γίνεται η καλύτερή της φίλη. Ο εργοδότης της ενθουσιάζεται και θέλει να βγάλει την κούκλα στην αγορά, καθώς είναι βέβαιος ότι θα κάνει θραύση. Στην ταινία αποκαλύπτεται σκόπιμα η συναισθηματική ανωριμότητα της καινούργιας μαμάς.

Με το ρομπότ δεν λύνει μόνο το πρόβλημα της δουλειάς της, αλλά και το πρόβλημα της γονεϊκότητας. Η ρομποτική κούκλα είναι η λογική συνέχεια της νταντάς-iPad. Σταδιακά, όμως, ανακαλύπτουμε ότι η λύση ήταν παροδική. Η κούκλα-ρομπότ αποκτάει δική της ζωή. Ο επικαιροποιημένος μύθος του Φρανκενστάιν επιστρέφει, αυτή τη φορά στο παιδικό δωμάτιο. Τα εξελιγμένα ρομπότ τεχνητής νοημοσύνης αποκτούν κάποιο είδος συνείδησης, θέλησης και λογικής. Το αποτέλεσμα είναι ότι η M3GAN αρνείται να υποταχθεί.

Oταν πρέπει να παρέμβει ο ανθρώπινος παράγοντας, εκείνη κάνει του κεφαλιού της, βάσει των αρχικών υποδείξεων που έχει λάβει. Αναβιώνει έτσι, για άλλη μια φορά, ο εφιάλτης του HAL στο «2001: η Οδύσσεια του Διαστήματος» του Κιούμπρικ και πραγματώνεται η αγωνία του Στίβεν Χόκινγκ. Η εντολή που έχει πάρει η έξυπνη μηχανή είναι να μεγιστοποιήσει την ικανοποίηση της μικρής και να την προστατεύσει. Oταν η μικρή δέχεται μια απειλή, η M3GAN φτάνει να διαπράξει εγκλήματα. Η ταινία, εκτός των άλλων, διαπραγματεύεται τη λεγόμενη «θεωρία του συνδετήρα». Αν δίναμε σε μια υπερνοημοσύνη τον στόχο να μεγιστοποιήσει την παραγωγή συνδετήρων, η μηχανή θα εκλάμβανε κυριολεκτικά τον σκοπό της και θα εξαντλούσε κάθε πόρο γεμίζοντας τον πλανήτη με συνδετήρες.

Επομένως, το να είμαστε σε θέση να τερματίζουμε τη λειτουργία της όταν το κρίνουμε εμείς οι άνθρωποι σωστό, είναι θεμελιώδους σημασίας. Εκτός της αναγκαιότητας να μπορούμε να πατήσουμε το off, η ταινία μάς θυμίζει αυτό που οι ειδήμονες της τεχνητής νοημοσύνης έχουν ονομάσει «πρόβλημα της ευθυγράμμισης». Αν δεν κατορθώσουμε να διδάξουμε στις μηχανές τους δικούς μας ηθικούς κώδικες, τις δικές μας περίπλοκες ηθικές επιταγές, θα βρεθούμε μπροστά από ανάλογες ιστορίες ρομποτικών Μπάρτλεμπι. Ακόμη κι αν βρούμε τρόπο να αντιμετωπίσουμε την άρνηση συμμόρφωσης των μηχανών, όμως, δεν αποκλείεται οι κακόβουλοι να εκμεταλλευτούν κενά ασφαλείας ή και να προχωρήσουν σε δικές τους κατασκευές ανεξέλεγκτων και ανήθικων αυτομάτων.

Το τέλος της M3GAN, ωστόσο, είναι ίσως το πιο ανησυχητικό στοιχείο του φιλμ. Ενώ έχουμε ανακουφιστεί απ’ την πορεία της δράσης κι αφού έχει επέλθει η κάθαρση, το τελευταίο κάδρο εστιάζει στη συσκευή εικονικού βοηθού που ζει στην οικογενειακή κουζίνα. Θα μπορούσε να είναι η συσκευή της Amazon, της Apple ή της Google. Η συσκευή αυτή είναι σήμερα εδώ και ήδη γνωρίζει πολλά. Σε λίγο θα γνωρίζει πολύ περισσότερα. Εχει παρακολουθήσει την πλοκή της ιστορίας, ξέρει τα πάντα, ακόμη κι αυτό το κείμενο θα γίνει κάποια στιγμή δικό της κτήμα, γι’ αυτό και ο σκηνοθέτης της αφιερώνει το τελευταίο του πλάνο, λέγοντάς μας ότι η τεχνητή νοημοσύνη είναι ήδη εδώ και διδάσκεται καθημερινά απ’ τους τεράστιους όγκους πληροφοριών που της διαθέτουμε εθελοντικά.

Οι εικονικοί βοηθοί συγκεντρώνουν ένα θησαυρό γνώσης και δεδομένων, με αποτέλεσμα να κάνουν τα μοντέλα της μηχανικής μάθησης όλο και πιο αποτελεσματικά. Το ερώτημα είναι κατά πόσο έχουμε προλάβει να ρυθμίσουμε αυτή την πανίσχυρη τεχνολογία.

Το καταστροφικό σενάριο της M3GAN δεν είναι ακραίο. Οποιος έχει δει τα ρομπότ της Boston Dynamics καταλαβαίνει ότι η δυνατότητα κατασκευής μηχανών σαν τη ρομποτική κούκλα είναι δεδομένη. Μένει να τελειοποιηθεί το λογισμικό. Ελπίζει κανείς ότι όταν τεθεί το ζήτημα της κυκλοφορίας στην αγορά τέτοιων μηχανών, τα αντανακλαστικά μας θα είναι ισχυρά κι ότι θα έχουμε κάνει ήδη τις απαραίτητες προνοητικές κινήσεις. Διαφορετικά, κινδυνεύουμε μια φθηνή ταινία τρόμου να γίνει το κεντρικό μας αφήγημα.

Αρθρο του Μανώλη Ανδριωτάκη (Kathimerini.gr)


Διαβάστε όλες τις τελευταίες ειδήσεις από τις σελίδες του Naxos Press - τώρα και στο Google News

ΔΙΑΒΑΣΤΕ ΑΚΟΜΗ
Τελευταία νέα
Δημοφιλή

Νάξος: Στον Ιερό Ναό Παντανάσσης η πρώτη Ανάσταση (video)

Πρωί Μεγάλου Σαββάτου και η πρώτη Ανάσταση στον Ιερό Ναό Παντανάσσης Νάξου είναι γεγονός (video)

115 αγροτικοί γιατροί θα ενισχύσουν τα νησιά ενόψει του καλοκαιριού

Θετική ανταπόκριση στην πρόσκληση της 2ης Υγειονομικής Περιφέρειας

Ποια είναι τα 10 φθηνότερα νησιά σε όλο τον κόσμο; Δυο ελληνικά ανάμεσά τους

oι ειδικοί επί των ταξιδιών μοιράστηκαν μερικά βασικά πράγματα που πρέπει να γνωρίζετε όταν σχεδιάζετε το ταξίδι σας

Στις 19:00 το απόγευμα αναμένεται το Άγιο Φως στην Ελλάδα

Από την Αθήνα με αεροσκάφη της AEGEAN και της Olympic Air σε όλη τη χώρα

Καθολική Εκκλησία – Τήνος: Η Μεγάλη Παρασκευή στον Καθεδρικό Ναό της Ξυνάρας

Η Μεγάλη Παρασκευή στον Καθεδρικό Ναό της Ξυνάρας στην Τήνο

Νάξος – Kerras Cruises: Εκδρομή στο Κουφονήσι για την εορτή του Αγίου Γεωργίου

Μονοήμερη εκδρομή την Τετάρτη του Πάσχα (23/04) από τη Νάξο προς Κουφονήσι για τον εορτασμό του Αγίου Γεωργίου με την Kerras Crouises

Ιερά Μητρόπολη Παροναξίας: “Ἀναστάσεως ἡμέρα λαμπρυνθῶμεν λαοί….”

Ευχές του Σεβασμιωτάτου Μητροπολίτη Παροναξίας κκ. Καλλίνικου και η Ποιμαντορική Εγκύκλιος επί τη εορτή του Πάσχα 2025

Πρόταση Ημέρας: Μαγειρίτσα αγιορείτικη, από τον Μοναχό Επιφάνιο

Η μαγειρίτσα είναι το σήμα κατατεθέν του Μ.Σαββάτου. Απολαύστε μια διαφορετική εκδοχή της δια χειρός του αείμνηστου μοναχού Επιφάνιου, με μανιτάρια, ψάρι και μυρωδικά.

Κατερίνα Μονογυιού: Συνεχείς οι παρεμβάσεις για την επιστροφή του Σκοπελίτη στις Μικρές Κυκλάδες

Το “Express Σκοπελίτης” είναι ο σύνδεσμος ζωής, πολιτισμού, υγείας και επικοινωνίας των μικρών νησιών.

Αμοργός: Με πυροτεχνήματα και λουλούδια, η υποδοχή του “Express Skopelitis” (video)

Αργά το βράδυ της Μεγάλης Τρίτης (15/04) το Express Skopelitis μετά από σαράντα και πλέον ημέρες έφτασε στα Κατάπολα - δείτε την υποδοχή από τους κατοίκους (video)

Νάξος: Ενα ακόμη ξενοδοχείο 4 αστέρων “έρχεται” στο νησί

“Στα σκαριά” έργο για νέο ξενοδοχείο 4 αστέρων στη Νάξο

Νάξος – Πανναξιακό τουρνουά Τάβλι: Παν. Σορώκος ή Κοντόπουλος ο νέος πρωταθλητής;

Ο μεγάλος τελικός του 11ου Πανναξιακού Τουρνουά Τάβλι ξεκινάει: Παναγιώτης Σορώκος ή Πέτρος Κοντόπουλος ο μεγάλος νικητής; Η πορεία έως την κατάκτηση του τροπαίου

Φιλώτι: Εφυγε από τη ζωή ανήμερα της ονομαστικής του εορτής ο Λεωνίδας Ανωμερίτης

Ο ΣΦΕΑ αποχαιρετά τον συναγωνιστή του Λεωνίδα Δ. Ανωμερίτη - Μεγάλη Πέμπτη η κηδεία του στο κοιμητήριο της Νέας Σμύρνης

Fast Ferries – Νάξος: Ξεκίνησαν οι προσεγγίσεις του “Andros” δύο φορές την εβδομάδα

Ξεκίνησε τις προσεγγίσεις του στην Νάξο το FAST FERRIES ANDROS - Μέχρι πότε θα έρχεται στη Νάξο, ποιο πλοίο θα το αντικαταστήσει

Νάξος – Καστράκι: Πότε θα γίνει η περιφορά του Επιταφίου την Μεγάλη Παρασκευή (video)

Νάξος - Καστράκι: Πότε θα γίνει η περιφορά του Επιταφίου στο Καστράκι στην Παναγία Γρηγορούσα (χρονοδιάγραμμα)

Νάξος: Οι Γερμανοί απολαμβάνουν την φιλοξενία και την ομορφιά του νησιού μας (video)

Ύμνοι της γερμανικής τηλεόρασης για το «ονειρεμένο» Πάσχα στη Νάξο (video) - Τι λέει ο αρμόδιος αντιδήμαρχος Βαγγέλης Κατσαράς

Πρέβελης: Το πλοίο που αγαπήθηκε και μισήθηκε όσο κανένα άλλο

Το "Πρέβελις" βρίσκεται στην Ελευσίνα, έτοιμο για το τελευταίο του ταξίδι προς τη Τουρκία και μία αναπληρώτρια καθηγήτρια στην Ανάφη μοιράζεται τις σκέψεις της για το πλοίο

Αμοργός- Χοζοβιώτισσα: Ένας μοναχός, ένα παιδί, μια εικόνα χίλιες λέξεις

Πολύς κόσμος επιλέγει τους Ιερούς χώρους των μοναστηριών για να ζήσει τις μέρες της Μ. Εβδομάδας και του Πάσχα σιωπηλά και ήρεμα όπως ακριβώς αρμόζει στη μεγαλύτερη γιορτή της Χριστιανοσύνης.

Κυκλάδες – Πάσχα: “Κόντρες” μεταξύ SeaJets και Attica Group για τα έκτακτα δρομολόγια

«Η ενέργεια της Attica δεν αποτελεί απλώς μία επιθετική επιχειρηματική κίνηση, αλλά μια ευθεία υπονόμευση του κοινωνικού ρόλου της ακτοπλοΐας και πλήγμα στην νησιωτικότητα», δηλώνει ο Όμιλος Sea Jets - Η απάντηση της Attica Group