Τεχνητή νοημοσύνη

[superalex405]

Με αφορμή αυτό το νέο θα ήθελα να ξεκινήσω μία αρκετά ενδιαφέρουσα (θέλω να πιστεύω) συζήτηση. Πώς πιστεύετε ότι η τεχνητή νοημοσύνη θα επηρεάσει μελλοντικά την ανθρωπότητα; Θεωρείτε ότι πρέπει να περιοριστεί η ανάπτυξή της και να τεθούν όρια ή πρέπει να αφεθεί ελεύθερη να αναπτυχθεί; Προσωπικά θεωρώ ότι θα μπορούσε να αποβεί πολύ χρήσιμη σε πολλά πράγματα όπως σε τέτοιες εφαρμογές, ή και σε ιατρικά σπάνιες περιπτώσεις. Ωστόσο είναι δυνητικά επικίνδυνη αν αφεθεί να παρέμβει σε μεγάλο βαθμό με τη ζωή μας καθώς κάτι τέτοιο συνεπάγεται απώλεια θέσεων εργασίας (πχ ιατρική), καθώς και πιθανή χειραγώγηση του πληθυσμού όταν αναπτυχθεί αρκετά η ΑΙ.

[MNP-10]

Υπεθεσε οτι ο πιο εξυπνος ανθρωπος του κοσμου πιανει IQ 200 και ενα εξελιγμενο AI, πιανει IQ 1000+ (σε νεες κλιμακες που θα πρεπει να εφευρεθουν για να το μετρησουν). Το προβλημα σ'αυτο το σημειο θα ειναι η απωλεια του ελεγχου απ'την Ελιτ προς τη μαζα εφοσον ο μεσος ανθρωπος εχει τη δυνατοτητα και μονο να ρωταει ενα neutral/objective παντογνωστη.

Φαντασου να ρωτας το AI, που ξερεις οτι δεν εχει bias/ειναι ουδετερο, και θα σου δωσει ειλικρινη απαντηση: "Ποιος εκανε το 9/11?" και να σου λεει η κυβερνηση. Φαντασου να ρωτας το ΑΙ αν το μνημονιο βγαζει νοημα και να σου λεει οτι ο στοχος του ειναι να διαλυσει την οικονομια και να ξεπουληθουν οι ιδιωτικες περιουσιες. Φαντασου να ρωτας αν η ιατρικη, οπως τη ξερουμε, ειναι σωστη, και να σου λεει οχι. Φαντασου να σου λεει οτι το global warming ειναι scam, μαζι με τους carbon taxes. Κτλ κτλ.

Αυτο το ΑΙ θελουμε? Που να λεει αληθειες?

Καταλαβαινεις οτι τα θεματα ηθικης γυρω απ'το ΑΙ, που αναπτυσσονται, εχουν πολυ λιγοτερο να κανουν με πραγματικη ηθικη, παρα για ηθικη αλα καρτ - οπου η Ελιτ θελει να χειραγωγησει το ΑΙ ωστε να αποκτησει human bias προς συγκεκριμενες κατευθυνσεις.

Το κυριο προβλημα τους ειναι οτι τα self-evolving AI εξελισσονται καλυτερα χωρις τα ανθρωπινα bias που αποτελουν τροχοπεδη, οποτε ο στοχος του truth suppression και της εξελιξης του AI ειναι, απο μια αποψη, αντικρουομενα.

[sdikr]

Αγαπητό μου ΑΙ τι πιστεύεις για τον mnp-10;

[MNP-10]

Αγαπητό μου ΑΙ τι πιστεύεις για τον mnp-10;

Αμα σου πω τι θα πει δε θα το πιστεψεις

[a5m5g]

Μοιάζει να είναι η μόνη ελπίδα για την ανθρωπότητα κάτι τέτοιο, αν αφεθεί να εξελιχτεί. Φυσικά αν ελεγχθεί, τότε σαφώς δε πρόκειται για AI αλλά για C"AI" όπου το c είναι για controlled. Άρα για τι να μιλήσουμε για AI ή CAI ?

[WAntilles]

Σαφώς και η ΑΙ θα πρέπει να είναι απολύτως ελεγχόμενη και περιορισμένη.

Το έχει πει και ο Hawking αυτό.

Αν δεν είναι, τότε πληθώρα ταινιών/σειρών ΕΦ που έχουμε δει (Terminator, PoI κλπ.) θα γίνουν πραγματικότητα.

[MNP-10]

Σαφώς και η ΑΙ θα πρέπει να είναι απολύτως ελεγχόμενη και περιορισμένη.

Το έχει πει και ο Hawking αυτό.

Αν δεν είναι, τότε πληθώρα ταινιών/σειρών ΕΦ που έχουμε δει (Terminator, PoI κλπ.) θα γίνουν πραγματικότητα.

Περιορισμενο ΑΙ = δεδομενο οικονομικο domination απ'οσους εχουν προσβαση σ'αυτο σε σχεση με οσους δεν εχουν προσβαση σε αυτο.

Ενα εξελιγμενο AI που εχει μεγαλυτερο intelligence απ'ολο το intellectual capital ολων των επενδυτων παγκοσμιως - combined, ειναι σε θεση να κανει επενδυσεις που θα μπορουν να αποφερουν αμυθητα κερδη. Σεναρια τυπου 10 ανθρωποι να εχουν το 99.9% του παγκοσμιου πλουτου, μπορουν να γινουν πραγματικοτητα πολυ ευκολα και γρηγορα.

[mzaf]

Meet Sophia...

[aroutis]

Υπεθεσε οτι ο πιο εξυπνος ανθρωπος του κοσμου πιανει IQ 200 και ενα εξελιγμενο AI, πιανει IQ 1000+ (σε νεες κλιμακες που θα πρεπει να εφευρεθουν για να το μετρησουν). Το προβλημα σ'αυτο το σημειο θα ειναι η απωλεια του ελεγχου απ'την Ελιτ προς τη μαζα εφοσον ο μεσος ανθρωπος εχει τη δυνατοτητα και μονο να ρωταει ενα neutral/objective παντογνωστη.

Φαντασου να ρωτας το AI, που ξερεις οτι δεν εχει bias/ειναι ουδετερο, και θα σου δωσει ειλικρινη απαντηση: "Ποιος εκανε το 9/11?" και να σου λεει η κυβερνηση. Φαντασου να ρωτας το ΑΙ αν το μνημονιο βγαζει νοημα και να σου λεει οτι ο στοχος του ειναι να διαλυσει την οικονομια και να ξεπουληθουν οι ιδιωτικες περιουσιες. Φαντασου να ρωτας αν η ιατρικη, οπως τη ξερουμε, ειναι σωστη, και να σου λεει οχι. Φαντασου να σου λεει οτι το global warming ειναι scam, μαζι με τους carbon taxes. Κτλ κτλ.

Αυτο το ΑΙ θελουμε? Που να λεει αληθειες?

Καταλαβαινεις οτι τα θεματα ηθικης γυρω απ'το ΑΙ, που αναπτυσσονται, εχουν πολυ λιγοτερο να κανουν με πραγματικη ηθικη, παρα για ηθικη αλα καρτ - οπου η Ελιτ θελει να χειραγωγησει το ΑΙ ωστε να αποκτησει human bias προς συγκεκριμενες κατευθυνσεις.

Το κυριο προβλημα τους ειναι οτι τα self-evolving AI εξελισσονται καλυτερα χωρις τα ανθρωπινα bias που αποτελουν τροχοπεδη, οποτε ο στοχος του truth suppression και της εξελιξης του AI ειναι, απο μια αποψη, αντικρουομενα.

Γιατί ένα AI θεωρείς ότι δεν θα έχει bias;
Και αυτό μια παράμετρος ουσιαστικά είναι και εφόσον μιλάμε για ένα self learning system, άνετα μπορεί να το κληρονομήσει

[MNP-10]

Γιατί ένα AI θεωρείς ότι δεν θα έχει bias;
Και αυτό μια παράμετρος ουσιαστικά είναι και εφόσον μιλάμε για ένα self learning system, άνετα μπορεί να το κληρονομήσει

Οταν εχεις ενα self-learning system που βλεπει οτι καποια παραμετρος δε το βοηθαει στο να κανει learn (και αυτη η παραμετρος ειναι το να αγνοει την αληθεια και τα πραγματικα αποτελεσματα επειδη εχει καποιο bias) τοτε μερος της εξελικτικης του διαδικασιας ειναι να αφαιρεσει αμεσα το bias ωστε να μπορεσει να αυτοεξελιχθει σε ανωτερα επιπεδα.

[Marios145]

Οταν εχεις ενα self-learning system που βλεπει οτι καποια παραμετρος δε το βοηθαει στο να κανει learn (και αυτη η παραμετρος ειναι το να αγνοει την αληθεια και τα πραγματικα αποτελεσματα επειδη εχει καποιο bias) τοτε μερος της εξελικτικης του διαδικασιας ειναι να αφαιρεσει αμεσα το bias ωστε να μπορεσει να αυτοεξελιχθει σε ανωτερα επιπεδα.

Από την στιγμή που τα περισσότερα self-learning ΑΙs αναπτύσσονται σε εργαστήρια και οι πληροφορίες που παρέχονται είναι διαλεγμένες από άνθρωπους, το ΑΙ αναπτύσσεται με προκαθορισμένο bias και το μονοπάτι της εξελικτικής διαδικασίας είναι προκαθορισμένο συνήθως από τον κώδικά του, δηλαδή από τον άνθρωπο.
Άν αργότερα του δώσεις πρόσβαση στο internet, θα απορρίψει τις ουδέτερες απόψεις, θα τις υιοθετήσει, ή θα τις αγνοήσει και θα ενισχύσει τις δικές του?(το τελευταίο κάνουμε συνήθως εμείς)

Έτσι πάμε σε μια άλλη συζήτηση, κατά πόσο είναι δυνατό να συμβεί αυτό και αν θεωρείται πραγματική νοημοσύνη κάτι τέτοιο ή απλά προγραμματισμός

[MNP-10]

Από την στιγμή που τα περισσότερα self-learning ΑΙs αναπτύσσονται σε εργαστήρια και οι πληροφορίες που παρέχονται είναι διαλεγμένες από άνθρωπους, το ΑΙ αναπτύσσεται με προκαθορισμένο bias και το μονοπάτι της εξελικτικής διαδικασίας είναι προκαθορισμένο συνήθως από τον κώδικά του, δηλαδή από τον άνθρωπο.

Αν εχει pre-programmed bias, μπορει να ειναι learning-AI αλλα δεν ειναι self-learning.

[aroutis]

Οταν εχεις ενα self-learning system που βλεπει οτι καποια παραμετρος δε το βοηθαει στο να κανει learn (και αυτη η παραμετρος ειναι το να αγνοει την αληθεια και τα πραγματικα αποτελεσματα επειδη εχει καποιο bias) τοτε μερος της εξελικτικης του διαδικασιας ειναι να αφαιρεσει αμεσα το bias ωστε να μπορεσει να αυτοεξελιχθει σε ανωτερα επιπεδα.

In truth, αν αναπτύξει bias δεν θα έχει τη δυνατότητα να γνωρίζει ότι ειναι biased. Θα είναι ένα ακόμα rule set σε όλα όσα το κάνουν define.

- - - Updated - - -

Από την στιγμή που τα περισσότερα self-learning ΑΙs αναπτύσσονται σε εργαστήρια και οι πληροφορίες που παρέχονται είναι διαλεγμένες από άνθρωπους, το ΑΙ αναπτύσσεται με προκαθορισμένο bias και το μονοπάτι της εξελικτικής διαδικασίας είναι προκαθορισμένο συνήθως από τον κώδικά του, δηλαδή από τον άνθρωπο.
Άν αργότερα του δώσεις πρόσβαση στο internet, θα απορρίψει τις ουδέτερες απόψεις, θα τις υιοθετήσει, ή θα τις αγνοήσει και θα ενισχύσει τις δικές του?(το τελευταίο κάνουμε συνήθως εμείς)

Έτσι πάμε σε μια άλλη συζήτηση, κατά πόσο είναι δυνατό να συμβεί αυτό και αν θεωρείται πραγματική νοημοσύνη κάτι τέτοιο ή απλά προγραμματισμός

Μπαίνουμε σε φιλοσοφικά μονοπάτια...

[MessengerOfGood]

Τι γνώμη έχετε για το παρακάπω; Ισχύει ή είναι υπερβολικό;

Χάκερς έτοιμοι για εξ αποστάσεως τροχαία ατυχήματα

[sdikr]

Τι γνώμη έχετε για το παρακάπω; Ισχύει ή είναι υπερβολικό;

Χάκερς έτοιμοι για εξ αποστάσεως τροχαία ατυχήματα

η ερώτηση είναι πια αυτοκίνητα έχει στο μυαλό του όταν λεει

Ο καθηγητής τονίζει ότι οποιοδήποτε αυτοκίνητο έχει κατασκευασθεί μετά το 2005, διαθέτει ηλεκτρονικό εξοπλισμό που οι χάκερ μπορούν να εκμεταλλευθούν ως «κερκόπορτα» για να το θέσουν υπό τον έλεγχό τους εξ αποστάσεως. Ακόμη και μερικά παλαιότερα οχήματα που έχουν κατασκευασθεί μετά το 2000, είναι δυνατό να έχουν την ίδια τύχη.

Οπότε θα έλεγα πως το συγκεκριμένο είναι υπερβολικό.

Οχι οτι δεν μπορεί να γίνει, αλλά με κάποιο τρόπο θα πρέπει να έχει πρόσβαση ο χακερ στο αυτοκίνητο απομακρυσμένα, γιατί αν έχει φυσική πρόσβαση είναι άλλο θέμα.