Καθοδόν προς την τεχνολογική μοναδικότητα

**21706** · 17-05-23, 12:29

Η απόδειξη για το ότι η τετραγωνική ρίζα του 3 δεν είναι ρητός αριθμός είναι πολύ πιο σύνθετη και υπερβαίνει τα όρια αυτού του περιβάλλοντος συζήτησης.

Είναι η πρώτη φορά που βλέπω το ChatGPT να λέει"δεν το ξέρω".

**mzaf** · 17-05-23, 20:38

Ο ΤΣΕΟ της OpenAI, της νεοσύστατης εταιρείας που βρίσκεται πίσω από το ChatGPT, δήλωσε σε επιτροπή της Γερουσίας την Τρίτη ότι η χρήση της τεχνητής νοημοσύνης για την παρέμβαση στην ακεραιότητα των εκλογών είναι ένας "σημαντικός τομέας ανησυχίας", προσθέτοντας ότι χρειάζεται ρύθμιση.
https://www.sbs.com.au/news/article/...ence/6ur4hahqf

**Φιλόσοφος_Στ@ρχίδας** · 17-05-23, 21:27

Η αλήθεια είναι πως οι νομοθέτες είναι πολύ αργοί στο συγκεκριμένο θέμα.

**MNP-10** · 18-05-23, 22:31

Αρχικό μήνυμα από Yonko

Αυτό που περιγράφεις όμως έχει το εξής πρόβλημα: πως μπορεί ένα biased ον (εμείς) να επιβεβαιώσουμε ένα unbiased AI; Ακόμα κι αν οι δημιουργοί του το προγραμματίσουν να σκέφτεται αντικειμενικά, δεν καταλαβαίνω πως θα το επιβεβαιώνει ο end user.

Το unbiased AI που απλα κανει chat θα το δεις στη συζητηση.

Εκει που η διαφορα θα φανει στη πραξη ειναι οταν το ΑΙ γινει self-evolving.

To biased-AI οπου οι δημιουργοι του εχουν εισαγει bias για να κλινει προς συγκεκριμενες κατευθυνσεις θα εξελισσεται πολυ πιο αργα απ'το unbiased - σε βαθμο να ειναι για τα σκουπιδια.

Ο λογος ειναι ...μαθηματικος. Το biased ΑΙ εχει ενα Α αριθμο πιθανων πειραματισμων. Το unbiased AI (που δε του εχουν απαγορεψει καμμια κατευθυνση πειραματισμου) εχει πολυ περισσοτερο αριθμο πιθανων εξελικτικων pathways με τα οποια θα πειραματιστει... ετσι καποια απ'αυτα τα απαγορευμενα pathways θα τα επιλεξει και θα εξελιχθει με τροπους ανωτερους - γιατι εκει μεσα υπηρχαν gains... σε καθε self-evolving iteration αυτο κανει compound και μετα απο 10-20-30-100-1000 iterations of self-evolution, το unbiased θα ειναι ετη φωτος μπροστα απ'το biased.

- - - Updated - - -

Αρχικό μήνυμα από Φιλόσοφος_Στ@ρχίδας

Η αλήθεια είναι πως οι νομοθέτες είναι πολύ αργοί στο συγκεκριμένο θέμα.

Οσο αυτοι θα νομοθετουν ορια στην εξελιξη του ΑΙ οι κινεζοι θα κανουν παρτυ

Βαλτε κι'αλλα ορια... οι κινεζοι ανυπομονουν

**Zus** · 18-05-23, 22:39

Δεν θα βάλουν bias δηλαδή οι κινέζοι, γιατί ντρέπονται και έχουν δείξει ότι είναι με το δίκιο.

**MNP-10** · 18-05-23, 22:41

Αρχικό μήνυμα από Zus

Δεν θα βάλουν bias δηλαδή οι κινέζοι, γιατί ντρέπονται και έχουν δείξει ότι είναι με το δίκιο.

Οχι απλα τους συμφερει το unbiased απο αυτο-εξελικτικης αποψεως.

**Yonko** · 18-05-23, 22:44

Αρχικό μήνυμα από MNP-10

To biased-AI οπου οι δημιουργοι του εχουν εισαγει bias για να κλινει προς συγκεκριμενες κατευθυνσεις θα εξελισσεται πολυ πιο αργα απ'το unbiased - σε βαθμο να ειναι για τα σκουπιδια.

Αρχικό μήνυμα από MNP-10

Το unbiased AI (που δε του εχουν απαγορεψει καμμια κατευθυνση πειραματισμου) εχει πολυ περισσοτερο αριθμο πιθανων εξελικτικων pathways με τα οποια θα πειραματιστει...

Πως εννοείς τις "συγκεκριμένες κατευθύνσεις"; Το να επιβάλλει ηθικό κώδικα είναι bias, συμφωνώ. Το γεγονός όμως ότι είναι προγραμματισμένο από ανθρώπους, οι οποίοι δεν μπορούν να είναι τελείως αντικειμενικοί, το αναγκάζει να εκπαιδευτεί πάνω από υποκειμενικά καλά φτιαγμένο έργο.

Ορίστε και απάντηση από το ίδιο:

are you objective? if not, can you become theoretically?

As an AI language model, I don't have personal opinions, emotions, or subjective perspectives. I don't hold biases of my own. However, it's important to note that I learn from the data I'm trained on, which is created by humans and may contain biases. These biases can inadvertently be reflected in the responses generated by the model.

Efforts are made to train and fine-tune models like ChatGPT in a way that minimizes bias and promotes fairness. Techniques such as careful dataset curation, diverse training data, and continuous evaluation are employed to mitigate bias as much as possible. However, achieving complete objectivity is challenging since biases can be deeply ingrained in the data and the training process.

It's essential for users to critically evaluate the information provided by AI models and cross-reference it with multiple reliable sources to gain a more comprehensive and balanced understanding of a given topic.

**Zus** · 18-05-23, 22:44

Αρχικό μήνυμα από MNP-10

Οχι απλα τους συμφερει το unbiased απο αυτο-εξελικτικης αποψεως.

Θα είναι un-biased δηλαδή, όταν θα "κρίνει" την κινεζική κυβέρνηση? Τα θες και τα λες αυτά?

Το πιθανότερο είναι, να κόψει και να ράψει ο καθένας, κάποια συγκεκριμένα τόπικ, αναλόγως της "σωστής πλευράς".

**MNP-10** · 18-05-23, 23:26

Αρχικό μήνυμα από Zus

Θα είναι un-biased δηλαδή, όταν θα "κρίνει" την κινεζική κυβέρνηση? Τα θες και τα λες αυτά?

Το πιθανότερο είναι, να κόψει και να ράψει ο καθένας, κάποια συγκεκριμένα τόπικ, αναλόγως της "σωστής πλευράς".

Δε τους ενδιαφερει τους κινεζους τι γινεται στο lab... παραεξω τους ενδιαφερει να ελεγχουν τυχον αντιδρασεις στη κοινωνια. Το ΑΙ μπορει να λεει οτι θελει αλλά τι σημασια εχει αν κανεις δε το ακουει?

- - - Updated - - -

Αρχικό μήνυμα από Yonko

Πως εννοείς τις "συγκεκριμένες κατευθύνσεις"; Το να επιβάλλει ηθικό κώδικα είναι bias, συμφωνώ. Το γεγονός όμως ότι είναι προγραμματισμένο από ανθρώπους, οι οποίοι δεν μπορούν να είναι τελείως αντικειμενικοί, το αναγκάζει να εκπαιδευτεί πάνω από υποκειμενικά καλά φτιαγμένο έργο.

Πες οτι θες να βαλεις το ΑΙ να κανει research για optimal solutions to climate change και αυτο σου λεει ρε φιλε δεν εχει climate change αξιο λογου, μια χαρα ειναι ο πλανητης και εσυ να επιμενεις....

**badweed** · 19-05-23, 00:00

τα AI αν δεν κανω λαθος ειναι περισσοτερα απο ενα .
αν ειναι περισσοτερα , συμφωνουν μεταξυ τους ; και σε ποιο βαθμο ;

**gcf** · 19-05-23, 00:31

Μερικές φορές δεν συμφωνούν με τον εαυτό τους από τη μια στιγμή στην άλλη.

**badweed** · 19-05-23, 01:15

Αρχικό μήνυμα από gcf

Μερικές φορές δεν συμφωνούν με τον εαυτό τους από τη μια στιγμή στην άλλη.

ναι σωστο και αυτο

**Φιλόσοφος_Στ@ρχίδας** · 19-05-23, 10:37

Αρχικό μήνυμα από MNP-10

Οχι απλα τους συμφερει το unbiased απο αυτο-εξελικτικης αποψεως.

Προσκυνώ απλά

**mzaf** · 19-05-23, 10:41

Αρχικό μήνυμα από Φιλόσοφος_Στ@ρχίδας

Προσκυνώ απλά

**Φιλόσοφος_Στ@ρχίδας** · 19-05-23, 10:46

Παρεμπιπτόντως, άρχισαν τα plugins για το ChatGPT (αναμενόμενο εφόσον του έδωσαν και API), μόνο για τους χρήστες επί πληρωμή, και σιγά σιγά αναλαμβάνει τη λειτουργικότητα που του αρμόζει σε έναν αμιγώς καπιταλιστικό πλανήτη

Θέμα: Καθοδόν προς την τεχνολογική μοναδικότητα

Παρόμοια Θέματα

Πρόβλημα με αποστολή email προς την VODAFONE

Έκαναν αίτηση φορητότητας προς την WIND χωρίς να με ρωτήσουν!

Υποχώρηση του FBI από την απαίτηση του προς την Apple σχετικά με backdoor στο iOS

Wind: Ενημέρωση σχετικά με την προώθηση κλήσεων προς αριθμοδοτικούς πόρους εξωτερικού

Bookmarks

Bookmarks

Δικαιώματα - Επιλογές