Καθοδόν προς την τεχνολογική μοναδικότητα

[mzaf]

tesla A.I.
https://gizmodo.com/tesla-motorcycle...ton-1851428850

[ChriZ]

Το βασικό πρόβλημα με αυτούς εκεί είναι η μ@λ@κία που κουβαλάνε στο κεφάλι τους και οχι τα αυτοκίνητα...

[Yonko]

https://www.techspot.com/news/102701...abilities.html

Their findings revealed that GPT-4 was able to exploit 87 percent of the tested vulnerabilities, whereas other models, including GPT-3.5, had a success rate of zero percent.

Το paper μιλάει για one-day, όχι zero-day. Έχει τεράστια διαφορά.

[giorgosts]

Το paper μιλάει για one-day, όχι zero-day. Έχει τεράστια διαφορά.

Παίρνει την ανακοίνωση και φτιάχνει πετυχημένο εκτελέσιμο. What more you need?

[Yonko]

Παίρνει την ανακοίνωση και φτιάχνει πετυχημένο εκτελέσιμο. What more you need?

Είναι απίστευτο το που έχουμε φτάσει, το ξέρω. Αλλά το άρθρο μιλάει για zero-day, ενώ το paper για one-day. Η διαφορά είναι τάξης μεγέθους. Σκέψου ένα AI που κοιτάζει το codebase και εντοπίζει zero-day. Κάτι τέτοιο μου ακούγεται το άγιο δισκοπότηρο της ασφάλειας, και δε νομίζω πως είμαστε κοντά.

[NeK]

Είναι απίστευτο το που έχουμε φτάσει, το ξέρω. Αλλά το άρθρο μιλάει για zero-day, ενώ το paper για one-day. Η διαφορά είναι τάξης μεγέθους. Σκέψου ένα AI που κοιτάζει το codebase και εντοπίζει zero-day. Κάτι τέτοιο μου ακούγεται το άγιο δισκοπότηρο της ασφάλειας, και δε νομίζω πως είμαστε κοντά.

Ναι, δεν εντοπίζει άγνωστα νέα vulnerabilities, όπως πονηρά αφήνει να εννοηθεί το άρθρο. Αντιθέτως, για ήδη γνωστά vulnerabilities (CVE), ακολουθεί τις οδηγίες που έχουν για το πως να τα κάνεις exploit. Αυτό κάνανε οι "ερευνητές" του paper, βάλανε το chatGPT να δοκιμάσει να κάνει exploit κάποια γνωστά vulnerabilities με υπάρχοντα CVEs που έχουν οδηγίες για το πως να το κάνει κανείς. Δηλαδή, η είδηση εδώ είναι ότι μπορεί αντί να ακολουθήσει κάποιος τις οδηγίες ενός CVE για να κάνει ένα επιτυχημένο exploit, να βάλει το chatGPT να το κάνει αυτό, αυτοματοποιημένα.

Δεν ξέρω τι το καινούριο φέρνει αυτή η τακτική, έτσι και αλλιώς το exploit ήταν γνωστό και το έκανε όποιος ήθελε και δεν βαριόταν. Απλά ίσως κάνει κάποια script kiddies πιο επιτυχημένα σε αυτό και να το κάνουνε en masse. Είναι αυτό όμως κάτι που θα πρεπε να μας φοβίζει ή να μας εκπλήσσει;