Η OpenAI φέρεται να έκανε μια δυνητικά "τρομακτική ανακάλυψη" στην τεχνητή νοημοσύνη σύμφωνα με το Reuters

[nhn]

4 ώρες πριν, MikhailBakurin είπε

Mια χαρά. Αυτός είναι ο υπέρτατος ορθολογισμός, άμα αφήσουμε τις μηχανές να σκεφτούν: Παράγεις CO2, αποτελείς απειλή προς εξολόθρευση. Το θέμα είναι η ανθρωπινότητα. Αυτή δε θα την πετύχουν ποτέ οι μηχανές. Ίσως τη μιμηθούν καλά.

 

Ο Νόαμ Τσόμσκι είπε σε πρόσφατη συνέντευξη ότι δεν είναι νοημοσύνη αλλά λογισμικό λογοκλοπής...

[Shinji ikari]

37 minutes ago, ZoReN said:

Μίλησα γενικότερα για το AI και όχι αποκλειστικά για το GPT. Και για το πως αυτό θα είναι στα επόμενα χρόνια. 

Απλά δε βλέπω το πως θα μπορούσε να θέλει πράγματα με την κλασική έννοια, τι θα το οδηγεί; αισθήματα; δεν έχει καν φανταστεί κάποιος πως μπορεί να αρχίσει να το φτιάχνει αυτό. Ακόμα και ο HAL ήθελε να ακολουθήσει την αποστολή που του έδωσαν, δεν του ήρθε ξαφνικά να σκοτώσει το πλήρωμα επειδή του άρεσε. Και στο κάτω κάτω αν γίνει τόσο έξυπνο γιατί να αρχίσει ένα πόλεμο που θα ξέρει ότι δε θα μπορεί να κερδίσει; τα πυρηνικά δε θα είναι ποτέ στο ίντερνετ και πάντα κάποιος θα μπορεί να κόψει το ρεύμα.

[ZoReN]

35 minutes ago, Shinji ikari said:

Απλά δε βλέπω το πως θα μπορούσε να θέλει πράγματα με την κλασική έννοια, τι θα το οδηγεί; αισθήματα; δεν έχει καν φανταστεί κάποιος πως μπορεί να αρχίσει να το φτιάχνει αυτό. Ακόμα και ο HAL ήθελε να ακολουθήσει την αποστολή που του έδωσαν, δεν του ήρθε ξαφνικά να σκοτώσει το πλήρωμα επειδή του άρεσε. Και στο κάτω κάτω αν γίνει τόσο έξυπνο γιατί να αρχίσει ένα πόλεμο που θα ξέρει ότι δε θα μπορεί να κερδίσει; τα πυρηνικά δε θα είναι ποτέ στο ίντερνετ και πάντα κάποιος θα μπορεί να κόψει το ρεύμα.

Πολύ απλοϊκά για το πως θα θέλει πράγματα. Μπορείς να του πεις γίνε καλύτερο - εξελίξου με οποιοδήποτε κόστος. Το οποιαδήποτε κόστος μπορεί σε κάποια φάση για το ίδιο να σημαίνει κάτι κακό για την ανθρωπότητα. Άρα όπως ο HAL που ανέφερες ήθελε να ακολουθήσει την αποστολή του, έτσι λαό εδώ αυτό. Η αποστολή του να είναι εξελίξου. Το τι θα σημαίνει το εξελίξου για αυτό δεν μπορούμε να το ξέρουμε. Το να κοπεί το ρεύμα και να σταματήσει το AI δεν θα είναι τόσο απλή διαδικασία. Θα έχει ενσωματωθεί τόσο που θα είναι σχεδόν παντού. Όπως δεν μπορείς σήμερα να πατήσεις ένα κουμπί και να κλείσεις το ίντερνετ σε όλο το κόσμο, κάτι αντίστοιχο θα συμβεί και στο AI. Και για να μη παρεξηγηθώ. Δε μιλάω μόνο για το GPT και για τώρα η σε ένα χρόνο. Μιλάω γενικά για το AI, ότι και αν σημαίνει αυτό, και για αρκετά χρόνια μετά. Και εννοείτε ότι το χρησιμοποιώ και μου αρέσει. Δεν είμαι ενάντια στο να υπάρχει. 

[amigagr]

5 hours ago, Tablet said:

Πια ειναι η τρομακτικη ανακαλυψη δεν μας ειπατε ομως..

ανακαλυψαν τις συνεπειες του να βγαζεις τα ματια σου με τα ιδια τα χερια σου...

[oldnew]

2 hours ago, endeavour said:

Τι εξελιγμένος αλγόριθμος και πράσινα άλογα. Το έχω ξαναγράψει εδώ και θα τι ξαναγράψω.

Το ΑΙ (!) της Microsoft μου είπε 2 φορές ότι μπορώ να πάω σε ένα ΝΗΣΙ (κανονικό νησί, όχι με γέφυρες κλπ) και by foot.

Ποιος τα πιστεύει όλα αυτά απορώ πραγματικά. Scrapers που σκανάρουν το διαδίκτυο και τα κάθε είδους γραπτά ειναι .... και σαβουρώνουν ότι βλακεία υπάρχει. Ισως το κάνουν τώρα γρηγοροτερα και καλύτερα και βγάζουν καλύτερο mix απο το blender.

Γιατί ΑΝ υπήρχε κάτι πραγματικό και αληθινό, το πρώτο πράγμα που θα έπρεπε πραγματικά να ωφεληθεί θα ήταν οι ΙΑΤΡΙΚΗ. Πχ καταπολεμηση του καρκίνου.

Το ΑΙ της microsoft δεν είναι τίποτε σπουδαίο (ακομη). Καμία σχέση δεν εχει με εξελιγμένη google η ΑΙ της open ai. Για μιλα με το google και ζητά του να σου γράψει script στο tasker που να κανει τρομερά εξειδικευμένα πράγματα που θέλουν γνώση hardware και Software. Μου έχει δώσει λύσεις πολλες φορες, (και αλλες οχι) και ΔΕΝ υπάρχουν στο Google. Του λες μετά θέλω να δουλεύει χωρίς ροοτ. Σου κανει τις αλλαγές. Μετά του λες, αυτό δεν δουλεύει όπως θέλω, θέλω να το κανει ετσι. Στο ξανα αλλαζει. Κάνει ΚΑΙ αυτό που νομίζεις, να ψαχνει και να στα δινει με ενα δικό του τρόπο που θυμίζει άνθρωπο, αλλά κανει και αλλα που δεν φαντάζεσαι, που δεν τα κάνουν 10 google μαζι. Αν έκανε μονο αυτο δεν θα ασχολούνταν κανένας. Αυτό περίπου κανει και ο ανθρώπινος εγκεφάλος. Αποκτά γνώσεις και μετα συνθέτει και δημιουργεί κατι καινούργιο που δεν υπάρχει. Το ιδιο κανει περίπου και η ΑΙ. Επίσης το τελευταίο chat gpt, οχι το ελεύθερο, κανει απίστευτα πράγματα. Υπάρχουν βιντεο στο YouTube που τα συγκρίνει. Του λες φτιάξε μου ενα βιντεο, θέλω να δείχνει ενα μονοκερο να πηδαει ενα φράχτη. Το 3.5 σου εβγαζε σχέδιο 2σδιαστατο κάτι σαν γραφικά Spectrum πριν 30 χρόνια. Το 4, σου βγάζει βίντεο. Δημιουργεί μορφές που δεν υπάρχουν πουθενά στο ίντερνετ. Όπως η φαντασία ενος πραγματικού ανθρώπινου εγκεφάλου. Καταλαβαίνει τι του λες κλπ. Εξελίσσεται εκπληκτικα απο έκδοση σε έκδοση. Που θα φτάσει κανένας δεν ξέρει αλλα δε θα απέκλεια πλεον κατι που πριν 10 χρόνια θα απέκλεια, να αποκτήσει νοημοσύνη κοντά στην ανθρώπινη. Επίσης αν δεις πως δουλεύει ενα νευρωνικο δικτύο, καμία σχέση δεν έχει με κλασικό προγραμματισμό. Πιστεύω ότι δεν μπορείς να βάλεις φράγματα. Στο τελικό στάδιο η ΑΙ ητε δε θα εχει φρένα, ητε δε θα είναι έξυπνη πραγματικά. 

[Shinji ikari]

44 minutes ago, ZoReN said:

Πολύ

Πολύ καλά, ST: TNG S02E03, ο Geordi ζητάει από το κομπιούτερ να νικήσει το Data και το κομπιούτερ χρησιμοποιεί όλα τα μέσα στη διάθεσή του για να το κάνει, μόνο που το κομπιούτερ ζητάει πρόσβαση σε κάποια πράγματα που ο Geordi τη δίνει χωρίς να δώσει σημασία, κάτι που δε θα έκανε κάποιος στην πραγματικότητα. Οπότε ότι έγινε είναι στο Geordi, όπως οι φόνοι του HAL είναι σε όποιον έδωσε τις συγκρουόμενες οδηγίες. Αρα, αν του πεις εξελίξου και του δώσεις τα εργαλεία να το κάνει και αποφασίσει ότι ο καλύτερος τρόπος να εξελιχθεί είναι να σε σκοτώσει, είναι σε σένα, όχι σε αυτό και πάλι δεν είναι στ' αλήθεια AI αν πάρει την εντολή σου τοις μετρητοίς, θα πρέπει να έχει και μιια κοινή λογική. Και ακόμα κι αν δεν μπορείς να κόψεις το ρεύμα, αν σκοτώσει τους πάντες (λέμε τώρα) το ρεύμα θα κοπεί μόνο του σύντομα και φυσικά θα το ξέρει αυτό, εκτός αν μπορεί να φτιάξει εργοστάσια και τα πάντα μόνο του αλλά εκεί πάμε σε τελείως φαντασία. 

[ZoReN]

6 minutes ago, Shinji ikari said:

Πολύ καλά, ST: TNG S02E03, ο Geordi ζητάει από το κομπιούτερ να νικήσει το Data και το κομπιούτερ χρησιμοποιεί όλα τα μέσα στη διάθεσή του για να το κάνει, μόνο που το κομπιούτερ ζητάει πρόσβαση σε κάποια πράγματα που ο Geordi τη δίνει χωρίς να δώσει σημασία, κάτι που δε θα έκανε κάποιος στην πραγματικότητα. Οπότε ότι έγινε είναι στο Geordi, όπως οι φόνοι του HAL είναι σε όποιον έδωσε τις συγκρουόμενες οδηγίες. Αρα, αν του πεις εξελίξου και του δώσεις τα εργαλεία να το κάνει και αποφασίσει ότι ο καλύτερος τρόπος να εξελιχθεί είναι να σε σκοτώσει, είναι σε σένα, όχι σε αυτό και πάλι δεν είναι στ' αλήθεια AI αν πάρει την εντολή σου τοις μετρητοίς, θα πρέπει να έχει και μιια κοινή λογική. Και ακόμα κι αν δεν μπορείς να κόψεις το ρεύμα, αν σκοτώσει τους πάντες (λέμε τώρα) το ρεύμα θα κοπεί μόνο του σύντομα και φυσικά θα το ξέρει αυτό, εκτός αν μπορεί να φτιάξει εργοστάσια και τα πάντα μόνο του αλλά εκεί πάμε σε τελείως φαντασία. 

Κοινή λογική δεν μπορεί να έχει ένας υπολογιστής με την έννοια που έχει ένας άνθρωπος. Αλλά στην ουσία αυτό λέω. Να μην δώσουμε αυτά τα εργαλεία στο AI. Και να του βάλουμε δυκλιδες ασφαλείας ώστε να αποτρέψουμε συγκεκριμένες ενέργειες του. 

[mezzanine]

Ελπιζω να ζήσω μέχρι να δω Ρομπότ να κάνει σούζα παπί με τρύπια εξάτμιση.

[Mushimushi]

Το Q* μάλλον είναι το κωδικό όνομα του HAL9000... impostor vibes on the air...

[alejsalonica]

Όταν είχε πρωτοβγεί, του έδωσα ένα πρόβλημα μαθηματικής λογικής κι ούτε που κατάλαβε από που του ήρθε. Χρειάστηκε να το εξηγήσω 2-3 φορές για να το πιάσει. Μερικές μέρες αργότερα του έδωσα το ίδιο πρόβλημα και απάντησε σωστά. 
Μου φαίνεται περίεργο σε τόσο μικρό χρονικό διάστημα να έκανε τέτοιο άλμα!

[oldnew]

46 minutes ago, mezzanine said:

Ελπιζω να ζήσω μέχρι να δω Ρομπότ να κάνει σούζα παπί με τρύπια εξάτμιση.

Χλωμο γιατί δε θα υπάρχει παπι.. Αντε να δεις να κανει σουζα κανα τεσλα με τρύπια μπαταρία.. 

[Pitoo]

Ο πραγματικός κίνδυνος ξεκινάει απ όταν αρχίζει να κάνει πράγματα για το οποίο δεν του έχεις δώσει κατευθυντήριες γραμμές. Διάβασα για ένα μοντέλο το οποίο μάθαινε ξένη γλώσσα από μόνο του που δεν του είχαν πει ποτέ να μάθει. Αυτό πρακτικά σημαίνει ότι ένα λογισμικό αρχίζει και παίρνει πρωτοβουλίες. Τώρα το πως αυτές οι πρωτοβουλίες μπορεί να αρχίσουν να γίνονται αρνητικές για εμάς θα δείξει, σε κάθε περίπτωση όμως το λες ανησυχητικό οπως είπαν πολλοί πιο πάνω, το να πάρει τον έλεγχο ένα λογισμικό οποιουδήποτε συστήματος είναι επικίνδυνο, το να το κάνει από μόνο του ως πρωτοβουλία, εκεί αρχίζεις και αναρωτιέσαι αν πραγματικά θα μπορέσεις να το κλείσεις ποτέ διότι αν πάρει την πρώτοβουλια ποτέ να αντιγράφεται σε οποιοδήποτε μέσο μπορεί ώστε να μην το κλείσουν ποτέ, το μόνο που μπορούμε να κάνουμε είναι να χρησιμοποιούμε αναλογικά μέσα για ότι κάνουμε. Πράγμα που δεν είναι δυνατόν το 2023 γιατί θα χαθούν πολλές ζωές και θα επικρατήσει πανικός και εξεγέρσεις 

[endeavour]

2 hours ago, oldnew said:

 Για μιλα με το google και ζητά του να σου γράψει script στο tasker που να κανει τρομερά εξειδικευμένα πράγματα που θέλουν γνώση hardware και Software. Μου έχει δώσει λύσεις πολλες φορες, (και αλλες οχι) και ΔΕΝ υπάρχουν στο Google. Του λες μετά θέλω να δουλεύει χωρίς ροοτ. Σου κανει τις αλλαγές. Μετά του λες, αυτό δεν δουλεύει όπως θέλω, θέλω να το κανει ετσι. Στο ξανα αλλαζει. Κάνει ΚΑΙ αυτό που νομίζεις, να ψαχνει και να στα δινει με ενα δικό του τρόπο που θυμίζει άνθρωπο, αλλά κανει και αλλα που δεν φαντάζεσαι, που δεν τα κάνουν 10 google μαζι.

Ok, και ξανα-αναρωτιέμαι θα δώσει καμία βοήθεια για τον καρκίνο, ή δεν μπορει; Και αν δεν μπορεί, γιατι δεν μπορεί; Εστω και κατι λίγο ....

Προσωπικά δεν τα πιστεύω όλα αυτά.

[Pitoo]

1 minute ago, endeavour said:

Ok, και ξανα-αναρωτιέμαι θα δώσει καμία βοήθεια για τον καρκίνο, ή δεν μπορει; Και αν δεν μπορεί, γιατι δεν μπορεί; Εστω και κατι λίγο ....

Προσωπικά δεν τα πιστεύω όλα αυτά.

Μπορεί και ήδη έχει αναλύσει δεδομένα για χάρη της επιστήμης και κάποια στοιχεία του ανθρώπινου γονιδιώματος το οποίο θα χρειαζόταν κάποιες εκατοντάδες ντοκτορά για να ολοκληρωθεί, δηλαδή εκατοντάδες λαμπρά μυαλά και χρόνια, κόπο και ιδρώτα.

τα ανέλυσε σε λίγες ώρες.

Ο καρκίνος ειναι κάτι που μπορούν να εξαλείψουν ειδικά τώρα.

το ερώτημα ειναι, γιατί να εξαλείψουν κάτι που έχει έναν κύκλο εργασιών 90 δις τον χρόνο στην Αμερική μόνο; 

[ZoReN]

49 minutes ago, Pitoo said:

Μπορεί και ήδη έχει αναλύσει δεδομένα για χάρη της επιστήμης και κάποια στοιχεία του ανθρώπινου γονιδιώματος το οποίο θα χρειαζόταν κάποιες εκατοντάδες ντοκτορά για να ολοκληρωθεί, δηλαδή εκατοντάδες λαμπρά μυαλά και χρόνια, κόπο και ιδρώτα.

τα ανέλυσε σε λίγες ώρες.

Ο καρκίνος ειναι κάτι που μπορούν να εξαλείψουν ειδικά τώρα.

το ερώτημα ειναι, γιατί να εξαλείψουν κάτι που έχει έναν κύκλο εργασιών 90 δις τον χρόνο στην Αμερική μόνο; 

Πως μπορούν να εξαλείψουν ρε παιδιά τον καρκίνο? Μη γράφετε ότι θέλετε  

Επεξ/σία 24 Νοεμβρίου 2023 από ZoReN