Πρώτος θάνατος πεζού εξαιτίας αυτόνομου οχήματος

[liakjim]

30 λεπτά πριν, Whargoul είπε

Μόνο οι κάμερες του οχήματος μπορούν να μας δείξουν τη πραγματικά συνέβηκε, και πως σκέφτεται ένα αυτόνομο όχημα, αλλά αμφιβάλλω εάν δημοσιευτούν ποτέ, γιατί στην συγκεκριμένη πολιτεία, σε αντίθεση με την Καλιφόρνια, δεν είναι ανάγκη να δημοσιεύεις στοιχεία για τα αυτόνομα, γι αυτό και είναι ανεξέλεγκτο test-ground. Αν ήταν ξεκάθαρο ότι το όχημα έκανε τα πάντα για να αποφύγει την σύγκρουση, είμαι σίγουρος ότι το βίντεο με κάποιο μυστήριο τρόπο θα γινόταν leaked.  

Ακριβώς. Εδώ διακυβεύονται επενδύσεις εκατομμυρίων δολλαρίων και επειδή ζούμε σε έναν βρώμικο κόσμο, δεν βγαίνουν πάντα όλα στην επιφάνεια.

Αν όντως το όημα δεν είχε περιθώρια αντίδρασης , γιατί μην ξεχνάμε ότι τα 60χλμ/ώρα δεν είναι και λίγα για ένα όχημα που πιθανότατα φτάνει στους 2 τόνους, τότε θα περίμενα να βλέπαμε όντως το βίντεο να γινόταν leaked.

Σε κάθε περίπτωση η γυναίκα το πλήρωσε με την ζωή της αν και κατά περίεργο τρόπο το όνομά της θα περάσει στην ιστορία για ίσως πολλά χρόνια. Βέβαια για ένα πτώμα αυτό δεν έχει απολύτως καμία σημασία...

Επεξ/σία 21 Μαρτίου 2018 από liakjim

[orfibous]

Τα πράγματα είναι απλά.

Έχουμε ένα ατύχημα στο οποίο φταίνει το σύστημα αυτόνομης οδήγησης, γιατί δεν κατάφερε να αναγνωρίσει την γυναίκα που περνούσε τον δρόμο, ως αντικείμενο που πριν από το οποίο πρέπει να σταματήσει.

Όμως εδώ κι χρόνια γίνονται έρευνες, δοκιμές και εφαρμογές αυτής της τεχνολογίας, και είναι το πρώτο ατύχημα με πεζό που σημιώνεται.  Ξεχνάμε ότι με βάση τις στατιστικές τους τελευταίους 3 μήνες έχουμε , δηλαδή από την αρχή του 2018 έχουμε παγκοσμίως ~295,000 θανάτους με μη αυτόματα μέσα οδήγησης.

Κρίμα για την γυναίκα, αλλά ένα δυστύχημα για μία τεχνολογία που τώρα αναπτύσσεται και δεν έχει βελτιστοποιηθεί πλήρως, δεν είναι τίποτα. Όσο προχωράνε οι αλγόριθμοι τεχνητής νοημοσύνης για την αναγνώριση εικόνας, τέτοια περιστατικά θα εμφανίζονται όλο και πιο σπάνια. Το υλικό που έχει συλλεχθεί (αν έχει συλλεχθεί) από αυτή την δυσάρεστη εμπειρία, θα αποτελέσει πολύ χρήσιμο για την αποφυγή τέτοιων περιστατικών στο μέλλον.

 

EDIT:

Μάλιστα λόγω και της ώρα που έγινε το ατύχημα, το πιο πιθανό είναι ότι το όχημα δεν κατάφερε μέσα στο σκοτάδι να αναγνωρίσει το μοτίβο ενός οποιουδήποτε αντικειμένου. Τα συστήματα αυτά βασίζονται στα μοτίβα των χρωματικών διαφορών που υπάρχουν στις εικόνες/βίντεο που επεξεργάζονται, πράγμα που σημαίνει πως αν είναι όλα μαύρα, δεν μπορεί να δει τίποτα.

Επεξ/σία 21 Μαρτίου 2018 από orfibous
Προσθήκη περιεχομένου

[Whargoul]

23 λεπτά πριν, nhzt είπε

Όταν η γυναίκα προσπάθησε να περάσει απέναντι, πιθανόν να έτρεξε κιόλας, διότι νόμισε ότι προλαβαίνει ή ότι θα φρέναρε το αυτοκίνητο, ήταν πλέον αργά. Δηλ σαν να εμφανίστηκε ξαφνικά μπροστά του, γι αυτό και δεν φρέναρε.

Το ξαφνικά μπροστά του είναι σχετικό, καθώς εξαρτάται και από το οπτικό πεδίο. Αν η κάμερα έβλεπε μόνο μπροστά στο αυτοκίνητο με στενό οπτικό πεδίο, τότε θα την είδε ξαφνικά στο 1 μέτρο, αν και θα μπορούσε να ήταν 5+ δευτερόλεπτα ορατή  σε μια κάμερα 180μοιρών, ή σε άνθρωπο με περιφερειακή όραση εάν ήταν μερικά μέτρα δεξιά - αριστερά από την πορεία του αυτοκινήτου.

Πάντως σύμφωνα με την αστυνομία (δηλώσεις του οδηγού) το αυτοκίνητο δεν αντέδρασε καθόλου. " The human driver told police he didn't see the pedestrian coming, and the autonomous system behaved as if it hadn't either. Experts say that the sophisticated sensors on the autonomous vehicle almost certainly detected the woman pushing her bicycle laden with bags along the median, close to the road"

Όπως ούτε δικαιολογία είναι μάλλον το σκοτάδι - σκιές.  . In the case of the fatal collision in Tempe, the dark conditions aren’t likely to have played a role. While darkness can limit the vision of the cameras, radar functions equally well in day or night. Lidar actually functions better in the dark because the glare of sunshine can sometimes create interference, said Raj Rajkumar, a professor of electrical and computer engineering at Carnegie Mellon University who works on autonomous vehicles.

Επεξ/σία 21 Μαρτίου 2018 από Whargoul

[ntemek]

5 ώρες πριν, Yeroplatanos είπε

Μια απορια εχω.Τι κανεις σε τεχνολογικο site?Δεν εχει εσπερινο σήμερα?

χαχαχαχαχα!!!! σωστός! 

[spgkountis]

...



 

Επεξ/σία 21 Μαρτίου 2018 από spgkountis

[aris1986]

 Όταν την χτύπησε συνέχισε το αμαξι κανονικά την πορεία του για τον προορισμό του;

Αισθητηρες δεν έχει στο παρμπρίζ η στα φτερά πλάγια;

Αυτοφορακιας μέσα στο αμαξι αν ισχύουν όλα αυτά για το άτομο του, έτσι; 

Ελληνες την διοικούν την Uber μάλλον.

[defacer]

59 minutes ago, orfibous said:

Τα συστήματα αυτά βασίζονται στα μοτίβα των χρωματικών διαφορών που υπάρχουν στις εικόνες/βίντεο που επεξεργάζονται, πράγμα που σημαίνει πως αν είναι όλα μαύρα, δεν μπορεί να δει τίποτα.

Αυτό δεν ισχύει.

Επιπλέον, είναι δυνατόν να πιστεύεις ότι όλο αυτό που γίνεται παγκοσμίως γίνεται με σκοπό τελικά να έχουμε αυτοκίνητα που οδηγούν μόνα τους αλλά... μόνο την ημέρα;

[pirmen56]

5 ώρες πριν, logistoulis είπε

 ένα μεγάλο μπράβο σε όσους υπερασπίζονται ένα μηχάνημα που σκότωσε έναν άνθρωπο για χάρη αχρείαστου πειράματος σε δημόσιο δρόμο

 

και εννοείται ότι όλοι αυτοί περνάνε τους δρόμους από διαβάσεις. σύμφωνα με τα λεγόμενά τους θα πρέπει να παρασύρουμε καθημερινά τα 10αδες άτομα που συναντάμε στο δρόμο μας και δεν περνούν από διάβαση 

 

Το πραγματικό δυστύχημα στην όλη είδηση είναι η αδυναμία του αναγνωστικού κοινού να καταλάβει ότι αυτό που αποκαλούμε σήμερα AI δεν έχει ίχνος πραγματικής αντίληψης του έξω κόσμου σαν αυτή που συναντάμε σε ζώα και ανθρώπους. 

Πόσες και πόσες φορές έχει τονιστεί η ανυπαρξία common sense reasoning στα σύγχρονα ΑΙ συστήματα που είναι θεμελιώδης για τη διεκπεραίωση εργασιών στον πολύπλοκο αληθινό κόσμο; Πόσες και πόσες φορές δεν έχουν πει κορυφαία μυαλά του χώρου ότι στους ζωντανούς οργανισμούς υπάρχει ένας άλλος τύπος μάθησης/αντίληψης που βασίζεται σε unsupervised learning;

Παρ'όλα αυτά βλέπεις τους πληροφορικάριους site όπως και του insomnia να σου λένε ηλιθιότητες για πρόοδο στην τεχνολογία Lidar, σε αλγόριθμους path finding και άλλα τέτοια. Πότε θα καταλάβουν ότι το πρόβλημα των αυτόνομων οχημάτων δεν είναι θέμα επιπλέον-περιοριστικών- αλγόριθμων ούτε καλύτερων αισθητήρων, αλλά πραγματικής αντίληψης;

[SeXBOX]

Το όχημα UBER θα το ανακρίνει ο Will Smith; iUder κι ετσι;

[defacer]

Και οι Bayesian classifiers που είχε βάλει πρωτοποριακά το Google κάποτε στο Gmail δεν έχουν την ικανότητα αντίληψης, αλλά έχουν την ικανότητα να αναγνωρίσουν το spam με μεγαλύτερη επιτυχία από ανθρώπους και γι αυτό ξαφνικά από εκεί που ήταν μάστιγα σήμερα περνάει ολόκληρος μήνας και δε βλέπεις ούτε ένα τέτοιο μήνυμα.

Επίσης θυμάμαι άθελά μου τη σύντομη ιστορία του Asimov, "Reason". Και φυσικά το γνωστό Turing test.

Δεν έχει καμία σημασία αν έχουν αντίληψη ή όχι εφόσον μπορούν να κινηθούν εξίσου ή περισσότερο καλά από κάποιον που έχει.

[pirmen56]

6 ώρες πριν, Vassilis_24 είπε

To θέμα είναι γιατί δεν την είδαν οι αισθητήρες του αυτοκινήτου και δεν κοκκάλωσε, ήταν μια χαρά στην εμβέλειά του, αυτό είναι το σημαντικό ώστε ν'αποφευχθούν τέτοια ατυχήματα στο μέλλον...

Άριστη ερώτηση. Ας πάρουμε πρώτα το πώς λειτουργεί ένας άνθρωπος. 

Ξέρεις τι στέλνουν τα μάτια σου στον εγκέφαλό σου; Δεν στέλνουν εικόνες, ούτε χρώματα, ούτε σχήματα ούτε τίποτα από όλα αυτά. Στέλνουν μέσω των νεύρων ηλεκτρικά σήματα.

Αυτά τα σήματα αναλύονται από τους νευρώνες για ανακάλυψη μοτίβων. Τα μοτίβα που ανακαλύπτονται γίνονται χρώματα, σχήματα, ολόκληρα αντικείμενα. Όλα αυτά που βλέπεις γύρω σου είναι κατασκεύασμα του μυαλού σου. Η αντίληψη δεν έχει να κάνει με αισθητήρες αλλά με εγκεφάλους που ερμηνεύουν όσα στέλνει ο αισθητήρας.

Τα ΑΙ συστήματα δεν αναγνωρίζουν μοτίβα για τα οποία δεν υπάρχει εκπαίδευση. Αν σε μια φωτογραφία υπάρχει μια νταλίκα και ένας άνθρωπος και το ΑΙ εκπαιδεύτηκε να αναγνωρίζει ανθρώπους, τότε στο σημείο που υπάρχει η νταλίκα το ΑΙ βλέπει θόρυβο από πίξελς, όχι αντικείμενο. Έτσι σκοτώθηκε ένας οδηγός Tesla στην Κίνα όταν το νευρωνικό δίκτυο δεν αντιλήφθηκε έναν οδοκαθαριστή(όχημα) σαν αντικείμενο του περιβάλλοντος και έπεσε απάνω του.

Επίσης το μυαλό μας χρησιμοποιεί τη συσωρρευμένη γνώση του παρελθόντος για να αξιολογήσει νέες καταστάσεις(common sense reasoning). Δηλαδή μόλις εσύ δεις έναν ποδηλάτη στην άκρη του δρόμου αντιλαμβάνεσαι την πιθανότητα να κάνει τη βλακεία να βγει μπροστά σου. Το ξέρεις από την εμπειρία της ζωής. Και κόβεις ταχύτητα, αν είσαι φυσικά συνετός οδηγός. Τέτοιου είδους κρίσεις για μια μηχανή είναι επιστημονική φαντασία προς το παρόν.

Σκέψου τώρα ότι μορφωμένοι πληροφορικάριοι οι οποίοι εργάζονται και σε πρότζεκτ αυτόνομων οχημάτων αδυνατούν να κατανοήσουν όλες αυτές τις αδυναμίες που περιέγραψα και μας πρήζουν με προβλέψεις ότι στα επόμενα 5 χρόνια θα τρίβουμες τα μάτια μας. Και στο τέλος κάθε αποτυχημένης πενταετίας πάλι οι ίδιες πίπες για έξυπνα μηχανήματα.

[Omnigeek]

3 λεπτά πριν, pirmen56 είπε

Άριστη ερώτηση. Ας πάρουμε πρώτα το πώς λειτουργεί ένας άνθρωπος. 

Ξέρεις τι στέλνουν τα μάτια σου στον εγκέφαλό σου; Δεν στέλνουν εικόνες, ούτε χρώματα, ούτε σχήματα ούτε τίποτα από όλα αυτά. Στέλνουν μέσω των νεύρων ηλεκτρικά σήματα.

Αυτά τα σήματα αναλύονται από τους νευρώνες για ανακάλυψη μοτίβων. Τα μοτίβα που ανακαλύπτονται γίνονται χρώματα, σχήματα, ολόκληρα αντικείμενα. Όλα αυτά που βλέπεις γύρω σου είναι κατασκεύασμα του μυαλού σου. Η αντίληψη δεν έχει να κάνει με αισθητήρες αλλά με εγκεφάλους που ερμηνεύουν όσα στέλνει ο αισθητήρας.

Τα ΑΙ συστήματα δεν αναγνωρίζουν μοτίβα για τα οποία δεν υπάρχει εκπαίδευση. Αν σε μια φωτογραφία υπάρχει μια νταλίκα και ένας άνθρωπος και το ΑΙ εκπαιδεύτηκε να αναγνωρίζει ανθρώπους, τότε στο σημείο που υπάρχει η νταλίκα το ΑΙ βλέπει θόρυβο από πίξελς, όχι αντικείμενο. Έτσι σκοτώθηκε ένας οδηγός Tesla στην Κίνα όταν το νευρωνικό δίκτυο δεν αντιλήφθηκε έναν οδοκαθαριστή(όχημα) σαν αντικείμενο του περιβάλλοντος και έπεσε απάνω του.

Επίσης το μυαλό μας χρησιμοποιεί τη συσωρρευμένη γνώση του παρελθόντος για να αξιολογήσει νέες καταστάσεις(common sense reasoning). Δηλαδή μόλις εσύ δεις έναν ποδηλάτη στην άκρη του δρόμου αντιλαμβάνεσαι την πιθανότητα να κάνει τη βλακεία να βγει μπροστά σου. Το ξέρεις από την εμπειρία της ζωής. Και κόβεις ταχύτητα, αν είσαι φυσικά συνετός οδηγός. Τέτοιου είδους κρίσεις για μια μηχανή είναι επιστημονική φαντασία προς το παρόν.

Σκέψου τώρα ότι μορφωμένοι πληροφορικάριοι οι οποίοι εργάζονται και σε πρότζεκτ αυτόνομων οχημάτων αδυνατούν να κατανοήσουν όλες αυτές τις αδυναμίες που περιέγραψα και μας πρήζουν με προβλέψεις ότι στα επόμενα 5 χρόνια θα τρίβουμες τα μάτια μας. Και στο τέλος κάθε αποτυχημένης πενταετίας πάλι οι ίδιες πίπες για έξυπνα μηχανήματα.

Έχεις σκεφτεί το ενδεχόμενο όλοι αυτοί οι αμέτρητοι μορφωμένοι πληροφορικάριοι οι οποίοι εργάζονται στο AI να μην είναι όλοι εντελώς άσχετοι και ανίκανοι που λένε "πίπες" αλλά εσύ να μην τα ξέρεις όλα;

[Επισκέπτης]

8 λεπτά πριν, pirmen56 είπε

Άριστη ερώτηση. Ας πάρουμε πρώτα το πώς λειτουργεί ένας άνθρωπος. 

Ξέρεις τι στέλνουν τα μάτια σου στον εγκέφαλό σου; Δεν στέλνουν εικόνες, ούτε χρώματα, ούτε σχήματα ούτε τίποτα από όλα αυτά. Στέλνουν μέσω των νεύρων ηλεκτρικά σήματα.

Αυτά τα σήματα αναλύονται από τους νευρώνες για ανακάλυψη μοτίβων. Τα μοτίβα που ανακαλύπτονται γίνονται χρώματα, σχήματα, ολόκληρα αντικείμενα. Όλα αυτά που βλέπεις γύρω σου είναι κατασκεύασμα του μυαλού σου. Η αντίληψη δεν έχει να κάνει με αισθητήρες αλλά με εγκεφάλους που ερμηνεύουν όσα στέλνει ο αισθητήρας.

Τα ΑΙ συστήματα δεν αναγνωρίζουν μοτίβα για τα οποία δεν υπάρχει εκπαίδευση. Αν σε μια φωτογραφία υπάρχει μια νταλίκα και ένας άνθρωπος και το ΑΙ εκπαιδεύτηκε να αναγνωρίζει ανθρώπους, τότε στο σημείο που υπάρχει η νταλίκα το ΑΙ βλέπει θόρυβο από πίξελς, όχι αντικείμενο. Έτσι σκοτώθηκε ένας οδηγός Tesla στην Κίνα όταν το νευρωνικό δίκτυο δεν αντιλήφθηκε έναν οδοκαθαριστή(όχημα) σαν αντικείμενο του περιβάλλοντος και έπεσε απάνω του.

Επίσης το μυαλό μας χρησιμοποιεί τη συσωρρευμένη γνώση του παρελθόντος για να αξιολογήσει νέες καταστάσεις(common sense reasoning). Δηλαδή μόλις εσύ δεις έναν ποδηλάτη στην άκρη του δρόμου αντιλαμβάνεσαι την πιθανότητα να κάνει τη βλακεία να βγει μπροστά σου. Το ξέρεις από την εμπειρία της ζωής. Και κόβεις ταχύτητα, αν είσαι φυσικά συνετός οδηγός. Τέτοιου είδους κρίσεις για μια μηχανή είναι επιστημονική φαντασία προς το παρόν.

Σκέψου τώρα ότι μορφωμένοι πληροφορικάριοι οι οποίοι εργάζονται και σε πρότζεκτ αυτόνομων οχημάτων αδυνατούν να κατανοήσουν όλες αυτές τις αδυναμίες που περιέγραψα και μας πρήζουν με προβλέψεις ότι στα επόμενα 5 χρόνια θα τρίβουμες τα μάτια μας. Και στο τέλος κάθε αποτυχημένης πενταετίας πάλι οι ίδιες πίπες για έξυπνα μηχανήματα.

δε διαφωνω μ οτι λες, αλλα τι προτινεις δηλαδη να σταματησει το development?

μη ξεχναμε οτι στα τροχαια το 88% ειναι υπαιτιος ο οδηγος και 10% ο δρομος, που γνωμη μου ειναι οτι παλι ο οδηγος φταιει (το αλλο 2% δεν θυμαμαι τι ειναι)

καλως ή κακως χρειαζεται η μετακινηση να ειναι ανεξαρτητη απο τον ανθρωπινο παραγοντα, εντος κατοικημενων περιοχων τουλαχιστον.

[pirmen56]

10 λεπτά πριν, Omnigeek είπε

Έχεις σκεφτεί το ενδεχόμενο όλοι αυτοί οι αμέτρητοι μορφωμένοι πληροφορικάριοι οι οποίοι εργάζονται στο AI να μην είναι όλοι εντελώς άσχετοι και ανίκανοι που λένε "πίπες" αλλά εσύ να μην τα ξέρεις όλα;

Έχεις σκεφτεί ότι η μικρότερη μονάδα αναγνώρισης μοτίβων στον εγκέφαλο όλων των ζώων είναι ο νευρώνας(ενδεχομένως να γίνεται επεξεργασία και σε κατώτερο επίπεδο) και αυτή τη στιγμή που μιλάμε η λειτουργία του παραμένει άγνωστη;

Ψάξτο, αν πιστεύεις ότι σου λέω πίπες. Δες απαντήσεις από νευροεπιστήμονες στο Quora.

Έχεις σκεφτεί ότι επιτεύχθηκε εξομοίωση ολόκληρου του εγκεφάλου του σκουληκιού C.elegans(με 300 νευρώνες) αλλά κανένας δεν μπορεί να εξηγήσει πώς αυτό το μικροσκοπικό πλάσμα ανακαλύπτει μοτίβα μέσα από έλάχιστο πλήθος παραδειγμάτων που κανένας ανθρώπινος στατιστικός ή άλλος αλγόριθμος δεν μπορεί;

Αν ακούσεις ηγέτες του σύγχρονου ΑΙ, χαρακτηριζόμενους από ειλικρίνεια, όπως ο Yann LeCun, ο Hassabis κτλ. θα καταλάβεις ότι οι περισσότεροι παραμυθιάζουν τον κόσμο για να "τρώνε" ερευνητικά κονδύλια.

Επεξ/σία 21 Μαρτίου 2018 από pirmen56

[defacer]

1 minute ago, pirmen56 said:

Έχεις σκεφτεί ότι η μικρότερη μονάδα αναγνώρισης μοτίβων στον εγκέφαλο όλων των ζώων είναι ο νευρώνας και αυτή τη στιγμή που μιλάμε η λειτουργία του παραμένει άγνωστη;

Ψάξτο, αν πιστεύεις ότι σου λέω πίπες. Δες απαντήσεις από νευροεπιστήμονες στο Quora.

Έχεις σκεφτεί ότι επιτεύχθηκε εξομοίωση ολόκληρου του εγκεφάλου του σκουληκιού C.elegans(με 300 νευρώνες) αλλά κανένας δεν μπορεί να εξηγήσει πώς αυτό το μικροσκοπικό πλάσμα ανακαλύπτει μοτίβα μέσα από έλάχιστο πλήθος παραδειγμάτων που κανένας ανθρώπινος στατιστικός ή άλλος αλγόριθμος δεν μπορεί;

Αν ακούσεις ηγέτες του σύγχρονου ΑΙ, χαρακτηριζόμενους από ειλικρίνεια, όπως ο Yann LeCun, ο Hassabis κτλ. θα καταλάβεις ότι οι περισσότεροι παραμυθιάζουν τον κόσμο για να τρώνε ερευνητικά κονδύλια.

Καλά όλα αυτά (υπό συζήτηση βέβαια) αλλά η αντίρρηση ήταν πάνω σε κάτι τελείως διαφορετικό που είπες νωρίτερα, ότι οι πληροφορικάριοι κλπ που είναι δουλειά τους αυτό το πράγμα, δεν καταλαβαίνουν.

Κρίνοντας από μένα και τους συναδέλφους μου που χρησιμοποιούμε trained models για την πρόληψη απάτης και τέτοια, υποθέτω ότι αυτοί που δουλεύουν πάνω σε πολύ δυσκολότερα προβλήματα από μας μάλλον κάτι θα καταλαβαίνουν επίσης.